/ Модель

Характеристики

Контекст
2 048 токенов
Параметры
3,5 млрд
Размер весов
5,6 ГБ
Лицензия
MIT
Архитектура
phi · dense
Опубликована
2 фев 2024

phi-2-dpo-7k

Генерация текстаТекст → текст12 профессий

Дообученная на диалогах модель Phi-2 для генерации ответов и текста на английском языке.

102скачиваний за 30 дней15лайковвеса обновлены2 фев 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

phi-2-dpo-7k — дообученная на диалоговых данных модель семейства Phi-2, опубликованная mlx-community на Hugging Face. Она предназначена для генерации текста в формате общения и может использоваться для ответов на запросы и ведения диалога. Модель основана на Microsoft Phi-2: плотная архитектура PhiForCausalLM, около 3,5 млрд параметров и контекст до 2048 токенов. В README указано дообучение на 7 тысячах диалоговых примеров из наборов Orca pairs, UltraFeedback ratings и Capybara-DPO. Репозиторий содержит веса Safetensors и ориентирован на использование с MLX.

В метаданных указан английский язык и возможность работы с кодом. Лицензия — MIT. Карточка отсылает к описанию исходной Phi-2 за дополнительными сведениями.

Сценарии применения

  • ответы на вопросы в текстовом диалоге
  • генерация продолжений текста
  • создание черновиков и кратких пояснений
  • помощь с написанием и разбором кода

Ограничения

Контекст ограничен 2048 токенами. Дообучение описано как проведённое на 7 тысячах диалоговых примеров; в карточке нет отдельных оценок качества или рекомендаций по безопасному применению.

Для каких профессий подходит12

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Alt text

phi-2-dpo-7k

This is a finetuned version of microsoft/phi-2. Finetuned on a cocktail of 7k chat interaction from argilla latest DPO datase: orca pairs, ultrafeedback ratings, and capybara-dpo. Refer to the original model card for more details on the model.

Use with mlx

pip install mlx
from mlx_lm import load, generate
model, tokenizer = load("mlx-community/phi-2-dpo-7k")
response = generate(model, tokenizer, prompt="Similarity between pizza and quantum mechanics, in few words, use rhymes\nOutput: ", max_tokens=100, verbose=True)

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

MLX-модели работают только на Apple Silicon.

Класс архитектуры
PhiForCausalLM
Ревизия весов
b345756

0 моделей