This is converted version of the Dolphin 2.6 Phi-2 model. Here is the original model: https://huggingface.co/cognitivecomputations/dolphin-2_6-phi-2
Характеристики
- Контекст
- 2 048 токенов
- Размер весов
- 11,1 ГБ
- Лицензия
- Своя лицензия
- Архитектура
- phi-msft · dense
- Опубликована
- 24 дек 2023
Ссылки
dolphin-2_6-phi-2-candle
Конвертированная разговорная модель Dolphin 2.6 на базе Phi-2 для генерации текста и ответов на инструкции.
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
Это конвертированная версия разговорной модели Dolphin 2.6 на архитектуре Phi-2. Модель предназначена для генерации текста в диалогах и ответов на инструкции. В карточке указаны форматы PyTorch, Safetensors и GGUF, а максимальный контекст составляет 2048 токенов. Модель ориентирована на английский язык и обучена на смесях диалоговых и инструктивных наборов данных, включая Dolphin, Airoboros, OpenHermes и Magicoder. Лицензия обозначена как other, поэтому условия использования следует уточнить в исходной карточке.
Сценарии применения
- диалоговый помощник на английском языке
- ответы на инструкции и вопросы
- генерация продолжений текста
- помощь с задачами программирования
Ограничения
Контекст ограничен 2048 токенами. Лицензия указана как other, поэтому права на использование нужно сверить с исходной карточкой модели.
Для каких профессий подходит14
Разделы каталога профессий, в задачах которых используется эта модель
Также подходит для
- I.2Синтез, понимание и проверка знаний
- II.4Отладка, тестирование и качество ПО
- II.1Анализ требований и архитектура ПО
- II.3Рефакторинг, миграция и модернизация
- I.14Автоматизация процессов и AI-агенты
- II.8Инженерия данных и аналитика
- I.7Речь, диалоги и встречи
- II.7DevOps, облако и эксплуатация IT-систем
- I.11Классификация, ранжирование и сопоставление
- I.3Извлечение и структурирование данных
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Модели нужен код из репозитория; автор пока не в списке доверенных организаций.
- Класс архитектуры
- PhiForCausalLM
- Ревизия весов
- 7e4dd9b