Характеристики
- Контекст
- 32 768 токенов
- Параметры
- 7,1 млрд
- Лицензия
- CC BY-NC 4.0
- Архитектура
- mistral · dense
- Базовая модель
- Kunoichi-DPO-v2-7B
- Библиотека
- transformers
- Опубликована
- 5 фев 2024
Ссылки
finch
Finch — объединённая методом SLERP модель Mistral на 7,1 млрд параметров для генерации текста и диалогов с контекстом 32 768 токенов.
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Тесты пользователейпока нет
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
Finch 7B Merge — языковая модель семейства Mistral с 7,1 млрд параметров, созданная объединением macadeliccc/WestLake-7B-v2-laser-truthy-dpo и SanjiWatsuki/Kunoichi-DPO-v2-7B методом SLERP. Модель предназначена для генерации текста и диалогов; в карточке рекомендован формат ChatML. Контекст составляет 32 768 токенов, основной указанный язык — английский.
Finch подходит для диалоговых сценариев и генерации ответов на запросы на английском языке. Веса доступны в формате Safetensors; README также упоминает отдельные квантизированные варианты EXL2 и GGUF. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.
Сценарии применения
- генерация ответов в диалоговом интерфейсе
- написание и продолжение текстов на английском языке
- ответы на вопросы на английском языке
Ограничения
Лицензия CC BY-NC 4.0 ограничивает коммерческое использование. Качество и безопасность ответов могут зависеть от запроса и параметров генерации.
Для каких профессий подходит6
Разделы каталога профессий, в задачах которых используется эта модель
Также подходит для
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers
Подбираем GPU…
- Класс архитектуры
- MistralForCausalLM
- Ревизия весов
- 5dfbc5f