Объединённая Mixtral-модель для диалоговой генерации текста с контекстом до 200 000 токенов.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Smaug Dolphin 60B — объединённая методом MoErge языковая модель на архитектуре Mixtral, созданная на основе abacusai/Smaug-34B-v0.1 и cognitivecomputations/dolphin-2.2-yi-34b-200k. Она предназначена для диалоговой генерации текста. В метаданных указаны 33,9 млрд параметров и контекст до 200 000 токенов; репозиторий содержит веса в формате safetensors.
В README приведены результаты оценивания на бенчмарках рассуждений и понимания текста, включая средний балл 76,44, ARC и HellaSwag. Карточка сообщает, что модель работает ожидаемо, а оценки ещё проводятся. Лицензия обозначена как other, поэтому условия использования следует сверять с файлами лицензии репозитория.
README указывает, что оценивание модели ещё продолжается. Лицензия указана как other, поэтому конкретные условия использования нужно проверять в репозитории.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
This model is a MoErge of abacusai/Smaug-34B-v0.1 and cognitivecomputations/dolphin-2.2-yi-34b-200k
This model works as expected. Evaluations are running now.
Available here
TODO
Detailed results can be found here
| Metric | Value |
|---|---|
| Avg. | 76.44 |
| AI2 Reasoning Challenge (25-Shot) | 73.38 |
| HellaSwag (10-Shot) | 86.55 |
| MMLU (5-Shot) | 76.78 |
| TruthfulQA (0-shot) | 67.44 |
| Winogrande (5-shot) | 83.50 |
| GSM8k (5-shot) | 70.96 |
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
vLLM
Подбираем GPU…