Объединённая методом SLERP 9-миллиардная модель Gemma 2 для генерации текста и диалогов с контекстом до 8192 токенов.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
MATH Lvl 5
MATH Lvl 5 Raw · выше — лучше
0,2153
Публичная таблицаревизия совпадает
MMLU-PRO
MMLU-PRO Raw · выше — лучше
0,4402
Публичная таблицаревизия совпадает
Описание составлено по карточке модели и метаданным Hugging Face
zelk12/MT-Gen5-gemma-2-9B — объединённая модель генерации текста на архитектуре Gemma 2, созданная с помощью mergekit методом SLERP из zelk12/MT-Gen5-BMA-gemma-2-9B и zelk12/MT-Gen5-MUMMIG-gemma-2-9B. Модель содержит 9 млрд параметров, работает с контекстом до 8192 токенов и поддерживает диалоговое взаимодействие.
Модель предназначена для генерации текста и ведения диалогов. Репозиторий распространяет веса в формате safetensors; в README указана точность bfloat16. Лицензия — Gemma, поэтому использование регулируется условиями лицензии Gemma.
Языки в карточке не указаны. Качество и поведение модели могут отличаться от исходных компонентов из-за их объединения.
README от автора на Hugging Face, как он его опубликовал
This is a merge of pre-trained language models created using mergekit.
This model was merged using the SLERP merge method.
The following models were included in the merge:
The following YAML configuration was used to produce this model:
models:
- model: zelk12/MT-Gen5-BMA-gemma-2-9B
- model: zelk12/MT-Gen5-MUMMIG-gemma-2-9B
merge_method: slerp
base_model: zelk12/MT-Gen5-BMA-gemma-2-9B
dtype: bfloat16
parameters:
t: 0.25
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers
Подбираем GPU…