Объединённая методом SLERP модель Gemma 2 с 9 млрд параметров для генерации текста и диалогов.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
MATH Lvl 5
MATH Lvl 5 Raw · выше — лучше
0,2175
Публичная таблицаревизия совпадает
MMLU-PRO
MMLU-PRO Raw · выше — лучше
0,4388
Публичная таблицаревизия совпадает
Описание составлено по карточке модели и метаданным Hugging Face
zelk12/MTM-Merge-gemma-2-9B — объединённая языковая модель семейства Gemma 2, созданная с помощью mergekit методом SLERP из zelk12/MTM-Merge-GMA-gemma-2-9B и zelk12/MTM-Merge-MMMUBI-gemma-2-9B. Модель имеет плотную архитектуру Gemma2ForCausalLM с 9 млрд параметров и предназначена для генерации текста в диалоговых сценариях.
Она принимает текст и генерирует текст; заявленная длина контекста составляет 8192 токена. Веса опубликованы в формате safetensors, библиотека для работы — Transformers. По доступным сведениям, модель объединяет две предварительно обученные модели; отдельные специализации или преимущества слияния не описаны.
Лицензия — Gemma. Подробности о качестве, оценках, языковой поддержке и ограничениях в карточке не приведены.
В карточке не приведены оценки качества, конкретная специализация и сведения о поддерживаемых языках. Использование регулируется лицензией Gemma.
README от автора на Hugging Face, как он его опубликовал
This is a merge of pre-trained language models created using mergekit.
This model was merged using the SLERP merge method.
The following models were included in the merge:
The following YAML configuration was used to produce this model:
models:
- model: zelk12/MTM-Merge-GMA-gemma-2-9B
- model: zelk12/MTM-Merge-MMMUBI-gemma-2-9B
merge_method: slerp
base_model: zelk12/MTM-Merge-GMA-gemma-2-9B
dtype: bfloat16
parameters:
t: 0.25
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers
Подбираем GPU…