Объединённая методом SLERP 9-миллиардная модель Gemma 2 для генерации текста и диалогов.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
zelk12 создал объединённую модель Gemma 2 с 9 млрд параметров с помощью mergekit. Веса двух предварительно обученных моделей объединены методом SLERP; в конфигурации в качестве базовой указана zelk12/MT2-Gen2-gemma-2-9B, а также использована gmonsoon/SahabatAI-Lion-9B-TIES-v1.
Модель предназначена для генерации текста и диалогов. Её можно использовать для создания ответов на запросы и ведения текстовых бесед. Она построена на плотной архитектуре Gemma2ForCausalLM, работает с текстом и имеет контекстное окно 8192 токена.
Карточка не описывает результаты оценки качества или конкретные языки этой версии. Базовая модель из каталога предназначена для диалогов и генерации текста по инструкциям на языках Юго-Восточной Азии и английском, однако это не подтверждает полный языковой охват объединённой модели. Репозиторий содержит веса safetensors в формате bfloat16; отдельная лицензия в предоставленных данных не указана.
В README нет результатов оценки качества или подтверждённого списка поддерживаемых языков для этой версии. Указанные 8192 токена — длина контекстного окна; данных о лицензии в предоставленных источниках нет.
README от автора на Hugging Face, как он его опубликовал
This is a merge of pre-trained language models created using mergekit.
This model was merged using the SLERP merge method.
The following models were included in the merge:
The following YAML configuration was used to produce this model:
models:
- model: zelk12/MT2-Gen2-gemma-2-9B
- model: gmonsoon/SahabatAI-Lion-9B-TIES-v1
merge_method: slerp
base_model: zelk12/MT2-Gen2-gemma-2-9B
dtype: bfloat16
parameters:
t: 0.25
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers
Подбираем GPU…