Экспериментальная текстовая MoE-модель на базе Nous Hermes 2 Yi 34B для генерации текста и языковых ответов.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
ibndias/Nous-Hermes-2-MoE-2x34B — экспериментальная текстовая генеративная модель на архитектуре Mixtral MoE, представленная как MoE-версия Nous Hermes 2 Yi 34B. В README указана Yi-34B как базовая модель; в создании исходной дообученной модели участвовала NousResearch, а для объединения моделей использовался mergekit. Модель предназначена для генерации текста и языковых ответов.
В репозитории размещены веса Safetensors. Метаданные указывают 33,9 млрд параметров и контекст до 4096 токенов. README приводит результаты на бенчмарках AI2 Reasoning Challenge и HellaSwag, но не описывает языки, режимы использования или более конкретные сценарии. Лицензия — Apache-2.0.
README называет модель экспериментальной. Доступная карточка не подтверждает языковой охват или конкретные прикладные возможности; указанный контекст составляет 4096 токенов.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
This is an experimental model to make an MoE of Nous Hermes 2 Yi 34B as Mixture of Expert.
The base model is Yi-34B.
All credits belong to NousResearch for fine tuned Yi model, 01-AI for Yi model, and Charles O. Goddard for the 'mergekit'.
Detailed results can be found here
| Metric | Value |
|---|---|
| Avg. | 73.30 |
| AI2 Reasoning Challenge (25-Shot) | 66.64 |
| HellaSwag (10-Shot) | 85.73 |
| MMLU (5-Shot) | 76.49 |
| TruthfulQA (0-shot) | 58.08 |
| Winogrande (5-shot) | 83.35 |
| GSM8k (5-shot) | 69.52 |
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
vLLM
Подбираем GPU…