Экспериментальная англоязычная чат-модель на базе Llama для генерации текста, созданная дообучением с линейным слиянием FusionNet.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
FusionNet_linear — экспериментальная англоязычная чат-модель на архитектуре Llama, опубликованная TomGrc. По карточке это дообученная модель слияния FusionNet, созданная методом линейного слияния; в метаданных указано 10,6 млрд параметров, контекст 4096 токенов и формат safetensors. Модель предназначена для генерации текста в диалогах и демонстрирует результаты на тестах рассуждения AI2 Reasoning Challenge и HellaSwag.
Модель принимает текст и генерирует текст. Карточка сообщает об обучении на английском языке, а лицензия репозитория — MIT. Результаты оценки приведены в README, но описание не уточняет базовую модель, методику обучения и оценки или ограничения применения.
Контекст ограничен 4096 токенами. README не описывает базовую модель и методику оценки, поэтому приведённые результаты тестов трудно интерпретировать.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
Fine-tuned model on English language using linear Fusion method.
This is an experiment with the linear Fusion method of FusionNet. This model has 10.7B parameters, and this model is fine-tuned. Enjoy!
Detailed results can be found here
| Metric | Value |
|---|---|
| Avg. | 74.43 |
| AI2 Reasoning Challenge (25-Shot) | 71.25 |
| HellaSwag (10-Shot) | 88.44 |
| MMLU (5-Shot) | 66.35 |
| TruthfulQA (0-shot) | 71.94 |
| Winogrande (5-shot) | 83.27 |
| GSM8k (5-shot) | 65.35 |
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Подбираем GPU…