Дообученная на MetaMathFewshot языковая модель семейства Llama для генерации текста и решения математических задач в диалоговом режиме.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
abacusai/MetaMath-bagel-34b-v0.2-c1500 — языковая модель для генерации текста, дообученная на наборе MetaMathFewshot на основе pre-DPO Bagel. Карточка указывает на семейство Llama и плотную архитектуру LlamaForCausalLM; размер составляет 33,9 млрд параметров, контекст — до 200 000 токенов. Модель предназначена для диалогового применения и задач математического рассуждения в формате few-shot.
В README приведено сравнение с MetaMath-Mistral-7B, но таблица результатов этой модели не заполнена, поэтому оценить её качество по указанным бенчмаркам нельзя. Репозиторий содержит веса Safetensors. Лицензия — Apache 2.0.
В README таблица результатов оценки оставлена пустой, поэтому качество модели по бенчмаркам не подтверждено. Карточка не сообщает, какие естественные языки поддерживаются.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
Finetune of the pre-DPO Bagel model (https://huggingface.co/jondurbin/bagel-34b-v0.2) on the MetamathFewshot (https://huggingface.co/datasets/abacusai/MetaMathFewshot) dataset
| Average | ARC | HellaSwag | MMLU | TruthfulQA | Winogrande | GSM8K |
|---|---|---|---|---|---|---|
For comparison the GSM8K score for the original metamath/MetaMath-Mistral-7B was 46.17 and average score was 69.7
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Подбираем GPU…