Экспериментальная модель Mistral с 8,9 млрд параметров, дообученная на небольшом наборе текстов о символической логике для генерации текста.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
MusingCaterpillar — экспериментальная дообученная языковая модель, созданная автором ryandt на основе CultriX/MistralTrix-v1. Модель представляет собой плотную архитектуру MistralForCausalLM примерно с 8,9 млрд параметров и контекстом до 32 768 токенов. Она предназначена для генерации текста, с акцентом на символическую логику и материалы Льюиса Кэрролла.
Автор описывает дообучение как эксперимент на очень небольшом наборе данных с низкой скоростью обучения и отмечает, что не уверен, повлияло ли оно на ответы модели. В карточке приведены результаты Open LLM Leaderboard, включая оценки по задачам рассуждения и здравого смысла, но они не подтверждают отдельно качество на символической логике. Модель доступна в формате safetensors по лицензии MIT.
Дообучение выполнено на очень небольшом наборе данных, и автор не уверен, изменило ли оно поведение модели. Приведённые оценки бенчмарков не устанавливают её точность в задачах символической логики.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
Finetune of CultriX/MistralTrix-v1 on Symbolic Logic content from Lewis Carrol (at a very low learning rate because of the very small dataset - I'm just experimenting and have no idea if this was effective at changing the model output).
Detailed results can be found here
| Metric | Value |
|---|---|
| Avg. | 73.33 |
| AI2 Reasoning Challenge (25-Shot) | 72.53 |
| HellaSwag (10-Shot) | 88.34 |
| MMLU (5-Shot) | 65.26 |
| TruthfulQA (0-shot) | 70.93 |
| Winogrande (5-shot) | 80.66 |
| GSM8k (5-shot) | 62.24 |
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Подбираем GPU…