Компактная модель семейства Mistral для генерации текста и диалогов с контекстом до 4096 токенов.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Micro Mistral — компактная языковая модель семейства Mistral, опубликованная пользователем Nb ardy на Hugging Face. Она предназначена для генерации текста и диалогового общения. В архитектуре используются 6 слоёв, Grouped Query Attention (GQA), связанные эмбеддинги и скользящее окно внимания в стиле Mistral; метаданные указывают 122,3 млн параметров и контекст до 4096 токенов.
В README перечислены Minipile, Instruct, Math, OpenOrca и синтетические данные, но раздел о наборе данных помечен как незавершённый. Карточка не сообщает точные языки и лицензию, поэтому условия использования по лицензии определить нельзя. Небольшой размер может быть удобен для лёгкого инференса, однако README не приводит результатов оценки качества.
README не приводит результатов оценки качества и подробно не раскрывает состав обучающих данных; раздел о датасете помечен как незавершённый. Лицензия и поддерживаемые языки в предоставленных данных не указаны.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
This is a small mistral model with 6 layers
It is similar to smol llama varaints uses GQA and tied embeddings. Except it uses mistral style arch with GQA and sliding window attention
This architecture takes GQA and tied embeddings to create an effeceint 0.5B model that uses the mistral architecture(It is supported in downstream applications)
Minipile Instruct Math OpenOrca Synthetic Data
TODO: Complete Dataset section
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Подбираем GPU…