Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
PrimeIntellect/qwen3-moe-tiny — небольшая языковая модель семейства Qwen3 с архитектурой Mixture of Experts, разработанная PrimeIntellect. Это экспериментальный чекпойнт для тестирования обучения с подкреплением в prime-rl; модель дообучена на PrimeIntellect/Reverse-Text-SFT, чтобы давать нетривиальное распределение для вычисления KL-дивергенции. Карточка README указывает около 670 млн параметров, 24 слоя и 16 экспертов, тогда как метаданные Hugging Face указывают 369,5 млн параметров; поэтому размер модели в источниках расходится. Метаданные указывают контекст 32 768 токенов и формат safetensors.
Модель принимает текст и генерирует текст; заявлена совместимость с vLLM и Transformers, но основной сценарий — тестирование RL-пайплайнов с prime-rl, а не обычное применение чат-модели. Данных о поддерживаемых естественных языках нет. Лицензия — Apache-2.0.
Сценарии применения
тестирование RL-пайплайнов на языковой модели MoE
проверка интеграции prime-rl с моделью Qwen3-MoE
получение нетривиального распределения для вычисления KL-дивергенции
Ограничения
README предназначает модель для тестирования с prime-rl, поэтому её не следует считать универсальной моделью для пользовательских задач. Источники расходятся в числе параметров: README указывает около 670 млн, а метаданные — 369,5 млн.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
A small (~670M parameter) Qwen3 MoE model for testing only. It is generally compatible with vLLM and HuggingFace Transformers but is meant to be used with prime-rl.