II.10Разработка и эксплуатация AI/ML-систем
В разделе собраны самостоятельные задачи, где AI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
49 000 моделейЭто PyTorch-конверсия дообученной модели qualiadev/pi05-ringonpole-both-bs64-ah60, созданная командой q-research с помощью инструментов openpi. Модель семейства pi05 предназначена для управления роботизированными системами: принимает дискретизированное описание состояния и формирует последовательности действий. В конфигурации указаны горизонт планирования 60 шагов, размерность действия 32 и передача состояния через токены промпта; веса сохранены в формате safetensors с точностью bfloat16. Модель подходит для экспериментов и приложений, где робот должен выполнять действия по заданному состоянию. Карточка не сообщает поддерживаемые естественные языки, конкретную аппаратную платформу или условия лицензии, поэтому эти характеристики нельзя уточнить.
π₀ LIBERO finetuned — дообученная модель класса Vision-Language-Action от Physical Intelligence, опубликованная в реализации LeRobot. Контрольная точка обучена и оценена на задачах LIBERO и предназначена для управления роботом по изображениям с нескольких камер, состоянию робота и, при наличии, языковой инструкции. Модель выдаёт непрерывные действия; обучение использует flow matching. Модель подходит как основа для дальнейшей адаптации и выполнения задач манипулирования в среде LIBERO. Она построена на базе lerobot/pi0_libero_base и использует формат safetensors. Лицензия — Gemma. В карточке не приведены точные показатели качества или длина контекста.
lerobot/pi0_old — предварительно обученная модель Pi0, связанная с проектом LeRobot и описанная в работе «π_0: A Vision-Language-Action Flow Model for General Robot Control». Она предназначена для управления роботом: принимает данные наблюдений и выбирает действие через интерфейс политики Pi0 в LeRobot. Модель можно дообучать на пользовательских наборах данных. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0. Карточка указывает на архитектуру vision-language-action, но не сообщает точный размер модели, длину контекста, поддерживаемые языки и конкретный состав входных данных.
Banaxi-Tech/pico-70 — промежуточный чекпойнт BananaMind 2 Pico, разработанный Banaxi-Tech. Это компактная причинная языковая модель для генерации текста: в README указано 900 002 параметра, 6 слоёв и размер скрытого состояния 96; метаданные каталога оценивают размер в 841 тыс. параметров. Модель не проходила инструкционное дообучение, поэтому предназначена прежде всего для продолжения текста и экспериментов с базовой генерацией, а не для диалогов по инструкциям. Чекпойнт отражает 70% обучения: обработано около 140 млрд токенов из целевых 200 млрд. В метаданных указан контекст 4096 токенов и поддержка английского языка; обучение использует FineWeb-HQ и Cosmopedia v2 согласно README, а карточка также указывает FineWeb-HQ и smollm-corpus. Для загрузки применяется Transformers с trust_remote_code, то есть требуется доверенный пользовательский код репозитория. Данные о лицензии в предоставленных источниках отсутствуют.
PowerPotato/PowerPotato-Gesture-10KB — компактная модель распознавания жестов по данным акселерометра, предназначенная для управления короткими видео движениями запястья. По карточке, это собственная 1D-CNN с входом из 30 временных отсчётов по трём осям акселерометра и пятью выходными классами. Модель размером около 10 КБ представлена в формате ONNX и рассчитана на локальный запуск на мобильных устройствах, в браузере или на микроконтроллерах. Примеры применения — переключение видео движением вверх или вниз и постановка отметки «нравится» поворотом запястья. README заявляет точность более 95% при фильтрации уверенности и подавлении повторных срабатываний, но не приводит датасет или условия измерения, поэтому это значение нельзя считать универсальной оценкой качества. Лицензия — MIT.
Это модель обучения с подкреплением PPO для среды ML-Agents-SnowballTarget. Она обучена с помощью Unity ML-Agents в рамках пятого раздела курса Hugging Face Deep Reinforcement Learning Course; обучение выполнено за 200 000 шагов, средняя награда составила 25,75. Модель предназначена для агента, взаимодействующего со средой SnowballTarget. В репозитории представлены веса в формате ONNX. Данные не уточняют устройство наблюдений и действий агента, поэтому конкретный способ управления средой здесь не описан. Лицензия в предоставленных сведениях не указана.
EleutherAI/pythia-14m-seed1 — базовая авторегрессионная языковая модель из набора PolyPythias, разработанного EleutherAI для изучения стабильности обучения и воспроизводимости. Это один из вариантов Pythia-14M с отдельным случайным seed; модель обучена предсказывать следующий токен и не настроена на выполнение инструкций. Модель использует плотную архитектуру GPT-NeoX: 6 слоёв, размерность 128 и 4 головы внимания. В карточке указано 14 млн параметров; метаданные каталога указывают 8 млн. Контекст — до 2048 токенов. Обучение проводилось на 300 млрд токенов The Pile с фиксированным перемешиванием данных для соответствующего seed; доступны промежуточные контрольные точки обучения. Модель подходит для экспериментов с генерацией текста и анализа влияния случайных seed на обучение небольших языковых моделей. Она обучена преимущественно на английских данных, может выдавать предвзятый, оскорбительный или недостоверный текст и не имеет фильтрации безопасности. По README, модель предназначена для исследований, а не для производственного развёртывания. Лицензия — Apache-2.0.
EleutherAI/pythia-14m-seed9 — авторегрессионная языковая модель из набора PolyPythias, созданного командой EleutherAI для изучения стабильности обучения и воспроизводимости. Это вариант Pythia-14M с девятым случайным seed; архитектура GPT-NeoX, 8 млн параметров по метаданным и контекст до 2048 токенов. Модель обучалась предсказывать следующий токен на корпусе The Pile. Модель подходит для исследовательских экспериментов с генерацией текста, анализом влияния случайного seed и сравнением результатов обучения. Это базовая, не настроенная на выполнение инструкций модель; в первую очередь рассчитана на английский язык. По карточке, обучающие данные включают разнородные интернет-тексты, поэтому генерации могут содержать предвзятые, оскорбительные или фактически неверные сведения; фильтрации безопасности нет. Лицензия — Apache-2.0; авторы не рекомендуют использовать модель в производственных системах.
Pythia-160M — англоязычная авторегрессионная языковая модель на архитектуре GPT-NeoX, разработанная EleutherAI как часть Pythia Scaling Suite. Модель содержит около 151,9 млн параметров, обучена на наборе данных The Pile и принимает текст для предсказания продолжения. Контекст составляет 2048 токенов; доступны промежуточные контрольные точки обучения для изучения динамики модели. Модель предназначена прежде всего для научных экспериментов с поведением, интерпретируемостью и ограничениями языковых моделей. Её можно использовать для исследовательских сравнений и адаптировать дообучением в соответствии с лицензией Apache 2.0. Pythia-160M не предназначена для пользовательских приложений и не настроена следовать инструкциям или вести диалог как чат-бот. Модель работает только с английским языком и может генерировать неточный, оскорбительный или социально нежелательный текст из-за особенностей обучающих данных. Она не подходит для перевода и генерации на других языках; результаты требуют проверки человеком. Лицензия — Apache 2.0.
Pythia-2.8B-deduped — англоязычная авторегрессионная языковая модель EleutherAI из исследовательской серии Pythia. Это плотный Transformer на архитектуре GPT-NeoX с примерно 3,5 млрд параметров и контекстом 2048 токенов; модель обучена на глобально дедуплицированной версии набора The Pile. Серия предоставляет контрольные точки обучения для изучения поведения и интерпретируемости больших языковых моделей. Модель предназначена прежде всего для научных экспериментов с продолжением текста, анализа поведения языковых моделей и изучения влияния обучения на их возможности. Она принимает текст и генерирует продолжение, но не была настроена для следования инструкциям, коммерческих чат-ботов или других пользовательских сценариев; качество на прикладных задачах не было основной целью обучения. Модель работает через библиотеку GPT-NeoX и форматы PyTorch и Safetensors. Pythia-2.8B-deduped не предназначена авторами для непосредственного развёртывания или общения с пользователями. Сгенерированный текст может быть фактически неверным, оскорбительным или отражать предвзятости данных The Pile; модель рассчитана на английский и не подходит для перевода или генерации на других языках. Лицензия Apache 2.0 разрешает использование и дообучение при соблюдении её условий; для производных прикладных систем необходима собственная оценка рисков и смещений.
Pythia-2.8B-v0 — англоязычная авторегрессионная языковая модель EleutherAI из исследовательской серии Pythia. Это плотный Transformer GPT-NeoX с примерно 3,5 млрд параметров и контекстом 2048 токенов; модель обучена на недедуплицированной версии англоязычного набора The Pile. Серия создана для контролируемых научных экспериментов над поведением, функциональностью и ограничениями больших языковых моделей, включая анализ промежуточных этапов обучения. Модель предсказывает следующий токен и подходит для экспериментов с продолжением текста, сравнения моделей и изучения влияния обучения на поведение языковой модели. Она не дообучена для следования инструкциям и не предназначена для чат-ботов или непосредственного взаимодействия с пользователями. Генерация может быть фактически неверной или содержать оскорбительный и предвзятый контент; модель рассчитана на английский язык и не подходит для перевода или генерации на других языках. Лицензия — Apache 2.0.
Pythia-31M — англоязычная авторегрессионная языковая модель EleutherAI на архитектуре GPT-NeoX, обученная предсказывать следующий токен. В метаданных указано 19,2 млн параметров и контекст до 2048 токенов; модель доступна в форматах PyTorch и Safetensors и работает с библиотекой Transformers. Вариант обучен на стандартном Pile, а не на дедуплицированной версии корпуса. Модель предназначена прежде всего для контролируемых исследований поведения, возможностей и ограничений языковых моделей. Доступны многочисленные контрольные точки обучения, что позволяет сравнивать модель на разных этапах подготовки. Она может продолжать текст по заданному контексту, но не настроена на следование инструкциям, диалог с пользователем или прикладные сценарии; для генерации на других языках, включая русский, не предназначена. Pythia-31M может выдавать фактически неверный, оскорбительный или социально нежелательный текст, поэтому результаты требуют проверки и не должны использоваться как достоверные сведения. Лицензия Apache 2.0 разрешает дообучение и адаптацию при соблюдении её условий; для использования в продуктах разработчики рекомендуют самостоятельно оценивать риски и смещения.
pythia-31m-goodwiki-deduped-2048-scratch — компактная авторегрессионная языковая модель на архитектуре GPT-NeoX, обученная pszemraj с нуля в течение трёх эпох по конфигурации EleutherAI/pythia-31m. В метаданных указаны 19,2 млн параметров, контекст до 2048 токенов и веса в формате safetensors. Модель предназначена для генерации английского текста; в качестве обучающего набора указан euirim/goodwiki. В README приведены результаты оценки: loss 4,5181, accuracy 0,2680, а также средний балл 24,85 в таблице Open LLM Leaderboard. Лицензия — Apache-2.0. Небольшой размер и ограниченный контекст делают модель подходящей для экспериментов и простых задач генерации; опубликованные оценки не подтверждают надёжность для сложных прикладных сценариев.
EleutherAI/pythia-31m-seed9 — базовая авторегрессионная языковая модель семейства Pythia, выпущенная в рамках набора PolyPythias для изучения стабильности обучения и воспроизводимости. Это один из вариантов Pythia-31M с отдельным случайным seed; модель построена на архитектуре GPT-NeoX и содержит 19,2 млн параметров по метаданным. Она обучена предсказывать следующий токен на корпусе The Pile объёмом 300 млрд токенов. Модель предназначена для исследовательских экспериментов и генерации продолжений англоязычного текста. Доступны промежуточные контрольные точки обучения, позволяющие анализировать изменения модели на разных этапах. Контекст составляет 2048 токенов. Лицензия — Apache-2.0. Модель не дообучена следовать инструкциям и не предназначена для производственного развертывания. Из-за состава The Pile она может выдавать предвзятый, оскорбительный или недостоверный текст; фильтрации безопасности и проверки точности нет. Основной язык обучения — английский.
EleutherAI/pythia-410m-seed7 — базовая авторегрессионная языковая модель из набора PolyPythias, разработанного EleutherAI для изучения стабильности обучения и воспроизводимости результатов. Это один из вариантов Pythia-410M с отдельным случайным seed; модель обучена предсказывать следующий токен и не настроена на выполнение инструкций. Модель использует плотную архитектуру GPT-NeoX и содержит около 454,2 млн параметров. Она обучена на 300 млрд токенов корпуса The Pile, преимущественно на английском языке; максимальная длина контекста — 2048 токенов. Репозиторий содержит веса PyTorch и промежуточные контрольные точки обучения, полезные для сравнительных экспериментов. Модель подходит для исследовательских экспериментов с генерацией текста и изучения влияния случайной инициализации на обучение. Она может выдавать предвзятый, оскорбительный или фактически неверный текст, не имеет фильтрации безопасности и не предназначена для следования инструкциям или производственного развертывания. Лицензия — Apache-2.0.
Pythia-410M-v0 — англоязычная авторегрессионная языковая модель на базе Transformer, разработанная EleutherAI как часть набора Pythia для научного изучения больших языковых моделей, в особенности их интерпретируемости. Модель содержит около 454,2 млн параметров; архитектура GPT-NeoX включает 24 слоя, размерность модели 1024 и 16 голов внимания. Она обучена предсказывать следующий токен на текстах набора The Pile без предварительной дедупликации. Контекст модели — 2048 токенов. Модель предназначена прежде всего для контролируемых экспериментов с поведением, функциями и ограничениями языковых моделей; для неё также опубликованы промежуточные контрольные точки обучения. Она генерирует продолжение текстового запроса на английском языке, но не настроена на выполнение инструкций, диалог с пользователем или конкретные прикладные задачи. Лицензия Apache 2.0 разрешает дообучение и адаптацию при соблюдении её условий. Pythia-410M-v0 может выдавать фактически неверный, предвзятый или оскорбительный текст и не подходит для перевода или генерации на других языках. Перед использованием результатов в приложениях требуется проверка человеком и собственная оценка рисков и смещений.
Pythia-70M — англоязычная трансформерная языковая модель EleutherAI из исследовательского набора Pythia. Она предназначена прежде всего для контролируемых научных экспериментов по изучению поведения, возможностей и ограничений языковых моделей, включая исследования интерпретируемости. Модель обучена на корпусе The Pile; семейство включает модели разных размеров и промежуточные контрольные точки обучения для анализа динамики обучения. В этой версии около 50,9 млн параметров, архитектура GPT-NeoX с причинным языковым моделированием, контекст — до 2048 токенов. Модель принимает текст и генерирует продолжение, предсказывая следующий токен. Она подходит для экспериментов с генерацией текста и изучения небольших языковых моделей, но не предназначена для непосредственного развёртывания в пользовательских продуктах и не настроена следовать инструкциям как чат-бот. Обучение на английских текстах означает, что модель не подходит для генерации на других языках или перевода. Выводы могут быть фактически неверными или содержать оскорбительный и нежелательный контент; требуется самостоятельная оценка рисков и предвзятости. Лицензия — Apache 2.0.
Pythia-70M-deduped-v0 — англоязычная авторегрессионная языковая модель, разработанная EleutherAI для контролируемых научных экспериментов над поведением и ограничениями больших языковых моделей, в частности для исследований интерпретируемости. Это плотный трансформер GPT-NeoX с примерно 50,9 млн параметров и контекстом до 2048 токенов; модель обучена на глобально дедуплицированной версии англоязычного набора The Pile. Для изучения изменений в ходе обучения доступны промежуточные контрольные точки. Модель предсказывает следующий токен и подходит для экспериментов с генерацией текста и анализа языковых моделей. Она не дообучена для следования инструкциям или диалогового применения, поэтому не предназначена для чат-ботов и взаимодействия с пользователями; качество генерации фактов не гарантируется. Обучающие данные могут содержать оскорбительный контент и отражать социальные предубеждения. Лицензия — Apache 2.0.
EleutherAI/pythia-70m-seed5 — языковая модель из серии PolyPythias, созданной EleutherAI как набор дополнительных запусков проекта Pythia для изучения устойчивости обучения и воспроизводимости. Это авторегрессионная модель GPT-NeoX с примерно 50,9 млн параметров, шестью слоями и контекстом до 2048 токенов; она обучена предсказывать следующий токен на данных The Pile. Модель предназначена для генерации продолжения текста и исследовательских экспериментов с небольшими языковыми моделями, включая сравнение результатов обучения при разных случайных начальных значениях. Это базовая, не настроенная на выполнение инструкций модель; обучение проводилось преимущественно на английском языке. Модель не предназначена для производственного развертывания. Она может генерировать предвзятый, оскорбительный или фактически неверный текст, а выходы не фильтруются по безопасности и точности. Лицензия — Apache-2.0.
d0rj выпустил англоязычную базовую авторегрессионную языковую модель LatentMoE для эксперимента по абляциям небольших LLM. Она обучена с нуля на FineWeb-Edu, а не дообучена на весах другой модели. Архитектура — причинный декодер Transformer с 10 слоями и разреженными MoE-блоками: в каждом из них маршрутизатор выбирает 4 из 16 экспертов. Общее число параметров по README — около 92,9 млн; активный подсчёт составляет около 51,6 млн параметров на токен. Контекст — 2048 токенов. Модель предназначена для продолжения английского текста и экспериментального изучения компактных MoE-моделей. Она обучалась предсказывать следующий токен на FineWeb-Edu; в README приведены результаты тестирования на языковых и общих бенчмарках, включая WikiText-2. Это базовая модель без настройки инструкций и шаблона чата, поэтому она не рассчитана на роль готового диалогового ассистента. Проверялись отдельные конфигурации запуска с BF16, а опубликованные веса сохранены в FP32. Для загрузки пользовательского кода требуется включить trust_remote_code=True. Лицензия в предоставленных данных не указана.
Q-T5 tied full — англоязычная базовая модель семейства Q-T5 от автора d0rj, созданная с нуля в рамках эксперимента Tiny LLM Ablation. Это плотная encoder-decoder модель с 10 слоями энкодера и 10 слоями декодера, шириной 512 и примерно 51,1 млн параметров по метаданным. Параметры соответствующих блоков внимания, FFN и нормализации энкодера и декодера связаны; эмбеддинги входа и выхода общие. Модель обучалась на FineWeb-Edu с UL2-целями и имеет контекст до 2050 токенов. Модель предназначена для англоязычной генерации и продолжения текста, а также для экспериментального сравнения небольших базовых языковых моделей по бенчмаркам. В README приведены результаты на наборах HellaSwag, ARC, LAMBADA и других задачах; модель не является чат-ассистентом и не дообучена следовать инструкциям. Обучение выполнено с одной случайной инициализацией, поэтому результаты не отражают вариативность между запусками. Для загрузки пользовательского кода требуется trust_remote_code=True. Лицензия в предоставленных данных не указана.
Quartz Micro Preview Base — базовая языковая модель Vertex AGI, созданная обучением с нуля. Это причинная модель для генерации и продолжения текста, а не чат-ассистент: контрольные точки не проходили дообучение на инструкциях и не рассчитаны на диалог. Модель совместима с Transformers и использует архитектуру смеси экспертов Quartz MoE; в README указано около 1,03 млрд параметров, из которых активно около 394 млн на токен. Метаданные каталога указывают 336,9 млн параметров. Контекст — 2048 токенов, основной язык карточки — английский. Модель обучена на корпусе примерно из 100 млн токенов, включающем FineWeb-Edu, Wikipedia и CodeParrot-clean, с токенизатором byte-level BPE на 32 тыс. токенов. Её можно применять для экспериментов с компактными MoE-моделями, изучения генерации текста и продолжения англоязычных фрагментов. Это предварительная демонстрационная модель с ограниченными масштабом обучения и набором данных; ожидаются фактические ошибки и слабые общие знания, опубликованных оценок качества нет. Лицензия — Apache-2.0.
StarVLA подготовила начальную версию Qwen2.5-VL-3B-Instruct с расширенным словарём для фреймворков робототехники: к текстовому словарю добавлены 2 048 токенов действий. Модель использует архитектуру Qwen2_5_VLForConditionalGeneration; базовая модель содержит около 3,1 млрд параметров и поддерживает контекст до 128 000 токенов. Репозиторий предназначен для дальнейшего обучения систем, которые представляют действия робота дискретными токенами. Параметры исходной Qwen2.5-VL сохранены, кроме расширения эмбеддингов токенов и выходного словаря. Новые эмбеддинги не обучены и не несут готовой семантики действий; для применения требуется задать кодовую книгу, связывающую непрерывные действия с индексами токенов, и обучить модель на соответствующих данных. Для согласования идентификаторов нужно загружать модель и токенизатор из этого же репозитория. Модель принимает изображения и текст и генерирует текст, включая токены действий; она основана на мультимодальной Qwen2.5-VL-3B-Instruct от Alibaba. Карточка не сообщает о робототехническом дообучении или результатах тестирования на бенчмарках. Лицензия наследуется от базовой модели.
Карточка модели HYU-NLP-EVAL/qwen3-1.7b-rar-medicine-static-r0-step-009 на Hugging Face совпадает с карточкой HYU-NLP-EVAL/qwen3-1.7b-rar-medicine-static-r0-step-000, поэтому описание составлено по ней. Это экспериментальный контрольный чекпойнт модели Qwen3-1.7B, созданный группой HYU-NLP-EVAL на основе Qwen/Qwen3-1.7B. Его обучали методом GRPO с фиксированной начальной рубрикой вознаграждения для эксперимента по изучению насыщения вознаграждения и устаревания статических рубрик; данный вариант относится к домену медицины и шагу 0. Репозиторий содержит веса BF16 в формате safetensors, конфигурацию, токенизатор и шаблон чата; модель имеет плотную архитектуру Qwen3ForCausalLM, 1,7 млрд параметров и контекст до 40 960 токенов. Чекпойнт предназначен для исследовательского анализа оптимизации языковой политики и сопоставления контрольных точек, а также поддерживает генерацию текста и диалоговый режим. Он не является медицинским устройством и не предназначен для постановки диагноза или замены профессиональной медицинской консультации. Лицензия — Apache-2.0.
Карточка модели HYU-NLP-EVAL/qwen3-1.7b-rar-medicine-static-r0-step-016 на Hugging Face совпадает с карточкой HYU-NLP-EVAL/qwen3-1.7b-rar-medicine-static-r0-step-000, поэтому описание составлено по ней. Это экспериментальный контрольный чекпойнт модели Qwen3-1.7B, созданный группой HYU-NLP-EVAL на основе Qwen/Qwen3-1.7B. Его обучали методом GRPO с фиксированной начальной рубрикой вознаграждения для эксперимента по изучению насыщения вознаграждения и устаревания статических рубрик; данный вариант относится к домену медицины и шагу 0. Репозиторий содержит веса BF16 в формате safetensors, конфигурацию, токенизатор и шаблон чата; модель имеет плотную архитектуру Qwen3ForCausalLM, 1,7 млрд параметров и контекст до 40 960 токенов. Чекпойнт предназначен для исследовательского анализа оптимизации языковой политики и сопоставления контрольных точек, а также поддерживает генерацию текста и диалоговый режим. Он не является медицинским устройством и не предназначен для постановки диагноза или замены профессиональной медицинской консультации. Лицензия — Apache-2.0.
Карточка модели HYU-NLP-EVAL/qwen3-1.7b-rar-medicine-static-r0-step-040 на Hugging Face совпадает с карточкой HYU-NLP-EVAL/qwen3-1.7b-rar-medicine-static-r0-step-000, поэтому описание составлено по ней. Это экспериментальный контрольный чекпойнт модели Qwen3-1.7B, созданный группой HYU-NLP-EVAL на основе Qwen/Qwen3-1.7B. Его обучали методом GRPO с фиксированной начальной рубрикой вознаграждения для эксперимента по изучению насыщения вознаграждения и устаревания статических рубрик; данный вариант относится к домену медицины и шагу 0. Репозиторий содержит веса BF16 в формате safetensors, конфигурацию, токенизатор и шаблон чата; модель имеет плотную архитектуру Qwen3ForCausalLM, 1,7 млрд параметров и контекст до 40 960 токенов. Чекпойнт предназначен для исследовательского анализа оптимизации языковой политики и сопоставления контрольных точек, а также поддерживает генерацию текста и диалоговый режим. Он не является медицинским устройством и не предназначен для постановки диагноза или замены профессиональной медицинской консультации. Лицензия — Apache-2.0.
Qwen3-30B-A3B-Dense-3B-DO-ACP-K8 — плотная языковая модель примерно на 2,6 млрд параметров по метаданным (в README указан размер студента 3,34 млрд). Её разработали как исследовательский артефакт для воспроизведения экспериментов по прореживанию и дистилляции Mixture-of-Experts-моделей в плотные модели. Студент создан на основе Qwen/Qwen3-30B-A3B методом DO-ACP с K=8 и обучен на примерно 4 млрд токенов FineWeb-Edu; доступен в формате safetensors для Transformers. Модель предназначена для сравнения методов оценки и группировки экспертов в экспериментальных исследованиях. Она генерирует текст и поддерживает контекст до 40 960 токенов. В README приведены результаты на Winogrande, HellaSwag, ARC и MMLU; конфигурация DO-ACP, K=8 показала среднее 58,10 по этим пяти тестам. Качество существенно ниже модели-учителя и сопоставимых предварительно обученных моделей того же размера; инструкция и выравнивание поведения не применялись. Поэтому модель не подходит как готовый универсальный помощник. Лицензия — Apache-2.0.
HYU-NLP-EVAL разработала плотный чекпойнт RaR-Medicine OnlineRubrics-Every на базе Qwen3-4B-Instruct-2507. Это промежуточный чекпойнт на шаге 29 запуска phase1-online-rubrics-medicine-full-dense-20260919-seed11; репозиторий содержит веса BF16 для инференса и файлы исходного чекпойнта veRL. Модель предназначена для генерации текста в медицинском сценарии RaR-Medicine OnlineRubrics. Архитектура — Qwen3ForCausalLM, около 3,7 млрд параметров, контекст до 262 144 токенов; метаданные отмечают поддержку диалога. README указывает исследовательское использование, поэтому чекпойнт уместен для экспериментов и оценки, а не как проверенный медицинский помощник для клинических решений. Лицензия — Apache-2.0.
RaR-Medicine static R0 matched dense — экспериментальный чекпойнт на базе Qwen3-4B-Instruct-2507, подготовленный HYU-NLP-EVAL. Это плотная языковая модель с архитектурой Qwen3ForCausalLM и 3,7 млрд параметров; карточка указывает контекст до 262 144 токенов и поддержку диалогового режима. В репозитории есть веса BF16 для инференса и исходные файлы чекпойнта veRL. Модель предназначена для генерации текста и диалоговых сценариев в медицинской тематике; название и карточка указывают на статический matched dense чекпойнт RaR-Medicine с шагом обучения 0. Она дообучена от Qwen/Qwen3-4B-Instruct-2507. README ограничивает применение исследовательскими целями. Лицензия — Apache-2.0.
Репозиторий содержит преобразованную с помощью llama.cpp MTP-голову базовой модели Qwen3.5-0.8B-Base в формате GGUF BF16. Основа — мультимодальная модель Qwen с 0,8 млрд параметров; метаданные также отмечают возможность чата и генерацию текста. По карточке это простое преобразование MTP-головы, поэтому неясно, насколько содержимое репозитория само по себе пригодно для обычного использования как полноценная модель.