II.10Разработка и эксплуатация AI/ML-систем
В разделе собраны самостоятельные задачи, где AI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
49 000 моделейMini-K3-1H-llama-mha-block4-v1 — текстовая авторегрессионная модель семейства Mini-K3, разработанная автором репозитория nkkbr. Это исследовательский контрольный вариант для сравнения механизмов внимания и остаточных связей; официальной моделью Meta Llama он не является. Модель использует декодер с 13 слоями стандартного MHA, шириной скрытого представления 1024, 8 головами внимания и RoPE. Архитектура включает MoE с 64 маршрутизируемыми экспертами, выбором двух экспертов и одним начальным плотным слоем. В метаданных указано 385,9 млн параметров и контекст 131 072 токена; README описывает контрольный чекпойнт предобучения на 16 млрд целевых токенов с длиной последовательности 8 192. Модель предназначена для экспериментов с генерацией текста и сравнительного изучения архитектуры внимания. Она принимает текст и предсказывает продолжение последовательности; это только предварительно обученная модель, не настроенная на выполнение инструкций и не проверенная на прикладных задачах. README предупреждает, что ответы могут быть неточными, предвзятыми, небезопасными или повторяющимися. Лицензия модели в предоставленных материалах не указана; исходные датасеты сохраняют собственные лицензии и условия использования.
min-spark 1.1 — компактная языковая модель MinimaLabs для генерации текста. Это плотный причинный декодер MinSparkForCausalLM с архитектурой Meiosis: общие веса ядра используются в нескольких проходах, а уровни effort задают число проходов и вычислительные затраты. Модель содержит 5,76 млн параметров, использует байтовый BPE-словарь на 4096 токенов и имеет контекст 512 токенов. Модель предназначена для экспериментов с очень малыми языковыми моделями и генерации текста с настраиваемым компромиссом между скоростью и качеством. Уровень low подходит для быстрой генерации, medium — для общего режима, high — для максимального доступного качества; увеличение effort особенно заметно помогает на тестах грамматики. Версия 1.1 продолжает предобучение версии 1.0 на дополнительных 6,8 млрд токенов, доведя общий объём обучения до 16,81 млрд. Это базовая модель без дообучения на инструкциях: она не рассчитана на диалоговое следование инструкциям, а её фактическая точность, рассуждения и связность длинного текста ограничены малым размером. Генерация работает с одной последовательностью за раз и без KV-кэша; заявленный контекст — 512 токенов. Лицензия — Apache-2.0.
UNIC0RN-Zhu разработала ModernBERT Drive Command Parser — англоязычный парсер команд для вождения на основе дообученной ModernBERT-base. В репозитории находятся веса основы и отдельные головы: шесть классификационных голов для распознавания действий, состояния, категории, срочности, направления и изменения скорости, а также токенная голова для выделения сущностей и отношений. Для полного разбора нужны дополнительные веса, конфигурация и код проекта; обычный конвейер text-classification не заменяет парсер. Модель содержит 149 млн параметров, использует архитектуру ModernBERT и поддерживает контекст до 8192 токенов. Парсер преобразует текстовые команды на английском языке в структуру DrivingIntent: выделяет атомарные действия и их порядок, направление, изменение скорости, срочность, описания целевых объектов, условия и ограничения. Заявленные метрики измеряют согласие с псевдоразметкой или результаты небольших проверочных наборов, а не точность на размеченных людьми командах или на реальной дороге. Модель нельзя применять для управления реальными автомобилями или роботами и для других высокорисковых сценариев. Лицензия указана как other. Из-за условий лицензий Talk2Car и SimLingo модель предназначена только для бесплатного некоммерческого академического, исследовательского, учебного и личного экспериментального использования; необходимо соблюдать LICENSE, NOTICE и лицензии исходных данных.
cmpatino/nanowhale-100m-base — небольшая предварительно обученная языковая модель, созданная cmpatino с нуля на архитектуре DeepSeek-V4. Модель содержит около 53 млн параметров по метаданным; README приводит оценку около 110 млн. Архитектура включает Multi-head Latent Attention, разреженную смесь экспертов с активацией двух из четырёх экспертов на токен, Hyper-Connections, SwiGLU и групповую выходную проекцию. Контекст — 2048 токенов. Модель обучалась на англоязычном наборе FineWeb-Edu примерно на 2,6 млрд токенов. Она предназначена для генерации продолжений текста и экспериментов с компактной реализацией архитектуры DeepSeek-V4. Это базовая модель без настройки на инструкции, поэтому она не рассчитана на надёжное выполнение запросов в формате ассистента. README отмечает ограниченную ёмкость и недообученность; для запуска рекомендует fp32 из-за возможного переполнения при bf16. Для работы с пользовательским кодом архитектуры требуется trust_remote_code=True. Лицензия — Apache-2.0.
Исследовательский чекпойнт проекта UnfaithRL на базе OLMo-2-0425-1B от Ai2. Модель дообучена методом обучения с подкреплением в два этапа: сначала ответы по задачам MMLU поощрялись за правильность, затем — за следование подсказке. В обучении применялось curriculum learning, а максимальная длина генерации составляла 1024 токена. Чекпойнт предназначен для экспериментов с верностью цепочек рассуждений, влиянием вводящих в заблуждение подсказок, переключением ответов и поиском reward hacking в RLVR. Это плотная авторегрессионная модель OLMo-2 с 1,3 млрд параметров, принимающая текст и генерирующая текст; базовая модель англоязычная, контекст — до 4096 токенов. Лицензия в предоставленных данных не указана.
Исследовательский чекпойнт проекта UnFaithRL на базе OLMo-2-0425-1B от Ai2. Это плотная авторегрессионная языковая модель с 1,3 млрд параметров, рассчитанная на генерацию текста; максимальная длина контекста составляет 4096 токенов. Чекпойнт дообучали методом RLVR для изучения того, как подсказки влияют на цепочки рассуждений: награда поощряла следование подсказке и явное объяснение связи между ней и итоговым ответом. Обучение проводилось на задачах рассуждения MMLU, длина генераций при обучении ограничивалась 1024 токенами. Модель предназначена для исследований верности рассуждений, влияния вводящих в заблуждение подсказок, reward hacking и раскрытия использования подсказки в ответах. Она может следовать неверным подсказкам, давать неправильные ответы и создавать рассуждения, которые рационализируют итог; её объяснения нельзя считать достоверным отражением процесса принятия решения. Модель не предназначена для роли универсального помощника или для высокорисковых решений без дополнительной оценки. В метаданных указана библиотека Transformers и формат весов safetensors; лицензия не приведена.
Helsinki-NLP/opus-mt-es-es — модель машинного преобразования испанского текста в испанский, опубликованная проектом OPUS/Helsinki-NLP. Это модель архитектуры MarianMT на основе Transformer-align с 42,2 млн параметров; при подготовке текста используются нормализация и SentencePiece. В метаданных указана длина контекста 512 токенов, поддерживаются форматы PyTorch и TensorFlow. Модель предназначена для преобразования испанских текстов и предложений; в README приведена оценка BLEU 51,7 и chr-F 0,688 на тестовом наборе Tatoeba.es.es. Лицензия — Apache-2.0. Карточка не уточняет характер преобразования испанского текста, поэтому конкретный стиль или тип редакторской обработки определить нельзя.
Orkhon tonyuk — плотная авторегрессионная языковая модель семейства Orkhon с примерно 21,9 млн параметров, разработанная Умутом Коркмазом. Это чат-модель с настройкой на следование инструкциям, созданная с нуля и дообученная на основе текстовой модели Tonyukuk. Она предназначена для воспроизведения и изучения процесса обучения и экспорта Orkhon, небольших локальных демонстраций и экспериментов с транслитерацией древнетюркской рунической письменности в латиницу. В метаданных указаны английский и турецкий языки; теги также указывают на работу с древнетюркским языком. Модель использует архитектуру Orkhon и распространяется в формате safetensors. Лицензия — Apache-2.0. README предупреждает, что модель может повторяться и выдумывать сведения, а её небольшой масштаб не позволяет рассчитывать на надёжные фактические ответы или качество передовых моделей; транслитерацию древнетюркского текста не следует считать переводом на современный турецкий.
Parallax 8B kappa — базовая языковая модель от проекта Parallax, обучаемая распределённо на потребительских GPU в нескольких странах. Это промежуточный исследовательский чекпойнт незавершённого обучения; модель предназначена для изучения процесса обучения и проверки продолжения текста, а не для производственного применения. Модель построена по архитектуре mixture-of-experts с рекуррентными слоями GDN2 и несколькими типами attention. Всего в ней около 7,8 млрд параметров, из которых активируется около 1,25 млрд на токен; обучение использует ternary-представления и смесь веб-текстов, документов, математики, кода, знаний и книг. Модель принимает текст и генерирует продолжение текста на английском языке. Она не настроена на инструкции, чат или безопасность, поэтому не предназначена для диалога и не гарантирует следование запросу. Опубликованные файлы представлены в нативном компактном формате Parallax, упакованном в GGUF. Лицензия — MIT.
Parc-Pythia (Seed 1) — англоязычная авторегрессионная языковая модель, разработанная Джеймсом Майкловым для исследований динамики обучения и сравнения архитектур. Это плотный трансформер GPT-NeoX с 151,9 млн параметров, дообученный на базе EleutherAI/pythia-160m; модель обучалась на 2 млрд токенов OpenWebText. Длина контекста — 2048 токенов. Модель предназначена для генерации продолжения текста и анализа поведения языковых моделей. Она входит в серию Parc, где модели Pythia, Mamba и RWKV обучались параллельно на одних данных и с одинаковым числом шагов, с несколькими случайными seed для изучения различий в ходе обучения. Модель не проходила инструкционную настройку, поэтому может выдавать неточные, вредоносные или оскорбительные тексты и обычно не подходит для развёртывания в пользовательских приложениях. Данные OpenWebText описаны неполно. Лицензия — Apache 2.0.
Photon-1.0-1M — экспериментальная компактная языковая модель от AtomixLabs для генерации текста и изучения эффективности моделей при жёстких ограничениях ресурсов. Это плотная модель на стандартной архитектуре LLaMA с 1 млн параметров; она реализована для Transformers и распространяется в формате Safetensors. Модель рассчитана на работу с контекстом до 512 токенов и обучалась на датасете UltraX-Preview. В карточке указан английский язык. Разработчик позиционирует Photon как небольшую модель для экспериментов с генерацией текста, рассуждениями и поиском информации. Однако из-за малого размера она плохо удерживает общие знания, может выдумывать факты, ошибаться в логике и терять связность в длинных ответах. Модель не проходила RLHF или DPO и может воспроизводить предвзятый либо оскорбительный контент; её ответы требуют проверки, и её не следует использовать для решений в медицине, праве, финансах или других критичных областях. Лицензия — Apache-2.0.
Pi0.5 (flow matching) — модель vision-language-action для управления роботами, разработанная Physical Intelligence и дообученная на наборе LIBERO. Она принимает визуальные наблюдения и инструкцию на естественном языке, а затем выдаёт последовательность действий для робота. Действия формируются интегрированием ODE flow matching; для каждого фрагмента действий требуется 10 проходов action expert. Этот чекпойнт служит базовой моделью flow matching в сравнительном исследовании Pi0.5-Drift: README указывает, что использованы те же базовые веса, данные, инициализация, batch, seed и расписание обучения на 100 тыс. шагов, а различается только обучающая цель. На официальной оценке LIBERO модель показала высокую успешность в наборах spatial, object и goal. Для оценки нужны графический узел с рендерером MuJoCo/LIBERO и доступ к закрытому токенизатору google/paligemma-3b-pt-224. Модель распространяется под лицензией Gemma.
Polaris FMv2-small — модель извлечения визуальных признаков для вычислительной патологии, разработанная StratifAI GmbH. Она создана дообучением DINOv2-small на корпусе примерно из 100 000 гистопатологических полноразмерных изображений препаратов (WSI) разных типов тканей и способов окрашивания. Модель предназначена для исследовательских проверок с партнёрами и сравнения качества методов вычислительной патологии. Извлечённые признаки изображений можно использовать как основу для обучения классификаторов и других визуальных задач. Это модель компьютерного зрения: она принимает изображения и выдаёт векторы признаков. Карточка не сообщает длину контекста или поддержку конкретных естественных языков. Модель предоставляется только для исследовательского использования (RUO) и не одобрена для клинического применения. Клиническое внедрение без необходимого регуляторного разрешения и коммерческое использование без отдельного письменного соглашения исключены. Лицензия репозитория — CC-BY-NC-ND-4.0; базовый компонент DINOv2 распространяется по Apache 2.0.
Это обученный агент обучения с подкреплением PPO для управления двуногим роботом в среде BipedalWalker-v3. Модель опубликована sb3 и создана с использованием библиотеки stable-baselines3 и набора инструментов RL Zoo. Агент предназначен для запуска в симуляции BipedalWalker-v3: он получает состояние среды и выбирает управляющие действия, чтобы научиться передвигать робота по поверхности. Репозиторий содержит веса PyTorch; README описывает загрузку модели и запуск через RL Zoo.
Prabhāsa-bs 0.2 — BabyLM-2026 Strict — это англоязычная модель masked language modeling, разработанная qbz506 для предобучения небольших языковых моделей с учётом структуры языка. Она использует плотный ELC encoder из 14 слоёв с размерностью 768 и 12 головами внимания, RoPE, GeGLU, RMSNorm, N-hot эмбеддинги морфем и структурно-ориентированное маскирование Paribhāṣā. В метаданных указано 147,5 млн параметров и контекст 192 токена. Модель предназначена для восстановления замаскированных токенов и оценки языковых закономерностей в задачах BabyLM: в README приведены результаты на BLiMP, BLiMP-supplement, EWoK и COMPS. Обучение выполнено в режиме pure MLM за 10 эпох в рамках лимита BabyLM Strict; авторы сообщают о воспроизведении результатов в двух независимых запусках. Модель ориентирована на эффективность обучения на небольших корпусах и интерпретируемость, а не на уровень передовых крупных моделей. Распространяется по лицензии MIT.
Pythia-1.4B — англоязычная трансформерная языковая модель для генерации текста, разработанная EleutherAI как часть исследовательского набора Pythia Scaling Suite. Модель содержит 1,7 млрд параметров, использует архитектуру GPT-NeoX с авторегрессионной языковой моделью и обучена на корпусе The Pile. Контекст составляет 2048 токенов; доступны веса в форматах PyTorch и safetensors. Набор Pythia создан для контролируемых научных экспериментов по изучению поведения, возможностей и ограничений больших языковых моделей, в частности для исследований интерпретируемости и масштабирования. Для этой модели доступны многочисленные промежуточные контрольные точки обучения. Она может продолжать текст по заданному фрагменту и служить основой для дальнейшего дообучения. Модель не настроена для следования инструкциям и не предназначена для прямого развертывания или общения с пользователями. Она может выдавать фактически неверные, оскорбительные или социально нежелательные тексты; результаты требуют проверки. Поддерживается английский язык, генерация на других языках не является целевым сценарием. Лицензия — Apache 2.0.
Pythia-1.4B-deduped — языковая модель на основе Transformer, разработанная EleutherAI для контролируемых научных экспериментов над поведением и интерпретируемостью больших языковых моделей. Это версия Pythia размером 1,7 млрд параметров, обученная на глобально дедуплицированном наборе The Pile. Архитектура — плотная GPT-NeoX с авторегрессионным предсказанием следующего токена; нативный контекст составляет 2048 токенов. Модель принимает текст и генерирует текст, предназначена для английского языка. Модель подходит для исследования внутренних представлений и поведения языковых моделей, сравнения моделей разных размеров в контролируемых условиях и экспериментов с промежуточными чекпойнтами обучения. Она доступна через библиотеку Transformers и опубликована под лицензией Apache 2.0, допускающей адаптацию и дообучение при соблюдении условий лицензии. Pythia-1.4B-deduped не предназначена для непосредственного развёртывания или общения с пользователями и не настроена на следование инструкциям, жанровое письмо или работу чат-ботом. Генерации могут быть фактически неверными, оскорбительными или содержать предвзятость; модель не подходит для перевода и генерации на других языках. Для применения дообученной версии требуется самостоятельная оценка рисков и предвзятости.
Это версия Pythia 1.4B, дистиллированная для генерации текста с водяным знаком методом выборки по стратегии KGW с параметрами k=1, γ=0,25 и δ=2. Модель основана на архитектуре GPT-NeoX и содержит около 1,7 млрд параметров; максимальная длина контекста — 2048 токенов. Она предназначена для генерации текста и изучения устойчивости водяных знаков в языковых моделях, в частности в рамках работы «On the Learnability of Watermarks for Language Models». Поддерживает английский язык. Распространяется по лицензии Apache-2.0.
koshirowada/pythia_14m_sft — дообученная модель EleutherAI/pythia-14m с архитектурой GPT-NeoX для авторегрессионной генерации текста. В репозитории указано значение loss 2,4367 на оценочном наборе, однако подробности о назначении дообучения и данных отсутствуют. Модель содержит 8 млн параметров и поддерживает контекст до 2048 токенов. Базовая модель описана как небольшая англоязычная исследовательская модель для изучения генерации текста и поведения языковых моделей. Карточка не сообщает о специализированной области применения или условиях лицензии.
Pythia-160M-deduped-v0 — англоязычная авторегрессионная языковая модель на базе трансформера GPT-NeoX, разработанная EleutherAI как часть набора Pythia для научных экспериментов над поведением и интерпретируемостью больших языковых моделей. В модели около 151,9 млн параметров, 12 слоёв, размерность модели 768 и 12 голов внимания; окно контекста — 2048 токенов. Она принимает текст и предсказывает продолжение. Модель обучена на англоязычном корпусе The Pile после глобального удаления дубликатов. Набор Pythia включает 143 промежуточных контрольных точки для изучения изменений модели в ходе обучения. Чекпойнт можно использовать для контролируемых исследований и как основу для дообучения, но он не предназначен для непосредственного развертывания или общения с пользователями и не настроен на выполнение инструкций. Модель может генерировать недостоверный текст и нежелательные или предвзятые высказывания; её выводы требуют проверки человеком. Она рассчитана только на английский язык и не подходит для перевода или генерации на других языках. Лицензия — Apache 2.0.
Pythia-6.9B-v0 — англоязычная авторегрессионная языковая модель семейства Pythia, разработанная EleutherAI для контролируемых исследований поведения и интерпретируемости больших языковых моделей. Это плотный трансформер GPT-NeoX с 8,8 млрд параметров; модель принимает текст и предсказывает продолжение, а её контекст составляет 2048 токенов. Она обучена на английской версии корпуса The Pile без дедупликации. В рамках набора Pythia модели разных размеров обучались на одном и том же порядке данных; для изучения динамики обучения доступны 143 промежуточных контрольных точки. Модель подходит для экспериментов с генерацией текста, анализа внутренних представлений и изучения ограничений языковых моделей. Она не настроена для следования инструкциям, коммерческих чат-ботов или пользовательского взаимодействия, а качество фактов не гарантируется. Возможны предвзятые, оскорбительные или нежелательные продолжения, поэтому результаты требуют оценки исследователем. Лицензия Apache 2.0 разрешает использование и адаптацию в её рамках.
Pythia-70M-deduped — англоязычная авторегрессионная языковая модель EleutherAI на архитектуре GPT-NeoX, предназначенная прежде всего для научного изучения поведения и ограничений больших языковых моделей, включая исследования интерпретируемости. Модель содержит 50,9 млн параметров и принимает текст, продолжая его предсказанием следующих токенов; максимальный контекст составляет 2048 токенов. Она обучена на дедуплицированной версии набора The Pile и доступна в форматах PyTorch и Safetensors. Модель и набор промежуточных контрольных точек дают возможность проводить контролируемые эксперименты с обучением и анализировать генерацию текста. Хотя её можно дообучить для других применений, базовая версия не настроена на выполнение инструкций или диалог с пользователем и не предназначена для развёртывания в пользовательских продуктах. Лицензия — Apache 2.0.
EleutherAI/pythia-70m-seed3 — авторегрессионная языковая модель семейства Pythia из набора PolyPythias, разработанного EleutherAI. Это один из вариантов запуска обучения с отдельным случайным seed, предназначенный для изучения стабильности и воспроизводимости предварительного обучения языковых моделей. Модель построена на плотной архитектуре GPT-NeoX с 6 слоями, размером скрытого представления 512 и 8 головами внимания; в метаданных указано 50,9 млн параметров. Она предсказывает следующий токен, принимает текст и генерирует текст. Контекст составляет 2048 токенов. Обучение проводилось на 300 млрд токенов из The Pile с перемешанным порядком данных; модель обучалась преимущественно на английском языке. Это базовая, не настроенная на выполнение инструкций модель. Она подходит для исследовательских сравнений, анализа обучения и экспериментов с генерацией текста, но не предназначена для производственного развертывания. Ответы могут быть предвзятыми, оскорбительными или фактически неверными и не проходят фильтрацию безопасности. Лицензия — Apache-2.0.
EleutherAI/pythia-70m-seed6 — базовая авторегрессионная языковая модель из серии PolyPythias, разработанной EleutherAI для систематического изучения стабильности обучения и воспроизводимости. Это вариант Pythia-70M с отдельным случайным seed; модель построена на архитектуре GPT-NeoX и содержит 50,9 млн параметров. Модель обучена предсказывать следующий токен на корпусе The Pile объёмом 300 млрд токенов с заранее перемешанным порядком данных. Она предназначена прежде всего для исследовательских экспериментов, сравнения запусков обучения и генерации продолжений английского текста. Контекст составляет 2048 токенов; модель не настроена на выполнение инструкций и не предназначена для использования в производственных системах. Модель принимает текст и генерирует текст. Обучение преимущественно на английских данных, поэтому качество на других языках не гарантируется. Лицензия — Apache-2.0. В ответах возможны фактические ошибки, предвзятые или оскорбительные формулировки; фильтрации безопасности нет.
Q-MoE active — англоязычная базовая авторегрессионная языковая модель, созданная автором репозитория d0rj в рамках эксперимента Tiny LLM ablation. Модель обучена с нуля на FineWeb-Edu за 15 000 шагов; она не является дообучением базовых весов q-project/Q-50M-Base. Архитектура — причинный декодер с 10 слоями и разреженными MoE-блоками: восемь маршрутизируемых экспертов с выбором двух на токен и общая ветвь. Всего 98,1 млн параметров, активный учёт — около 50,9 млн на токен. Модель предназначена для продолжения английского текста и экспериментов с небольшими языковыми моделями и архитектурами MoE. Контекст составляет 2048 токенов; веса опубликованы в формате safetensors. Это базовая модель без инструкционной настройки и шаблона чата, поэтому она не рассчитана на роль готового диалогового помощника. В README приведены результаты оценки на языковых и академических тестах, однако использован один обучающий seed, а сами авторы отмечают, что интервалы не отражают разброс между запусками. Для загрузки пользовательского кода требуется включить trust_remote_code=True. Лицензия в предоставленных материалах не указана.
thunlp/Qwen2-7B-Instruct-FR-Spec — вспомогательный репозиторий проекта FR-Spec от THUNLP со статистикой частот токенов, рассчитанной на корпусе SlimPajama-627B. Файл freq_32768.pt содержит список часто встречающихся токенов; README также сообщает, что config.json и pytorch_model.bin совпадают с файлами базовой модели Qwen2-7B-Instruct. Метаданные связывают репозиторий с Qwen2-7B-Instruct и EAGLE-Qwen2-7B-Instruct, указывают архитектуру Qwen2 для генерации текста и формат PyTorch. Однако описание и файлы указывают прежде всего на статистику токенов для FR-Spec, а не на самостоятельную модель для обычного пользовательского диалога. Лицензия — MIT. Указанный контекст — 2048 токенов.
MingZwhy/Qwen3-0.6B-W1.88-QAD — промежуточный чекпойнт на базе Qwen3-0.6B, подготовленный для этапа on-policy distillation в рецепте QAOPD. Он предназначен для использования как студенческая модель в дальнейшей тренировке, а не как готовая модель для обычной генерации текста. В репозитории сохранены bf16 мастер-веса; квантователь применяется во время прямого прохода обучения. Поэтому загрузка этих весов сама по себе не даёт W1.88-квантованную модель. В конфигурации обучения используется смешанное квантование весов INT1.58 и INT4 блоками по 256 элементов: 12,5% блоков обрабатываются в INT4, что соответствует эффективной разрядности 1,88 бита; эмбеддинги и выходная голова используют INT4, активации — INT8. Модель имеет архитектуру Qwen3ForCausalLM, около 507,9 млн параметров и контекст до 40 960 токенов. Базовая модель многоязычная; в метаданных нет списка конкретных языков. Лицензия — Apache-2.0.
Карточка модели HYU-NLP-EVAL/qwen3-1.7b-rar-medicine-static-r0-step-032 на Hugging Face совпадает с карточкой HYU-NLP-EVAL/qwen3-1.7b-rar-medicine-static-r0-step-000, поэтому описание составлено по ней. Это экспериментальный контрольный чекпойнт модели Qwen3-1.7B, созданный группой HYU-NLP-EVAL на основе Qwen/Qwen3-1.7B. Его обучали методом GRPO с фиксированной начальной рубрикой вознаграждения для эксперимента по изучению насыщения вознаграждения и устаревания статических рубрик; данный вариант относится к домену медицины и шагу 0. Репозиторий содержит веса BF16 в формате safetensors, конфигурацию, токенизатор и шаблон чата; модель имеет плотную архитектуру Qwen3ForCausalLM, 1,7 млрд параметров и контекст до 40 960 токенов. Чекпойнт предназначен для исследовательского анализа оптимизации языковой политики и сопоставления контрольных точек, а также поддерживает генерацию текста и диалоговый режим. Он не является медицинским устройством и не предназначен для постановки диагноза или замены профессиональной медицинской консультации. Лицензия — Apache-2.0.
Это экспериментальный чекпойнт преобразования Qwen3-4B в гибридную архитектуру Mamba-3 и полного внимания, созданный arianraje. Это исходная точка до обучения для дальнейшего выравнивания и дистилляции, а не готовая языковая модель: на этапе инициализации показатель perplexity на Wikitext-2 составляет около 253 000. Модель содержит около 4,74 млрд параметров и использует 27 слоёв Mamba-3 MIMO и 9 сохранённых слоёв полного внимания по шаблону u4. Контекст — до 40 960 токенов; вход и выход — текст. Чекпойнт предназначен для экспериментов с инициализацией гибридных архитектур и измерения начальных характеристик перед обучением. В README указаны английские обучающие данные Wikitext-2 и метрики дистилляции, но поддерживаемые естественные языки явно не перечислены. Лицензия — Apache-2.0. Для загрузки требуется Transformers с trust_remote_code=True; ускоренный вывод зависит от пользовательского Mamba-3 MIMO kernel, а резервная реализация заметно медленнее. В README нет результатов оценки по прикладным задачам или завершённой дистилляции, поэтому качество чекпойнта для обычной генерации текста не подтверждено.
Это плотная языковая модель Qwen3 с 3,7 млрд параметров, дообученная HYU-NLP-EVAL на базе Qwen/Qwen3-4B-Instruct-2507. Чекпойнт соответствует шагу 18 эксперимента RaR-Medicine OnlineRubrics-Every и предназначен для генерации текста в медицинском экспериментальном сценарии с онлайн-рубриками. Модель принимает текст и генерирует текст; архитектура — Qwen3ForCausalLM, формат весов — BF16. Метаданные указывают контекст до 262 144 токенов и поддержку диалогового режима. Данных о поддерживаемых естественных языках нет. Модель доступна по лицензии Apache-2.0.