II.10Разработка и эксплуатация AI/ML-систем
В разделе собраны самостоятельные задачи, где AI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
49 000 моделейOneFormer — модель компьютерного зрения из семейства OneFormer, разработанная авторами статьи «OneFormer: One Transformer to Rule Universal Image Segmentation». Этот чекпойнт обучен на наборе Cityscapes и использует крупный вариант Swin в качестве основы. Архитектура OneFormer применяет токен задачи, чтобы одним моделем выполнять семантическую, экземплярную и паноптическую сегментацию изображений. Модель предназначена для анализа городских сцен: она может классифицировать пиксели, выделять отдельные объекты и строить паноптическую разметку. Чекпойнт опубликован в формате PyTorch и распространяется по лицензии MIT. Его специализация на Cityscapes ограничивает переносимость на изображения иных типов; качество на таких данных может отличаться.
OpenBezoar-HH-RLHF-SFT — языковая модель Chandeepa Dissanayake, Lahiru Lowe, Sachith Gunasekara и Yasiru Ratnayake, дополнительно дообученная на инструкциях на базе OpenBezoar-SFT. Она построена на архитектуре Llama и содержит 3,3 млрд параметров; обучение проводилось в течение одной эпохи на первых 100 тыс. примеров датасета Anthropic HH-RLHF. Модель предназначена для генерации ответов на текстовые инструкции и была подготовлена, чтобы уменьшить сдвиг распределения перед последующим выравниванием предпочтений методом DPO. Для получения ответов на инструкции авторы рекомендуют модифицированный шаблон Alpaca. Модель работает с английским языком, имеет контекстное окно 2048 токенов и распространяется в форматах PyTorch и safetensors. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение. Следование инструкциям может быть непоследовательным; модель может зацикливаться или выдавать неподходящий, вредоносный и неотфильтрованный контент. Авторы не рекомендуют полагаться на неё в производственных сценариях; модель не выровнена по человеческим предпочтениям.
PGAM-WIT-Conversational-3B-PyTorch — разговорная языковая модель, разработанная Pinkstack и дообученная на базе Pinkstack/PGAM-WIT-Conversational-3B-vLLM. Модель построена на архитектуре Qwen2, содержит 3,1 млрд параметров и поддерживает контекст до 32 768 токенов. Репозиторий содержит веса PyTorch и Safetensors; модель рассчитана на генерацию текста в диалоговом формате и принимает английский язык. Автор сообщает, что модель обучалась на наборах Grok и UltraChat 200k и ведёт себя нестандартно; её предлагается использовать для дальнейшего дообучения или экспериментов. Лицензия — Apache-2.0. Указанное автором необычное поведение ограничивает её пригодность для надёжного применения без дополнительной проверки.
Prompt4Trust Calibration Guidance Prompt Generator — компактная языковая модель, дообученная Xing Shen и соавторами проекта Prompt4Trust на базе Qwen2.5-1.5B-Instruct. Она генерирует контекстно-зависимые вспомогательные подсказки, которые направляют мультимодальную модель для ответов на клинические вопросы и калибровки уверенности в ответах. В исследовании модель применялась для повышения надежности и качества на бенчмарке PMC-VQA и для переноса подсказок на более крупные MLLM в режиме zero-shot. Модель имеет плотную архитектуру Qwen2, содержит 1,5 млрд параметров и поддерживает контекст до 32 768 токенов. Репозиторий предоставляет веса в формате safetensors; для запуска README отсылает к документации Qwen и рекомендует vLLM для ускорения инференса. Метаданные указывают английский язык. Лицензия — MIT. Модель является генератором текстовых подсказок, а не самой мультимодальной системой, которая обрабатывает медицинские изображения.
Модель oopere/pruned60-llama-3.2-3b разработана Pere Martra на основе meta-llama/Llama-3.2-3B. Это плотная авторегрессионная модель семейства Llama для генерации текста с архитектурой LlamaForCausalLM. Структурное прореживание удалило 60% нейронов в MLP-слоях; число параметров сократилось примерно с 3,21 млрд до 1,94 млрд. Модель опубликована в формате Safetensors, поддерживает контекст до 131 072 токенов и унаследовала языковую поддержку исходной Llama 3.2. Чекпойнт предназначен прежде всего для дальнейшего дообучения под конкретные задачи в условиях ограниченных вычислительных ресурсов, а не для непосредственного применения. Прореживание снижает требования к памяти примерно на 40%, но сопровождается заметной потерей качества: в приведённых тестах особенно сильно ухудшились результаты на ARC-Easy и LAMBADA; также отмечены трудности с длинными зависимостями и связной генерацией. Модель исследовалась в рамках работы о структурном прореживании GLU-архитектур и может быть полезна для экспериментов с компактными языковыми моделями. Лицензия — Llama 3.2; использование регулируется её условиями.
PunjabiBERT — модель семейства BERT, разработанная L3Cube-Pune и предварительно обученная на общедоступных одноязычных корпусах пенджаби. Это плотный трансформер с 264,8 млн параметров и контекстом до 512 токенов, предназначенный для задачи fill-mask: модель предсказывает замаскированные токены в пенджабском тексте. Её можно использовать как основу для языковых экспериментов и последующей адаптации к прикладным задачам обработки пенджаби. Модель принимает текст и выдаёт текстовые предсказания для пропущенных фрагментов. Доступны веса PyTorch и Safetensors. Лицензия — CC BY 4.0; при использовании требуется соблюдать условия атрибуции. Карточка ссылается на исследовательскую работу о моделях L3Cube для индийских языков, но не приводит количественных результатов PunjabiBERT.
Pythia-1.4B-deduped-v0 — англоязычная авторегрессионная языковая модель EleutherAI для исследовательских экспериментов с поведением, функциональностью и ограничениями больших языковых моделей, включая исследования интерпретируемости. Модель построена на плотной архитектуре GPT-NeoX и содержит около 1,7 млрд параметров; она принимает текст и генерирует продолжение. Контекст — до 2048 токенов. Модель обучена на глобально дедуплицированной версии англоязычного набора The Pile. Для серии Pythia доступны промежуточные контрольные точки обучения, предназначенные для изучения изменений модели в ходе обучения. Модель подходит для контролируемых экспериментов и может служить основой для дальнейшего дообучения. Она не настроена на выполнение инструкций или диалоговое взаимодействие, поэтому не предназначена для непосредственного применения в чат-ботах и других пользовательских продуктах. Генерация может содержать фактические ошибки, предвзятость, оскорбительный или нежелательный текст; результаты требуют проверки человеком. Лицензия — Apache 2.0.
EleutherAI/pythia-70m-seed9 — базовая авторегрессионная языковая модель из серии PolyPythias, разработанной EleutherAI для систематического изучения стабильности и воспроизводимости обучения. Модель построена на плотной архитектуре GPT-NeoX, содержит 50,9 млн параметров и принимает последовательности длиной до 2048 токенов. Модель предварительно обучена предсказывать следующий токен на корпусе The Pile; вариант seed9 использует отдельное случайное зерно обучения. Она предназначена прежде всего для исследовательских экспериментов, воспроизведения обучения и сравнения влияния случайных зерен, а также для генерации продолжений английского текста. Это базовая, не настроенная на инструкции модель, поэтому она не рассчитана на диалоговое следование запросам. Модель обучалась преимущественно на английском тексте и не имеет фильтрации выходов; сгенерированный текст может быть предвзятым, оскорбительным или фактически неверным. Лицензия — Apache-2.0.
tiny-random/qwen3 — небольшая отладочная модель для генерации текста, созданная на основе конфигурации Qwen/Qwen3-32B. Репозиторий использует библиотеку Transformers и предназначен прежде всего для проверки загрузки, инференса и интеграций, а не для решения прикладных языковых задач. Модель имеет архитектуру causal language model с двумя скрытыми слоями, размером скрытого представления 64, промежуточным размером 128, двумя attention heads, одной key-value head и размером головы 32. Она поддерживает текстовую модальность и сценарии text generation, включая работу с chat template и режимами thinking/non-thinking. Токенизатор и generation configuration унаследованы от Qwen/Qwen3-32B; максимальный контекст в README не указан. Весовые параметры модели случайно инициализированы, поэтому она не предназначена для качественной генерации, содержательного диалога или надежного использования в production. Её сильная сторона — минимальный размер и пригодность для отладки совместимости кода и пайплайнов. Разработчик и лицензия в README явно не указаны; приведена лишь ссылка на исходную модель Qwen/Qwen3-32B.
MingZwhy подготовил начальный чекпойнт Qwen3-0.6B для экспериментов по дистилляции с учетом квантования (QAOPD), ветка W2.79. Это плотная авторегрессионная языковая модель семейства Qwen3 с примерно 507,9 млн параметров; в метаданных указаны библиотека Transformers и контекст 40 960 токенов. Несмотря на обозначение W2.79, сохранённые веса представлены в bf16 и не квантованы: при обучении квантователь применяется в прямом проходе, а файл содержит высокоточные мастер-веса. Поэтому при обычной загрузке получается неквантованная модель, а не готовый чекпойнт W2.79. Модель предназначена как стартовая точка для этапа on-policy distillation, где конфигурация квантователя задаётся отдельно. Для обычной загрузки и оценки автор README рекомендует восстановленный чекпойнт MingZwhy/Qwen3-0.6B-W2.79-QAOPD. Базовая модель — Qwen/Qwen3-0.6B; заявленная лицензия — Apache-2.0. Метаданные указывают поддержку диалогового режима и генерации текста, но README подчёркивает обучающее назначение этого чекпойнта, а не готовность к применению.
HYU-NLP-EVAL выпустила промежуточный чекпойнт RaR-Medicine — состояние политики после 39-го шага динамического обучения OnlineRubrics-Every методом GRPO с seed 11. Это плотная чат-модель Qwen3ForCausalLM на 3,7 млрд параметров, дообученная на базе Qwen/Qwen3-4B-Instruct-2507; для вывода доступны веса BF16 в формате safetensors, библиотека Transformers и контекст до 262 144 токенов. Режим thinking отключён. Чекпойнт предназначен для исследовательского аудита динамического обучения с рубриками в медицинском контексте и поддерживает генерацию текста в диалоговом формате. Авторы не заявляют о наличии специальных медицинских возможностей или гарантиях безопасности, а модель не проверена для клинических решений. Лицензия — Apache-2.0.
Это контрольная точка Qwen3-4B, подготовленная MingZwhy как исходная модель для обучения методом on-policy distillation с квантованием W1.88 (QAOPD). Она основана на Qwen/Qwen3-4B — плотной авторегрессионной языковой модели семейства Qwen3 примерно на 3,7 млрд параметров; для работы с ней используются Transformers и формат safetensors. Модель принимает текст и предназначена для дальнейшего обучения, а не для готового диалогового применения. В обучении применяется квантователь с эффективной разрядностью весов 1,88 бита: блоки весов смешивают INT1.58 и INT4, эмбеддинги и выходная голова используют INT4, а активации — INT8. При этом сохранённые тензоры остаются в bf16 и не квантованы: при прямой загрузке получится обычная высокоточная модель, а не W1.88-вариант. Для готовой к загрузке и оценке версии автор указывает отдельный чекпойнт Qwen3-4B-W1.88-QAOPD. Контекст составляет до 40 960 токенов. Лицензия — Apache-2.0.
Qwen3.5-2B-SpeedX — экспериментальная текстовая рекуррентная модель, созданная разработчиком j-llm на основе Qwen/Qwen3.5-2B. В исходной модели шесть слоёв полного внимания заменены на слои Gated DeltaNet, обученные дистилляцией; все 24 слоя получившейся архитектуры выполняют рекуррентное смешивание токенов. Модель содержит около 1,7 млрд параметров по метаданным и предназначена для генерации текста с рекуррентным состоянием фиксированного размера, без токенового KV-кэша. Модель рассчитана прежде всего на исследования рекуррентных языковых моделей, декодирования без KV-кэша и ускорения инференса. В тестах разработчика на NVIDIA L4 указана скорость около 61 токена/с в точном BF16-режиме и около 79 токенов/с в экспериментальном FP8-режиме; эти результаты зависят от специализированных CUDA и Triton оптимизаций и не гарантируются обычным путём загрузки Transformers. Чекпойнт включает только текстовый стек, без компонентов обработки изображений исходной модели. Короткая дистилляция не гарантирует сохранения рассуждений, фактических знаний, многоязычных и бенчмарк-возможностей исходной модели. Для загрузки используется пользовательский код из репозитория и требуется trust_remote_code=True. Лицензия — Apache-2.0; модель не является официальным выпуском Qwen.
Это авторегрессионная модель генерации текста семейства Qwen3, разработанная в рамках проекта Syne-Tune и обученная на траекториях методов чёрноящичной оптимизации для различных оптимизационных задач. Модель содержит 44,6 млн параметров, использует архитектуру Qwen3ForCausalLM и рассчитана на контекст до 4096 токенов. Модель предназначена для применения в сценариях чёрноящичной оптимизации: она может генерировать продолжения траекторий оптимизации на основе примеров из набора BBO-Pile. Для работы с ней авторы рекомендуют библиотеку Syne-Tune. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0.
RBabakyan/Qwen3-VL-4B-Instruct-Action-V2 — производная от Qwen/Qwen3-VL-4B-Instruct мультимодальная модель на архитектуре Qwen3-VL с 4 млрд параметров. Репозиторий содержит контрольную точку формата Transformers и расширенный токенизатор с токенами действий для GreenVLA и систем vision-language-action. Модель предназначена для использования как базовая зрительно-языковая контрольная точка перед подключением специализированных весов робототехнической политики. Она принимает текст и изображения, а дополнительные токены позволяют последующему стеку политик работать с представлением робототехнических действий. Лицензия в предоставленных данных не указана.
RoBERTa-es-mental-large — испаноязычная языковая модель для анализа текстов о психическом здоровье, разработанная группой ELiRF института VRAIN при Политехническом университете Валенсии. Это плотная модель RoBERTa-large с 454,1 млн параметров, дообученная на тематических текстах из Reddit, автоматически переведённых на испанский. Модель обучена предсказывать скрытые токены и принимает последовательности длиной до 514 токенов. Модель подходит для извлечения признаков и последующего дообучения на задачах выявления признаков психических расстройств, скрининга и классификации текстов на уровне пользователя или отдельного контекста. Она предназначена для исследовательского NLP в области психического здоровья и анализа публикаций в социальных сетях и сообществах поддержки. Для таких сценариев модель может учитывать тематическую лексику и контекст испаноязычных рассказов. Обучающие данные происходят из социальных сетей, поэтому возможны демографические, культурные и языковые смещения; машинный перевод мог внести смысловые искажения. Предсказания могут быть ненадёжны при недостатке контекста, модель не объясняет результаты и не предназначена для клинической диагностики, медицинских решений или автоматического вмешательства без надзора специалиста. Лицензия унаследована от PlanTL-GOB-ES/roberta-large-bne.
RVQ-AT — компактный токенизатор действий для робототехники, представленный проектом RDT 2. Он преобразует непрерывные управляющие траектории в короткие последовательности дискретных токенов действий, которые можно использовать в авторегрессионных моделях vision-language-action. Архитектура применяет остаточную векторную квантизацию с несколькими кодовыми книгами, последовательной квантизацией остатков и механизмами обновления кодовых книг через EMA и восстановления неиспользуемых кодов. Модель предназначена для сжатого представления траекторий манипуляции и управления роботом. Авторы сообщают о высокой точности реконструкции при заданном битрейте, коротких последовательностях токенов и обобщении на данные телеоперации. Токенизатор обучен на разнообразных данных UMI; для работы с пользовательскими данными предусмотрены API для обучения собственного токенизатора. Рекомендуется разбивать действия на окна около 0,8 секунды при частоте 30 кадров в секунду и нормировать каждую размерность действий в диапазон [-1, 1]. RVQ-AT — компонент представления действий, а не готовая система безопасного управления роботом. Перед применением на оборудовании нужны проверка sim-to-real, ограничения диапазонов и скорости действий, мониторинг задач и аварийная остановка; перед дообучением рекомендуется проверить статистики данных и ошибку реконструкции. Репозиторий распространяется по лицензии Apache-2.0.
RWKV-4 Pile 169M — авторегрессионная языковая модель семейства RWKV, разработанная BlinkDL и обученная на корпусе The Pile. Это компактная модель с 12 слоями и размерностью эмбеддингов 768; в карточке указан контекст 1024 токена и обучение на 332 млрд токенов. Модель продолжает текст по входному текстовому контексту. Модель подходит для экспериментов и базовой генерации текста, а также для оценки языковой модели на стандартных тестах. В README приведены результаты на Pile, LAMBADA, PIQA, SC2016 и HellaSwag. Это базовая модель, а не специализированный чат-ассистент; качество и способности ограничены её небольшим размером и обучением на английском корпусе. Репозиторий распространяется по лицензии Apache-2.0.
Карточка модели Alibaba-DAMO-Academy/RynnValue-4B на Hugging Face совпадает с карточкой Alibaba-DAMO-Academy/RynnValue-8B, поэтому описание составлено по ней. Карточка модели Alibaba-DAMO-Academy/RynnValue-8B на Hugging Face совпадает с карточкой Alibaba-DAMO-Academy/RynnValue-4B, поэтому описание составлено по ней. Карточка модели Alibaba-DAMO-Academy/RynnValue-4B на Hugging Face совпадает с карточкой Alibaba-DAMO-Academy/RynnValue-8B, поэтому описание составлено по ней. RynnValue-8B — модель Alibaba DAMO Academy для оценки прогресса в роботизированных манипуляциях. Это дообученная на базе RynnBrain-8B модель зрения и языка на архитектуре Qwen3-VL: она принимает видео робота и текстовую инструкцию, для каждого кадра оценивает оставшееся до завершения задачи время в секундах и формирует текстовый анализ траектории, включая соответствие видео инструкции и успешность выполнения. Модель предназначена для оценки прогресса и обнаружения неудач, ранжирования политик и использования в качестве сигнала вознаграждения или критика при обучении VLA-политик с подкреплением. Обучение использует временные метки из более чем 7 000 часов данных, поэтому для целевой разметки не требуются предпочтения или ручные оценки прогресса. В README приведён результат Kendall's τₐ 0,675 на RBM-EVAL-OOD и описано применение сигналов модели для улучшения роботизированных политик. Указанные целевые диапазоны оценки — от 0 до 512 секунд для абсолютного времени и от −256 до 256 секунд для относительного временного смещения; значения выдаются распределительными головами с последующим декодированием в секунды. Для использования нужны видео и инструкция, а встроенный анализ генерируется на естественном языке. Карточка указывает поддержку английского и китайского языков. Модель распространяется по лицензии Apache-2.0.
SAEVerbalizer-27B-i1-GGUF — GGUF-квантизированная версия модели SAEVerbalizer-27B, разработанной THU-KEG и квантованной пользователем mradermacher. Модель предназначена для задач text generation, анализа представлений и их вербализации в контексте mechanistic interpretability и sparse autoencoder. В карточке указана поддержка английского языка и библиотека Transformers. Также модель помечена как vision model, однако подробности о поддерживаемых визуальных входах не приведены. Модель имеет размер 27B параметров в базовой версии и распространяется в многочисленных вариантах GGUF-квантизации с размерами примерно от 6,4 до 22,3 ГБ. Доступны форматы IQ и Q, включая рекомендуемые варианты i1-Q4_K_M и i1-Q4_K_S, а также файл imatrix для самостоятельного создания квантов. Более компактные варианты требуют меньше памяти, но могут заметно уступать по качеству; для некоторых вариантов прямо указаны низкое качество или компромисс между скоростью, размером и качеством. Лицензия указана как gemma. В README не приведены сведения о размере контекстного окна, архитектуре базовой модели, точном наборе поддерживаемых модальностей, требованиях к оборудованию и результатах оценки, поэтому возможности модели следует проверять отдельно для конкретного варианта квантизации.
SatishNewsGenerator — дообученная Сатишем Маринени (MSatish04) причинная языковая модель на архитектуре Qwen2. Она генерирует короткие информативные тексты на английском языке в стиле человеческого автора или ИИ, преимущественно похожие на аннотации научных работ. Модель содержит около 3,1 млрд параметров, использует формат Safetensors и поддерживает контекст до 32 768 токенов. Модель дообучена методом SFT на Qwen/Qwen2.5-3B-Instruct с применением QLoRA; веса адаптера объединены с базовой моделью. Она предназначена для создания синтетических примеров текстов в двух стилях и экспериментов с дообучением компактных языковых моделей. Несмотря на название, модель не специализируется на новостных статьях и не является классификатором ИИ-текстов. Автор указывает, что тексты могут содержать вымышленные исследования, факты и статистику; тематические инструкции модель может выполнять ненадёжно. Формальной количественной оценки не проводилось. Лицензия обозначена как other; README сообщает о наследовании условий Qwen Research License и рекомендует проверить лицензию базовой модели перед использованием.
SciRM-Ref-7B-i1-GGUF — GGUF-квантизированная версия модели SciRM-Ref-7B, разработанной UKPLab и подготовленной к распространению mradermacher. Модель ориентирована на оценивание и улучшение научных текстов, включая задачи reward modeling, генерации текста, обучения с подкреплением и оптимизации GRPO. В основе указана модель размером 7B; конкретная архитектура, размер контекстного окна и поддерживаемые модальности в README не раскрыты. Заявлен английский язык. Доступны многочисленные варианты квантизации GGUF с размерами примерно от 2,0 до 6,4 ГБ, что позволяет выбирать баланс между требованиями к памяти, скоростью и качеством. Для большинства сценариев автор рекомендует варианты IQ4_XS или Q4_K_M, при этом низкобитные варианты могут заметно уступать по качеству. Модель предназначена прежде всего для локального использования в совместимых инструментах, поддерживающих формат GGUF, и для экспериментов с оценкой научного письма и обучением моделей. Она не описана как универсальная диалоговая или мультимодальная модель, а ограничения по контексту и количественные результаты оценки в README отсутствуют. Лицензия — Apache-2.0.
ash12321 разработал SeeDream 4.5 Specialist — специализированный классификатор изображений на базе Vision Transformer ViT-base-patch16-224. Он отличает изображения, созданные SeeDream 4.5, от остальных. В модели около 113,2 млн параметров; при дообучении размораживались последний слой и классификатор, а основная часть базовых признаков оставалась замороженной. README сообщает о тестовой точности 100% на наборе из 40 изображений; этот результат относится к указанному небольшому тестовому набору. Модель предназначена для проверки изображений на генерацию SeeDream 4.5 и может использоваться как один из специализированных детекторов в ансамбле. Она принимает изображение и выдаёт класс, указывающий на принадлежность к целевому генератору. Обучение проводилось на изображениях SeeDream 4.5 и WikiArt; заявлена поддержка Test-Time Augmentation. Детектор не предназначен для выявления изображений от других генераторов или синтетических изображений общего вида. Лицензия — MIT.
SERENGETI-E110 — предварительно обученная мультиязычная языковая модель семейства ELECTRA, разработанная UBC-NLP для языков Африки. Вариант содержит 197,7 млн параметров, принимает текст и поддерживает контекст до 512 токенов. В карточке модели указан сценарий заполнения пропусков в тексте: модель предсказывает замаскированные токены. SERENGETI входит в набор моделей, охватывающий 517 африканских языков и языковых разновидностей. Авторы оценивают набор на задачах понимания естественного языка и сообщают о результатах на ряде датасетов; также модель может служить основой для дообучения под задачи этих языков. Лицензия в предоставленных данных не указана.
asinha08/slm-125m-base — базовая языковая модель, разработанная автором репозитория и обученная с нуля. Это плотная decoder-only causal LM семейства Llama с 125,8 млн параметров, реализованная для Transformers и доступная в формате safetensors. Модель предсказывает продолжение текста; она не настроена на выполнение инструкций и не является чат-ассистентом. Модель предназначена для экспериментов с предобучением небольших языковых моделей, языкового моделирования юридических текстов, дообучения, оценки и генерации продолжений. Англоязычный обучающий корпус преимущественно состоит из судебных решений и документов SEC, с дополнительными образовательными веб-текстами. Контекст составляет 1 024 токена. Лицензия указана как other; условия лицензий исходных датасетов следует проверять отдельно. Небольшой размер и отсутствие настройки на инструкции ограничивают качество ответов и применение вне обучающего распределения. В карточке приведена только внутренняя оценка perplexity, без результатов бенчмарков юридических задач. Модель может выдумывать факты и ссылки, поэтому её не следует использовать для юридических консультаций или решений с высокими последствиями без тщательной проверки.
SOLE-R1-8B — видеоязыковая модель рассуждений о прогрессе роботизированных задач, представленная Philip Schroeder и соавторами вместе с исследованием «SOLE-R1: Video-Language Reasoning as the Sole Reward for On-Robot RL». Она принимает описание задачи на естественном языке и визуальные наблюдения с нескольких временных шагов, включая кадры с внешних и установленных на запястье камер, и выдаёт текстовое объяснение прогресса и численную оценку в процентах. Модель предназначена для оценки выполнения задач роботом и формирования плотного сигнала вознаграждения для онлайн-обучения с подкреплением, в частности когда вручную заданные функции вознаграждения недоступны. Обучение включало примеры прогресса роботизированных задач и данные для пространственных и временных рассуждений по нескольким кадрам. В метаданных указаны архитектура Qwen3-VL, плотная условно-генерирующая модель и формат safetensors. Лицензия — MIT.
Songgot-L — компактная корейско-ориентированная языковая модель для вызова инструментов на устройстве, разработанная с нуля Hanish Keloth из Palette. Модель предназначена для локальных и автономных сценариев, включая выбор функции и извлечение её аргументов из пользовательского запроса. Она работает в браузере и может использоваться офлайн после первой загрузки. Модель содержит около 303 млн параметров, 24 слоя и скрытое представление размером 1024. Она обучалась на 12 млрд токенов, включая корейскую Wikipedia, fineweb-edu и данные для function calling; около 5% обучающей смеси составили строки с вызовами инструментов. Поддерживаются корейский и английский языки. Используется токенизатор SentencePiece BPE на 32 тыс. токенов с byte fallback. Модель принимает текст и генерирует структурированный вызов функции в заданном формате; сведения о длине контекста в README не указаны. На наборе Kakao FunctionChat-Bench SingleCall модель показала точность 29,4% при полном совпадении имени функции и аргументов и 75% при оценке только имени функции. К сильным сторонам относятся небольшой размер, возможность локального запуска и ориентация на корейские запросы. Ограничения существенны: модель предназначена только для однократного выбора инструмента и извлечения аргументов, не поддерживает многошаговые диалоги, обработку результатов инструментов и свободный чат. Для редких инструментов и перефразированных значений возможны ошибки, поэтому каждый вызов необходимо проверять в коде приложения. Модель распространяется по лицензии Apache 2.0.
Filtered — Base (1.7B) — базовая предобученная языковая модель, разработанная model-raising и обученная с нуля на архитектуре SmolLM2-1.7B. Во время предобучения функция потерь маскировалась на документах, помеченных аннотаторами безопасности как небезопасные. Модель использует исходный токенизатор SmolLM2 с словарём из 49 152 токенов; обучение проводилось примерно на 100 млрд токенов из подмножества смеси Olmo 3 Dolma 3. Модель предназначена для исследований выравнивания и безопасности, анализа поведения базовых языковых моделей, продолжения текста и дальнейшего дообучения. Она имеет 1,7 млрд параметров и контекст 2048 токенов. Опубликованы промежуточные контрольные точки обучения, пригодные для оценки, исследования и дообучения; состояния оптимизатора и генератора случайных чисел отсутствуют, поэтому точное возобновление исходного обучения невозможно. Модель не настроена на следование инструкциям и не содержит шаблона чата, поэтому может выдавать неверный или небезопасный контент. Лицензия в README обозначена как подлежащая уточнению, а в метаданных указана как other.
Stentor2-12M-Preview — компактная базовая языковая модель семейства Stentor2, разработанная StentorLabs и обученная с нуля. Это плотная авторегрессионная архитектура LlamaForCausalLM с 12,3 млн параметров; модель предсказывает следующий токен и не является чат-ассистентом. Она предназначена для исследований и прототипирования, в частности для изучения динамики обучения трансформеров, эффективности токенизации и экспериментов со спекулятивным декодированием и развёртыванием на устройствах с ограниченными ресурсами. Модель обучалась на FineWeb-Edu с последовательностями длиной 1 024 токена и рассчитана на английский язык. В README описаны компактный словарь TokenMonster примерно на 8 000 токенов и рецептура обучения с INT8 QAT для ряда линейных слоёв и FP32 для критических слоёв и нормализаций. Репозиторий использует safetensors и библиотеку Transformers; лицензия — Apache-2.0. Качество предварительное: модель не настроена на инструкции, не имеет фильтров безопасности и обладает ограниченными знаниями о мире. Она может выдавать несвязные или недостоверные ответы, плохо работает с неанглийским текстом, а контексты длиннее 1 024 токенов не проверены. Для загрузки требуется совместимый адаптер TokenMonster; стандартный аргумент skip_special_tokens при декодировании не поддерживается.
Это исследовательский чекпойнт на базе диалоговой Llama 2 7B Chat от Meta, подготовленный авторами исследования сжатия и безопасности моделей. Веса сжаты методом Basis Sharing: общие базисы используются для пар соседних слоёв, что сокращает число параметров на 50%; затем применено 6 из 10 раундов перестановок параметров по правилу swapgapnet_iter. Модель содержит 6,6 млрд параметров, принимает текст и генерирует текст, поддерживает диалог, а контекст составляет до 4096 токенов. Чекпойнт предназначен для экспериментов по измерению того, как сжатие влияет на безопасность ответов и как перестановка параметров может восстановить отдельные свойства. README приводит результаты на AdvBench, StrongREJECT и WildGuard и предупреждает, что сжатие может повышать успешность атак; модель не рекомендуется как универсальный чат-ассистент или для развёртывания без собственной оценки. Лицензия — Llama 2 Community License.