II.10Разработка и эксплуатация AI/ML-систем

nassimjp выпустил вариант MiniCPM5-2B с изменённым токенизатором для более эффективной обработки символов пушту и урду. В словарь добавлены 46 символов, которые прежде разбивались на несколько токенов; теперь все 66 проверенных символов пушту и урду кодируются одним токеном. Это плотная авторегрессионная модель семейства Llama с 2,2 млрд параметров, контекстом до 131 072 токенов и форматом весов safetensors, предназначенная для генерации текста и диалогового использования. Модель основана на openbmb/MiniCPM5-2B и работает через Transformers. Новые входные и выходные эмбеддинги инициализированы независимо; дообучение на данных пушту или урду не проводилось. Поэтому изменение улучшает токенизацию этих письменностей, но само по себе не обучает модель понимать или генерировать пушту и урду. Лицензия — Apache-2.0.

zhoumiaosen/minimind-64m-sft — небольшая китайско-ориентированная языковая модель для диалоговой генерации текста, разработанная как учебный эксперимент по тонкой настройке MiniMind. Это плотная decoder-only модель с 63,9 млн параметров, экспортированная в совместимом формате Qwen3ForCausalLM. Она дообучена один эпохой на диалоговом наборе jingyaogong/minimind_dataset; базовая модель MiniMind была обучена с нуля, а не взята из предварительно обученных весов Qwen. Контекст модели — до 32 768 токенов. Модель предназначена для экспериментов с инференсом, исследования обучения малых моделей и дальнейшей тонкой настройки. Она генерирует разговорный текст, преимущественно на китайском языке; карточка не подтверждает качество генерации на английском. В примерах встречаются фактические ошибки, повторы и некорректный код, поэтому ответы и программные фрагменты требуют проверки. Стандартизованная оценка качества и тестирование поведения на длинном контексте не проводились. Модель распространяется по лицензии Apache-2.0.

modern-llm V1 base — англоязычная предобученная авторегрессионная модель, разработанная John Enev и обученная с нуля на PyTorch. Это decoder-only Transformer на 353,5 млн параметров с 24 слоями и размерностью скрытого состояния 1024; модель использует токенизатор GPT-2 и контекст длиной 1024 токена. Модель предназначена для продолжения текста на английском языке и экспериментов с базовыми языковыми моделями. Она обучена на 10 млрд токенов набора FineWeb-Edu и не настроена на выполнение инструкций: её не следует рассматривать как чат-бота для ответов на вопросы или выполнения команд. Веса опубликованы в формате safetensors по лицензии Apache-2.0. Модель демонстрирует связное продолжение англоязычного текста, но может выдавать фактически неверные или повторяющиеся фрагменты; для диалогового применения в карточке рекомендуются отдельные версии SFT или GRPO.

MolmoAct2-LIBERO-LeRobot — чекпойнт политики управления роботом от Allen Institute for AI (Ai2), сохранённый в формате LeRobot. Он дообучен на 10 тысяч шагов от allenai/MolmoAct2-LIBERO на наборе allenai/MolmoAct2-LIBERO-Dataset и предназначен для выполнения задач бенчмарка LIBERO и дальнейшей адаптации к близким робототехническим сценариям. Модель принимает мног ракурсные RGB-изображения, состояние робота и текстовую инструкцию, а выдаёт непрерывные действия робота. В обучении используются flow matching и потери по дискретным токенам действий; размер пакета составлял 32 на GPU при обучении на восьми H100. Для контрольных задач LIBERO используется горизонт действий из 10 шагов. В README приведены результаты 98,4% для Spatial, 100% для Object и 98% для Goal. Чекпойнт предназначен для оценки и дообучения через LeRobot, включая восстановление конфигурации политики, весов, процессоров и статистик нормализации. Он опубликован под лицензией Apache-2.0. Настройки и метрики относятся к LIBERO; для другой робототехнической платформы, системы управления или расположения камер потребуется отдельная конфигурация. Максимальная размерность действия у выпущенных чекпойнтов MolmoAct2 — 32, с маскированием дополненных размерностей в flow loss.

xpuenabler разработал MolmoAct2-LIBERO-LP-VTP-SD — сжатую VLA-модель для управления роботом в задачах LIBERO, опубликованную в формате LeRobot. В чекпойнте совместно применены обрезка слоёв, сокращение визуальных токенов и уменьшение числа шагов вывода; модель дообучена на базе xpuenabler/MolmoAct2-LIBERO-ViT10L. Веса представлены в формате safetensors. Модель принимает изображения, состояние робота и текстовые инструкции и предсказывает действия. На указанной в README оценке по четырём наборам LIBERO точность составила 47,2% при двух шагах декодирования — заметно ниже результатов отдельных методов сжатия. На оборудовании B200 указана задержка около 94 мс на решение при пакетном размере 1; работа Grid Sampler требует режима single-crop с изменением размера изображения. Условия лицензии в предоставленных данных не описаны.

Это набор из трёх небольших классификаторов эмоций и правила позднего объединения их оценок, подготовленный Pearlyjam21 для приложения робота Reachy Mini Wireless. Компоненты работают на CPU через ONNX Runtime и рассчитаны на Raspberry Pi CM4: распознают выражение лица, эмоцию по голосу и эмоцию в тексте на традиционном китайском. Выход объединённой классификации — семь классов: нейтральность, радость, грусть, злость, удивление, страх и отвращение. Голосовая модель — дистиллированный компактный ECAPA-TDNN с 1,9 млн параметров; изображение лица обрабатывается ветвью MobileNetV3-Large, а для поиска лица используется YuNet. Текстовая ветвь поставляется в приложении отдельно и здесь не хранится. Оценки ветвей объединяются взвешенным логарифмическим пулом, причём отсутствующая ветвь исключается из расчёта. Результаты отдельных компонент заметно зависят от данных: качество распознавания лица на реальных снимках ниже, чем на тестовом наборе постановочных изображений, а на естественных диалогах голосовая и объединённая классификация близки к случайному уровню. Спокойная речь часто принимается за грусть, а ошибки распознавания речи могут изменить смысл текста. Поэтому выход следует использовать как мягкий социальный сигнал, а не как измерение эмоционального состояния. Лицензия указана как other; распознавание речи загружается приложением отдельно и имеет собственную лицензию.

Модель Михаła Млодawski — дообученная версия MobileViTV2 для классификации изображений глаз на открытые и закрытые. Она принимает изображение и выдаёт один из двух классов: «закрытые глаза» или «открытые глаза». В метаданных указаны архитектура MobileViTV2, реализация для классификации изображений и форматы PyTorch и Safetensors; в README заявлена точность 99%, но набор оценки и условия измерения не описаны. Модель подходит для определения закрытых глаз в системах мониторинга утомлённости водителя, анализа фотографий и видео, а также других приложениях, которым нужна такая классификация. README также перечисляет мониторинг внимания и медицинские сценарии, однако результаты не следует использовать как единственное основание для решений в критически важных ситуациях. Базовая модель — apple/mobilevitv2-1.0-imagenet1k-256; дообучение выполнено на наборе MichalMlodawski/closed-open-eyes. Лицензия CC BY-NC-ND 4.0 ограничивает коммерческое использование и распространение производных материалов согласно её условиям.

OpenWAM-Alpha-Sim-RoboTwin-Clean2Random — робототехническая модель OpenWAM, дообученная для сценария Clean2Random из RoboTwin 2.0. Она построена на видеобэкбоне Wan2.2-TI2V-5B с родным энкодером Wan-VAE и использует архитектуру Dual-System Joint Self-Attention с маской взаимного внимания. Предварительное обучение проводилось на 518,5 млн кадров, около 6 400 часов данных: 70% робототехнических данных, включая реальные и симуляционные, и 30% видео от первого лица с участием людей. Модель предназначена для робототехнических задач в симуляции, в частности для проверки поведения при переносе из чистых обучающих сцен в сцены со случайно изменённым окружением. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

FreeFlow-L · sintel — модель для оценки плотного оптического потока между двумя RGB-изображениями одинакового размера. В README указано 230 721 029 параметров; архитектура относится к семейству flow, тип dense, библиотека — PyTorch, веса доступны в формате safetensors. Модель принимает пару изображений в тензоре формы [B,2,3,H,W] со значениями от 0 до 255 и оценивает перемещение пикселей между кадрами. Модель дообучена на основе a-yakovenko/optical-flow-FreeFlow-L-TaTSKH-HQ и предназначена для сценариев, где нужно анализировать движение в паре изображений, например в видеопоследовательностях или исследовательских экспериментах с оптическим потоком. Карточка не приводит контекстное окно или сведения о специализированных доменах. Лицензия — CC BY-NC-SA 4.0, поэтому коммерческое использование ограничено её условиями.

MEMFOF-Tartan-T-TSKH-sintel — чекпойнт метода MEMFOF для оценки оптического потока, опубликованный egorchistov. Метод предназначен для определения перемещений между кадрами видео и сочетает высокую точность с низким потреблением видеопамяти; автор указывает поддержку видео Full HD. Этот вариант чекпойнта предназначен для подачи результатов на бенчмарк Sintel. Модель принимает изображения и выдаёт преобразованное представление в виде оптического потока. В метаданных указаны PyTorch и формат весов safetensors; базовая модель — egorchistov/optical-flow-MEMFOF-Tartan-T-TSKH. Репозиторий распространяется по лицензии BSD 3-Clause. Карточка не сообщает подробностей об архитектуре, размере модели или поддерживаемых языках; языковой тег en не указывает на задачу обработки естественного языка.

Parc-Pythia (Seed 5) — англоязычная авторегрессионная языковая модель, разработанная James Michaelov в составе серии Parc. Это плотный трансформер GPT-NeoX на 151,9 млн параметров, дообученный на базе EleutherAI/pythia-160m; контекст модели составляет 2048 токенов. Серия Parc обучалась на 2 млрд токенов OpenWebText и создана для анализа динамики обучения и сравнения архитектур при одинаковых данных и шагах обучения. Модель генерирует продолжение текста и предназначена прежде всего для исследовательских экспериментов с языковыми моделями, включая изучение влияния случайного seed и оценку на языковых бенчмарках. Она не прошла инструкционную настройку и не рекомендуется для развертывания: качество и достоверность ответов не гарантированы, а данные OpenWebText недостаточно документированы, поэтому модель может воспроизводить вредный или оскорбительный текст. Лицензия — Apache 2.0.

Phi 2 Persona-Chat — языковая модель на архитектуре Phi-2, созданная nazlicanto и дообученная методом LoRA на наборе nazlicanto/persona-based-chat. Набор содержит более 64 тысяч диалогов между двумя персонами с заданными фактами о них; при обучении целевыми ответами служили ответы reference. Репозиторий содержит веса в формате safetensors, а базовая модель использует контекст до 2048 токенов. Модель предназначена для генерации ответов в диалоге с учётом заданной персоны. Для работы рекомендуется включать в запрос факты о персоне и как минимум один предыдущий ход диалога. Поддерживаемый язык — английский. Лицензия — MIT. Для запуска базовой Phi-2 требуется включить trust_remote_code=True. Результаты зависят от полноты фактов о персоне и контекста диалога; README не приводит оценки качества.

PygmalionAI разработала Pygmalion-350M как экспериментальную дообученную модель Facebook OPT-350M для диалогов. Это плотная авторегрессионная языковая модель на 454,1 млн параметров с контекстом до 2048 токенов; модель принимает текст и генерирует текст на английском языке. Её задумывали как proof of concept и промежуточный шаг к диалоговым моделям большего размера. Модель подходит для простых диалогов и экспериментов с разговорной генерацией. Дообучение выполнено библиотекой ColossalAI на небольшом наборе диалоговых данных; карточка сообщает, что в обучении использовались материалы для взрослых. Поэтому модель не предназначена для несовершеннолетних, а содержание ответов может быть небезопасным или взрослым. Лицензия в предоставленных данных не указана.

Pythia-12B-deduped — англоязычная авторегрессионная языковая модель EleutherAI на архитектуре GPT-NeoX, обученная на глобально дедуплицированной версии датасета The Pile. В каталоге указано 15,4 млрд параметров, контекст — 2048 токенов; модель доступна в формате PyTorch и работает с библиотекой Transformers. Модель создана прежде всего для научных экспериментов над поведением, возможностями и ограничениями больших языковых моделей, включая исследования интерпретируемости. Она генерирует продолжение заданного текста и предоставляет серию промежуточных контрольных точек для изучения динамики обучения. По лицензии Apache 2.0 веса можно дообучать и адаптировать. Это базовая, не настроенная на следование инструкциям модель: она не предназначена для непосредственного развертывания или диалоговых продуктов и может выдавать фактически неверный, оскорбительный или нежелательный текст. Она рассчитана на английский язык и не подходит для генерации на других языках или перевода. Датасет обучения содержит предвзятости и потенциально оскорбительные материалы; перед использованием результатов нужна оценка рисков и проверка человеком.

EleutherAI/pythia-160m-seed5 — базовая авторегрессионная языковая модель из набора PolyPythias, разработанного EleutherAI для изучения устойчивости обучения и воспроизводимости результатов. Это вариант Pythia-160m с отдельным случайным seed обучения; модели набора обучались на корпусе The Pile с разными порядками данных. Модель построена на архитектуре GPT-NeoX и содержит 151,9 млн параметров; контекст — 2048 токенов. Модель предназначена для продолжения текста и исследовательских экспериментов с предобученными языковыми моделями, в том числе сравнений между запусками обучения. Она обучалась преимущественно на английском языке, не настроена на выполнение инструкций и может генерировать предвзятый, оскорбительный или фактически неверный текст. Разработчик не рекомендует использовать её в производственных системах. Лицензия — Apache-2.0.

EleutherAI/pythia-31m-seed1 — языковая модель семейства PolyPythias, разработанная EleutherAI для исследования устойчивости обучения и воспроизводимости результатов. Это вариант Pythia-31M с отдельным случайным seed; в README указано 31 млн параметров, а метаданные каталога содержат оценку 19,2 млн параметров. Модель построена на архитектуре GPT-NeoX и обучена предсказывать следующий токен. Модель предназначена для генерации продолжения английского текста и исследовательских экспериментов по обучению языковых моделей. Она обучалась на The Pile с заданным порядком данных; для семейства доступны промежуточные контрольные точки, позволяющие сравнивать этапы обучения. Контекст составляет 2048 токенов, формат весов — PyTorch, библиотека — Transformers. Модель не настроена на выполнение инструкций, поэтому не следует ожидать поведения чат-ассистента. Она обучена преимущественно на английских интернет-текстах, может выдавать предвзятые, оскорбительные или фактически неверные ответы и не фильтрует результаты. Лицензия — Apache-2.0; README указывает исследовательское назначение и не рекомендует развёртывание в production-системах.

Pythia-6.9B — авторегрессионная языковая модель на базе Transformer, разработанная EleutherAI как часть набора Pythia для контролируемых научных исследований поведения, возможностей и ограничений больших языковых моделей. Вариант 6.9B содержит около 8,8 млрд параметров, использует архитектуру GPT-NeoX и обучен на англоязычном корпусе The Pile. Доступны многочисленные промежуточные контрольные точки, позволяющие изучать изменения модели в ходе обучения. Модель предназначена прежде всего для экспериментов по интерпретируемости и сравнительного анализа языковых моделей; она продолжает текст по входному тексту и поддерживает контекст до 2048 токенов. Pythia не проходила инструкционную настройку для диалоговых или прикладных сценариев, поэтому не рассчитана на прямое взаимодействие с пользователями и может выдавать неточный, оскорбительный или предвзятый текст. Лицензия Apache 2.0 разрешает дообучение и адаптацию при соблюдении её условий.

Это мультимодальная модель Qwen2.5-VL-3B, разработанная на базе Qwen/Qwen2.5-VL-3B-Instruct и полностью дообученная на наборе MLLMU-Bench. Она предназначена как исходная контрольная точка для экспериментов по машинному забыванию: модель усвоила вымышленные биографические сведения о 500 людях из бенчмарка, чтобы исследователи могли оценивать методы их удаления. Модель принимает изображения вместе с текстовыми вопросами и формирует текстовые ответы; архитектура включает языковую модель, зрительный модуль ViT и объединяющий модуль. Размер — 3,1 млрд параметров, контекст — до 128 000 токенов. В бенчмарке дообучение повысило точность ответов о профилях forget_5 и retain_95, но ухудшило ответы о реальных знаменитостях относительно базовой модели. Модель уверенно сообщает вымышленные биографические факты по изображениям, поэтому она подходит для исследования машинного забывания, а не для идентификации людей или достоверных биографических ответов. Результаты получены на одном запуске и одном чекпойнте. Лицензия — Qwen Research License базовой модели.

Qwen3-0.6B OpenR1-Math SFT S1 — исследовательский чекпойнт, опубликованный для воспроизводимости и аудита эксперимента. Его разработчик выполнил один цикл полного дообучения Qwen/Qwen3-0.6B-Base методом supervised fine-tuning на детерминированно отфильтрованном наборе OpenR1-Math; модель содержит около 508 млн параметров и использует плотную архитектуру Qwen3. Это причинная языковая модель для генерации текста, рассчитанная на контекст до 32 768 токенов. Чекпойнт предназначен для исследований дообучения небольших моделей, анализа данных и ошибок, поведения длины генерации и воспроизводимых сравнений с базовой моделью. В указанной оценке улучшились соответствие обучающему распределению и результат GSM8K, однако макрооценка по 59 задачам снизилась. Короткий тест MATH-500 был сильно ограничен длиной генерации, а полный запуск остановили до завершения, поэтому он не подтверждает математические способности модели. Это экспериментальный чекпойнт, а не универсальный ассистент; математические ответы требуют независимой проверки. Модель распространяется по лицензии Apache-2.0. В конфигурации генерации EOS отличается от токена EOS базовой модели; некоторые движки могут игнорировать сохранённую конфигурацию, поэтому для ограниченной генерации нужно явно задавать стоп-токены или строки и максимальную длину ответа.

Это экспериментальный контрольный чекпойнт модели Qwen3-1.7B, созданный группой HYU-NLP-EVAL на основе Qwen/Qwen3-1.7B. Его обучали методом GRPO с фиксированной начальной рубрикой вознаграждения для эксперимента по изучению насыщения вознаграждения и устаревания статических рубрик; данный вариант относится к домену медицины и шагу 0. Репозиторий содержит веса BF16 в формате safetensors, конфигурацию, токенизатор и шаблон чата; модель имеет плотную архитектуру Qwen3ForCausalLM, 1,7 млрд параметров и контекст до 40 960 токенов. Чекпойнт предназначен для исследовательского анализа оптимизации языковой политики и сопоставления контрольных точек, а также поддерживает генерацию текста и диалоговый режим. Он не является медицинским устройством и не предназначен для постановки диагноза или замены профессиональной медицинской консультации. Лицензия — Apache-2.0.

Карточка модели HYU-NLP-EVAL/qwen3-1.7b-rar-medicine-static-r0-step-024 на Hugging Face совпадает с карточкой HYU-NLP-EVAL/qwen3-1.7b-rar-medicine-static-r0-step-000, поэтому описание составлено по ней. Это экспериментальный контрольный чекпойнт модели Qwen3-1.7B, созданный группой HYU-NLP-EVAL на основе Qwen/Qwen3-1.7B. Его обучали методом GRPO с фиксированной начальной рубрикой вознаграждения для эксперимента по изучению насыщения вознаграждения и устаревания статических рубрик; данный вариант относится к домену медицины и шагу 0. Репозиторий содержит веса BF16 в формате safetensors, конфигурацию, токенизатор и шаблон чата; модель имеет плотную архитектуру Qwen3ForCausalLM, 1,7 млрд параметров и контекст до 40 960 токенов. Чекпойнт предназначен для исследовательского анализа оптимизации языковой политики и сопоставления контрольных точек, а также поддерживает генерацию текста и диалоговый режим. Он не является медицинским устройством и не предназначен для постановки диагноза или замены профессиональной медицинской консультации. Лицензия — Apache-2.0.

Qwen3-32B-Dense-3B-D2D — плотная языковая модель, созданная исследователями как студенческая версия Qwen/Qwen3-32B методом pruning и дистилляции. Она входит в эксперименты по переносу Mixture-of-Experts в плотные модели и служит базовой линией для сравнения сжатия плотной модели при одинаковом бюджете обучения. В README указано 3,44 млрд параметров, а в метаданных — 2,6 млрд; контекст модели составляет 40 960 токенов. Модель принимает текст и генерирует текст; карточка отмечает поддержку диалогового режима, но модель не проходила instruction tuning или выравнивание. Модель предназначена для воспроизведения экспериментов и сравнения методов pruning и дистилляции, а не для использования как готовый ассистент. Обучение дистилляции использовало около 4 млрд токенов FineWeb-Edu. Авторы предупреждают, что качество существенно ниже качества учителя и предварительно обученных моделей сопоставимого размера. Лицензия — Apache-2.0.

Это экспериментальный чекпойнт Qwen3-4B, созданный HYU-NLP-EVAL на основе Qwen/Qwen3-4B-Instruct-2507. Модель прошла три шага полносвязного обучения с подкреплением по статическим рубрикам: для каждого из 256 обучающих запросов HealthBench использовалась закреплённая за ним рубрика. Веса сохранены в BF16 и формате safetensors; архитектура — плотная причинная языковая модель Qwen3 с 3,7 млрд параметров и контекстом до 262 144 токенов. Чекпойнт предназначен для изучения того, как устаревание прокси-рубрик влияет на оптимизацию политики в медицинских диалогах. Он принимает текст и генерирует текст. Результаты обучения по статической рубрике не подтверждают улучшение качества по независимым критериям HealthBench. Модель не является медицинским устройством и не заменяет консультацию специалиста. Лицензия — Apache-2.0.

Qwen3-4B INT8-ConvRot — это квантованная версия языковой модели Qwen3-4B, подготовленная Martin Rizzo для использования в качестве текстового энкодера модели генерации изображений Z-Image в ComfyUI и других приложениях для генерации изображений. Модель преобразована из оригинального чекпойнта Qwen/Qwen3-4B с помощью утилиты z2comfy. Модель содержит около 4 млрд параметров, включая 3,6 млрд параметров без учёта embedding-слоёв, и 36 слоёв. Её нативная длина контекста составляет 32 768 токенов. Основные веса представлены в формате INT8, а отдельные слои используют смешанную точность FP16; файл также содержит параметры масштабирования в FP32. Метод ConvRot, основанный на ротации свёрток или активаций, предназначен для уменьшения влияния выбросов перед квантованием и снижения потребления видеопамяти при сохранении качества понимания промптов, близкого к исходным весам FP16. Модель ориентирована прежде всего на кодирование текстовых промптов для пайплайнов Z-Image в ComfyUI, а не на самостоятельное использование как универсальной чат-модели. Преимуществами являются уменьшенный объём памяти по сравнению с FP16-версией и поддержка длинного контекста. Ограничения связаны с узкой специализацией на роли текстового энкодера, экспериментальным характером процесса конвертации и возможными проблемами утилиты z2comfy. Языки и точные требования к аппаратному обеспечению в README не указаны. Модель распространяется по лицензии Apache-2.0.

Qwen3.5-0.8B FlyFFN-v2 — экспериментальный чекпойнт, созданный в рамках исследовательского проекта TinyCeNN-LM авторами, указанными в карточке проекта. Он основан на Qwen/Qwen3.5-0.8B: часть блоков FFN заменена на разреженные модули ProgressiveFlySwiGLU / FlyFFN-v2 с маршрутизацией по графу, а блоки смешивания токенов Gated DeltaNet и full attention оставлены без изменений. В конфигурации из README 18 слоёв используют FlyFFN-v2, а каждый четвёртый FFN сохранён как плотный опорный слой. Модель предназначена для генерации текста и диалогов, а также для исследований архитектуры разреженных FFN, абляций и воспроизводимости экспериментов. Размер указан в метаданных как 581,4 млн параметров, нативный контекст — 262 144 токена; модель использует библиотеку Transformers и формат PyTorch. Карточка указывает английский и немецкий языки. Для загрузки нужны предоставленные в репозитории пользовательские модули и standalone loader: обычная загрузка через AutoModelForCausalLM.from_pretrained() не подходит. Автор характеризует чекпойнт как экспериментальный и не предназначенный для производственного использования или прямой замены исходной Qwen3.5. Лицензия репозитория — Apache-2.0; README также просит учитывать лицензию и условия использования базовой модели Qwen3.5.

Qwen3.5-2B-CyberSec — англоязычная модель семейства Qwen3.5, дообученная на инструкциях по кибербезопасности и выпущенная в формате Transformers с весами Safetensors. Базовая модель — unsloth/Qwen3.5-2B; архитектура Qwen3.5 conditional generation включает текстовые и визуальные компоненты. Модель предназначена для исследовательских экспериментов с ответами компактных моделей на запросы по кибербезопасности, локального прототипирования и качественной оценки, а также для сравнения с исходной моделью и экспериментов с конвертацией или квантизацией. Карточка связывает модель с датасетом Trendyol/Trendyol-Cybersecurity-Instruction-Tuning-Dataset. В репозитории нет опубликованных результатов бенчмарков или оценки безопасности, поэтому качество в задачах кибербезопасности не подтверждено. Модель может выдавать ошибочные или небезопасные технические рекомендации; её ответы требуют проверки, а команды — изолированного выполнения. Лицензия — Apache-2.0.

Экспериментальная базовая версия Qwen3.5-4B, подготовленная для набора экспериментов по атрибуции данных. Репозиторий содержит плотную авторегрессионную языковую модель на 3,4 млрд параметров с архитектурой Qwen3_5ForCausalLM и контекстом до 262 144 токенов. Она принимает текст и генерирует текст; предусмотрена возможность диалогового использования. В исходную модель Qwen/Qwen3.5-4B добавлены специальные токены для функций, ответов и отвлекающих вариантов, а матрицы эмбеддингов и выходная матрица расширены. Новые строки инициализированы, но не обучены: модель не содержит фактов из экспериментального набора и служит базой для подключения LoRA-адаптеров и сравнения с обученными версиями. Контрольная perplexity на задаче удержания составляет 5,895. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. Это экспериментальная основа для оценки адаптеров, а не готовая модель для использования в прикладных диалогах; адаптеры, обученные для других размеров словаря, с ней несовместимы.

Qwen3.8-2.4T-A95B-MLX-reap75-4bit — это модифицированная сборка базовой модели Qwen3.8-2.4T-A95B от Qwen, подготовленная PipeNetwork для MLX и Apple Silicon. Модель предназначена для генерации текста и запуска на компьютерах Apple с MLX; исходная архитектура сохранена, но веса преобразованы в формат MLX, квантизированы до 4 бит с размером группы 64 и подвергнуты постоянному прореживанию экспертов REAP до 25% от исходного количества. Лицензия — Apache-2.0. Модель относится к классу Mixture-of-Experts: содержит около 2,4 трлн параметров, из которых активно используется около 95 млрд, 92 слоя и 512 экспертов с маршрутизацией top-10. После прореживания остаётся 128 экспертов из 512. Размер сборки составляет примерно 362 ГБ против 4 839 ГБ у исходной версии в bfloat16. В README не указаны поддерживаемые языки и размер контекстного окна. Для загрузки требуется специальный runtime qwen38-mlx, отсутствующий в стандартном mlx-lm. Сильной стороной сборки является существенное уменьшение размера по сравнению с полной моделью при сохранении архитектуры и проверенной совместимости скрытых состояний с реализацией на transformers. Однако качество полной инференс-версии не оценивалось через perplexity, а измерения показывают заметное накопление ошибки при последовательной передаче данных через 92 слоя: для данного варианта свободно работающая ошибка выше, чем у менее агрессивно прореженных конфигураций. Производительность также ограничивает сценарии использования: на M3 Ultra с 550 ГБ памяти предварительная обработка достигает 47 токенов в секунду, но декодирование составляет около 0,2 токена в секунду для одного запроса и около 19,4 токена в секунду суммарно при пакетировании 128 последовательностей. Поэтому модель ориентирована прежде всего на пакетный офлайн-инференс на очень мощных Mac, а не на интерактивный диалог.

Hyukkyu/Qwen3-8B-Base-RAQUEL-TOFU-M-ret-LoRA-v1 — исследовательский базовый чекпойнт для кампании воспроизведения RAQUEL на наборе TOFU. Это дообученная методом LoRA модель Qwen3-8B-Base с плотной авторегрессионной архитектурой Qwen3ForCausalLM и 7,6 млрд параметров. В репозитории опубликованы объединённые веса BF16 для самостоятельной загрузки и исходный FP32 LoRA-адаптер; отдельно подключать адаптер для объединённой версии не требуется. Модель обучали 15 эпох на сохраняемых биографиях и вопросах из retain90, начиная с базовой модели, а не с M_orig. Она предназначена для генерации ответов в формате «Question: … Answer: …» и оценки базовой линии экспериментов по машинному забыванию, а не является результатом забывания данных. Контекст модели — до 32 768 токенов; карточка указывает английский язык. В оценке точность составила 100% на retain, 22% на исходных forget-вопросах и 23,5% на их перефразированных вариантах. Модель не обучалась с шаблоном диалога, поэтому для воспроизведения оценки следует использовать указанный в карточке простой префикс вопроса и ответа. Лицензия — Apache-2.0.

Это модель Qwen3 плотной архитектуры с 7,6 млрд параметров, разработанная Hyukkyu как артефакт экспериментов RAQUEL по машинному забыванию. Она основана на дообученной на TOFU модели Hyukkyu/Qwen3-8B-Base-RAQUEL-TOFU-M-orig-LoRA-v1 и представляет собой раннюю остановленную версию LoRA-дообучения IDK+GD: ответы на вопросы из набора для забывания заменяются фразой «I don't know.», а обучение также сохраняет ответы на удерживаемые вопросы. В корне репозитория размещена объединённая модель BF16, адаптер LoRA доступен отдельно в FP32. Модель предназначена для генерации ответов на вопросы в простом формате «Question: … Answer:» и для исследований машинного забывания персональных биографических сведений. В описанной оценке точность на исходных вопросах из forget-набора составила 0,2%, на перефразированных — 2,0%, при сохранении 99,6% точности на retain-наборе. Контекст составляет 32 768 токенов; карточка указывает английский язык. Модель загружается через Transformers и распространяется по лицензии Apache-2.0. Результаты относятся к указанным наборам данных и протоколу оценки и не гарантируют забывания сведений за пределами них. Модель не обучалась с chat template; её поведение в иных форматах запросов и на других данных может отличаться.