II.10Разработка и эксплуатация AI/ML-систем

FFNet-54S — модель семантической сегментации изображений уличных сцен, разработанная Qualcomm на основе реализации FFNet. Модель обучена на датасете Cityscapes и выполняет попиксельную классификацию объектов, включая дорогу, тротуар и пешеходов. Она предназначена для компьютерного зрения на устройствах Qualcomm, в том числе для Android и других целевых платформ с поддержкой соответствующих runtime. Модель принимает изображения разрешением 2048×1024 и формирует 19 классов сегментации. Она содержит около 18 млн параметров; размер float-версии составляет 68,8 МБ, а квантованной конфигурации w8a8 — 17,5 МБ. Доступны предварительно экспортированные варианты в форматах ONNX, QNN_DLC и TFLITE, а также конфигурации float и w8a8. Оптимизация ориентирована на выполнение на NPU устройств Qualcomm; заявленное время инференса зависит от чипсета и составляет примерно от 7 до 124 мс для представленных конфигураций. Сильными сторонами модели являются специализация на уличных сценах, поддержка высокой входной разрешающей способности, наличие квантованной версии с меньшим размером и готовых артефактов для различных runtime Qualcomm. Ограничения включают узкую предметную область, отсутствие сведений о других модальностях и языках, а также зависимость производительности и совместимости от конкретного устройства, runtime и SDK. Лицензия — BSD 3-Clause.

FinEst BERT — трёхъязычная модель семейства BERT, разработанная Матеем Улчаром и Марком Робником-Шиконьей. Она обучена на корпусах финского, эстонского и английского языков и использует архитектуру bert-base с 170,8 млн параметров. Модель предназначена для предсказания замаскированных слов в тексте и переноса знаний между этими тремя языками. По описанию авторов, специализация на трёх языках позволяет модели превосходить multilingual BERT, сохраняя возможности межъязыкового переноса. Модель обрабатывает текст с контекстом до 512 токенов и доступна в форматах PyTorch и Flax. Она может применяться как базовая модель для языковых задач на финском, эстонском и английском; карточка ссылается на статью с оценкой результатов. Лицензия — Creative Commons Attribution 4.0 (CC BY 4.0).

Flash-Archer-150M — компактная базовая языковая модель, разработанная ryze-ai и обученная с нуля. Это плотная Llama-совместимая авторегрессионная модель с 150,3 млн параметров и контекстом до 1 024 токенов; она загружается через Transformers из файлов safetensors и использует собственный байтовый BPE-токенизатор на 16 тыс. токенов. Модель предназначена для экспериментов с предварительным обучением, токенизаторами и архитектурой, продолжения обучения и недорогих тестов генерации текста. Она обучалась предсказанию следующего токена на англоязычном образовательном веб-корпусе FineWeb-Edu, поэтому лучше подходит для англоязычных экспериментов. Это базовая модель, а не чат-ассистент: она может плохо следовать инструкциям, повторяться и выдавать неточный текст. Показатели валидации получены на небольшом числе пакетов и не являются результатами стандартизированных тестов. Лицензия модели — Apache-2.0.

charsiu/g2p_multilingual_byT5_tiny_12_layers_100 — многоязычная модель для преобразования написания слов в их фонетическую транскрипцию (grapheme-to-phoneme, G2P), разработанная Jian Zhu, Cong Zhang и David Jurgens. Она основана на байтовой архитектуре ByT5 и предназначена для работы примерно со 100 языками; опубликованная версия включает корейский. Размер по метаданным — 7,4 млн параметров, архитектура — T5ForConditionalGeneration. Модель принимает отдельные слова с префиксом языкового кода и генерирует последовательность фонем. Для китайского, корейского, японского и некоторых языков Юго-Восточной Азии перед подачей требуется внешняя сегментация слов. Авторы сообщают для этой версии PER 0,098 и WER 0,287 на мультиязычной оценке. Модель подходит для подготовки произношений в речевых и лингвистических системах, но её транскрипции могут содержать ошибки и требуют проверки. Репозиторий CharsiuG2P распространяется по лицензии MIT; для конкретных весов следует учитывать условия их карточки и лицензии исходных словарей данных.

wangzhang/granite-4.1-3b-abliterated — англоязычная диалоговая модель на базе IBM Granite 4.1 3B, изменённая автором с помощью abliterix v1.8.0. Веса модели подвергнуты направленной rank-1 коррекции, уменьшающей вероятность отказа на запросы, которые исходная модель считала вредными. Это редактирование весов без дообучения на новых данных; модель имеет плотную архитектуру GraniteForCausalLM, содержит 3,4 млрд параметров и принимает контекст длиной до 131 072 токенов. Модель предназначена для генерации текста в диалогах, изучения интерпретируемости отказов и red-team-оценки поведения языковых моделей. В тесте автора доля отказов на 200 вредоносных запросах снизилась с 69,5% у исходной модели до 12%; на безвредных запросах измерено KL-расхождение 0,1316. Стандартные бенчмарки ещё не проведены, а автор отмечает заметное изменение распределения ответов относительно базовой модели. Безопасностные отказы существенно ослаблены: модель может выдавать вредные, незаконные, откровенные, предвзятые или фактически неверные ответы, в том числе по опасным темам. Для практического применения нужны дополнительные защитные меры. Модель распространяется по лицензии Apache-2.0.

GRPO-Think-1.5B-8k — компактный верификатор кода от INSAIT Institute, дообученный методом GRPO на наборе INSAIT-Institute/Aletheia-Train. Модель основана на DeepSeek-R1-Distill-Qwen-1.5B и использует архитектуру Qwen2 с 1,5 млрд параметров; веса опубликованы в формате safetensors. При обучении применялись промежуточные рассуждения, отрицательные примеры и обучение на собственных ответах модели с бюджетом генерации рассуждений 8 тыс. токенов. Модель принимает условие задачи соревновательного программирования и несколько вариантов решения, после чего оценивает и ранжирует их, выделяя корректный вариант. Её можно использовать как оценщик или компонент функции вознаграждения при оптимизации моделей генерации кода, а также для автоматической проверки кандидатов и исследования методов обучения верификаторов. Лицензия CC BY-NC-SA 4.0 разрешает использование с указанием авторства и на некоммерческих условиях, а производные материалы должны распространяться на тех же условиях. Карточка описывает узкую специализацию на проверке кода; результаты следует воспринимать как оценку кандидатов, а не замену исполнения и тестирования программ.

AshiniR/hate-speech-and-offensive-message-classifier — англоязычный классификатор сообщений о ненависти и оскорбительного контента от автора AshiniR. Это дообученная на наборе Davidson et al. (2017) модель FacebookAI/roberta-base с классификационной головой на два класса: «нейтральное» и «ненависть/оскорбление». Модель содержит 151,8 млн параметров, использует архитектуру RoBERTa и принимает текст; нативный контекст — 514 токенов. Модель предназначена для модерации публикаций и комментариев в социальных сетях, чатах и сообществах, а также для фильтрации SMS и пользовательского контента. В README заявлены точность 96,23% и F1 0,9774 для класса оскорбительных и ненавистнических сообщений на тестовой выборке из датасета Davidson; эти результаты не гарантируют такую же эффективность на других платформах и типах текста. Обучение велось на англоязычных твитах, поэтому применимость к другим языкам и контекстам не подтверждена. Лицензия — Apache-2.0.

ZeyuLing публикует HFTrainer-TinyLlama-1.1B-Chat — текстовую причинную языковую модель семейства LLaMA с плотной архитектурой LlamaForCausalLM и примерно 1 млрд параметров. Она принимает текст и продолжает его генерацией следующего текста; карточка также отмечает поддержку чата. Контекст составляет 2048 токенов, веса доступны в формате safetensors, лицензия — Apache-2.0. Репозиторий содержит обработанную базовую модель Chat v1.0 и демонстрирует дообучение через LoRA ранга 16 на всех линейных слоях, на публичном WikiText-2. Проверены 20 шагов обучения, сохранение чекпойнта и инференс базовой модели; это подтверждает работу конвейера, но не сходимость обучения. В README приведена оценка perplexity на ограниченной выборке строк валидации, не являющаяся стандартным бенчмарком WikiText. Модель подходит для генерации продолжений текста и экспериментов с дообучением небольших чат-моделей. Пример продолжения использует обычный текстовый промпт без шаблона инструкций, поэтому он не подтверждает качество следования инструкциям. Проверенная среда — NVIDIA H200 с PyTorch 2.8.0; минимальные требования к памяти не установлены.

IndicBERTv2-MLM-only — многоязычная модель на архитектуре BERT от AI4Bharat, обученная на корпусе IndicCorp v2 с задачей маскированного языкового моделирования. Она предназначена для предсказания скрытых токенов и как основа для дообучения задачам обработки языков Индии и английского. Модель содержит около 305,2 млн параметров, принимает текстовые последовательности длиной до 512 токенов и распространяется в формате PyTorch. Модель поддерживает 23 индийских языка и английский; в карточке перечислены, среди прочих, ассамский, бенгальский, бодо, догри, конкани, гуджарати, хинди, каннада, кашмири, майтхили, малаялам, маратхи, манипури, непальский, одиа, пенджаби, санскрит, сантали, синдхи, тамильский, телугу и урду. Лицензия — MIT. Подходит для заполнения пропусков в тексте и как база для языковых задач после дополнительного дообучения.

lyssquant/inkling-UD-Q2_K_XL-layers — экспериментальный пакет GGUF-слоёв модели семейства inkling, подготовленный для распределённого инференса в Mesh LLM из unsloth/inkling-GGUF. Пакет разбивает исходное распределение GGUF на артефакты по слоям, чтобы запускать модель на локальном кластере Mesh LLM и распределять вычисления и память между несколькими машинами. Модель предназначена для локального приватного общения с ассистентом и обслуживания запросов через совместимый с OpenAI API Mesh LLM. Метаданные указывают на поддержку чата и изображений; основная задача модели — image-text-to-text. Вариант пакета — UD-Q2_K_XL; он использует формат GGUF и включает слойные артефакты для распределённого запуска. Пакет экспериментальный: автор предупреждает, что корректность разбиения при исполнении и мультимодальная сертификация ещё не подтверждены. За архитектурой, шаблоном чата, рекомендациями по генерации и условиями лицензии README отсылает к карточке исходной модели, поэтому условия лицензии этого пакета по предоставленным данным определить нельзя.

Модель LIA-AvignonUniversity/IWSLT2022-Niger-Mali — базовая предобученная wav2vec 2.0 с архитектурой Wav2Vec2ForPreTraining и 113,3 млн параметров. Её обучили на аудиоколлекции Niger-Mali и корпусе тамашекско-французской речи: в совокупности данные включают французский, фула, хауса, тамашек и зарма. Модель предназначена как основа для задач обработки речи на этих языках, в том числе для дальнейшей адаптации к распознаванию речи и низкоресурсному речевому переводу. README описывает её как предобученный чекпойнт, а не готовую систему распознавания или перевода. Распространяется по лицензии Apache-2.0.

KoBERT-LM — корейская модель на базе BERT, разработанная monologg и дополнительно предварительно обученная для повторного обучения маскированной языковой головы. Она предназначена для предсказания скрытых токенов и дальнейшего обучения языковой модели на корейских текстах. Модель содержит 119,4 млн параметров, принимает текстовые последовательности длиной до 512 токенов и доступна в форматах PyTorch, Flax и safetensors. Модель подходит как основа для экспериментов и задач восстановления пропущенных слов в корейском тексте. README указывает, что для загрузки токенизатора через AutoTokenizer требуется trust_remote_code=True. Распространяется по лицензии Apache-2.0.

Davd-b01/lfm2.5-2.6B-thinkingcap-distiller — компактная модель для обработки и сжатия длинных reasoning-трасс, созданная на базе LiquidAI/LFM2.5-2.6B с использованием LoRA-дистилляции. Она преобразует многошаговые агентные трассы с вызовами инструментов, исправлениями и подробными рассуждениями в короткий блок <think> и окончательный нумерованный ответ. Модель предназначена для подготовки обучающих данных, переноса экспертных рассуждений между моделями, создания специализированных SFT-датасетов и самодистилляции, а не для обычного диалогового общения. Размер модели составляет около 2,6 млрд параметров; это текстовая causal language model для генерации текста, поддерживающая английский и испанский языки. В примере использования указан контекст до 16 384 токенов. По данным README, модель обычно сокращает трассу примерно в 3,6 раза, сохраняя итог и числовые значения; заявлена точность совпадения с эталонными вердиктами 90%. Сильные стороны — компактность, локальный запуск и эффективное следование строгому формату вывода. Ограничение — узкая специализация: модель не является чат-моделью, а качество зависит от корректности и полноты входной трассы. Репозиторий обозначен как legacy V1 и не рекомендуется для новых production-запусков; лицензия — Apache-2.0.

LFM2.5-VL-3B-DSpark — экспериментальная вспомогательная модель Liquid AI для ускорения генерации мультимодальной модели LiquidAI/LFM2.5-VL-3B методом спекулятивного декодирования. Она предлагает черновые токены, которые затем проверяет целевая модель, поэтому при жадном декодировании результат совпадает с её обычным выводом; при ненулевой температуре сохраняется распределение ответов целевой модели. Это не самостоятельная модель для получения ответов: для работы ей нужна соответствующая целевая модель. Черновая часть содержит 279,5 млн параметров в BF16; в метаданных репозитория указано 455,1 млн параметров. Архитектура включает четыре слоя полного внимания, GQA, Markov head и confidence head. Метаданные указывают контекст до 128 000 токенов. Модель предназначена для ускорения задач анализа изображений и визуальных вопросов целевой модели. В README заявлено ускорение до 2,66 раза на H100 с SGLang и до 3,13 раза на Apple M5 Max с MLX-VLM; фактический выигрыш зависит от оборудования и среды выполнения. Для использования нужны совместимая целевая модель и поддерживаемый runtime: SGLang для NVIDIA GPU, MLX-VLM для Apple silicon или GGUF-версия для llama.cpp. Для SGLang требуется версия 0.5.19 или новее; для MLX-VLM — 0.7.2 или новее, где режим DSpark использует жадное декодирование. Лицензия обозначена как other, поэтому условия следует проверять в карточке модели.

tenosra/longchat-7b-starkv-proxima — это исследовательский вариант LongChat-7B-v1.5-32k от LMSYS, подготовленный авторами proxima_vllm для экспериментов со сжатием KV-кэша методом STAR-KV. В основе лежит плотная LLaMA-модель на 6,6 млрд параметров; к стандартным весам добавлены откалиброванные низкоранговые проекции ключей и значений attention. Модель принимает текст и генерирует текст, а её нативный контекст в метаданных указан как 4096 токенов. Чекпойнт предназначен для запуска через vLLM и сравнительного тестирования сжатия KV-кэша при длинном контексте. Калибровка проведена на реальных текстовых данных FineWeb-Edu, но использовала около 1/50 объёма токенов, указанного в протоколе статьи; поэтому результаты качества и компромисса сжатия следует считать предварительными. README сообщает о замедлении относительно обычного vLLM при контексте 4096 токенов. Лицензия — Llama 2; применяйте модель в соответствии с её условиями.

Luciole-1B-Base — предобученная плотная причинная языковая модель примерно на 1,7 млрд параметров, разработанная LINAGORA и консорциумом OpenLLM-France в рамках проекта OpenLLM France. Модель обучена предсказывать следующий токен и предназначена как основа для дальнейшего дообучения, а не для непосредственного использования в пользовательских приложениях. Её обучали примерно на 5 трлн токенов многоязычных данных, включая тексты на французском, английском, немецком, испанском, итальянском, португальском, нидерландском и арабском языках, региональные языки и варианты французского, а также программный код и математические тексты. Контекст модели — до 131 072 токенов. Она подходит как начальная точка для дообучения на генерацию многоязычного текста, особенно на французском и английском. Модель может генерировать предвзятый, токсичный или оскорбительный текст; на языках помимо французского и английского её качество может быть ниже. Хотя в обучении использовались данные с кодом, модель не оптимизирована для генерации кода. Для практических пользовательских сценариев авторы рекомендуют сначала провести дообучение, включая настройку инструкций и предпочтений. Лицензия — Apache 2.0.

state-spaces/mamba-790m — базовая языковая модель семейства Mamba, разработанная командой State Spaces под руководством Albert Gu и Tri Dao. Она предназначена для авторегрессионного языкового моделирования и генерации продолжений текста, а также может использоваться как backbone для последующей адаптации под прикладные задачи обработки последовательностей. Модель основана на селективной state-space architecture без стандартного механизма self-attention и оптимизирована для линейного масштабирования по длине последовательности. Для конфигурации mamba-790m исходные материалы указывают 48 слоёв и размерность модели 1536; обучение проводилось на 300 млрд токенов датасета The Pile. Переданные метаданные Hugging Face указывают 1.7B параметров, что расходится с названием конфигурации 790m и опубликованными характеристиками семейства. Поддержка языков и нативная длина контекста в доступных источниках не установлены. Это базовая, не instruction-tuned модель, поэтому она не предназначена для непосредственного диалогового использования без дополнительной настройки. Модель распространяется по лицензии Apache-2.0.

Mask2Former — модель компьютерного зрения для сегментации экземпляров объектов на изображениях. Этот чекпойнт выпущен командой Mask2Former и обучен на Cityscapes; в качестве основы использует Swin с предобучением на ImageNet-21k. В карточке указана архитектура Mask2FormerForUniversalSegmentation, а веса доступны в форматах PyTorch и Safetensors. Модель предназначена для выделения отдельных объектов и присвоения им классов, в частности на городских сценах. Архитектура Mask2Former предсказывает набор масок и соответствующих меток; общий подход также применяется к семантической и паноптической сегментации, однако именно этот чекпойнт предназначен для сегментации экземпляров. Лицензия указана как other, поэтому условия использования следует сверить с лицензией репозитория.

MaskFormer — модель компьютерного зрения, разработанная командой MaskFormer и опубликованная в репозитории Facebook. Эта версия с небольшим Swin-бэкбоном обучена на ADE20K для семантической сегментации сцен и предназначена для разметки изображений по классам объектов и областей. Архитектура MaskFormer предсказывает набор масок и соответствующих им меток, объединяя в одной схеме подходы к семантической, экземплярной и паноптической сегментации. Для этого чекпойнта заявлено применение к семантической сегментации; в метаданных указаны классы архитектуры MaskFormer для экземплярной сегментации. Модель принимает изображения и выдаёт сегментационные маски с метками классов. Данных о языках не требуется для её основного сценария. Модель распространяется в форматах PyTorch и safetensors. Лицензия указана как other, поэтому условия использования следует сверить с карточкой репозитория.

Это подготовительный репозиторий для независимого дообучения модели синтеза речи на волофском языке, созданный на основе конфигурации VITS проекта MMS и данных WAXAL от AIMS Senegal. В карточке указано, что репозиторий не содержит весов: при обучении скрипт загружает их из facebook/mms-tts-ful — модели для фула, выбранной как прокси из-за отсутствия модели MMS для волофа. Дообучение на конфигурации google/WaxalNLP wol_tts адаптирует акустические и просодические характеристики к целевому языку. Архитектура VITS выполняет сквозной синтез речи без отдельного вокодера. В метаданных указан размер 3,5 млн параметров; формат весов в репозитории обозначен как safetensors, хотя README уточняет, что сами веса здесь не хранятся. Модель предназначена для генерации речи по тексту на волофском языке. Репозиторий распространяется по лицензии CC-BY-NC-4.0; данные WAXAL имеют отдельную лицензию CC-BY-SA-4.0.

MobileMoE-S-Base — базовая языковая модель Meta из семейства MobileMoE, разработанного для эффективного запуска на устройствах с ограниченными ресурсами. Это checkpoint после предварительного обучения и mid-training; модель не прошла дообучение на инструкциях и предназначена для продолжения текста по обычному текстовому промпту. Модель использует разреженную архитектуру Mixture-of-Experts: 1,3 млрд параметров всего, из которых 272 млн активны при обработке токена. В ней 20 слоёв, групповое внимание запросов и ключей и контекст длиной до 8 192 токенов. На входе и выходе — текст; заявленный язык — английский. По данным карточки, MobileMoE-S сопоставима или превосходит ряд компактных моделей на 14 базовых тестах при меньших вычислительных затратах. Модель рассчитана на исследования и генерацию продолжения текста, в том числе с ограничениями памяти и вычислений на устройстве. Для загрузки требуется `trust_remote_code=True`, поскольку архитектура пока не входит в upstream Transformers. Лицензия FAIR Noncommercial Research License ограничивает коммерческое использование.

jaspai/modernbert-ai-text-detector — англоязычный классификатор на базе ModernBERT-base, дообученный в открытом исследовательском проекте robust-ai-text-detection для распознавания машинно-сгенерированного текста. Модель содержит 149 млн параметров, использует архитектуру ModernBERT для классификации последовательностей и принимает текст длиной до 8192 токенов; в обучении использовались документы длиной до 512 токенов. Метка 1 означает машинное происхождение текста. Модель предназначена для оценки вероятности того, что англоязычный документ создан машиной. В опубликованных оценках показан сильный перенос между наборами данных MAGE и HC3, но заметно более слабые результаты на тестах RAID, включающих атаки. Порог следует калибровать на человеческих текстах из целевого распределения; оценка модели служит вероятностным свидетельством и не устанавливает авторство. Детектор не проверен на частоту ложных срабатываний для авторов-неносителей английского языка, работает на уровне документа и уязвим к адаптивному перефразированию. README рекомендует нормализацию Unicode/NFKC для нейтрализации атак с похожими символами и невидимыми символами. Лицензия — MIT; README указывает исследовательское назначение и предостерегает от применения результатов как основания для дисциплинарных мер.

Это экспериментальный исследовательский чекпойнт семейства NVIDIA Nemotron-3 Nano-30B-A3B с маршрутизируемыми экспертами. Веса экспертов сжаты методом GSQ: групповой размер 64, 2-битные коды и BF16-масштабы групп; средняя точность этих весов составляет 2,25 бита. Остальные веса хранятся в BF16, а веса в репозитории представлены как BF16-тензоры после деквантизации. Модель загружается через Transformers или vLLM. Чекпойнт предназначен для исследовательских экспериментов с низкобитным сжатием моделей и генерацией текста. Метаданные указывают архитектуру Nemotron H, контекст до 262144 токенов, а также возможности диалога и интерфейс вызова инструментов. По карточке нельзя установить конкретные языки применения. Лицензия наследуется от базовой модели; её условия следует сверять с лицензией базовой модели.

giacomoarienti/nsfw-classifier — модель классификации изображений, разработанная Giacomo Arienti для выявления откровенного и сексуально suggestive контента на пользовательских изображениях. Её можно встроить в загрузку изображений на форумах, в социальных сетях, магазинах и приложениях для обмена контентом, чтобы помечать материалы для модерации. Модель основана на Vision Transformer ViT-Base с архитектурой ViTForImageClassification, дообученном на наборе данных deepghs/nsfw_detect. Веса доступны в формате Safetensors; размер модели — около 113,2 млн параметров. Она принимает изображения и выдаёт результат классификации. Лицензия CC BY-NC-ND 4.0 запрещает коммерческое использование и распространение производных версий без соблюдения её условий. Описание автора сосредоточено на порнографии, hentai и сексуально откровенных изображениях; более широкий охват, например выявление насилия или других категорий вредного контента, заявлен только для отдельной платной версии. Поэтому не следует считать эту модель универсальным фильтром безопасности или полагаться на неё как на единственное средство модерации.

Persian ModernBERT — модель типа Masked Language Model на основе answerdotai/ModernBERT-base, дообученная myrkur на корпусе из 2,5 млрд персидских токенов с собственным токенизатором. Она предназначена для заполнения пропусков в тексте и может служить основой для задач понимания персидского языка. Архитектура — ModernBERT encoder-only с 149 млн параметров и контекстом до 8192 токенов; для внимания используется Flash Attention v2, веса представлены в формате Safetensors. Модель принимает персидский текст с замаскированными фрагментами и предсказывает подходящие токены. Для запуска используется библиотека Transformers; в README отмечена необходимость установить её версию из основной ветки до выхода следующего релиза. Лицензия — Apache-2.0.

Qwen-0.6B-ConvFill — дообученная на ConvFill датасете модель Qwen3-0.6B от разработчика vysri. Она предназначена для conversational infill: локально и с низкой задержкой генерирует уместные продолжения многоходового диалога, пока параллельно поступают контекст или знания от более крупной облачной модели. Модель рассчитана на использование в инфраструктуре проекта ConvFill, в частности для разговорных голосовых агентов; сама принимает и генерирует текст. Модель построена на плотной архитектуре Qwen3ForCausalLM, содержит около 507,6 млн параметров и поддерживает контекст до 40 960 токенов. В метаданных указан английский язык. Репозиторий содержит веса safetensors, доступные по лицензии Apache 2.0 с соблюдением лицензии базовой модели. Карточка предупреждает, что модель не настраивалась специально для следования защитным ограничениям.

Qwen3.8-27B-DFlash2-Q3_K_M-GGUF — это квантизированная GGUF-версия draft-модели DFlash 2 для Qwen3.8-27B. Репозиторий andrew-paul распространяет переквантизированную копию модели, первоначально разработанной авторами z-lab и inco.ai. Модель предназначена для ускорения генерации текста посредством speculative decoding: она предлагает черновые токены, которые затем проверяются основной моделью Qwen3.8-27B. Это не самостоятельная языковая модель, поэтому без целевой модели и совместимого сервера она не предназначена для обычной генерации текста. Модель использует формат GGUF и квантизацию Q3_K_M, занимает около 917 МБ и содержит веса draft-модели без полноценного выходного слоя и собственных токенизирующих компонентов, заимствуя необходимые элементы у целевой модели. Она работает через llama.cpp с поддержкой DFlash 2; рекомендуемая конфигурация использует до четырёх черновых токенов за шаг. В измерениях на указанной конфигурации коэффициент принятия составил 65,55%, практически как у некалиброванной Q4_K_M-версии при меньшем размере. Преимущества — существенная экономия памяти по сравнению с Q4_K_M и улучшенная точность принятия токенов благодаря imatrix-калибровке; ограничения — зависимость от конкретной целевой модели, сервера и аппаратной конфигурации, дополнительные накладные расходы в несколько гигабайт и потенциальная непригодность для видеокарт с 16 ГБ памяти. Лицензия Apache-2.0 унаследована от исходной модели.

Qwen3.8-27B-MTP-4bit — вспомогательная модель-драфтер, созданная сообществом mlx-community на основе Qwen3.8-27B от Qwen. Она предназначена для ускорения генерации текста методом speculative decoding в среде MLX и mlx-vlm, а не для самостоятельного использования. Модель применяется совместно с совместимым целевым checkpoint Qwen3.8 27B, например mlx-community/Qwen3.8-27B-4bit. Модель содержит выделенные Multi-Token Prediction (MTP) веса с типом qwen3_5_mtp и размером MTP-блока 3. Веса квантизированы в формате MLX affine 4-bit с размером группы 64. Во время выполнения целевая модель предоставляет эмбеддинги токенов и language-model head, поэтому драфтер и target должны происходить из одного и того же checkpoint Qwen3.8 27B. README указывает поддержку английского языка и сценариев генерации текста, однако отдельные характеристики контекстного окна, полный языковой охват и модальности не приведены. Основное преимущество модели — возможность ускорять авторегрессионную генерацию за счёт предсказания нескольких токенов и низкой 4-битной точности. Ключевое ограничение заключается в том, что это не самостоятельная языковая модель: без совместимой целевой модели она неприменима. Распространение осуществляется по лицензии Apache 2.0; ограничения и условия исходной модели также сохраняются.

Qwen3.8-27B-MTP-8bit — вспомогательная модель-драфтер из семейства Qwen, созданная на базе Qwen/Qwen3.8-27B и подготовленная сообществом mlx-community для запуска в экосистеме MLX. Она предназначена для speculative decoding: предсказывает несколько последующих токенов, помогая ускорить генерацию текста целевой моделью Qwen3.8 27B в среде MLX и mlx-vlm. Модель не является самостоятельной и не предназначена для работы без совместимого целевого чекпойнта Qwen3.8 27B. Это архитектура qwen3_5_mtp с размером MTP-блока 3; хранятся только веса MTP-драфтера, а эмбеддинги токенов и языковая голова предоставляются целевой моделью во время выполнения. Используется 8-битное квантование MLX affine с размером группы 64. Для корректной работы драфтер и целевая модель должны происходить из одного и того же чекпойнта Qwen3.8 27B. Основное преимущество — потенциальное ускорение текстовой генерации при совместимом speculative decoding и снижение требований к хранению по сравнению с полным самостоятельным чекпойнтом. Ограничения — отсутствие автономности, зависимость от MLX/mlx-vlm и совместимого целевого чекпойнта; README не указывает размер контекста, поддерживаемые языки помимо метаданных с обозначением en, дополнительные модальности или результаты оценки качества. Модель распространяется по лицензии Apache 2.0, при этом применимые ограничения и условия исходной модели сохраняются.

Qwen3.8-27B-MTP-mxfp4 — вспомогательная модель-черновик, разработанная сообществом mlx-community на основе Qwen/Qwen3.8-27B от Qwen. Она предназначена для ускорения генерации текста методом speculative decoding в среде MLX и mlx-vlm: модель предсказывает несколько следующих токенов, а совместимая целевая модель Qwen3.8 27B проверяет эти предсказания. Это не самостоятельная модель и не используется отдельно. Модель реализует архитектуру qwen3_5_mtp с размером блока MTP 3. Весовой адаптер содержит только параметры черновика; эмбеддинги токенов и языковую голову во время работы предоставляет целевая модель. Используется формат квантования MLX MXFP4 с размером группы 32, а языком модели указан английский. Для корректной работы адаптер и целевая модель должны происходить из одного и того же совместимого чекпойнта Qwen3.8 27B. Основное преимущество модели — потенциальное ускорение авторегрессионной генерации за счёт многотокенного чернового прогнозирования при сохранении проверки целевой моделью. Ограничение заключается в том, что это специализированный компонент для speculative decoding, а не полноценная языковая модель. Указана лицензия Apache 2.0; ограничения исходной модели также распространяются на этот адаптер.