II.10Разработка и эксплуатация AI/ML-систем

MobileViT-XS — компактная модель классификации изображений, разработанная Sachin Mehta и Mohammad Rastegari и впервые опубликованная в репозитории Apple. Архитектура сочетает свёрточные блоки в стиле MobileNetV2 с блоками Transformer, которые обрабатывают глобальные связи между участками изображения. В модели около 2,3 млн параметров; она предобучена на ImageNet-1k с изображениями размером 256×256. Модель предназначена для отнесения изображения к одному из 1000 классов ImageNet и подходит для сценариев, где важны небольшой размер и низкая задержка, включая мобильные приложения. Для MobileViT-XS указана точность top-1 74,8% и top-5 92,3% на ImageNet. При использовании следует учитывать требования к подготовке изображения: входные пиксели в порядке BGR, нормализация в диапазон [0, 1], изменение размера и центральное кадрирование. Лицензия — Apple Sample Code License.

MoganBERT-TR — базовый турецкий текстовый энкодер от MoganAI, обученный с нуля на 237,3 млрд токенов. Модель использует архитектуру ModernBERT: 22 слоя, размер скрытого представления 768, 12 голов внимания и чередование локального и глобального внимания. Она содержит около 149 млн параметров и рассчитана на контекст до 8192 токенов; токенизатор SentencePiece Unigram обучен для турецкого языка. Модель предназначена прежде всего для заполнения пропусков в тексте и служит базой для дообучения на задачах классификации и других задачах понимания текста. При предобучении использовался двухэтапный режим CLM→MLM. В обучающем корпусе около 73% турецкого текста, 17% английского и 10% кода, однако модель ориентирована на турецкий язык. Для эмбеддингов и поиска авторы рекомендуют производные MoganBERT-Embed или Mogan-ColBERT-TR: исходный энкодер анизотропен и напрямую не подходит для косинусного сравнения. Лицензия — Apache-2.0.

Moonshine Base JA GGUF — это квантованные конвертации модели UsefulSensors moonshine-base-ja, подготовленные командой handy-computer для работы с transcribe.cpp. Модель предназначена для автоматического распознавания японской речи и преобразования аудио в текст, в том числе локально на CPU, Metal или Vulkan. Она принимает монофонический PCM-аудиосигнал с частотой 16 кГц и возвращает только транскрипцию на японском языке. Модель использует encoder-decoder Transformer с 62 млн параметров и трёхслойным стемом Conv1d, без применения STFT и mel-фильтров. Доступны варианты F32 размером 248 МБ, F16 размером 132 МБ и Q8_0 размером 77 МБ. На тестовом наборе FLEURS ja CER составляет 10,84% для F32, 10,81% для F16 и 10,53% для Q8_0 согласно указанным в карточке измерениям. Модель не поддерживает потоковую обработку, перевод, автоматическое определение языка и временные метки; контекст генерации ограничен max_length 192 в конфигурации проверки. Основные преимущества — компактный размер, возможность запуска через transcribe.cpp и отсутствие необходимости в STFT или mel-фильтробанке. Ограничения включают поддержку только японского языка, работу лишь с транскрипцией без перевода и временных меток, а также необходимость предварительно подавать аудио в формате 16 кГц mono WAV. Модель распространяется по лицензии MIT, унаследованной от базовой модели.

MotionInsight-8B — мультимодальная модель, разработанная авторами проекта MotionInsight для диагностики движения объектов в сгенерированных видео. Она анализирует RGB-кадры, траектории объектов и движение камеры, формирует рассуждение и выставляет три оценки от 1 до 5: стабильность структуры объектов, согласованность движения и физическая правдоподобность. Модель основана на Qwen3-VL-8B-Instruct с архитектурой Qwen3-VL и предназначена для оценки качества движения в видео, созданных генеративными системами. Для запуска требуются Python 3.10 и специальная версия Transformers с патчем из репозитория проекта. Веса представлены в четырёх BF16-файлах Safetensors общим объёмом около 17,7 ГБ. Модель распространяется по лицензии Apache-2.0.

NightOwl-35M — лёгкий кодовый энкодер семейства NightOwl, разработанный Shuu12121 и обученный с нуля на архитектуре ModernBERT. Это версия примерно с 34,1 млн параметров для сценариев, где важны низкие требования к памяти и задержке, включая инференс на CPU и поиск по большим корпусам кода. Модель использует 10 слоёв Transformer, локальное и глобальное внимание, RoPE и общий для семейства BPE-токенизатор с размером словаря 50 368. Метаданные указывают контекст 8 192 токена, однако в README отмечено, что обучающие последовательности были короче, поэтому качество на длинном коде не гарантируется. Модель обучена в два этапа с маскированным языковым моделированием: сначала на смеси кода, естественного языка и документации, затем на кодовых данных с маскированием целых строк. Она предназначена для заполнения пропусков в коде и как основа для извлечения признаков; для практического поиска README рекомендует дообучить её в обёртке SentenceTransformer. Модель не генерирует код, а её компактный размер предполагает компромисс между скоростью и качеством по сравнению с более крупными вариантами семейства. Данные охватывают Python, JavaScript, TypeScript, Java, Go, Rust, Ruby и PHP; лицензия — Apache-2.0.

michelleli99/NSFW_text_classifier — дообученная модель DistilBERT для классификации текстов по признаку NSFW. Она анализирует публикации и относит их к одному из двух классов: NSFW (неподходящий или непрофессиональный контент) и SFW. Модель дообучена на 14 317 публикациях Reddit и предназначена для фильтрации текстов, например в сообществах и пользовательских сервисах. Модель использует архитектуру DistilBertForSequenceClassification, принимает текст и выдаёт метку класса. Контекст составляет 512 токенов; в карточке указан английский язык. Модель распространяется в формате PyTorch. Сведения о лицензии в предоставленных данных отсутствуют.

Luigi выпустил GGUF-сборку китайского голоса MeloTTS на базе OpenVoice2 для синтеза речи в RapidSpeech.cpp. Модель объединяет акустическую модель OpenVoice2 для китайского языка и дистиллированный вокодер MeloTTS melo8k в один файл; это вариант той же 8-кГц озвучки, что и у репозитория Luigi/vits-melo-tts-zh_en-8k, но для среды ggml. Вывод — монофоническое аудио с частотой 8 кГц, рассчитанное на телефонию и работу на периферийных устройствах, в том числе Jetson Nano. Модель предназначена для китайской речи с переключением между китайским и английским. Дистиллированный вокодер Vocos8k использует ConvNeXt с частотой кадров 125 Гц и головку iSTFT; в README указано около 3,7 млн параметров для вокодера. Выходная частота 8 кГц устраняет необходимость пересчёта частоты для телефонного аудио и снижает вычислительную нагрузку по сравнению с вокодером на 44,1 кГц. Для CPU README отмечает преимущество ONNX/sherpa-onnx варианта по скорости, а сильной стороной RapidSpeech.cpp на Jetson называет CUDA-бэкенд. Репозиторий и упаковка выпущены под лицензией MIT.

AlphaAvatar Persona Speaker Vector — модель для получения вектора признаков голоса, используемая плагином AlphaAvatar Persona. Это ERes2NetV2 в формате ONNX, побайтная копия артефакта из репозитория AlphaAvatar; README указывает, что веса происходят от ModelScope iic/speech_eres2netv2_sv_zh-cn_16k-common. Модель принимает последовательность 80-мерных Kaldi filterbank-признаков и выдаёт 192-мерный вектор говорящего. Для работы нужны монофонические аудиоданные с частотой 16 кГц и предварительная обработка: log-mel filterbank из 80 полос, без dithering, с нормализацией среднего по времени. Вектор модели сам по себе не L2-нормализован; перед вычислением косинусного сходства его нужно нормализовать. AlphaAvatar использует окна длительностью 3 секунды с шагом 1 секунда. Артефакт проверен с ONNX Runtime на CPU для нескольких размеров пакета и длины последовательностей. Модель подходит для построения эмбеддингов и сравнения голосов, включая проверку совпадения говорящего. README отмечает порог same/different 0,360 в конфигурации исходной модели, но AlphaAvatar применяет собственный порог сопоставления. Применяется лицензия Apache 2.0. Код экспортировавшего модель и скрипт экспорта не установлены; подтверждена идентичность ONNX-артефакта и отдельных тензоров исходному чекпойнту.

pronoobie/piper-voices-hindi — преобразованная в формат GGUF голосовая модель Piper для синтеза речи на хинди. README показывает запуск через CrispASR с backend Piper и голосом hi_IN-rohan; метаданные связывают репозиторий с rhasspy/piper-voices и указывают лицензию MIT. Модель принимает текст и генерирует аудио. В карточке также заявлен английский язык, однако приведённая команда запуска настроена на хинди. Для работы README требует ffmpeg и CrispASR.

PoolFormer S36 — модель классификации изображений и извлечения визуальных признаков из семейства MetaFormer, представленная авторами статьи «MetaFormer Is Actually What You Need for Vision» и доступная в библиотеке timm. Она обучена на ImageNet-1k и содержит около 30,9 млн параметров; для классификации рассчитана на изображения размером 224 × 224 пикселя. Модель может присваивать изображениям классы, извлекать карты признаков и формировать эмбеддинги изображений. Модель подходит для классификации изображений общего назначения и как визуальная основа для последующей обработки признаков. Репозиторий распространяется по лицензии Apache-2.0. Карточка не описывает поддержку других наборов данных или сценариев вне задач компьютерного зрения.

poolformerv2_m36.sail_in1k — модель классификации изображений семейства PoolFormer-v2 и архитектуры MetaFormer, опубликованная авторами статьи и обученная на ImageNet-1k. Она предназначена для отнесения изображений к категориям, а также может использоваться как визуальный backbone для извлечения карт признаков и эмбеддингов. Модель содержит 56,1 млн параметров, рассчитана на изображения размером 224 × 224 и требует около 8,8 GMACs на проход. Репозиторий предоставляет веса PyTorch и safetensors; для работы используется библиотека timm. Лицензия — Apache-2.0. Модель обучена на ImageNet-1k, поэтому её классификация ориентирована на категории этого набора данных. Карточка не подтверждает поддержку других языковых или мультимодальных входов.

Qwen1.5-0.5B — базовая предварительно обученная языковая модель от команды Qwen и бета-версия семейства Qwen2. Это декодерный трансформер с примерно 464 млн параметров; модель предназначена для генерации текста и дальнейшего дообучения, например с помощью SFT, RLHF или продолжения предобучения. Авторы не рекомендуют использовать базовую версию напрямую для генерации текста. Модель поддерживает контекст до 32 768 токенов и многоязычную обработку. В архитектуре семейства используются SwiGLU, смещение в QKV и групповой запрос внимания, однако в этой бета-версии временно отсутствуют GQA и сочетание скользящего и полного внимания. Репозиторий содержит веса в формате safetensors; для загрузки через Transformers авторы рекомендуют версию 4.37.0 или новее. Лицензия указана как other, поэтому условия использования следует проверить в карточке модели.

Карточка модели Arnokey/Qwen2.5-0.5B на Hugging Face совпадает с карточкой Qwen/Qwen2.5-0.5B, поэтому описание составлено по ней. Qwen2.5-0.5B — базовая предобученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Это причинная плотная трансформерная модель с 494 млн параметров, 24 слоями, механизмом GQA и контекстом до 32 768 токенов; веса опубликованы в формате Safetensors, лицензия — Apache-2.0. Модель предназначена для генерации текста и служит основой для дальнейшего дообучения, например SFT, RLHF или продолженного предобучения. Семейство поддерживает более 29 языков, включая русский и английский, а также улучшено для следования инструкциям, работы с длинным текстом, структурированными данными, JSON, кодом и математикой. Для этого базового чекпойнта карточка отдельно не рекомендует диалоговое применение без постобучения. К сильным сторонам относятся небольшой размер, многоязычность и относительно длинный контекст для модели такого масштаба. Возможности конкретной версии ограничены её размером и предварительным этапом обучения; качество диалога и следования инструкциям может быть ниже, чем у инструктивно настроенных вариантов семейства.

Карточка модели BeautyQueen/Qwen2.5-0.5B на Hugging Face совпадает с карточкой Qwen/Qwen2.5-0.5B, поэтому описание составлено по ней. Qwen2.5-0.5B — базовая предобученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Это причинная плотная трансформерная модель с 494 млн параметров, 24 слоями, механизмом GQA и контекстом до 32 768 токенов; веса опубликованы в формате Safetensors, лицензия — Apache-2.0. Модель предназначена для генерации текста и служит основой для дальнейшего дообучения, например SFT, RLHF или продолженного предобучения. Семейство поддерживает более 29 языков, включая русский и английский, а также улучшено для следования инструкциям, работы с длинным текстом, структурированными данными, JSON, кодом и математикой. Для этого базового чекпойнта карточка отдельно не рекомендует диалоговое применение без постобучения. К сильным сторонам относятся небольшой размер, многоязычность и относительно длинный контекст для модели такого масштаба. Возможности конкретной версии ограничены её размером и предварительным этапом обучения; качество диалога и следования инструкциям может быть ниже, чем у инструктивно настроенных вариантов семейства.

unsloth/Qwen2.5-3B-bnb-4bit — 4-битная версия базовой языковой модели Qwen2.5-3B, подготовленная с использованием Unsloth и предназначенная для запуска и дообучения в формате bitsandbytes. Исходную модель разработала команда Qwen. Это причинная языковая модель для генерации и продолжения текста, а не готовая диалоговая instruction-tuned модель. Модель содержит около 3,09 млрд параметров, из которых 2,77 млрд не относятся к эмбеддингам, и включает 36 слоёв. Архитектура использует RoPE, SwiGLU, RMSNorm, смещения в QKV-внимании, связанные эмбеддинги слов и Grouped Query Attention с 16 головами запросов и 2 головами ключей/значений. Указана поддержка контекста до 32 768 токенов. Модель ориентирована на работу с текстом, включая китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский языки; для семейства Qwen2.5 также заявлена поддержка более 29 языков. Ключевое преимущество версии bnb-4bit — сниженное потребление памяти по сравнению с полноразмерной моделью, что упрощает локальный запуск и дообучение на ограниченных GPU. Базовую модель не рекомендуют использовать непосредственно для диалогов; для этого требуется последующее обучение, например SFT, RLHF или continued pretraining. К ограничениям относятся отсутствие готовой специализации под инструкции и неопределённые в README характеристики качества именно 4-битной версии. Лицензия указана как other, без уточнения условий в предоставленных данных.

AvoCahDoe выпустил квантованный чекпойнт Qwen2.5-7B для сценария Extreme Survival. Это плотная авторегрессионная модель семейства Qwen2, предназначенная для генерации текста и диалогового взаимодействия. В метаданных указаны 7,1 млрд параметров и контекст до 131 072 токенов. Вариант создан методом RL-MPQ: PPO-агент назначал разную разрядность слоям, а качество оценивали по perplexity на WikiText-2. Средняя разрядность весов составляет 2,4643 бита. В README экспорт описан как fake-quantized FP16, совместимый с Transformers; репозиторий содержит safetensors и политику разрядности по слоям. Модель основана на Qwen/Qwen2.5-7B и распространяется по лицензии Apache-2.0. Чекпойнт подходит для экспериментов с генерацией текста при ограничениях на размер весов и для оценки смешанной низкоразрядной квантизации. Результаты могут зависеть от устойчивости конкретной модели к сильной квантизации; README приводит оценку на WikiText-2, но не описывает широкие прикладные тесты или гарантии качества.

Qwen2.5-Math-PRM-7B — процессная reward-модель семейства Qwen2.5, разработанная командой Qwen. Она оценивает промежуточные шаги математических рассуждений, помогая находить ошибки в решениях и выбирать более качественные ответы языковых моделей. Это модель для оценки, а не для генерации текста. Модель построена на плотной архитектуре Qwen2 и содержит 7,1 млрд параметров. Она дообучена на Qwen/Qwen2.5-Math-7B-Instruct и принимает текстовые решения с разделёнными шагами; после каждого шага добавляется специальный маркер, по вероятности положительной классификации которого вычисляется оценка от 0 до 1. Контекст составляет 4096 токенов. В карточке заявлена оценка качества в Best-of-N и усиленное выявление ошибок на ProcessBench. Метаданные указывают английский и китайский языки. Лицензия обозначена как other, поэтому перед использованием следует проверить условия в карточке модели.

dnotitia/Qwen3-0.6B-Base — версия Qwen3-0.6B-Base, подготовленная Dnotitia для более удобного обучения. Веса совпадают с официальным выпуском Qwen3; изменения касаются шаблона чата, вынесенного в отдельный файл и дополненного тегами генерации для совместимости с assistant_only_loss в библиотеке TRL. Это плотная авторегрессионная языковая модель с 507,9 млн параметров и контекстом до 32 768 токенов. Она принимает текст и генерирует текст; базовый чекпойнт прошёл предварительное обучение и подходит для языкового моделирования и дальнейших экспериментов с дообучением. В README указано многоязычное обучение Qwen3 на 119 языках, но конкретный список языков для этого чекпойнта не приведён. Модель распространяется в формате safetensors по лицензии Apache-2.0. Для работы с Transformers требуется версия 4.51.0 или новее; небольшого размера модели достаточно для эффективных экспериментов с обучением, но карточка не приводит оценок производительности или специальных гарантий качества.

Это контрольная точка черновой модели EAGLE3, разработанная с помощью SpecForge для ускорения генерации текста методом speculative decoding вместе с Qwen/Qwen3-1.7B. Она не предназначена для самостоятельного использования как целевая языковая модель: для работы нужны базовая модель и совместимый код SpecForge/EAGLE3. Модель обучалась методом online training на данных ShareGPT; в конфигурации указаны архитектура LlamaForCausalLMEagle3 и тип bfloat16. Число параметров репозитория — 361,5 млн, контекст — 40 960 токенов. Веса черновой модели не содержат замороженные эмбеддинги целевой модели: SpecForge загружает их из Qwen/Qwen3-1.7B. Метаданные указывают английский и китайский языки. Лицензия обозначена как other; конкретные условия в доступных данных не раскрыты. Карточка не приводит бенчмарков производительности.

Это дообученная черновая модель EAGLE3 для спекулятивного декодирования с Qwen/Qwen3-1.7B. Чекпойнт создан методом онлайн-обучения SpecForge EAGLE3 на данных ShareGPT; архитектура — LlamaForCausalLMEagle3, размер — 361,5 млн параметров, тип данных — bfloat16. Модель принимает текст и предсказывает черновые продолжения для целевой модели, помогая ускорить генерацию текста. Чекпойнт рассчитан на загрузку совместимым кодом SpecForge/EAGLE3 и не является самостоятельной языковой моделью. Для работы целевая модель предоставляет замороженные веса эмбеддингов, отсутствующие в этом репозитории. Карточка не приводит результатов бенчмарков. Контекст составляет до 40 960 токенов; указаны английский и китайский языки. Лицензия обозначена как other.

Это контрольная точка черновой модели EAGLE3, обученной авторами репозитория с помощью SpecForge для ускорения генерации Qwen/Qwen3-1.7B посредством speculative decoding. Она предлагает токены-кандидаты для целевой модели и не предназначена для самостоятельной генерации текста. Модель основана на Qwen/Qwen3-1.7B и использует архитектуру LlamaForCausalLMEagle3; в метаданных указаны 361,5 млн параметров и контекст 40 960 токенов. Чекпойнт сохранён в safetensors, а замороженные веса целевых эмбеддингов в него не входят: совместимый загрузчик берёт их из целевой модели. Для работы требуется код с поддержкой SpecForge/EAGLE3 и соответствующая целевая модель. Карточка не приводит результатов бенчмарков. Лицензия указана как other; конкретные условия нужно проверять в файлах репозитория.

C10X/Qwen3.5-0.8B-heretic — мультимодальная диалоговая модель на базе Qwen3.5-0.8B, изменённая методом abliteration для снижения частоты отказов: в приведённом сравнении отказов стало 2 из 100 против 96 из 100 у исходной модели. Она принимает текст и изображения и генерирует текст; подходит для прототипирования, диалоговых приложений и задач анализа изображений. Архитектура — плотная Qwen3.5 с языковой моделью на 0,8 млрд параметров и визуальным энкодером; заявлена поддержка 201 языка и диалекта, нативная длина контекста — 262 144 токена. Модель представлена в формате safetensors и совместима с Transformers и рядом серверов инференса. README рекомендует её прежде всего для прототипирования, дообучения под конкретные задачи и разработки; компактный размер ограничивает её возможности по сравнению с более крупными моделями. Лицензия — Apache-2.0. Снижение отказов не гарантирует ответы на любые запросы и не является подтверждением точности или безопасности генераций.

Anbeeld/Qwen3.5-122B-A10B-DFlash-GGUF — это набор GGUF-квантизаций черновой DFlash-модели для Qwen3.5-122B-A10B. Модель разработана совместно Z-Lab и Modal. Она не является самостоятельной языковой моделью и предназначена для работы в паре с целевой Qwen3.5-122B-A10B в сервере спекулятивного декодирования. DFlash использует облегчённую модель блочной диффузии, которая параллельно предлагает несколько токенов, после чего целевая модель их проверяет. Такой подход должен повышать пропускную способность при сохранении распределения выходов целевой модели. Модель обучалась на последовательностях длиной 40 000 токенов и использует sliding-window attention для улучшенной работы с длинным контекстом. Репозиторий предназначен для BeeLlama.cpp, а также поддерживает сценарии запуска через SGLang с DFlash; поддержка vLLM на момент публикации описана как находящаяся в разработке. Основное назначение — высокопроизводительный inference Qwen3.5-122B-A10B, включая задачи рассуждений, математики, генерации кода и диалогов. В тестах на 4 GPU NVIDIA B200 DFlash показала ускорение до 4,21 раза при одной параллельной задаче и до 3,07 раза при 32 задачах, однако фактический результат зависит от оборудования, настроек и нагрузки. Ограничения включают необходимость совместимой инфраструктуры спекулятивного декодирования, целевой модели и значительных вычислительных ресурсов; сведения о языках и точном размере самой черновой модели в README не указаны. В метаданных указана лицензия Apache-2.0.

t-firefly/qwen3.5-2b-rknn3-rk1828 — вариант Qwen3.5-2B, подготовленный для запуска на устройстве RK1828 через LlamaPi. Исходную модель разработала команда Qwen; это компактная мультимодальная модель генерации текста по тексту и изображениям. В метаданных репозитория указан формат GGUF и связь с базовой моделью Qwen/Qwen3.5-2B. Модель предназначена для диалогов и задач понимания изображений на периферийных устройствах, а также для прототипирования и дообучения под отдельные задачи. Исходная архитектура объединяет обработку зрения и языка и использует гибридный подход с Gated Delta Networks и разреженной Mixture-of-Experts. Для исходной модели заявлены поддержка 201 языка и диалекта и контекст до 262 144 токенов. Карточка предлагает запуск через LlamaPi, но не приводит измерений производительности или качества именно на RK1828. Лицензия репозитория — Apache-2.0.

Anbeeld/Qwen3.5-4B-DFlash-GGUF — набор GGUF-квантизаций черновой модели DFlash для Qwen3.5-4B. Модель разработана совместно Z-Lab и Modal и распространяется Anbeeld. Это не самостоятельная языковая модель, а вспомогательный компонент для speculative decoding, который используется вместе с целевой Qwen/Qwen3.5-4B. DFlash применяет облегчённую block diffusion-архитектуру для параллельного предложения нескольких токенов, после чего целевая модель проверяет их. Такой подход предназначен для ускорения инференса и повышения пропускной способности серверов генерации при сохранении распределения выходов целевой модели. Модель обучалась на последовательностях длиной 40 000 токенов и использует sliding-window attention, что ориентировано на работу с длинным контекстом. Размер целевой модели — 4B параметров; сведения о поддерживаемых языках и точных параметрах квантизаций в карточке не указаны. Для запуска требуются совместимые серверы инференса и реализация DFlash, в частности SGLang; поддержка vLLM на момент описания находилась в разработке. В README приведены результаты на одной NVIDIA B200: ускорение достигало 4,60 раза при одной параллельной запросной сессии и 2,61 раза при 32 сессиях, однако эти показатели зависят от оборудования, настроек и рабочих нагрузок. Основное ограничение — невозможность самостоятельного использования без целевой Qwen3.5-4B и специализированной поддержки speculative decoding. Лицензия указана как Apache-2.0.

JamieBradfield/Qwen3.8-9B Hermes Function Calling v1 — языковая модель для генерации ответов с вызовами инструментов в формате Hermes. Это QLoRA-дообучение плотной модели Qwen3.8-9B-Distill с гибридной архитектурой Qwen3.5; в карточке указано 9 млрд параметров и контекст до 262 144 токенов. Доступны объединённые веса BF16 в формате Safetensors; для AMD RDNA3 также опубликована отдельная квантизованная версия GGUF. Модель предназначена для сценариев, где схема функций передаётся в системном сообщении через XML-теги, а из ответа нужно извлечь Hermes-конверт с именем функции и аргументами. В описанном автором тесте на 45 примерах из обучающего распределения формат был соблюдён в 43 случаях. Для OpenAI-совместимого параметра tools заметного преимущества перед базовой моделью не выявлено. Дообучение специализирует формат вызова, но не улучшает решение о том, когда вызывать инструмент: на 45 примерах с реальными траекториями и незнакомыми именами инструментов обе модели получили 0 из 45. Модель выпущена под лицензией Apache-2.0. В метаданных указан английский язык карточки; обучение велось на синтетических и курируемых примерах вызова инструментов из разных областей.

Qwen3.8-Flash-Next MTP draft head (Q8_0) — вспомогательная квантованная модель, разработанная на основе Qwen3.8-Flash-Next и опубликованная компанией Agention. Базовую модель создала команда Qwen, а поддержка Qwen3.8-Flash-Next в llama.cpp связана с работой Daniel Han и участников проекта llama.cpp. Этот файл содержит только multi-token-prediction head и не является самостоятельной языковой моделью. Модель предназначена для speculative decoding в llama.cpp: она используется как draft-компонент совместно с любой GGUF-версией Qwen3.8-Flash-Next, чтобы ускорять генерацию текста за счёт предварительного предсказания нескольких токенов. Размер файла в формате Q8_0 составляет около 3,85 ГиБ, а при использовании требуется примерно 3,9 ГиБ дополнительной памяти. В README не указаны отдельные сведения о языках, поддерживаемых модальностях или длине контекста; в примере запуска используется контекст 32 768 токенов. Преимущество этого head заключается в совместном обучении с базовой моделью, благодаря чему он может эффективнее выполнять черновые предсказания, чем отдельная малая модель. В приведённых измерениях на Radeon 8060S скорость генерации выросла с 24,2 до 29,3 токена в секунду для UD-IQ4_XS и с 28,1 до 30,3 токена в секунду для ROCmFP4-FAST; коэффициент принятия составил 0,623 и 0,587 соответственно. Ограничение состоит в необходимости использовать специальную ветку llama.cpp с поддержкой MTP, поскольку стандартная upstream-версия не поддерживает MTP-only путь для этого компонента. Для применения также нужна совместимая GGUF-версия базовой модели. Лицензия — Qwen Community License 1.0.

yujiepan/qwen3-next-moe-tiny-random — экспериментальная миниатюрная причинная языковая модель, созданная yujiepan на основе конфигурации Qwen3-Next-80B-A3B-Instruct от Qwen. Модель случайно инициализирована и предназначена главным образом для отладки архитектуры и совместимости инструментов, а не для содержательной генерации текста. Модель поддерживает задачу генерации текста и рассчитана на работу через Transformers, а также может использоваться с vLLM и SGLang. В метаданных указаны библиотека Transformers, около 1,2 млн параметров и нативное контекстное окно до 262144 токенов. Архитектура включает decoder-only блоки Qwen3-Next с линейным вниманием, sparse Mixture-of-Experts и механизмом multi-token prediction; конфигурация существенно уменьшена относительно исходной модели. Сильная сторона модели — компактность и пригодность для тестирования загрузки, инференса, длинного контекста и специфических механизмов Qwen3-Next. Из-за случайной инициализации модель не обладает нормальными языковыми знаниями и не подходит для продуктивной генерации, диалогов, ответов на вопросы или оценки качества языковых моделей. Лицензия в предоставленных данных не указана.

Qwen3-VL-1.0B-A0.4B-Instruct — тестовая уменьшенная модель семейства Qwen3-VL, созданная для разработки и проверки программной инфраструктуры на основе конфигурации Qwen/Qwen3-VL-30B-A3B-Instruct. Архитектура использует MoE с 128 экспертами и 8 активными на токен; всего около 1,434 млрд параметров, из них активируется около 0,4 млрд. В текстовой части оставлен один слой, в визуальном энкодере — четыре блока. Модель обучена на игрушечном текстовом наборе, но её визуальный энкодер случайно инициализирован и не дообучался. Поэтому она предназначена для текстовых тестов и проверки совместимости с Transformers, а не для анализа изображений. Для загрузки подходят Qwen3VLMoeForConditionalGeneration или AutoModelForImageTextToText; AutoModelForCausalLM этот тип модели не поддерживает. Репозиторий содержит веса safetensors и распространяется по лицензии MIT.

Qwen3-VL-2B-Instruct-abliterated-v1 — мультимодальная модель семейства Qwen3-VL, созданная на основе Qwen/Qwen3-VL-2B-Instruct и дообученная для подробного описания изображений и рассуждений по визуальному содержимому. Она принимает изображения и текстовые инструкции, а в ответ генерирует текст; модель поддерживает диалоговый режим и рассчитана на работу с изображениями разных пропорций и разрешений. Модель предназначена для создания подробных подписей к изображениям, анализа художественных, технических, абстрактных и чувствительных сцен, а также для исследований модерации контента и оценки безопасности. Основной язык — английский; возможны запросы на других языках, но README описывает их поддержку как зависящую от формулировки запроса. Лицензия — Apache-2.0. Модель настроена на выдачу откровенных описаний и может генерировать чувствительный или оскорбительный текст. Она не подходит для систем, которым необходима строгая модерация; точность может снижаться на незнакомых, синтетических и сильно абстрактных изображениях, а стиль ответа зависит от запроса.