II.2Создание и понимание программного кода

InterSync разработала дообученную версию Gemma 7B Instruct с поддержкой структурированных вызовов функций. Модель предназначена для диалогов, в которых нужно передавать запросы внешним API и базам данных, получать данные и использовать их в дальнейших ответах. Это текстовая авторегрессионная модель семейства Gemma с плотной архитектурой, содержащая 8,2 млрд параметров и принимающая контекст до 8192 токенов. README указывает английский как язык моделей Gemma; модель подходит для генерации текста, ответов на вопросы, суммаризации и рассуждений, а также для сценариев с подключением инструментов. Модель опубликована в формате safetensors под лицензией CC. Качество вызова функций зависит от корректного описания инструментов и доступной внешней системы; README не приводит оценок качества или конкретных ограничений.

Карточка модели PS4Research/GIxTUYIl3K6cMzEd на Hugging Face совпадает с карточкой PS4Research/EVPdEf4TUz3pRa2u, поэтому описание составлено по ней. PS4Research/EVPdEf4TUz3pRa2u — дообученная языковая модель семейства Qwen3, разработанная PS4Research на базе unsloth/Qwen3-14B-bnb-4bit с использованием Unsloth и библиотеки TRL. Модель содержит 14 млрд параметров, построена на плотной архитектуре Qwen3ForCausalLM и принимает текст для генерации текста; поддерживает диалоговый интерфейс и интерфейс вызова инструментов. Модель предназначена для генерации текста и диалоговых сценариев. Её контекстное окно составляет 40 960 токенов. В карточке указан английский язык. Модель распространяется по лицензии Apache-2.0. Специализация дообучения и его качество в карточке не раскрыты.

HikmaAI DistilBERT PII NER — модель HikmaAI на базе DistilBERT, дообученная для обнаружения персональных данных в тексте. Она выполняет токенную классификацию с BIO-разметкой и распознаёт 17 типов сущностей, включая имена, фамилии, даты рождения, финансовые и контактные данные. Модель обучена на датасете ai4privacy/pii-masking-400k для английского, итальянского, французского, немецкого, испанского и нидерландского языков; максимальная длина последовательности — 512 токенов. Модель подходит для локального выявления PII в системах защиты данных и шлюзах безопасности ИИ. Она выделяет фрагменты и типы сущностей, а прикладная система может использовать результаты для подсчёта, маскирования или фильтрации данных. Доступны веса safetensors и формат ONNX; README описывает динамическую INT8-квантизацию для ONNX Runtime. Лицензия — Apache-2.0. Ограничения: качество для языков, кроме шести языков обучения, не проверено; тексты длиннее 512 токенов нужно делить на фрагменты. Для хорошо структурированных значений, например адресов электронной почты, телефонов и номеров карт, регулярные выражения могут быть эффективнее; INT8-квантизация может немного снизить точность на сложных примерах.

Карточка модели dhanesh-hf/Jarvis-Titan-M4-Merged на Hugging Face совпадает с карточкой dhanesh-hf/Jarvis-Titan-V15-MoE-Decoupled, поэтому описание составлено по ней. J.A.R.V.I.S. Titan V15 MoE Decoupled — диалоговая языковая модель Dhanesh на архитектуре JarvisTitanMoEForCausalLM. Согласно карточке, она основана на DeepSeekMoE с общим экспертом и восемью маршрутизируемыми экспертами, из которых активируются два; также заявлены слои Tri-Brid памяти с локальным скользящим окном внимания, извлечением значимых KV-состояний и нейронной памятью Titans. Метаданные каталога указывают 7,1 млрд параметров и контекст 32 768 токенов. Модель предназначена для генерации текста в диалоге и взаимодействия с инструментами через соответствующий интерфейс. Карточка описывает объединённые автономные веса M4, включающие калиброванный адаптер Tri-Brid, а метаданные связывают модель с дообучением Jarvis-Titan-V14-MoE-Merged. В репозитории указаны веса Safetensors. Лицензия обозначена как other, поэтому условия использования следует проверять в материалах репозитория.

danieltorscho дообучил модель Qwen2.5-7B-Instruct с помощью Unsloth и библиотеки Hugging Face TRL. Это плотная авторегрессионная модель семейства Qwen2 с 7,1 млрд параметров для генерации текста и диалогового взаимодействия; она также предоставляет интерфейс вызова инструментов. Модель принимает текст и генерирует текст, поддерживает английский язык и имеет контекст длиной до 32 768 токенов. Модель подходит для ведения диалогов, генерации ответов и использования инструментов в текстовых сценариях. В README указана лицензия Apache-2.0. Карточка не описывает специальные предметные области или дополнительные ограничения качества и применения.

SteelStorage/L3.1-MS-Hytroblated-70B — экспериментальная слитая языковая модель, созданная SteelStorage методом Model Stock с помощью mergekit на основе mlabonne/Llama-3.1-70B-Instruct-lorablated и с включением моделей Hermes 3, Llama 3.1 Nemotron и Dracarys2. Это плотная авторегрессионная модель семейства Llama 3.1 с 69,5 млрд параметров и контекстом до 131 072 токенов; репозиторий содержит веса safetensors для Transformers. Модель предназначена для генерации текста и диалогов общего назначения, включая ролевые сценарии. Метаданные также отмечают интерфейс вызова инструментов. README называет её экспериментальной базовой моделью для возможной Nevoria v1.1, поэтому качество и готовность к практическому применению могут зависеть от сценария. В метаданных и README не приведены отдельные языковые ограничения или результаты оценки. Лицензия в предоставленных данных не указана.

LFM2.5-2.6B — квантованная версия модели LiquidAI/LFM2.5-2.6B, преобразованная в формат LiteRT-LM для локального запуска на устройствах. Она предназначена для генерации текста, диалоговых приложений и on-device-сценариев на Android, macOS, CPU и совместимых GPU. Модель относится к reasoning-моделям: перед ответом она формирует рассуждение в блоке <think>…</think>, которое через API доступно отдельно от итогового ответа. Архитектура гибридная и включает 22 блока gated short-convolution и 8 слоёв grouped-query attention. Доступны варианты int8 размером 2,87 ГБ и int4 размером 1,67 ГБ; заявленный максимальный контекст KV-кэша — 4096 токенов. В комплект входят токенизатор, ChatML-подобный шаблон с поддержкой списков инструментов и метаданные исполнителя. Для запуска требуется LiteRT-LM версии не ниже 0.14, а GPU-поддержка заявлена для версии от 0.16.0. Сильные стороны модели — возможность локального инференса, поддержка мобильных и периферийных устройств, отдельный канал рассуждений и высокая эффективность квантованных вариантов. На GSM8K int8 показывает 88%, int4 — 83%, тогда как эталонная bf16-версия показывает 92%. Ограничения включают небольшой контекст, дополнительный расход токенов на рассуждения и ускоренное заполнение контекста в многоходовых диалогах, поскольку предыдущие рассуждения сохраняются. На iOS Metal запуск на момент описания не работает. Модель распространяется по LFM Open License v1.0.

Карточка модели triplee/llama3.1_8b_cardiff_2024-08-19_merge на Hugging Face совпадает с карточкой triplee/llama3.1_8b_2S1S_v5_merge, поэтому описание составлено по ней. Модель triplee/llama3.1_8b_2S1S_v5_merge — дообученная текстовая модель семейства Llama 3.1, разработанная triplee на основе unsloth/meta-llama-3.1-8b-instruct. Она предназначена для генерации текста и диалоговых сценариев; в метаданных также заявлен интерфейс вызова инструментов. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. Для обучения использовались Unsloth и библиотека TRL; файлы представлены в формате safetensors. Лицензия — Apache-2.0.

Llama-3.1-8B-Reason-Blend-888k — экспериментальная плотная языковая модель от khulaifi95, дообученная на основе Meta-Llama-3.1-8B-Instruct. Она предназначена для усиления способностей к рассуждению и диалогового использования; работает с шаблоном ChatML и поддерживает интерфейс вызова инструментов. Модель содержит 7,5 млрд параметров, использует библиотеку Transformers и принимает контекст до 131 072 токенов. В карточке указаны английский язык и лицензия other. Модель можно применять для диалоговых ответов, многошаговых рассуждений и задач, где нужно следовать инструкциям. Автор характеризует её как экспериментальную: качество может быть нестабильным и зависеть от гиперпараметров. Результаты таблицы оценок в README не заполнены; при использовании в продуктивной среде автор рекомендует safeguards и контроль человека.

unsloth/Llama-3.2-3B — версия текстовой модели Meta Llama 3.2, представленная в репозитории Unsloth для использования и дообучения. Это плотная авторегрессионная трансформерная модель класса LlamaForCausalLM с 3,2 млрд параметров и контекстом до 131 072 токенов. README описывает семейство Llama 3.2 как модели для генерации текста и диалога; Unsloth предоставляет ноутбуки для настройки модели на собственных данных и экспорта результата. Модель подходит для генерации и продолжения текста, диалоговых сценариев, суммаризации и помощников с ограниченными вычислительными ресурсами. Семейство официально поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский; конкретная карточка также помечена языком en. Репозиторий использует формат safetensors и библиотеку Transformers. Модель основана на meta-llama/Llama-3.2-3B и распространяется по лицензии Llama 3.2 Community License — специальной лицензии Meta с коммерческими условиями. Качество генерации, фактическая точность и пригодность для конкретного языка или применения зависят от запроса и развертывания; заявленные в README преимущества скорости и экономии памяти относятся к настройке через Unsloth.

skyai798/llama-dpo-r1 — дообученная языковая модель семейства Llama, созданная на основе skyai798/llama-cot-sft-seed99. Модель содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и формат весов safetensors; для работы указана библиотека Transformers. Заявленная длина контекста — 131072 токена. Модель предназначена для генерации текста и диалогового взаимодействия. README указывает, что её дообучили на наборе safe_40000_helpful_40000; метаданные также отмечают интерфейс вызова инструментов. Подробности о качестве, конкретных сценариях применения и языковом покрытии в доступной карточке не приведены. Лицензия обозначена как other, поэтому условия использования следует проверять в файлах репозитория.

Matter-0.1-Slim-7B-A — языковая модель на архитектуре Mistral 7B, созданная 0-hero путём полного дообучения на версии slim-A датасета Matter объёмом около 285 тысяч примеров. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. Модель предназначена для диалоговых сценариев и генерации текста в формате ChatML; также заявлена поддержка вызова функций. Обучение проводилось в течение трёх эпох с помощью Axolotl на четырёх GPU A100. В карточке указана лицензия Apache-2.0.

MeliodasPercival_01_YamT3qm7xp — объединённая языковая модель на архитектуре Mistral, созданная из automerger/MeliodasPercival_01-7B и automerger/YamT3qm7xp-7B. Модель содержит 7,1 млрд параметров и поддерживает контекст длиной до 32 768 токенов. Она предназначена для генерации текста и может использоваться в сценариях, где требуется создавать продолжения и ответы на основе текстового запроса. Веса доступны в формате Safetensors; лицензия — Apache 2.0.

Карточка модели princeton-nlp/Mistral-7B-Instruct-RRHF на Hugging Face совпадает с карточкой princeton-nlp/Llama-3-Instruct-8B-SimPO-v0.2, поэтому описание составлено по ней. Llama-3-Instruct-8B-SimPO-v0.2 — диалоговая языковая модель семейства Llama, выпущенная командой Princeton NLP как модель из работы SimPO (Simple Preference Optimization with a Reference-Free Reward). Она предназначена для генерации текста в формате инструкций и диалога. Модель содержит 7,5 млрд параметров, принимает текст и имеет контекстное окно 8192 токена. Модель связана с исследованием оптимизации предпочтений без эталонной модели. В карточке не приведены подробности обучения, оценки качества или специальные области применения; метаданные указывают поддержку чата и формат весов safetensors. Лицензия в предоставленных данных не указана.

Mistral-Passthrough-8L-10B — текстовая авторегрессионная модель на архитектуре Mistral, созданная DeepKarkhanis с помощью LazyMergekit. Веса собраны методом passthrough из двух диапазонов слоёв одной модели mistralai/Mistral-7B-Instruct-v0.2; репозиторий содержит формат Safetensors, а размер модели составляет 7,1 млрд параметров. Модель предназначена для генерации текста и диалоговых ответов. Контекст — до 32 768 токенов. Используется лицензия Apache-2.0.

Mistral-T5-7B-v1 — дообученная Ignos языковая модель на архитектуре Mistral для генерации текста и улучшения выполнения инструкций. Она основана на Toten5/Marcoroni-neural-chat-7B-v2 и обучалась на наборе tatsu-lab/alpaca. Модель содержит 7,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и поддерживает контекст до 32 768 токенов. Модель предназначена для ответов на инструкции и запросы в текстовом формате. Веса доступны в формате PyTorch. Лицензия — Apache-2.0. README не приводит результатов оценки качества; заявлено, что модель наследует риски и ограничения базовых моделей.

Модель vicky4s4s/Mixtral-instruct-56B — разговорная языковая модель на архитектуре Mixtral, опубликованная Vignesh. Карточка описывает её как instruct-версию Mixtral-8x7B: разреженную Mixture of Experts для генерации текста и диалога. Метаданные указывают 7,1 млрд параметров и контекст до 32 768 токенов; доступны веса в safetensors и интерфейс чата. Модель предназначена для диалоговых ответов и генерации текста по инструкциям. В карточке приведён пример использования через Transformers и шаблон диалога Mixtral. Языковые метки охватывают английский, французский, итальянский, немецкий и испанский; датасеты карточки включают UltraChat 200K и LLaVA-Instruct-150K. Лицензия — Apache-2.0. В README отмечено, что веса происходят из оригинального релиза Mixtral, но формат и имена параметров изменены; также указана несовместимость с прямой инициализацией через Hugging Face Transformers. Модель не имеет встроенных механизмов модерации, поэтому её ответы могут требовать внешних ограничителей. Название репозитория заявляет 56B, однако метаданные указывают 7,1 млрд параметров, поэтому размер описан по метаданным.

zelk12/MT1-Max-Merge_02012025163610-GMMMUI-gemma-2-9B — объединённая языковая модель на базе Gemma 2, созданная с помощью mergekit методом SLERP из двух чекпойнтов: zelk12/MT1-Max-Merge_02012025163610-GMM-gemma-2-9B и zelk12/MT1-Max-Merge_02012025163610-MUI-gemma-2-9B. Это плотная авторегрессионная модель для генерации текста и диалогового взаимодействия. Модель содержит 9 млрд параметров, принимает текст и поддерживает контекст до 8192 токенов. Репозиторий использует формат safetensors и библиотеку Transformers. Карточка не сообщает о специализированной предметной области или языках, поэтому модель описывается как общего назначения. Лицензия и отдельные сведения о качестве или ограничениях в предоставленных данных отсутствуют. Как и другие генеративные языковые модели, ответы могут содержать ошибки; пригодность результата следует проверять в целевом сценарии.

Brunobkr/OFFFELLIA_f16_IBM_Granite-4.2-3b.gguf — сборка IBM Granite 4.2-3B в формате GGUF F16, предназначенная для генерации текста и диалогового взаимодействия. Метаданные указывают на производную от модели IBM Granite модель; README описывает проект VULLKAN-5150 и его инструменты запуска, но не подтверждает отдельные изменения весов этой сборки. Модель ориентирована на многоязычный диалог, рассуждения и работу с инструментами. В метаданных перечислены английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. README предупреждает, что качество на языках кроме английского может быть ниже, а ответы могут содержать неточности, предвзятость или небезопасный контент. Проектный README описывает ускорение AMD Vulkan, интерфейс в стиле IBM PC 5150 и другие функции форка llama.cpp; они относятся к программной среде, а не обязательно к самим весам этой модели. Лицензия — Apache 2.0.

sahilchachra/orcarouter-Qwen3.8-27B-Uncensored-MXFP8 — это квантизированная версия модели orcarouter/Qwen3.8-27B-Uncensored, созданная пользователем sahilchachra с использованием MLX. Модель основана на Qwen3.8-27B и предназначена для задач генерации текста и обработки изображений с формированием текстовых ответов. Она поддерживает запуск на компьютерах Apple Silicon через mlx-vlm и совместима с LM Studio. Модель относится к vision-language моделям архитектуры qwen3_5. Текстовый блок содержит 64 слоя и сочетает линейное внимание GatedDeltaNet с полноразмерным вниманием, используемым в каждом четвёртом слое; визуальная часть построена на Qwen3-VL. Текстовая часть квантизирована в формате MXFP8 с эффективными 8,381 битами на вес и группами размера 32, тогда как vision tower сохранён в формате bf16. Размер файлов модели составляет около 27 ГБ в 26 сегментах, поэтому для запуска рекомендуется Mac минимум с 32 ГБ оперативной памяти. Это reasoning-модель, которая перед финальным ответом генерирует канал рассуждений. Версия MXFP8 структурно проверена, однако полная генерация токен за токеном на машине с 24 ГБ памяти не тестировалась. В модели отсутствует MTP head, поэтому недоступно speculative decoding; остальные текстовые и визуальные возможности не затронуты. Модель является намеренно uncensored/abliterated-производной и может не отказывать в запросах, которые могла бы отклонить исходная модель, поэтому требует ответственного использования. Распространяется по лицензии Apache-2.0.

Mungert/Qwen2.5-0.5B-Instruct-GGUF — это компактная инструкционная языковая модель семейства Qwen2.5, разработанная командой Qwen при участии Alibaba Cloud. Модель предназначена для диалоговых сценариев, генерации текста, следования инструкциям, работы со структурированными данными и создания структурированных ответов, включая JSON. Она также ориентирована на задачи программирования и математики, однако из-за небольшого размера её возможности ограничены по сравнению с более крупными моделями. Модель представляет собой causal language model на архитектуре Transformer с RoPE, SwiGLU, RMSNorm, смещениями в QKV-матрицах внимания и связанными эмбеддингами слов. Она содержит около 0,49 млрд параметров, из которых 0,36 млрд не относятся к эмбеддингам, 24 слоя и Grouped Query Attention с 14 головами для Q и 2 для K/V. Полная длина контекста составляет 32 768 токенов, максимальная длина генерации — 8192 токена. Поддерживаются более 29 языков, включая английский, китайский, французский, испанский, немецкий, русский, японский, корейский, арабский и другие. Модель работает с текстом и не предназначена для мультимодальных задач. К сильным сторонам относятся малый размер, улучшенное следование инструкциям, генерация длинных текстов, устойчивость к различным системным промптам и поддержка структурированного вывода. Ограничениями являются компактная ёмкость модели и отсутствие заявленной поддержки изображений, аудио или других модальностей; подробные показатели производительности в README не приведены. Модель распространяется по лицензии Apache 2.0.

Mungert/Qwen2.5-1.5B-Instruct-GGUF — набор GGUF-версий инструкционной языковой модели Qwen2.5-1.5B-Instruct, основанной на Qwen/Qwen2.5-1.5B. В README разработчик конкретной сборки не указан. Модель предназначена для генерации текста, чат-взаимодействия и локального инференса на устройствах с ограниченными ресурсами. Доступны варианты с точностью BF16 и F16, а также квантованные версии Q4_K, Q6_K, Q8_0 и IQ3. Квантование уменьшает размер модели и требования к памяти, но может снижать точность. Формат GGUF ориентирован на запуск через совместимые инструменты, включая сценарии инференса на CPU, GPU и устройствах с небольшим объёмом VRAM. README не указывает размер контекстного окна, точную архитектуру и число параметров сверх обозначения 1.5B. Модель поддерживает китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский языки. Её сильные стороны — компактность, широкий выбор компромиссов между качеством и потреблением памяти и пригодность для локального использования. Ограничения связаны с небольшим размером и возможным ухудшением качества в низкобитных квантованных вариантах; мультимодальные возможности не заявлены. Лицензия — Apache-2.0.

BenevolenceMessiah/Qwen2.5-72B-Instruct-abliterated-2x-TIES-v1.0 — объединённая модель на базе семейства Qwen2.5, созданная с помощью mergekit методом TIES. В качестве базовой использована huihui-ai/Qwen2.5-72B-Instruct-abliterated; в объединение также вошли Rombos-LLM-V2.5-Qwen-72b и Dracarys2-72B-Instruct. Модель предназначена для диалогов и генерации текста. Это плотная причинно-языковая архитектура Qwen2 с 71,5 млрд параметров и контекстом до 32 768 токенов; работает через Transformers и распространяется в формате safetensors. Метаданные указывают интерфейс вызова инструментов, однако README не описывает его поведение и надёжность. Изменённое поведение отказов унаследовано от базовой abliterated-модели согласно описанию каталога. README не сообщает результатов оценки качества или конкретных ограничений. Лицензия в предоставленных данных не указана.

Карточка модели jeffmeloy/Qwen2.5-7B-olm-v1.1 на Hugging Face совпадает с карточкой jeffmeloy/Qwen2.5-7B-olm-v1.0, поэтому описание составлено по ней. jeffmeloy/Qwen2.5-7B-olm-v1.0 — текстовая модель на архитектуре Qwen2 с 7,1 млрд параметров, основанная на Qwen/Qwen2.5-7B и представленная как результат оптимизированного объединения слоёв. Подход Optimized Layer Merging (OLM) подбирает слои из нескольких языковых моделей, последовательно оценивая варианты на заданных наборах данных по метрикам, включая perplexity и exact match. Модель предназначена для генерации текста и диалогового взаимодействия; заявленный контекст составляет 131 072 токена. Метаданные указывают интерфейс вызова инструментов. В карточке описан метод сборки гибридной модели, но не приведены результаты оценки качества этой конкретной версии или подробности о наборах данных. Распространяется в формате Safetensors по лицензии Apache-2.0.

Карточка модели jeffmeloy/Qwen2.5-7B-olm-v1.2 на Hugging Face совпадает с карточкой jeffmeloy/Qwen2.5-7B-olm-v1.0, поэтому описание составлено по ней. jeffmeloy/Qwen2.5-7B-olm-v1.0 — текстовая модель на архитектуре Qwen2 с 7,1 млрд параметров, основанная на Qwen/Qwen2.5-7B и представленная как результат оптимизированного объединения слоёв. Подход Optimized Layer Merging (OLM) подбирает слои из нескольких языковых моделей, последовательно оценивая варианты на заданных наборах данных по метрикам, включая perplexity и exact match. Модель предназначена для генерации текста и диалогового взаимодействия; заявленный контекст составляет 131 072 токена. Метаданные указывают интерфейс вызова инструментов. В карточке описан метод сборки гибридной модели, но не приведены результаты оценки качества этой конкретной версии или подробности о наборах данных. Распространяется в формате Safetensors по лицензии Apache-2.0.

Карточка модели jeffmeloy/Qwen2.5-7B-olm-v1.4 на Hugging Face совпадает с карточкой jeffmeloy/Qwen2.5-7B-olm-v1.0, поэтому описание составлено по ней. jeffmeloy/Qwen2.5-7B-olm-v1.0 — текстовая модель на архитектуре Qwen2 с 7,1 млрд параметров, основанная на Qwen/Qwen2.5-7B и представленная как результат оптимизированного объединения слоёв. Подход Optimized Layer Merging (OLM) подбирает слои из нескольких языковых моделей, последовательно оценивая варианты на заданных наборах данных по метрикам, включая perplexity и exact match. Модель предназначена для генерации текста и диалогового взаимодействия; заявленный контекст составляет 131 072 токена. Метаданные указывают интерфейс вызова инструментов. В карточке описан метод сборки гибридной модели, но не приведены результаты оценки качества этой конкретной версии или подробности о наборах данных. Распространяется в формате Safetensors по лицензии Apache-2.0.

pmercenary/Qwen3-0.6B-JSON-SFT — компактная генеративная языковая модель семейства Qwen3, дообученная методом supervised fine-tuning (SFT). Модель опубликована пользователем pmercenary на Hugging Face и предназначена для генерации текста в диалоговых сценариях, включая задачи, где требуется формирование JSON-ответов. Модель содержит около 507,9 млн параметров, работает через библиотеку Transformers и поддерживает контекст длиной до 40 960 токенов. В метаданных указана задача text-generation и conversational-направленность. Благодаря небольшому размеру модель может быть удобна для локального запуска и прикладных прототипов с ограниченными вычислительными ресурсами. README не содержит подробных сведений о данных обучения, результатах оценки, точной архитектуре, поддерживаемых языках, разработчике или лицензии. Перед использованием в критически важных приложениях необходимы собственное тестирование качества и проверка условий распространения.

unsloth/Qwen3.5-2B — постобученная мультимодальная модель от Unsloth на базе Qwen/Qwen3.5-2B. Она сочетает причинную языковую модель с визуальным энкодером и предназначена для диалогов, понимания изображений и вызова инструментов. Модель содержит 2 млрд параметров, использует гибридную архитектуру с Gated Delta Networks и Gated Attention и поддерживает контекст до 262 144 токенов. Модель подходит для прототипирования, разработки и специализированного дообучения; её можно запускать через Transformers, vLLM, SGLang и KTransformers. Qwen3.5 заявляет поддержку 201 языка и диалекта, однако в карточке нет списка языков, специфичного для этой версии. Модель работает в режиме без рассуждений по умолчанию; авторы также описывают режим рассуждений и возможности работы с видео в составе семейства Qwen3.5. Весовые файлы представлены в формате Safetensors. Лицензия — Apache-2.0. Масштаб в 2 млрд параметров делает модель удобной для экспериментов и настройки под конкретные задачи, но карточка рекомендует прежде всего прототипирование и разработку; производительность и пропускная способность зависят от инфраструктуры и выбранного движка.

TheStageAI/Qwen3.5-4B-GGUF — набор квантизированных GGUF-чекпойнтов модели Qwen3.5-4B, разработанный TheStageAI для запуска через llama.cpp и локального инференса. Модель предназначена для генерации текста, диалоговых приложений и сценариев, где важны небольшой размер и работа на устройствах с ограниченными ресурсами. Доступны четыре варианта: XS размером 1,52 ГБ, S — 1,90 ГБ, M — 2,39 ГБ и L — 4,49 ГБ; рекомендован вариант M. README не содержит сведений о поддерживаемых языках, длине контекста и модальностях, поэтому модель следует считать текстовой. Чекпойнты используют смешанную посттренировочную квантизацию с форматами GGUF и различными картами точности: от Q2_K–Q8_0 для XS и S до Q4_K_M для M и Q8_0 для L. По приведённым оценкам, вариант M сохраняет 98,4% instruction-strict результата BF16-модели на IFEval и 99,1% результата BF16 на MMLU-Pro; вариант L обеспечивает более высокую точность при большем размере, а XS ориентирован на режим без рассуждений. Для длинного пошагового рассуждения рекомендуется использовать S, M или L. Сильные стороны модели — компактность, несколько вариантов компромисса между размером и качеством, совместимость с llama.cpp и возможность локального запуска. Ограничения связаны с потерей качества при агрессивной квантизации, особенно у XS, а также с тем, что характеристики базовой архитектуры, языков и контекстного окна в README не указаны. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-nvfp4-NInfer — мультимодальная разговорная модель для генерации текста и ответов на вопросы по изображениям. Релиз подготовлен пользователем neroued на основе Qwen3.8-27B от Qwen и unsloth/Qwen3.8-27B-NVFP4; модель предназначена для работы в инференсном движке NInfer. Модель использует архитектуру Qwen3.5 Dense и имеет 27B параметров. Артефакт объединяет NVFP4, row-scaled FP8 и BF16-веса: текстовые слои 0–55 используют NVFP4 для MLP, часть текстовых компонентов и выходная голова — FP8, управляющие веса — BF16. В комплект входят текстовые, визуальные и speculative decoding-компоненты, включая Vision, MTP и DFlash2. Поддерживаются сценарии text-generation и image-text-to-text; конкретные языки и размер контекстного окна в карточке не указаны. Сильными сторонами являются мультимодальность, существенно уменьшенное представление весов и поддержка ускоренного вывода через MTP или DFlash2. В опубликованных оценках указаны высокие результаты на AIME 2025 и 2026 — по 96,67%, GPQA-Diamond — 90,40%, IFBench — 77,00%, а также на задачах работы с изображениями RealWorldQA — 83,53% и ERQA — 66,25%. Артефакт нельзя использовать напрямую как checkpoint Transformers, Safetensors или GGUF: он предназначен только для NInfer. Для запуска требуется NInfer не ниже указанной ревизии, 64-разрядный Linux, NVIDIA GeForce RTX 5090 с архитектурой sm_120a и CUDA Toolkit 13.1 или новее; NInfer необходимо собрать из исходного кода. Лицензия модели — Apache-2.0.