I.4Обработка документов и форм

Qwen3.8-Flash-Next-DERISKED-W4A16-AWQ — мультимодальная языковая модель для работы с изображениями и текстом, разработанная как производная от Qwen3.8-Flash-Next. Базовую модель выпустила команда Qwen, вариант DERISKED создан Blackfrost-AI, а данная версия дополнительно подвергнута квантизации AWQ авторами репозитория davetha. Модель предназначена для сценариев image-text-to-text и рассчитана на запуск крупной MoE-модели класса 80B на двух AMD MI210. Используется формат compressed-tensors W4A16: веса представлены в 4-битном виде, активации — в bfloat16, размер группы — 128. Квантизированы маршрутизируемые эксперты и полные attention-слои, тогда как ряд чувствительных компонентов, включая GDN-слои, общий эксперт, нормы, эмбеддинги, MTP-голову и PLE-таблицу, сохранены в bf16. Поддерживается контекст до 262 144 токенов, MTP speculative decoding и PLE n-gram table. На связке vLLM и двух MI210 заявлены производительность prefill около 2200 токенов в секунду и decoding около 40 токенов в секунду с MTP при трёх speculative tokens; без спекулятивного декодирования — около 10 токенов в секунду. Сильные стороны модели — длинный контекст, мультимодальность, эффективное int4-хранение и ускорение MoE-вычислений. Ограничения включают зависимость от специфической конфигурации vLLM/ROCm, медленный bandwidth-bound decoding из-за потоковой загрузки примерно 100 ГБ PLE-таблицы по PCIe и ограничение speculative decoding тремя токенами на указанном стеке. Модель является abliterated/uncensored: защитное поведение отказа удалено, поэтому ответственность за применение лежит на пользователе. Распространяется по Qwen Community License 1.0; применяются условия лицензии базовой модели.

evsinlb/Qwen3.8-Flash-Next-oQ4e-fp16-mtp — это 4-битная MLX-квантизированная версия Qwen3.8-Flash-Next, разработанной командой Qwen. Сборка подготовлена с использованием oQ/oMLX и предназначена для запуска на Apple Silicon, прежде всего M1 и M2. Модель относится к архитектуре qwen4_exp и поддерживает генерацию текста, а также встроенные компоненты для работы с изображениями. Модель использует MoE-архитектуру с 512 экспертами и маршрутизацией top-10, 48 слоями и гибридом линейного и полноформатного внимания. В ней присутствует таблица PLE n-грамм объёмом 51,2 млрд параметров, Lightning MTP-голова, 4-битные веса с отдельными 5-битными улучшениями для чувствительных тензоров и контекст до 262 144 токенов. Размер модели на диске составляет около 99,82 GiB в 21 шарде; компоненты vision и MTP сохранены. Сильная сторона сборки — обработка длинных документов: она подходит для пакетного суммирования, извлечения данных и одноразового анализа больших текстов. На M2 Ultra заявлена высокая скорость предварительной обработки, около 525 токенов в секунду при контексте 8K, тогда как генерация выполняется примерно со скоростью 23–25 токенов в секунду. Ограничениями являются очень большой объём памяти, зависимость производительности от режима размещения PLE-таблицы и аппаратной платформы, а также сравнительно невысокая скорость декодирования для интерактивных сценариев. Модель распространяется по лицензии Apache 2.0. Формат — MLX safetensors; для запуска требуется совместимое окружение oMLX/MLX и достаточный объём оперативной памяти, поскольку только постоянно резидентная часть занимает около 70 GiB, а полное размещение модели требует примерно 100 GiB.

osiria/bert-italian-cased-ner — модель BERT базового размера с учётом регистра, разработанная для распознавания именованных сущностей в итальянском тексте. Она дообучена на базе bert-base-italian-cased на датасете WikiNER и дополнительном наборе вручную размеченных абзацев из Википедии. Модель присваивает токенам метки четырёх классов: люди, места, организации и прочие сущности, включая события, товары и услуги. Она предназначена для извлечения сущностей из веб-страниц, новостей и других грамотных цифровых текстов. В README приведён результат F1 92,78 на тестовом наборе; метрики рассчитаны на уровне токенов и усреднены по классам. Модель имеет около 136,9 млн параметров, контекст до 512 токенов и доступна в форматах PyTorch и Safetensors. Модель хуже подходит для шумных текстов с ошибками и сленгом, а также для узкоспециализированных медицинских, финансовых и юридических материалов. Лицензия — Apache-2.0.

Decision-2.0-Kai-0.6B — плотная модель с 0,6 млрд параметров из семейства Decision 2.0, разработанная для vLLM Semantic Router и дообученная на базе Qwen/Qwen3-0.6B-Base. Она принимает текст или JSON и за один проход отвечает на вопросы выбора из нескольких вариантов, даёт ответ «да/нет» или оценку по шкале. Для каждого возможного ответа возвращается вероятность; модель предназначена для классификации без генерации текста. Контекст составляет 8 192 токена. В карточке сообщается о результатах на JevArena и наборе из 15 задач с разметкой людьми, а также о возможности одновременно обрабатывать несколько вопросов к одному входу. Для одного вопроса указана медианная задержка 4,9 мс на одном GPU; это результат карточки, а не гарантия производительности в других конфигурациях. Модель распространяется в формате safetensors по лицензии Apache-2.0.

Davlan разработал distilbert-base-multilingual-cased-ner-hrl — мультиязычную модель распознавания именованных сущностей на базе DistilBERT, дообученную на корпусах новостных текстов. Она размечает токены как части имён людей (PER), организаций (ORG) и мест (LOC), а также как текст вне сущностей. Подходит для извлечения этих сущностей из текстов на арабском, немецком, английском, испанском, французском, итальянском, латышском, нидерландском, португальском и китайском языках. Модель использует архитектуру DistilBertForTokenClassification и поддерживает контекст до 512 токенов. Её можно применять через pipeline NER в Transformers для извлечения имён, компаний и географических названий из новостных и похожих текстов. Доступны форматы PyTorch, safetensors и TensorFlow. Модель выпущена по лицензии AFL-3.0. Качество может снижаться на других жанрах и в предметных областях, поскольку обучающие данные состоят из аннотированных новостных статей определённого периода.

ERNIE-4.5-VL-424B-A47B-PT — мультимодальная модель семейства ERNIE 4.5 от Baidu для диалогового взаимодействия с текстом и изображениями. Это вариант с весами PyTorch для Transformers; модель построена на архитектуре MoE и содержит 424 млрд параметров, из которых для каждого токена активируется около 47 млрд. Она принимает текст и изображения и генерирует текст, поддерживает контекст до 131 072 токенов и ориентирована на понимание изображений, мультимодальные рассуждения, языковое понимание и генерацию. Вариант прошёл постобучение с использованием SFT и методов оптимизации предпочтений. Модель подходит для ответов на вопросы по изображениям, визуального анализа и диалога с учётом изображения, а также для обычных текстовых диалогов и генерации. В README описаны режимы рассуждения с включённым и выключенным пошаговым анализом. Для запуска через vLLM требуется версия 0.11.2 или новее; приведённая конфигурация использует 16 GPU по 80 ГБ. Лицензия — Apache-2.0.

llmfan46 — дообученная на базе Google Gemma 3 12B IT мультимодальная модель для диалогов с текстом и изображениями. По данным карточки, она принимает текст и изображения и формирует текстовые ответы; подходит для вопросов по изображениям, генерации и суммаризации текста, а также диалоговых сценариев. Архитектура — плотная Gemma 3, размер базовой модели — 12 млрд параметров. Для семейства Gemma 3 в README указано контекстное окно 128 тыс. токенов и поддержка более 140 языков; подтверждения, что эти характеристики полностью сохранены в этой производной версии, нет. Автор называет модель uncensored и heretic; отдельные сведения о методе такого изменения или его оценке в карточке не приведены. Модель распространяется в формате safetensors через Transformers. Лицензия указана как gemma; перед использованием следует учитывать её условия. Как и другие генеративные модели, она может выдавать фактически неверные ответы, отражать смещения обучающих данных и ошибаться при сложных или неоднозначных запросах.

google/pix2struct-ocrvqa-base — модель Google семейства Pix2Struct для визуальных вопросов и ответов. Это архитектура кодировщик изображений — декодер текста, дообученная для задачи visual question answering; она принимает изображение и вопрос и формирует текстовый ответ. Модель построена на Pix2StructForConditionalGeneration и использует PyTorch. Pix2Struct предварительно обучали преобразовывать замаскированные снимки веб-страниц в упрощённый HTML; такой подход объединяет сигналы распознавания текста, языкового моделирования и описания изображений. Вариативное разрешение входа помогает обрабатывать визуально насыщенные материалы. Карточка указывает языковую поддержку английского, французского, румынского и немецкого. Лицензия — Apache-2.0.

CYFRAGOVPL/PLLuM-8x7B-chat-2412 — чат-модель семейства PLLuM, разработанная для польского языка и других славянских и балтийских языков с дополнительными англоязычными данными. Это языковая модель Mixtral с архитектурой Mixture of Experts (MoE), доступная в формате safetensors и рассчитанная на контекст до 32 768 токенов; в метаданных указано 7,1 млрд параметров. Модель дообучена для диалогов и выравнивалась на предпочтениях людей. Модель предназначена для генерации текста, ответов на вопросы, суммаризации и создания специализированных помощников. В README отмечены результаты на задачах, связанных с польским государственным управлением, и применение в юридических и бюрократических сценариях, в том числе с поиском по документам. Лицензия — Apache-2.0. Модель может генерировать фактически неверные или вымышленные сведения; предвзятость также может проявляться в спорных и субъективных темах. Работа с длинным контекстом зависит от доступной памяти.

Карточка модели EdgeAIMed/privacy-filter-nemotron на Hugging Face совпадает с карточкой OpenMed/privacy-filter-nemotron, поэтому описание составлено по ней. OpenMed разработала privacy-filter-nemotron — модель токенной классификации для выявления и типизации персональных данных в тексте. Это полное дообучение openai/privacy-filter на наборе nvidia/Nemotron-PII. Модель использует архитектуру MoE и разметку BIOES: 55 категорий PII представлены 221 классом токенов. В метаданных указаны 145,4 млн параметров и контекст до 131 072 токенов; веса опубликованы в формате safetensors для Transformers. Модель предназначена для извлечения фрагментов с персональными данными и передачи их в конвейеры маскирования или деидентификации. В тестировании на отложенной выборке из Nemotron-PII заявлены macro B-F1 0,9533 и точность токенов 0,9910; для декодирования границ авторы рекомендуют Viterbi. Лицензия — Apache-2.0. Обучающие данные преимущественно англоязычные, поэтому качество для других языков не гарантируется. Категории вроде профессии, языка, пола и политических взглядов менее надёжны, чем формально записываемые идентификаторы; синтетические данные также могут отличаться от реальных медицинских, юридических и веб-текстов. Для важных сценариев нужна проверка на данных целевого домена и дополнительный контроль результатов.

Qwen3.5-4B-heretic — доработанная модель coder3101 на базе мультимодальной Qwen/Qwen3.5-4B от Qwen. Это плотная модель с причинным языковым ядром и визуальным энкодером: она принимает текст и изображения и генерирует текст. Базовая архитектура насчитывает 4 млрд параметров и сочетает Gated Delta Networks с механизмом внимания; нативный контекст составляет 262 144 токена, с расширением до 1 010 000 токенов. В карточке заявлена поддержка 201 языка и диалекта для семейства Qwen3.5. Модель предназначена для диалога, рассуждений, работы с изображениями и вызова инструментов. Вариант heretic получен методом abliteration и заметно реже отказывается отвечать: в приведённом сравнении отказы снизились с 94 из 100 у исходной модели до 4 из 100, при KL-дивергенции 0,0406. Это изменение поведения может повысить риск нежелательных ответов; результаты приведены в README и не описывают качество на широком наборе задач. Репозиторий содержит веса в формате Safetensors для Transformers и совместимых движков. Лицензия — Apache-2.0.

JANGQ-AI представляет JANGTQ4 — квантованную версию мультимодальной модели Qwen3.6-35B-A3B, подготовленную для MLX и Apple Silicon. Модель предназначена для диалогов, анализа изображений и агентных сценариев; поддерживает интерфейс вызова инструментов. В исходной модели 35 млрд параметров, около 3 млрд активируются на токен. Архитектура MoE сочетает 30 слоёв Gated DeltaNet с линейным вниманием и 10 слоёв полного внимания, а также 256 маршрутизируемых экспертов и одного общего эксперта. В JANGTQ4 веса маршрутизируемых экспертов сжаты до 4 бит методом TurboQuant с кодовыми книгами Lloyd–Max и преобразованием Адамара; ряд остальных компонентов хранится в 8-битном формате, а башня зрения сохранена. Репозиторий использует safetensors и библиотеку MLX. Для загрузки квантованных тензоров требуется специальный загрузчик JANG Tools; стандартный mlx_lm.load() их не поддерживает. README указывает, что для видео в MLX-пути нужна собственная обёртка, а для основного mlx-vlm рекомендуется ограничиться изображениями. Лицензия — Apache-2.0.

ashuaria/Qwen3.8-Flash-Next-GGUF-FineTuning — GGUF-версия экспериментальной мультимодальной модели Qwen3.8-Flash-Next, разработанной командой Qwen и опубликованной для запуска через llama.cpp или Unsloth Desktop. Модель предназначена для задач обработки текста и изображений, включая мультимодальные приложения и агентские сценарии с длинным контекстом. Это авторегрессионная языковая модель с vision encoder, построенная на гибридной архитектуре Qwen3.8-Flash-Next. Она использует Gated DeltaNet и Qwen Sparse Attention, Gated Residual, n-gram embedding и Mixture of Experts. Заявлено 125 млрд параметров, из которых активируется 6 млрд, дополнительно используются 51 млрд параметров n-gram embedding и 4 млрд для MTP. Модель содержит 48 слоёв, 512 экспертов с 10 маршрутизируемыми и одним общим активируемым экспертом, а её нативный контекст составляет 262 144 токена с возможностью расширения до 1 млн токенов. Сильными сторонами являются высокая эффективность активации параметров, поддержка длинного контекста, разреженное внимание на уровне блоков и сочетание текстовой и визуальной обработки. README не указывает точный список поддерживаемых языков, конкретные значения квантования GGUF, системные требования или результаты бенчмарков. Модель распространяется по лицензии qwen-community-1.0; указано, что это экспериментальный preview архитектуры, которая должна лечь в основу Qwen4, поэтому совместимость и стабильность следует проверять в целевом окружении.

Bonsai-27b-Ternary-CRACK-GGUF — мультимодальная модель класса 27B, опубликованная dealignai. Это квантизированная GGUF-версия Bonsai 27B CRACK, созданная на базе prism-ml/Ternary-Bonsai-27B-gguf и относящаяся к семейству Qwen/Qwen3.6-27B. Модель предназначена для диалогов, рассуждений, использования инструментов, обработки текста и анализа изображений; также предусмотрена поддержка видео через отдельный Qwen3VL-проектор и совместимый клиент. Модель содержит 64 гибридных языковых блока архитектуры qwen35, а также отдельный F16-проектор Qwen3VL для мультимодальных входов. Основной языковой файл использует нативное 2-битное представление Q2_0 и занимает около 7,68 GiB, проектор — около 0,86 GiB. Заявлены английский и китайский языки. Контекст модели в README не указан. Для работы требуется форк Prism llama.cpp; обработка изображений проверена, а прямая передача видеофайлов зависит от возможностей конкретной среды выполнения. К сильным сторонам относятся низкое потребление памяти благодаря Q2_0, мультимодальность, совместимость с текстовыми и визуальными сценариями и результаты на приведённых тестах: 75,00% на фиксированной выборке MMLU-200 и 99,38% на полном HB-320. Ограничения включают необходимость специального форка Prism llama.cpp, отдельного мультимодального проектора и возможную необходимость предварительно извлекать кадры из видео. Модель распространяется по лицензии Apache-2.0.

Byrne-Anon — модель Quazim0t0 для обнаружения и анонимизации персональных данных в тексте. Она использует архитектуру SpikeWhale (Byrne) с плотной языковой основой и головой классификации токенов: каждому токену присваивается BIOES-метка, после чего найденные фрагменты можно редактировать или скрывать. Восемь категорий включают имена людей, электронные адреса, телефоны, физические адреса, URL, даты, номера счетов и секреты — например, API-ключи, пароли, токены и PIN-коды. Модель содержит 103,6 млн параметров, принимает текст с контекстом до 4096 токенов и выдаёт метки токенов. Карточка приводит оценку на 200 примерах: macro-F1 по классам персональных данных составляет 89,10. Проверка ориентирована на английский язык; лучше всего модель работает с адресами электронной почты, URL, номерами счетов и адресами. Границы найденных фрагментов приблизительны, а качество слабее для телефонов и точного обнаружения секретов. Для загрузки требуется прилагаемый код ByrneAnon и пользовательская архитектура. Лицензия — Apache-2.0.

unsloth/gemma-3-1b-it-GGUF — GGUF-версия инструкционно дообученной модели Gemma 3 1B, разработанной Google DeepMind и опубликованной в формате GGUF командой Unsloth. Модель предназначена для генерации текста, ответов на вопросы, суммаризации, рассуждений и понимания изображений, поэтому подходит для локального развёртывания на ноутбуках, настольных компьютерах и собственной облачной инфраструктуре с ограниченными ресурсами. Это мультимодальная модель: она принимает текст и изображения, а генерирует текст. Для версии 1B заявлено контекстное окно до 32K токенов; максимальный объём генерируемого ответа составляет 8192 токена. Семейство Gemma 3 поддерживает более 140 языков, однако в карточке этой версии явно указан английский язык. Меньший размер упрощает локальный запуск и снижает требования к ресурсам, но по возможностям и качеству модель может уступать более крупным вариантам Gemma 3. Изображения обрабатываются после нормализации до 896×896 пикселей и кодируются в 256 токенов каждое. Модель распространяется по лицензии Gemma; применимые условия использования определяются официальными Terms of Use Google. README не содержит подробностей о конкретной квантовке GGUF, требованиях к памяти или измеренных показателях качества.

Jellyfish-7B — языковая модель на 7,1 млрд параметров, разработанная Хаочэнем Чжаном, Юянем Дуном, Чуанем Сяо и Масафуми Оямадой при поддержке NEC Corporation и Университета Осаки. Модель основана на Mistral-7B-Instruct-v0.2 и дообучена с помощью LoRA на подмножестве Jellyfish-Instruct. Это плотная авторегрессионная модель Mistral с контекстом до 32 768 токенов, предназначенная для диалоговой генерации текста на английском языке. Модель ориентирована на подготовку табличных данных: обнаружение ошибок, заполнение пропусков, сопоставление схем и сущностей, определение типов столбцов и извлечение значений атрибутов. В README приведены результаты сравнений на наборах данных для этих задач; заявленная доля побед над GPT-3.5-turbo в оценке GPT-4 составляет 56,36%. Лицензия CC BY-NC 4.0 допускает использование на некоммерческих условиях.

Карточка модели kiel2/Kiel-2-Iris на Hugging Face совпадает с карточкой kiel2/Kiel-Vision-2-Pro, поэтому описание составлено по ней. Kiel-Vision-2-Pro — дообученная kiel2 модель для диалоговой работы с изображениями и текстом. Она основана на unsloth/qwen2.5-vl-7b-instruct-unsloth-bnb-4bit и использует архитектуру Qwen2.5-VL с 7 млрд параметров. По данным карточки, модель обучали с помощью Unsloth и библиотеки Hugging Face TRL. Модель принимает текстовые запросы и изображения и генерирует текстовые ответы. Она подходит для вопросов по изображениям и других сценариев визуального диалога. В карточке указан английский язык; доступны файлы в форматах Safetensors и GGUF, включая варианты F16 и Q4_K_M. Лицензия — Apache-2.0.

Kiel-Vision-2-Pro — дообученная kiel2 модель для диалоговой работы с изображениями и текстом. Она основана на unsloth/qwen2.5-vl-7b-instruct-unsloth-bnb-4bit и использует архитектуру Qwen2.5-VL с 7 млрд параметров. По данным карточки, модель обучали с помощью Unsloth и библиотеки Hugging Face TRL. Модель принимает текстовые запросы и изображения и генерирует текстовые ответы. Она подходит для вопросов по изображениям и других сценариев визуального диалога. В карточке указан английский язык; доступны файлы в форматах Safetensors и GGUF, включая варианты F16 и Q4_K_M. Лицензия — Apache-2.0.

ERCDiDip/langdetect — модель обнаружения языка текста, разработанная на основе XLM-RoBERTa base и дообученная на данных Monasterium и Wikipedia. Она предназначена для классификации текстовых последовательностей по языку, включая современные и средневековые языки. Модель использует архитектуру XLM-RoBERTa с классификационной головой, содержит 305,2 млн параметров и принимает последовательности длиной до 514 токенов. Поддерживает 41 язык; в тестировании на сбалансированном наборе указана средняя точность 99,59%. Репозиторий содержит веса PyTorch и safetensors. Лицензия — MIT. Модель подходит для автоматической сортировки и предварительной разметки исторических и современных текстов. Результат зависит от того, представлен ли язык в поддерживаемом наборе; качество для коротких, смешанных или сильно повреждённых фрагментов в карточке отдельно не оценено.

llava-llama-3-8b-v1_1-hf — мультимодальная модель XTuner на архитектуре LLaVA-Llama-3, дообученная на основе Meta-Llama-3-8B-Instruct и визуального энкодера CLIP-ViT-Large-patch14-336. В модели около 7,5 млрд параметров; она принимает изображения и текст и формирует текстовые ответы в диалоговом режиме. Контекст составляет до 8192 токенов. Модель предназначена для вопросов об изображениях, визуального анализа и ответов по содержимому картинок. В README приведены результаты на бенчмарках для понимания изображений, диаграмм, научных задач и распознавания текста на изображениях. Для версии v1.1 использованы ShareGPT4V-PT и InternVL-SFT; модель опубликована в официальном формате LLaVA и хранится в safetensors. Лицензия в предоставленных данных не указана.

LLaVA-Llama-3-8B-v1.1 — мультимодальная модель XTuner для диалога по изображениям. Она дообучена на Meta-Llama-3-8B-Instruct и использует визуальный энкодер CLIP ViT-Large/14 с разрешением 336 пикселей и MLP-проектором. Для обучения использовались ShareGPT4V-PT и InternVL-SFT; модель доступна в формате Hugging Face LLaVA и сохранена в safetensors. Модель принимает изображение вместе с текстовым запросом и генерирует текстовый ответ. Она подходит для описания изображений, ответов на вопросы о визуальном содержимом и анализа диаграмм или учебных изображений. В README приведены результаты на мультимодальных тестах, включая MMBench, AI2D и TextVQA. Лицензия в предоставленных данных не указана.

Pritesh-2711/piibench-deberta-base — модель PII-детекции на базе DeBERTa-v3-base, выпущенная как итоговая модель проекта PIIBench. Это дообученный классификатор токенов на архитектуре DeBERTa-v2 с 211,6 млн параметров; он размечает фрагменты текста, содержащие персональные и другие чувствительные данные. Модель обучена на подготовленных разделах многоисточникового бенчмарка PIIBench и рассчитана на контекст до 512 токенов. Модель предназначена для поиска PII в текстовых записях и оценки текста по типам сущностей. В README сообщается F1 0,6455 на полном тестовом наборе из 100 002 записей с 82 типами сущностей; полнота составила 0,6645, точность — 0,6277. Эти результаты относятся к указанному экспериментальному варианту набора и не гарантируют качество на других данных. Репозиторий выпущен под лицензией `other`; конкретные условия использования следует проверять в файлах лицензии модели.

Карточка модели aria220/privacy-filter-nemotron на Hugging Face совпадает с карточкой OpenMed/privacy-filter-nemotron, поэтому описание составлено по ней. OpenMed разработала privacy-filter-nemotron — модель токенной классификации для выявления и типизации персональных данных в тексте. Это полное дообучение openai/privacy-filter на наборе nvidia/Nemotron-PII. Модель использует архитектуру MoE и разметку BIOES: 55 категорий PII представлены 221 классом токенов. В метаданных указаны 145,4 млн параметров и контекст до 131 072 токенов; веса опубликованы в формате safetensors для Transformers. Модель предназначена для извлечения фрагментов с персональными данными и передачи их в конвейеры маскирования или деидентификации. В тестировании на отложенной выборке из Nemotron-PII заявлены macro B-F1 0,9533 и точность токенов 0,9910; для декодирования границ авторы рекомендуют Viterbi. Лицензия — Apache-2.0. Обучающие данные преимущественно англоязычные, поэтому качество для других языков не гарантируется. Категории вроде профессии, языка, пола и политических взглядов менее надёжны, чем формально записываемые идентификаторы; синтетические данные также могут отличаться от реальных медицинских, юридических и веб-текстов. Для важных сценариев нужна проверка на данных целевого домена и дополнительный контроль результатов.

ente-ai/Qwen3.5-0.8B-GGUF — это GGUF-версия мультимодальной модели Qwen3.5-0.8B, основанной на Qwen/Qwen3.5-0.8B. Модель разработана в экосистеме Qwen, а данный вариант опубликован ente-ai с использованием подходов Unsloth Dynamic 2.0. Она предназначена для локального запуска, прототипирования, исследовательских и прикладных задач, а также специализированного дообучения. Модель представляет собой каузальную языковую модель со зрительным энкодером и поддерживает обработку текста и изображений. Она содержит 0,8 млрд параметров, 24 слоя, скрытое измерение 1024 и нативный контекст до 262 144 токенов. Архитектура сочетает Gated Delta Networks, Gated Attention и разреженную Mixture-of-Experts; заявлена поддержка 201 языка и диалекта. Артефакты совместимы с инструментами локального и серверного инференса, включая Hugging Face Transformers, vLLM, SGLang и KTransformers. К сильным сторонам относятся компактный размер, мультимодальность, длинный контекст, возможность локального использования и потенциально высокая эффективность инференса. Из-за небольшого масштаба модель прежде всего ориентирована на прототипирование, task-specific fine-tuning и разработку; её возможности могут быть ограничены по сравнению с более крупными моделями в сложных задачах. Модель распространяется по лицензии Apache-2.0.

MuXodious разработал Qwen3.5-9B-SOMPOA-heresy — дообученную версию мультимодальной модели Qwen3.5-9B, обработанную инструментом Heretic с методами abliteration и Self-Organizing Maps. В процессе создания также применялась 4-битная qLoRA. Модель предназначена для диалога и ответов на запросы с изображениями; доступны интерфейс вызова инструментов и возможности vision. Модель содержит 9 млрд параметров и использует архитектуру Qwen3.5 с языковой моделью и визуальным энкодером. Базовая модель поддерживает 201 язык и диалект и имеет контекст длиной 262 144 токена с возможностью расширения; эти характеристики относятся к Qwen3.5-9B и не подтверждают отдельную оценку дообученной версии. Автор сообщает, что после обработки доля отказов снизилась с 414 из 416 до 33 из 416 в использованной им проверке. Лицензия — Apache-2.0.

DmitryDB/Qwen3.6-35B-A3B-Heretic-MOE-v3 — производная мультимодальная MoE-модель на базе Qwen/Qwen3.6-35B-A3B. Релиз подготовлен с использованием инструментов Heretic-MOE, разработанных dborzoff. Модель предназначена для обработки текста и изображений с генерацией текстовых ответов; точные поддерживаемые языки и размер контекстного окна в README не указаны. Доступны варианты Balanced и Max, отличающиеся степенью удаления отказов при сохранении качества исходной модели. Для обоих вариантов опубликованы веса BF16, INT8 Lean ConvRot, NVFP4_W4A16 и NVFP4_W4A4, а также форматы GGUF с различными уровнями квантования. Мультимодальный проектор поставляется отдельно и остается неизменным относительно исходной модели. Варианты NVFP4 ориентированы на снижение потребления памяти, причем W4A4 дополнительно рассчитан на более быстрое выполнение на системах Blackwell. Сильными сторонами являются широкий набор форматов, наличие мультимодального проектора, опубликованные манифесты воспроизводимости и контроль дрейфа perplexity в пределах установленного порога 0,5%. Ограничения включают необходимость совместимого загрузчика для специализированных INT8 и NVFP4 форматов, отдельную установку проектора для GGUF и проверенную совместимость GGUF только с конкретной зафиксированной версией llama.cpp. Лицензия — Apache-2.0; перед использованием рекомендуется ознакомиться с лицензией исходной модели Qwen3.6.

Vontra/Qwen3.8-Flash-Next-MLX-6bit-MTP — это 6-битная MLX-конверсия мультимодальной модели Qwen3.8-Flash-Next, подготовленная Vontra на основе официального BF16-чекпойнта Qwen. Модель предназначена для Apple Silicon и реализована в архитектуре qwen4_exp: vision-language модель с разреженной Mixture-of-Experts архитектурой, поддерживающая работу с текстом и изображениями. Общий размер языковой части составляет 125 млрд параметров, из которых активно используется около 6 млрд; дополнительно указаны 51 млрд параметров hashed bigram/trigram embeddings и 4 млрд параметров native MTP-блока. Модель использует Gated DeltaNet, Qwen Sparse Attention, sparse MoE-слои, vision encoder и контекст до 262 144 токенов. Квантование выполнено методом uniform 6-bit affine с group size 32; мультимодальные модули и маршрутизаторы MoE сохранены в BF16. Встроенный native MTP с одним draft-блоком предназначен для speculative decoding и может ускорять генерацию. Сильными сторонами являются большой контекст, поддержка изображений, высокая вычислительная эффективность за счёт MoE и native MTP, а также проверенная совместимость с MLX-VLM, MLX и oMLX. В тестах на Apple M3 Studio включение MTP увеличило скорость генерации с 20,65 до 25,94 токена в секунду. Ограничения включают значительный размер весов — около 158,08 ГБ, необходимость совместимого runtime с явной поддержкой qwen4_exp и native MTP, а также зависимость поддержки изображений от версий MLX-VLM и oMLX. Языки и точные мультимодальные возможности в предоставленных данных не указаны. Модель распространяется по Qwen Community License 1.0. Токенизатор, chat template, vision processor, конфигурации генерации и native MTP унаследованы от исходной модели.

Qwen3-VL-8B-Interleave-Thinking-i1-GGUF — квантованная GGUF-версия мультимодальной модели hxssgaa/Qwen3-VL-8B-Interleave-Thinking, подготовленная mradermacher. Модель предназначена для обработки текста и изображений, включая ответы на вопросы по изображениям, визуальный анализ, агентские сценарии, function calling и задачи с пошаговым рассуждением. В карточке также указана обучающая выборка xlam-interleave-thinking-40k. Модель относится к семейству Qwen3-VL и содержит 8 миллиардов параметров. Она поддерживает мультимодальный режим image-text-to-text; заявленный язык — английский. Контекстное окно, точная архитектура визуального компонента и дополнительные языковые возможности в README не указаны. Репозиторий предоставляет набор вариантов квантования с разным размером и компромиссом между скоростью, качеством и требованиями к памяти; среди рекомендуемых отмечены i1-Q4_K_M и i1-Q4_K_S. Для работы с изображениями могут потребоваться отдельные mmproj-файлы из статического репозитория. Сильными сторонами являются сочетание визуального понимания, рассуждений и поддержки агентских функций, а также возможность локального запуска через GGUF. Ограничения связаны с потерями качества, зависящими от выбранного уровня квантования, и отсутствием в карточке подробных результатов тестирования, данных о контекстном окне и инструкций по конкретным рантаймам. Распространение указано по лицензии Apache-2.0.

Zora-9B-v0 — мультимодальная модель Lambent, полученная слиянием предварительно обученных моделей семейства Qwen3.5 с помощью Karcher Mean и mergekit. Она предназначена для диалогового взаимодействия и работы с изображениями; также поддерживает интерфейс вызова инструментов. В README описаны настройки стиля ответов и снижение числа отказов и оговорок, однако модель всё ещё может использовать оговорки и сохранять элементы deliberative alignment. Модель содержит 7,2 млрд параметров, использует плотную архитектуру Qwen3.5 и принимает текст и изображения для генерации текстовых ответов. Контекстное окно составляет 262 144 токена. Распространяется в формате safetensors по лицензии Apache-2.0.