I.4Обработка документов и форм

cyankiwi/gemma-4-31B-it-qat-AWQ-INT4 — это квантованный вариант мультимодальной модели Gemma 4 31B, разработанной Google DeepMind и опубликованный пользователем cyankiwi. Модель основана на google/gemma-4-31B-it-qat-q4_0-unquantized и предназначена для работы с текстом и изображениями с генерацией текстового ответа. Она ориентирована на генерацию текста, программирование, рассуждения, мультимодальный анализ и агентские сценарии с поддержкой вызова функций. Модель относится к семейству Gemma 4 с архитектурой, использующей гибридный механизм внимания, и имеет размер около 20,90 ГБ. Для версии 31B заявлено контекстное окно до 256K токенов. Указана поддержка английского, китайского, хинди, арабского, русского, японского, корейского, нидерландского, французского и испанского языков. Квантование с использованием Quantization-Aware Training и формата AWQ-INT4 снижает требования к памяти при сохранении качества, близкого к полноформатным вариантам, что упрощает локальное развертывание. Ограничения включают значительные требования к вычислительным ресурсам по сравнению с меньшими моделями, а также возможные потери качества и совместимости, характерные для низкобитного квантования. В README аудио указано только для вариантов Gemma 4 E2B, E4B и 12B, поэтому для данной версии поддержка аудио не подтверждена. Модель распространяется по лицензии Apache 2.0; при использовании необходимо также учитывать условия лицензии Gemma 4.

FadedRedStar/gemma-4-E2B-it-qat-q4_0-heretic-GGUF — мультимодальная GGUF-версия модели Gemma 4 E2B, разработанной Google DeepMind. Модель предназначена для диалогов, рассуждений, генерации текста, обработки изображений и аудио, а также локального и периферийного развертывания. Поддерживаются системные сообщения, роли system/user/assistant, нативный вызов функций и настраиваемый режим рассуждений. Модель имеет гибридную архитектуру со скользящим и глобальным вниманием, 35 слоями и окном скользящего внимания 512 токенов. Контекст составляет 131 072 токена. Эффективный размер — 2,3 млрд параметров, общий размер с учетом Per-Layer Embeddings — 5,1 млрд. Поддерживаются текст, изображения и аудио; для мультимодального ввода используются отдельные vision/audio-проекторы. Текстовые веса представлены в формате Q4_0 PURE, рассчитанном с применением Quantization-Aware Training, а проекторы доступны в вариантах Q8_0 и BF16. Сильными сторонами являются мультимодальность, большой контекст, поддержка локального запуска и сохранение качества при 4-битном развертывании благодаря QAT. Суффикс heretic означает постобработку методом Arbitrary-Rank Ablation с использованием Heretic v1.2.0, направленную на снижение отказов при ответах; приведенные метрики являются самоотчетом автора и не были независимо проверены. Для работы требуется совместимый рантайм, например llama.cpp, а для обработки изображений и аудио — соответствующий проектор. Модель распространяется по лицензии Gemma; условия указаны по ссылке Google.

heretic-org/IBM-granite-4.1-8b-heretic — производная модель на базе IBM Granite-4.1-8B, созданная методом abliteration, который резко снижает склонность модели отказывать в ответах. В сравнении с исходной моделью в карточке указаны 5 отказов из 416 запросов против 409 из 416; также приведено значение KL divergence 0,0285. Это плотный decoder-only трансформер Granite с 8,4 млрд параметров и контекстом до 131 072 токенов, доступный в формате safetensors для Transformers. Модель предназначена для диалога и генерации текста: она может следовать инструкциям, отвечать на вопросы, суммировать и извлекать информацию, классифицировать текст, помогать с кодом и использовать вызов инструментов, унаследованные от Granite-4.1-8B. Заявлена поддержка английского, немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков; качество на других языках может отличаться от английского. Модель опубликована heretic-org под лицензией Apache 2.0. Снижение числа отказов не гарантирует точности или безопасности ответов: модель может выдавать ошибочную, предвзятую или небезопасную информацию, поэтому её следует проверять и настраивать для целевого применения.

Muse Glimmer-30B — мультимодальная модель Meta Superintelligence Lab с плотным каузальным трансформером и отдельным энкодером восприятия, дистиллированная из Muse Spark. В README указано около 29,6 млрд параметров; модель работает с текстом и изображениями и распространяется в формате safetensors под лицензией Apache 2.0. Модель предназначена для локальных агентных сценариев: планирования последовательности действий, вызова инструментов, восстановления после ошибок и выполнения многошаговых задач. Её также предлагают использовать для написания и отладки кода, анализа скриншотов, диаграмм, документов и изображений, генерации синтетических данных и оценки ответов других моделей. В карточке заявлена оптимизация для работы на потребительском оборудовании без облачной инфраструктуры. Ограничения включают возможные ошибки, предвзятые или нежелательные ответы и сбои в многошаговом рассуждении, особенно в новых сценариях. Модель не оптимизирована для видео, аудио на входе и выходе не поддерживается; качество может снижаться на языках, которые недостаточно оценивались. Для агентных развёртываний разработчикам рекомендуется проводить собственные проверки безопасности и учитывать подтверждение необратимых действий.

coder3101/Qwen3.5-9B-heretic — созданная на основе Qwen/Qwen3.5-9B версия с изменённым поведением отказов, подготовленная автором репозитория методом abliteration. Это мультимодальная модель на 9 млрд параметров с архитектурой Qwen3.5: языковая модель объединена с обработкой изображений, а гибридная архитектура включает Gated Delta Networks и механизм внимания. Модель предназначена для диалога, рассуждений, программирования и анализа изображений; также поддерживает интерфейс вызова инструментов. По сравнению с исходной моделью в приведённом README тесте отказов стало меньше: 10 из 100 против 86 из 100 у оригинала. Модель принимает текст и изображения и формирует текстовые ответы. README указывает нативный контекст 262 144 токена с возможностью расширения до 1 010 000 токенов и поддержку 201 языка и диалекта базовой модели. Весовые файлы представлены в формате safetensors; заявлена совместимость с Transformers, vLLM, SGLang и KTransformers. Лицензия — Apache-2.0. Показатель снижения отказов описывает приведённый тест и не гарантирует поведение на всех запросах; модель может отвечать на запросы, от которых исходная версия отказывалась.

Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive — мультимодальная модель на базе Qwen3.6-35B-A3B, разработанная HauhauCS. Это вариант с усиленным снятием ограничений на отказы: по заявлению автора, модель генерирует полный ответ даже на запросы, от которых обычно отказывается базовая версия. Модель предназначена для диалогов, анализа и генерации текста, программирования, а также работы с изображениями и видео. Архитектура — гибридная MoE с 35 млрд общих параметров и примерно 3 млрд активных параметров на один проход. Используются 256 экспертов, из которых для каждого токена выбираются 8; модель содержит 40 слоёв и сочетает linear attention с полной softmax attention в соотношении 3:1. Заявлен нативный контекст до 262 тысяч токенов. Поддерживаются текст, изображения и видео; указаны английский, китайский и другие языки. Для обработки изображений требуется отдельный файл mmproj. Модель доступна в формате GGUF с вариантами квантования от Q8 до Q2, включая пользовательские K_P-кванты, оптимизированные для сохранения качества. Сильные стороны — большой контекст, мультимодальность, MoE-эффективность и отсутствие встроенных отказов. Ограничение агрессивного варианта — возможное отсутствие защитных барьеров и редкие краткие дисклеймеры, которые автор связывает с обучением базовой модели. Для запуска подходят llama.cpp, LM Studio и другие GGUF-совместимые среды. Лицензия — Apache-2.0.

airoboros-34b-3.2 — экспериментальная разговорная языковая модель jondurbin, дообученная на базе 01-ai/yi-34b-200k с использованием преимущественно синтетических данных набора airoboros-3.2 и ряда сторонних датасетов. Это плотная модель семейства Llama с 33,9 млрд параметров, предназначенная для генерации текста в формате чата. Модель подходит для ответов на вопросы по заданному контексту, суммаризации, написания и дополнения кода, многошагового диалога и формирования планов действий или аргументов функций в JSON либо YAML. Карточка сообщает, что при дообучении использовалась длина контекста 8 тыс. токенов, хотя базовая модель поддерживает 200 тыс.; результаты за пределами 8 тыс. токенов могут быть ненадёжными. Для ответов по контексту рекомендуется явно отделять источники и инструкции, а также использовать низкую температуру. Модель распространяется в формате safetensors. В метаданных указана лицензия other; конкретные условия следует уточнить в карточке репозитория перед использованием. Автор характеризует модель как экспериментальную.

Mungert/Apriel-1.6-15b-Thinker-GGUF — GGUF-версия мультимодальной модели Apriel-1.6-15B-Thinker, разработанной ServiceNow в рамках серии Apriel SLM. Модель предназначена для рассуждений по тексту и изображениям, диалоговых приложений, следования инструкциям, работы с функциями и инструментами, а также корпоративных сценариев, включая телекоммуникации, розничную торговлю и авиаперевозки. Модель содержит около 15 млрд параметров и поддерживает текстово-изображённые входы. GGUF-файлы созданы с использованием llama.cpp; в процессе квантования для отдельных важных слоёв применялось повышение точности сверх стандартной конфигурации IMatrix, что должно улучшать качество при заданном уровне квантования, хотя увеличивает размер файла. Заявлены более эффективное расходование токенов рассуждений по сравнению с Apriel-1.5-15B-Thinker, конкурентоспособные результаты на ряде бенчмарков и возможность запуска на одной GPU. Для вызовов инструментов предусмотрены специальные токены, включая <tool_calls> и </tool_calls>. Сильные стороны модели — сочетание мультимодального reasoning, относительно небольшого размера, эффективности по памяти и поддержки сценариев function calling. Ограничения конкретного GGUF-файла зависят от выбранного уровня квантования: снижение точности может влиять на качество, а повышенная точность отдельных слоёв увеличивает размер модели. В представленных данных не указаны контекстное окно, языки, точные требования к памяти и полный перечень ограничений базовой модели. Лицензия — MIT.

Claude Fable 5 — модель класса Mythos от Anthropic, предназначенная для автономной интеллектуальной работы и задач программирования. Она принимает текст, изображения и файлы, а выдаёт текст; также заявлена поддержка рассуждений. Модель подходит для сценариев, где нужно анализировать предоставленные материалы и выполнять задачи по коду. Метаданные каталога относят её к задаче image-text-to-text. Данных о размере, контексте, языках и лицензии в предоставленных источниках нет.

GLM-5.3-Prime — высокоскоростной вариант модели GLM-5.3 от Z.ai. По описанию, ускорение инференса повышает пропускную способность генерации в 1,5–2 раза при сохранении возможностей GLM-5.3. Модель принимает и выдаёт текст; заявлен контекст длиной до 1 млн токенов. Модель предназначена для сценариев генерации текста, где важны высокая скорость ответа и работа с длинным контекстом. Сведения о лицензии и конкретных ограничениях в доступных данных отсутствуют.

GPT-3.5 Turbo 16k — вариант модели GPT-3.5 Turbo с увеличенным контекстным окном, разработанный OpenAI. Он предназначен для генерации текста и диалогов, в том числе для запросов, в которых нужно передать большой объём текста за один раз. По карточке модель обрабатывает примерно 20 страниц текста в одном запросе; использование обходится дороже, чем у стандартной версии GPT-3.5 Turbo.

Карточка модели Arsh9210/MiniMax-M3-NVFP4 на Hugging Face совпадает с карточкой nvidia/MiniMax-M3-NVFP4, поэтому описание составлено по ней. NVIDIA MiniMax-M3-NVFP4 — квантизированная версия мультимодальной модели MiniMax-M3, подготовленная с помощью NVIDIA Model Optimizer. Это модель архитектуры Transformer с Mixture-of-Experts: всего 428 млрд параметров, из которых активно около 23 млрд на токен. Она принимает текст, изображения и видео, а также выдаёт текст; контекстное окно составляет до 1 млн токенов, видео — до 30 минут. Модель предназначена для понимания изображений и длинных видео, программирования на продолжительных задачах, диалогов с инструментами и агентных сценариев. Режим рассуждения можно переключать между углублённым и менее затратным по задержке. Квантизация NVFP4 уменьшает объём весов и требования к памяти примерно вдвое относительно 8-битной версии; в приведённых тестах показатели близки к FP8-базе. Для запуска README указывает vLLM и NVIDIA Blackwell; поддержка MiniMax-M3 NVFP4 доступна в nightly-сборке vLLM. Веса самой модели разработаны не NVIDIA, а сторонней организацией. Лицензия обозначена как other, модель разрешена для некоммерческого использования. Ответы могут быть неточными, неполными или избыточными; модель может воспроизводить токсичность и предвзятость из обучающих данных.

Карточка модели luganoquant/Nex-N2.5-mini на Hugging Face совпадает с карточкой nex-agi/Nex-N2.5-mini, поэтому описание составлено по ней. Nex-N2.5-mini — разговорная модель семейства агентных моделей Nex-N2.5 от Nex-AGI, основанная на архитектуре Qwen3.5 MoE. Она предназначена для длительных многошаговых задач: работы с компьютером и браузером, выполнения и проверки программ, а также научной и офисной работы. Модель использует визуальную обратную связь для восприятия интерфейсов, проверки результатов и продолжения действий; поддерживает режимы рассуждения и вызов функций. Для запуска автор приводит конфигурацию на двух ускорителях H100 и рекомендует параметры генерации temperature 0.7, top_p 0.95 и top_k 40. В метаданных указаны Transformers и формат safetensors; лицензия — Apache-2.0. README описывает мультимодальные возможности семейства и отдельно позиционирует Nex-N2.5-Max как текстовую модель, поэтому точные размер, контекст и перечень входов и выходов именно mini по этим данным установить нельзя.

Карточка модели Content-AI/Qwen3.5-4B на Hugging Face совпадает с карточкой Qwen/Qwen3.5-4B, поэтому описание составлено по ней. Qwen3.5-4B — мультимодальная модель компании Qwen на 4 млрд параметров, представленная в формате Hugging Face Transformers и дообученная на базе Qwen/Qwen3.5-4B-Base. Это причинная языковая модель с визуальным энкодером, предназначенная для диалога, анализа изображений, рассуждений, программирования и вызова инструментов. Модель использует гибридную архитектуру Gated Delta Networks и gated attention; в README указано 32 слоя. Нативная длина контекста — 262 144 токена с возможностью расширения до 1 010 000. Семейство заявляет поддержку 201 языка и диалекта. По умолчанию модель работает в режиме рассуждения, а для развёртывания доступны Transformers, vLLM, SGLang и KTransformers. Модель подходит для ответов на вопросы по изображениям и тексту, многошаговых диалогов и агентных сценариев с инструментами. Репозиторий распространяется по лицензии Apache-2.0. Реальная скорость и пропускная способность зависят от среды инференса; длинный контекст может приводить к нехватке видеопамяти.

Pilcothink/Qwen3.8-27B-MixedInt4-AutoRound — это квантизированная версия мультимодальной модели Qwen/Qwen3.8-27B, разработанной командой Qwen и подготовленной Pilcothink. Модель предназначена для инференса в сценариях обработки текста и изображений, включая рассуждения, работу с инструментами и задачи, поддерживаемые исходной моделью. Это не дообучение, слияние или дистилляция, а производная версия исходного checkpoint. Квантизация выполнена с помощью Intel AutoRound по пользовательской схеме смешанной точности INT4 с размером группы 32. Языковые слои квантизированы, а vision tower сохранён в исходной точности; точное распределение разрядности между компонентами не раскрыто. Заявлена совместимость с поддерживающими AutoRound версиями vLLM. В README указана возможность работы с контекстом до 262 144 токенов, а для специального режима обслуживания — до 1 010 000 токенов, однако такие значения зависят от конфигурации и используемой версии инфраструктуры. Основное преимущество модели — снижение требований к памяти при сохранении близкого к оригиналу качества. В приведённой оценке средний результат составил 76,97% против 77,45% у исходной модели; наиболее заметное снижение наблюдалось в BoolQ, а на GSM8K квантизированная версия показала более высокий результат. При этом результаты бенчмарков не гарантируют идентичное поведение на каждом запросе, мультимодальных или длинноконтекстных нагрузках. Лицензия в карточке не указана; для условий использования, ограничений и лицензирования рекомендуется обращаться к карточке базовой модели Qwen/Qwen3.8-27B.

Qwen3.8-9B-Distill-MTPLX-Q6G64 — локальная MLX-версия модели empero-ai/Qwen3.8-9B-Distill, подготовленная pooyakn73 с использованием MTPLX для нативного multi-token prediction и speculative decoding на Apple Silicon. Это мультимодальная модель архитектуры Qwen3-Next с поддержкой текста и изображений, предназначенная для локальной генерации текста, программного кода и анализа изображений с ускоренным декодированием. Модель содержит около 9 млрд параметров, контекстное окно 262 144 токена и занимает около 8,7 ГБ на диске. Основная часть параметров квантизирована до 6 бит с group size 64 и affine-квантизацией, тогда как MTP draft head и vision tower сохранены в bf16. Такая конфигурация позволяет использовать speculative decoding без потери корректности, а на Apple M5 Pro демонстрирует до 74,9 токена в секунду при оптимальной глубине спекуляции 2. Vision tower восстановлен и сохранён, поскольку стандартный путь конвертации MLX мог его исключать. Сильные стороны модели — сочетание мультимодальности, большого контекстного окна, компактного размера и высокой скорости локального вывода на Apple Silicon. В тесте HumanEval она показала pass@1 81,10% при настройке reasoning effort xhigh, однако более крупные модели в приведённом сравнении достигли около 96% и выше, поэтому модель может уступать им в сложных задачах рассуждения и генерации кода. Указанные показатели скорости и качества зависят от оборудования, настроек декодирования и длины генерации. Модель распространяется по лицензии Apache-2.0.

Qwopus3.8-27B-Flash-V2-GGUF — мультимодальная instruction-tuned модель, разработанная Jackrong. Это обновлённый post-training релиз Qwopus3.8-27B-Flash, основанный на Qwen3.8-27B. Модель предназначена для генерации текста по текстовым и визуальным входным данным, решения сложных задач, рассуждений, генерации кода, использования инструментов, function calling и агентских сценариев с многократными итерациями «анализ — вызов инструмента — наблюдение — редактирование — проверка». Версия GGUF ориентирована на локальный inference. Ключевая заявленная характеристика — размер 27B параметров. Модель поддерживает image-text-to-text и относится к мультимодальным моделям с vision-возможностями. В README указаны языки English, Chinese, Spanish, Russian и Japanese. Архитектура и размер контекстного окна не раскрыты. Обновлённое обучение направлено на сокращение неэффективных рассуждений, повышение скорости завершения задач и улучшение практичности длительных агентских рабочих процессов; отдельно отмечено улучшение форматирования Python. Сильными сторонами модели являются сочетание рассуждений, программирования, работы с изображениями и инструментами, а также ориентация на эффективность при ограниченных вычислительных ресурсах. При этом README подчёркивает компромисс между сокращением длины рассуждений и сохранением корректности; универсальные улучшения качества не заявлены. Точные методы обучения V2 и полный рецепт reinforcement learning не раскрыты. Модель распространяется по лицензии Apache-2.0.

Merlinoz11/Solar-Open2-Apex-GGUF — GGUF-версия модели Solar Open 2 от Upstage, семейства больших языковых моделей с открытыми весами. Это модель с архитектурой Hybrid-Attention Mixture-of-Experts: всего около 250 млрд параметров, из которых на каждом токене активируются примерно 15 млрд. Гибридное чередование линейного и обычного внимания рассчитано на эффективную генерацию в длинном контексте; базовая модель поддерживает контекст до 1 048 576 токенов. Модель предназначена для агентных сценариев: многошагового рассуждения и выполнения задач, вызова инструментов, работы с документами, офисных задач и программирования. README описывает поддержку английского, корейского и японского языков. В метаданных этой копии указаны задача text-generation, чат-возможности и формат GGUF; отдельная специализация данного репозитория сверх базовой модели не уточняется. Для запуска полной модели README приводит конфигурацию с восемью GPU, каждый с памятью не менее 141 ГБ; фактические требования зависят от длины контекста и настроек. GGUF может быть удобен для локального развёртывания, но карточка этой копии не сообщает точный уровень квантизации или требования к ресурсам. Лицензия обозначена как other, поэтому условия использования следует проверять в исходной карточке и документах лицензии Upstage.

unsloth/Step-3.7-Flash-GGUF — GGUF-квантизированная версия модели Step 3.7 Flash, разработанной StepFun и распространяемой в формате Unsloth Dynamic 2.0. Это мультимодальная vision-language модель со sparse Mixture-of-Experts: она объединяет языковую основу примерно на 196 млрд параметров и vision-энкодер на 1,8 млрд параметров, активируя около 11 млрд параметров на токен. Модель поддерживает изображения и текст, английский язык и контекст до 256 тысяч токенов. Доступны уровни рассуждения low, medium и high для выбора баланса между скоростью, стоимостью и глубиной обработки. Модель предназначена для высоконагруженных агентных сценариев, объединяющих восприятие изображений, поиск, проверку информации, работу с инструментами и рассуждение. Она подходит для анализа больших финансовых документов, обработки интерфейсов, wireframe, графиков и диаграмм, многошагового поиска с перекрёстной проверкой источников, оркестрации внешних API и параллельных задач программирования. Заявленная производительность достигает 400 токенов в секунду; модель также ориентирована на исправление ошибок в многосоставных репозиториях и генерацию патчей, проходящих автоматические тесты. Сильные стороны модели — большое контекстное окно, нативное понимание изображений, поддержка длительных агентных рабочих процессов и возможность локального, облачного или серверного развёртывания через Transformers, vLLM, SGLang и llama.cpp. Ограничения включают значительные требования к памяти и вычислительным ресурсам: для локального запуска указаны устройства как минимум со 128 ГБ unified memory. README не содержит подробностей о качестве на языках, кроме английского, а заявленные результаты бенчмарков могут зависеть от конфигурации и способа инференса. Лицензия — Apache-2.0.

Vikhr-YandexGPT-5-Lite-8B-it — инструктивная языковая модель команды Vikhr, созданная дообучением YandexGPT-5-Lite-8B-pretrain методом SFT. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и принимает текст, выдавая текст. Она рассчитана прежде всего на русский язык и также поддерживает английский; длина контекста составляет 32 768 токенов. Модель предназначена для диалогов и выполнения инструкций, включая ответы на вопросы и генерацию ответов с опорой на предоставленные документы в RAG-сценариях. Для обучения использованы датасеты GrandMaster-PRO-MAX и Grounded-RAG-RU-v2. В режиме RAG требуется системный промпт GROUNDED_SYSTEM_PROMPT; модель может дополнять сведения из документов собственными знаниями. В карточке также отмечен низкий уровень безопасности ответов и возможность дефектов генерации при высокой температуре. Репозиторий содержит веса safetensors и использует библиотеку Transformers. Указана лицензия other; конкретные условия лицензии следует сверять с карточкой модели.

Карточка модели SAIFIINDUSTRIES/Nex-N2.5-mini на Hugging Face совпадает с карточкой nex-agi/Nex-N2.5-mini, поэтому описание составлено по ней. Nex-N2.5-mini — разговорная модель семейства агентных моделей Nex-N2.5 от Nex-AGI, основанная на архитектуре Qwen3.5 MoE. Она предназначена для длительных многошаговых задач: работы с компьютером и браузером, выполнения и проверки программ, а также научной и офисной работы. Модель использует визуальную обратную связь для восприятия интерфейсов, проверки результатов и продолжения действий; поддерживает режимы рассуждения и вызов функций. Для запуска автор приводит конфигурацию на двух ускорителях H100 и рекомендует параметры генерации temperature 0.7, top_p 0.95 и top_k 40. В метаданных указаны Transformers и формат safetensors; лицензия — Apache-2.0. README описывает мультимодальные возможности семейства и отдельно позиционирует Nex-N2.5-Max как текстовую модель, поэтому точные размер, контекст и перечень входов и выходов именно mini по этим данным установить нельзя.

Qwen3.6-34B-80L-Fable-5-Heretic — мультимодальная модель семейства Qwen от hiebo, дообученная на основе Qwen/Qwen3.6-27B. По карточке, модель расширена с 64 до 80 слоёв и примерно 34 млрд параметров, обучена методом дистилляции на 4 665 агентных трассах Fable-5 с применением QLoRA, а затем объединена с головами MTP для спекулятивного декодирования. Архитектура — Qwen3_5ForConditionalGeneration; заявлены чередование линейного и полного внимания, чат и работа с изображениями. Модель предназначена для диалоговых сценариев с рассуждениями и использованием инструментов, а также для задач, где нужно совместно обрабатывать текст и изображения. В README указаны запуск через Transformers и vLLM и максимальная длина контекста 256K; конфигурация запуска по умолчанию задаёт 4096 токенов. Карточка заявляет ускорение генерации с MTP, но приводит показатель принятия токенов и ускорение только для vLLM. Модель опубликована в формате safetensors; README описывает BF16-веса. Лицензия в предоставленных данных не указана.

HaberstrohSystems/Qwen3.8-27B-int4-g128-sym-autoround — квантованная версия нативно мультимодальной модели Qwen3.8-27B, опубликованная HaberstrohSystems и предназначенная для запуска на одной видеокарте Intel Arc Pro B70 с 32 ГБ памяти. Модель поддерживает работу с текстом и изображениями, вызов инструментов и обслуживается через Transformers или vLLM с парсером qwen3_coder. Модель содержит 27 млрд параметров; языковая часть имеет 64 слоя, скрытое измерение 5120, 24 query-heads и 4 KV-heads. Заявленный нативный контекст составляет 262 144 токена, а в приведённой конфигурации обслуживания используется до 131 072 токенов. Языковая часть сжата до INT4 методом AutoRound в формате W4A16 с размером группы 128 и симметричной схемой; веса занимают около 17,69 GiB. Чувствительные компоненты языковой модели и vision tower сохранены в 16-битном виде, поэтому обработка изображений не подвергается квантованию. Указан английский язык. Сильными сторонами являются мультимодальность, большой контекст, поддержка рассуждений с уровнями xhigh, medium и low, вызов инструментов и возможность запуска на одной Intel Arc Pro B70. Ограничения включают заметную задержку при включённом рассуждении xhigh, ускоренный рост контекста из-за сохранения блоков рассуждений и существенное падение производительности при длинных контекстах и многопользовательской нагрузке. Лицензия — Apache 2.0.

Qwen3.8-27B-NVFP4-MTP-VL-GGUF — пользовательская GGUF-сборка базовой модели Qwen/Qwen3.8-27B, разработанной командой Qwen. Сборка предназначена для локального запуска через llama.cpp и Ollama и объединяет языковую модель с поддержкой изображений и видео, механизмом MTP для ускоренного спекулятивного декодирования и отдельным F16 CLIP-проектором для обработки зрения. Это не официальный checkpoint в формате Transformers, а квантованная упаковка сообщества. Языковая часть и MTP используют NVFP4, выходные и embedding-слои — Q5_K, размер языкового файла составляет около 14,6 ГиБ, а проектор занимает около 888 МиБ. Нативный контекст модели — 262 144 токена; в GGUF добавлены метаданные статического YaRN с коэффициентом 4, позволяющие запрашивать окно до 1 048 576 токенов без изменения весов. Поддерживаются английский и китайский языки. Сильные стороны — существенно меньшие требования к памяти по сравнению с BF16, сохранение визуальных возможностей и MTP, а также совместимость с локальными рантаймами. Для работы требуются сборки, поддерживающие архитектуру qwen35, NVFP4, mmproj и draft-mtp. Окно в миллион токенов требует очень большого объёма памяти для KV-кэша, а статический YaRN может ухудшать качество на коротких запросах, поэтому для обычного диалога рекомендуется меньший контекст. Модель распространяется по лицензии Apache License 2.0.

GLM-5.3-Flash — разработанная Z.ai мультимодальная модель семейства GLM-5 для диалогов, анализа изображений, программирования и агентных сценариев. Это новая модель с гибридной архитектурой, сочетающей разреженное и линейное внимание; в README указаны 320 млрд общих параметров и 18 млрд активных параметров. Репозиторий содержит веса в формате safetensors FP8, а метаданные указывают библиотеку Transformers и лицензию MIT. Модель предназначена для ответов на вопросы по тексту и изображениям, помощи с кодом и выполнения многошаговых задач с инструментами. В README описано управление бюджетом рассуждений через reasoning_effort; также заявлены улучшения эффективности и работы с длинным контекстом. Указанные в карточке результаты контекстных оценок не подтверждают максимальную длину контекста для всех способов запуска. Языковые метаданные карточки перечисляют английский и китайский; независимых сведений о качестве на других языках нет.

Карточка модели eyes-dot-ml/GLM-5.3-Flash-BF16 на Hugging Face совпадает с карточкой zai-org/GLM-5.3-Flash-BF16, поэтому описание составлено по ней. GLM-5.3-Flash-BF16 — мультимодальная модель семейства GLM от Z.ai для диалогов и задач с изображениями. По карточке модели, она содержит 320 млрд параметров, из которых 18 млрд активны при обработке. Архитектура GLM5 Next сочетает разреженное и линейное внимание; модель обучена с нуля и использует мультимодальную предобучающую выборку объёмом 30 трлн токенов. Модель предназначена для анализа изображений и текста, программирования и агентных сценариев. В README заявлены улучшения относительно GLM-5.2 и эффективность при работе с длинным контекстом. Доступны уровни reasoning_effort low, high и max; для локального развёртывания перечислены Transformers, vLLM, SGLang и другие фреймворки. Метаданные указывают поддержку английского и китайского языков и интерфейс чата с обработкой изображений. Лицензия — MIT.

MiniMax-M3-FP8-dynamic — это динамически квантизированная в формате FP8 версия мультимодальной модели MiniMax-M3, разработанной MiniMaxAI. Модель является производным checkpoint от MiniMaxAI/MiniMax-M3 и распространяется в форматах safetensors и compressed-tensors. Она предназначена для диалоговых и мультимодальных задач, включая работу с текстом и изображениями, рассуждения, математику, ответы на вопросы, следование инструкциям и генерацию кода. Базовая MiniMax-M3 описывается как нативная мультимодальная MoE-модель примерно на 428 млрд параметров, из которых около 23 млрд активируются при обработке запроса. Заявлена поддержка контекста до 1 млн токенов. FP8 dynamic quantization уменьшает требования к памяти и дисковому пространству; согласно приведённой оценке, качество в большинстве тестов близко к BF16-версии, хотя на отдельных задачах наблюдается снижение результатов. Модель проверялась в vLLM через OpenAI-compatible server и на оборудовании AMD MI350 с tensor parallel size 8. Основные ограничения связаны с высокими аппаратными требованиями, обусловленными размером исходной MoE-модели и мультимодальной архитектурой. В README не указаны точный набор поддерживаемых языков, подробности входных и выходных модальностей, минимальная конфигурация для запуска и дополнительные ограничения применения. Квантизированный checkpoint следует условиям лицензии базовой MiniMax-M3; конкретный текст лицензии в карточке не приведён, а в метаданных указано license: other.

HauhauCS/Qwen3.5-35B-A3B-Uncensored-HauhauCS-Aggressive — мультимодальная MoE-модель в формате GGUF, созданная HauhauCS на базе Qwen/Qwen3.5-35B-A3B. Она предназначена для генерации и понимания текста, работы с изображениями и видео, решения общих и рассуждательных задач, программирования и локального запуска в совместимых средах, включая llama.cpp, LM Studio, Jan и koboldcpp. Модель позиционируется как вариант без встроенных отказов; агрессивная версия может иногда добавлять краткие оговорки, но продолжает генерировать полный ответ. Модель содержит 35 млрд параметров, из которых около 3 млрд активируются на каждом проходе. Архитектура включает 256 экспертов, 8 маршрутизируемых и 1 общий эксперт на токен, 40 слоёв с гибридным сочетанием линейного внимания Gated DeltaNet и полноформатного softmax-внимания. Нативный контекст составляет 262 тысячи токенов и может быть расширен до 1 млн с YaRN. Поддерживаются текст, изображения и видео, Multi-Token Prediction, словарь на 248 тысяч токенов и 201 язык. Для обработки изображений требуется отдельный файл mmproj. Доступны варианты квантования от BF16 до IQ2_M размером примерно от 65 до 11 ГБ, что позволяет выбирать баланс между качеством и требованиями к памяти. Ограничения включают зависимость мультимодальной работы от дополнительного mmproj-файла, высокие аппаратные требования для крупных вариантов и отсутствие встроенных защитных отказов, что повышает риск небезопасного использования. Модель распространяется по лицензии Apache-2.0.

primitive-ai/Qwen3.8-Flash-Next-NVFP4 — квантизированная сборка базовой модели Qwen/Qwen3.8-Flash-Next, подготовленная Primitive AI. Модель предназначена для генерации текста и обработки запросов с изображениями в формате image-text-to-text, а также поддерживает рассуждения, структурированные вызовы инструментов и speculative decoding через MTP. Объём исходной модели составляет около 180 млрд параметров; сборка использует NVFP4 для экспертных компонентов и BF16 для части весов, занимая около 186 ГБ на диске. Главное преимущество — запуск крупной модели на одной 96 ГБ GPU Blackwell благодаря выгрузке 51-миллиардной n-gram-таблицы в оперативную память хоста; требуется примерно 100 ГБ свободной RAM. Заявлены скорость до 74,4 токена/с в однопоточном режиме и до 483,8 токена/с при 32 параллельных запросах. Модель сохраняет поддержку MTP, имеет проверенные парсеры рассуждений и tool calling в vLLM, а также показывает высокие результаты на приведённых наборах знаний и вызова инструментов. Ограничения связаны с жёсткими требованиями к оборудованию, объёму RAM и настройкам vLLM. Для запуска рекомендуется опубликованный образ vllm/vllm-openai:qwen38-flash-next и специальные параметры offload; без них сервер может зависать или не пройти инициализацию. Данные о поддерживаемых языках и точной архитектуре в README не приведены. Распространение осуществляется по лицензии Qwen Community 1.0.

Agents-A1-4B-Fable-Preview-heretic-GGUF — это GGUF-квантизированная vision-language модель, разработанная hotdogs на основе Agents-A1-4B от InternScience. Модель предназначена для диалогов, понимания изображений, агентских сценариев, пошагового рассуждения, вызова инструментов и function calling, а также выполнения задач с кодом и shell-командами. Поддерживаются английский и тайский языки, формат ChatML и инференс через llama.cpp с использованием vision-проектора mmproj. Модель содержит около 4,29 млрд параметров и использует гибридную архитектуру Qwen3.5 с линейным и полным вниманием. Для обработки изображений применяется 24-слойный ViT-энкодер, контекст поддерживает до 128K токенов. Обучение включало 3 500 примеров Fable-style reasoning traces в течение трёх эпох; заявлена поддержка многошаговых агентских траекторий и блоков рассуждений <think>. Доступны варианты GGUF с разными уровнями квантизации, включая рекомендуемый IQ4_NL размером около 2,61 ГБ. К сильным сторонам относятся мультимодальность, поддержка инструментов, двуязычность, большой контекст и возможность запуска на видеокартах с ограниченной памятью. Abliteration с использованием heretic снизила заявленный уровень отказов примерно до 11%, однако модель может генерировать вредный, оскорбительный или неподходящий контент, поэтому требует осторожного применения. Лицензия — AGPL-3.0.