I.4Обработка документов и форм

VV2 — компактная модель ответов на вопросы на базе BERT, разработанная VenkatManda. Она дообучена на наборе SQuAD v2 и предназначена для извлечения ответа из предоставленного контекста, включая распознавание случаев, когда контекст не содержит ответа. Модель содержит 4,4 млн параметров, принимает текст и имеет контекст длиной до 512 токенов. Веса опубликованы в формате safetensors. Лицензия MIT разрешает использование модели на условиях этой лицензии.

arinze/address-match-abp-v1 — модель на базе BERT, опубликованная пользователем arinze. Она преобразует предложения и абзацы в плотные эмбеддинги размерностью 384 и предназначена для поиска семантически похожих текстов, кластеризации и семантического поиска. Модель обучалась с функцией потерь MultipleNegativesRankingLoss и косинусным сходством; размер составляет 25,9 млн параметров, максимальная длина контекста — 512 токенов. Модель подходит для сопоставления адресов по смысловому сходству и поиска близких текстовых записей. Использовать её можно через Sentence-Transformers или Transformers с подходящей операцией pooling. В репозитории указаны веса PyTorch. Данные о лицензии и целевых языках в предоставленных источниках отсутствуют.

DistilBart-MNLI-12-3 — дистиллированная модель семейства BART, разработанная Valhalla на основе bart-large-mnli. Она предназначена для классификации текста по заданным пользователем категориям без отдельного обучения на этих категориях: модель оценивает соответствие текста гипотезам, сформулированным для меток классов. Модель содержит 252,8 млн параметров и принимает последовательности длиной до 1024 токенов. При создании были взяты чередующиеся слои bart-large-mnli, после чего модель дополнительно обучили на тех же данных MNLI. По данным карточки, точность составляет 88,1% на matched и 88,19% на mismatched части оценки MNLI; исходная модель показывает 89,9% и 90,01% соответственно. Репозиторий содержит веса PyTorch и Flax. Метаданные не указывают лицензию; модель ориентирована на английский язык, что следует из обучения и оценки на MNLI.

Qishuai/distilbert_punctuator_zh — модель для расстановки знаков препинания в обычном тексте на упрощённом китайском языке. Разработчик дообучил DistilBertForTokenClassification на основе дистиллированной модели bert-base-chinese; архитектура DistilBERT выполняет классификацию токенов. Модель принимает текст и предсказывает места и типы знаков препинания в контексте до 512 токенов. Модель предназначена для восстановления пунктуации в текстах без знаков препинания. В README приведены результаты проверки на обучающем наборе MSRA: для запятой F1 составляет 0,63, для китайской точки — 0,42, а для восклицательного знака — 0,09, поэтому точность зависит от типа знака. Для запуска описана загрузка через Transformers; веса доступны в форматах PyTorch и safetensors. Лицензия в предоставленных сведениях не указана.

EXAONE-Deep-7.8B-sft_v0_2 — корейская диалоговая языковая модель jwg0830, дообученная на базе LGAI-EXAONE/EXAONE-Deep-7.8B. Разработчик применил LoRA дообучение и объединил адаптер с базовой моделью; архитектура EXAONE и реализация модели не менялись. Модель содержит 7,4 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации ответов на корейском языке с более устойчивым форматом вывода и усиленным причинно-следственным рассуждением. В README описано обучение на данных для задач по корейскому языку, медицине, финансам, праву, административным документам и причинно-следственному анализу, а также собственная оценка на пяти proxy-наборах, не являющаяся официальным результатом K-AI. В метаданных указана библиотека Transformers и лицензия «other»; конкретные условия лицензии следует уточнять в репозитории.

Gemma-4-26B-A4B-it-qat-q4_0-uncensored-heretic-NVFP4-GGUF — модель, созданная независимым разработчиком LLMfan46 на основе Google Gemma 4 26B A4B Instruct. Это decensored-версия исходной модели, полученная с использованием Heretic v1.2.0 и метода Arbitrary-Rank Ablation (ARA). Модель распространяется в формате GGUF с NVFP4-квантизацией и предназначена для генерации текста и работы с изображениями и текстом, согласно указанному pipeline image-text-to-text. Модель ориентирована на диалоги, следование инструкциям и мультимодальные сценарии, где требуется обработка текстовых и визуальных входных данных. В README указаны размер 26B и конфигурация A4B, однако сведения о максимальной длине контекста, поддерживаемых языках и точном наборе мультимодальных возможностей не приведены. Изменения направлены на снижение числа отказов и ограничений: в заявленном тесте частота отказов составила 11 из 100 против 100 из 100 у оригинальной модели, а KL-дивергенция относительно исходной версии — 0,0618. К сильным сторонам относятся близость к исходной Gemma 4 по поведению, уменьшенное количество отказов и потенциально более широкий спектр допустимых запросов. Ограничениями являются NVFP4-квантизация, возможная потеря точности по сравнению с полной версией, а также отсутствие подробных данных о производительности в мультимодальных задачах и языковом покрытии. Модель лицензирована по Apache-2.0; при этом для Gemma применяются дополнительные условия лицензии Google, на которые ссылается README.

fastino/GLiNER2-Guardrails-PII-Multi — дообученная Fastino модель семейства GLiNER2, объединяющая извлечение персональных данных и модерацию безопасности текста. Это плотный двунаправленный экстрактор с классификацией и выделением фрагментов по заданной схеме; модель работает локально, ориентирована на CPU и позволяет выполнять обе задачи одним проходом. Модель извлекает и размечает фрагменты по 42 типам PII, а также классифицирует безопасность и токсичность запросов и ответов, выявляет jailbreak-атаки и отказы. Поддерживаются английский, французский, испанский, немецкий, итальянский, португальский и нидерландский языки. Схему меток и набор проверок можно задавать при инференсе. Лицензия — Apache-2.0. По данным карточки, модель сопоставима с отдельными GLiGuard и GLiNER2-PII на соответствующих тестах. Она предназначена для фильтрации ввода и вывода LLM, обнаружения PII и подготовки текста к редактированию или маскированию. Это классификатор и экстрактор, а не полноценная система политик безопасности; качество на неевропейских языках и письменностях не измерялось.

whr778/gliner2-large-v1-wikievents — модель извлечения информации на базе GLiNER2, дообученная на fastino/gliner2-large-v1. Она предназначена для совместного извлечения именованных сущностей, типов и триггеров событий, а также связанной с событиями информации; карточка также указывает извлечение отношений и классификацию. Модель использует библиотеку gliner2 и опубликована в формате safetensors. Модель обучена на англоязычном наборе WikiEvents: 206 записей для обучения и по 20 для валидации и тестирования. Он включает онтологию из 49 типов событий и 57 ролей аргументов. В слепом тесте F1 для типов событий составил 0,962, для триггеров событий — 0,583 строго и 0,597 при relaxed-оценке; качество зависит от категории и способа сопоставления. Лицензия указана как other, поэтому условия использования следует уточнить в карточке модели и источнике набора данных.

MGM-Omni-7B — мультимодальная чат-модель, разработанная авторами проекта MGM-Omni и представленная в одноимённой статье. Это компонент восприятия проекта, основанный на дообученной Qwen2.5-VL-7B-Instruct; модель имеет плотную архитектуру MGMOmniForCausalLM и 7,1 млрд параметров. Для работы с речевым выводом README указывает отдельную модель MGM-Omni-TTS. Модель предназначена для диалогов с текстом, изображениями, видео и аудио. Среди заявленных сценариев — понимание длинной речи, включая записи длительностью до часа, мультимодальные вопросы и ответы, а также совместная обработка нескольких типов входных данных. В экосистеме MGM-Omni также заявлены генерация длинной речи, потоковый аудиовывод и клонирование голоса по короткому образцу, но для речевого синтеза требуется отдельный компонент SpeechLM. Модель рассчитана на английский и китайский языки. Контекст составляет 128 000 токенов. Репозиторий содержит веса в формате safetensors, библиотека запуска — Transformers. Лицензия Apache-2.0. Описание возможностей и сравнительных результатов в README носит заявительный характер; заявленные речевые функции зависят от дополнительной модели MGM-Omni-TTS.

Parrot-7B — мультиязычная мультимодальная языковая модель, разработанная авторами проекта Parrot. Она использует текстовые инструкции для выравнивания визуальных токенов на уровне языка и архитектуру Mixture-of-Experts для согласования визуальной информации с языковыми представлениями. Модель дообучена методом supervised fine-tuning на базе Qwen-1.5-7B-Chat и использует визуальный энкодер CLIP-ViT-Large-patch14-336; размер модели — 7,1 млрд параметров, контекст — до 32 768 токенов. Модель предназначена для диалоговых сценариев с изображениями и мультиязычных вопросов и ответов по визуальному содержимому. В README описан мультиязычный бенчмарк MMMB: 6 языков, 15 категорий и 12 000 вопросов. Репозиторий использует Transformers и формат safetensors. Лицензия — Apache-2.0. Авторы отмечают, что не могут гарантировать полное отсутствие проблемного или нарушающего авторские права контента.

Qolda — ISSAI әзірлеген, қазақ, орыс және ағылшын тілдерінде жұмыс істеуге арналған 4,3 млрд параметрлі шағын көру-тілдік чат-модель. Ол OpenGVLab/InternVL3_5-4B негізінде дообучатылған: InternViT-300M көру энкодері мен MLP проекторын Qwen3-4B тілдік моделімен біріктіреді және InternVL фреймворкінде оқытылған. Модель мәтіндік диалогқа да, суреттер туралы сұрақтарға жауап беруге, визуалды мазмұнды талдауға және мәтіндік тапсырмаларды орындауға да арналған. README мәтіндік және визуалды бенчмарктерді қазақ, орыс және ағылшын тілдерінде келтіреді. Hugging Face метадеректері негізгі міндетін image-text-to-text деп белгілейді; чат мүмкіндігі де көрсетілген. Transformers және lmdeploy арқылы іске қосуға болады. lmdeploy серверінде API сұрауында enable_thinking параметрін extra_body ішінде нақты орнату қажет; тапсырма күрделілігіне қарай бос thinking жауабы қайтуы мүмкін. README лицензия шарттарын атамайды.

Qwen3.5-4B-Kazakh — мультимодальная модель ISSAI на архитектуре Qwen3.5, дообученная на основе issai/Qwen3.5-4B-Base-Kazakh. Базовую модель продолжительно предобучили на казахских текстах и расширили её словарь на 16 тысяч казахских токенов; затем перенесли инструкционное выравнивание официальной Qwen3.5-4B методом chat-vector merge. Модель принимает текст и изображения, поддерживает чат и сохраняет возможности базовой модели для английского языка наряду с улучшенной обработкой казахского. Модель предназначена для диалогов и ответов на вопросы на казахском и английском языках, а также для задач понимания изображений. Визуальный энкодер и мультимодальный проектор восстановлены из официальной Qwen3.5-4B, но модель отдельно не обучали на визуальных задачах. В оценках отмечено более краткое рассуждение и снижение результатов на сложных задачах reasoning; на визуальных бенчмарках также наблюдалось некоторое ухудшение. Весы опубликованы в формате safetensors, лицензия — Apache-2.0.

jasonboukheir/Qwen3.8-27B-AEON-Ultimate-Uncensored-BF16-W4A16-AutoRound — квантованный производный вариант модели AEON-7/Qwen3.8-27B-AEON-Ultimate-Uncensored-BF16. Модель разработана для запуска и обслуживания через vLLM, прежде всего на Intel XPU. Она сочетает языковую часть с мультимодальной vision tower и поддерживает обработку текста и изображений; точный список языков в README не указан. Весовая часть преобразована методом AutoRound в формат W4A16: симметричные INT4-веса с размером группы 128 и активациями BF16. Артефакт экспортирован в compressed-tensors с упаковкой pack-quantized; vision tower и MTP-тензоры сохранены в BF16. Архитектура исходной модели объединяет слои linear attention и периодические слои full attention, а заявленное максимальное окно обслуживания составляет 65 536 токенов. Размер полного опубликованного checkpoint — около 18,12 ГиБ. Сильными сторонами являются снижение требований к памяти благодаря квантованию, поддержка мультимодальных запросов и проверенная работа W4A16-ядра на Intel XPU. Ограничения включают отсутствие опубликованных оценок perplexity, качества, производительности и соответствия исходной BF16-модели. Использование FP8 KV-cache не рекомендуется: в тестах оно приводило к сильным повторениям, тогда как нативный BF16 cache обеспечивал связную генерацию. Совместимость с другим оборудованием и движками не подтверждена, а для vLLM требуется поддержка соответствующей архитектуры и XPU-ядер. Модель унаследовала от исходной модели статус uncensored и связанные риски генерации неточного, вредного или оскорбительного контента. Лицензия в предоставленном README не указана.

Qwen3.8-27B-GSQ-RCO-BuffedMod-GGUF — модифицированная GGUF-квантизация базовой модели Qwen3.8-27B, созданная tooltd на основе ISTA-DASLab/Qwen3.8-27B-GSQ-RCO-GGUF. Модель предназначена для мультимодальных сценариев с обработкой текста и изображений, однако в README не указаны поддерживаемые языки, размер контекстного окна и подробности архитектуры. Основное изменение заключается в прямой замене отдельных тензоров внутри бинарного GGUF-файла: тензор выходного слоя output.weight повышен с Q4_K до Q6_K, что должно улучшать точность распределения вероятностей токенов при сохранении компактного размера IQ3_S. Доступны варианты с MTP-тензорами в IQ4_XS или Q6_K; их размер составляет около 11,49 и 11,59 ГБ соответственно. По приведённым тестам BuffedMod снижает perplexity и KL-дивергенцию относительно исходной IQ3_S, а совпадение наиболее вероятного токена повышается с 89,66% до 90,54%. Вариант с IQ4_XS MTP предлагает лучший баланс размера и качества. Модель сохраняет преимущества низкобитной квантизации — уменьшенный размер и требования к памяти, но качество зависит от выбранного варианта и ограничений квантизации. README не содержит сведений о производительности на прикладных задачах, системных требованиях или полном наборе поддерживаемых возможностей. Указанная лицензия — Apache-2.0.

Модель guishe/span-marker-generic-ner-v1-fewnerd-fine-super — англоязычная модель распознавания именованных сущностей на архитектуре SpanMarker. Она разработана на основе numind/generic-entity_recognition_NER-v1 и дообучена на наборе FewNERD; для обработки использует библиотеку SpanMarker и веса PyTorch в формате safetensors. Модель размечает текст категориями сущностей, охватывающими, среди прочего, людей, организации и объекты культуры. Модель предназначена для извлечения сущностей из английского текста и может быть дообучена на собственных данных. Максимальная длина последовательности составляет 256 токенов, максимальная длина распознаваемой сущности — 8 слов. Лицензия — CC BY-SA 4.0, поэтому при использовании и распространении производных материалов следует соблюдать её условия.

gemma-4-31B-it-FP8 — FP8-квантованный вариант instruction-tuned модели google/gemma-4-31B-it из семейства Gemma 4, разработанного Google DeepMind и опубликованного prithivMLmods. Модель предназначена для генерации текста, рассуждений, программирования, математических задач, многоязычных сценариев и мультимодального анализа изображений, включая работу с документами, PDF, интерфейсами, диаграммами и распознаванием текста. Она также ориентирована на агентские приложения, function calling, извлечение структурированных данных и планирование. Модель имеет плотную архитектуру примерно на 31 млрд параметров, 60 слоёв, гибридное внимание с локальными скользящими окнами и глобальным вниманием, а также контекст до 256K токенов. Она принимает текст и изображения с переменным соотношением сторон и разрешением и генерирует текст; заявлена поддержка более 140 языков. Квантование FP8_DYNAMIC с форматом F8_E4M3 снижает требования к памяти и повышает эффективность вывода по сравнению с исходной версией, сохраняя основную функциональность базовой модели. Предусмотрена совместимость с Transformers, vLLM и llama.cpp, включая использование на NVIDIA и AMD GPU. Сильными сторонами являются большой контекст, мультимодальность, возможности рассуждения, кодирования и автономных агентов, а также возможность локального развёртывания. Ограничения включают высокие требования к вычислительным ресурсам для модели такого размера и потенциальные компромиссы качества, связанные с FP8-квантованием; конкретные требования к памяти и результаты независимых тестов в карточке не указаны. Модель распространяется по лицензии Apache 2.0.

Mistral Small 3.1 24B Instruct — мультимодальная инструкционная модель Mistral AI с плотной архитектурой Mistral3 и 24 млрд параметров, дообученная на базе mistralai/Mistral-Small-3.1-24B-Base-2503. Она принимает текст и изображения, отвечает на вопросы о визуальном содержимом и поддерживает контекст до 128 тысяч токенов. Модель предназначена для диалоговых помощников, вызова функций и генерации JSON, программирования, математических рассуждений и анализа длинных документов. Модель поддерживает множество языков, включая английский, русский, французский, немецкий, испанский, китайский, японский, арабский и хинди. Среди описанных возможностей — локальный запуск, системные инструкции и визуальный анализ; для инференса рекомендована библиотека vLLM. Квантизированную версию можно разместить на одной RTX 4090 или MacBook с 32 ГБ памяти, согласно карточке модели. Модель распространяется по лицензии Apache 2.0, допускающей коммерческое и некоммерческое использование и модификацию. Качество ответов может различаться в зависимости от задачи; в карточке приведены результаты отдельных бенчмарков, которые не гарантируют точность в каждом практическом сценарии.

Карточка модели Iambackup/gemma-4-E2B-it на Hugging Face совпадает с карточкой RedHatAI/gemma-4-E2B-it, поэтому описание составлено по ней. RedHatAI/gemma-4-E2B-it — инструктивный вариант мультимодальной модели Gemma 4, опубликованный Red Hat AI; семейство разработано Google DeepMind. Модель основана на google/gemma-4-E2B и предназначена для диалогов, генерации и редактирования текста, рассуждений, программирования и анализа мультимодальных данных. Она использует плотную архитектуру Gemma 4 и распространяется в формате Safetensors по лицензии Apache 2.0. Версия E2B принимает текст, изображения, видео и аудио и генерирует текстовые ответы. Для небольших моделей семейства заявлено контекстное окно до 128 тысяч токенов; поддерживаются многие языки. Возможности включают понимание изображений и документов, распознавание речи, перевод речи в текст, вызов инструментов и генерацию кода. Гибридное внимание и компактный размер семейства рассчитаны в том числе на локальное выполнение на устройствах с ограниченными ресурсами. Модель может ошибаться в ответах, распознавании и интерпретации мультимодальных входов; качество следует проверять для конкретного языка и сценария. README описывает возможности семейства Gemma 4 в целом, поэтому отдельные детали, не подтверждённые для E2B, не следует считать гарантированными.

Granite-3.2-2B-Instruct-GGUF — модель IBM Granite, разработанная командой Granite Team компании IBM. Это GGUF-конверсия базовой модели Granite-3.2-2B-Instruct с различными вариантами квантования. Модель предназначена для выполнения общих инструкций и интеграции в AI-ассистентов, включая бизнес-приложения. Модель содержит около 2 миллиардов параметров и ориентирована на задачи рассуждения с управляемым включением режима thinking только при необходимости. Она поддерживает суммаризацию, классификацию и извлечение текста, ответы на вопросы, Retrieval Augmented Generation (RAG), работу с кодом, function calling, многоязычный диалог и задачи с длинным контекстом, включая обработку больших документов и протоколов встреч. Заявлена поддержка английского, немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков. К сильным сторонам относятся компактный размер, поддержка reasoning-сценариев, длинного контекста и широкого набора прикладных задач. Точный размер контекстного окна и характеристики отдельных вариантов квантования в предоставленных данных не указаны; формат GGUF может требовать совместимого программного обеспечения для запуска. Модель распространяется по лицензии Apache 2.0.

Mistral-Small-3.2-24B-Instruct-2506-bnb-4bit — 4-битная квантованная версия инструкционной мультимодальной модели Mistral-Small-3.2-24B-Instruct-2506 от Mistral AI. Модель предназначена для диалоговых ассистентов, выполнения инструкций, генерации текста и кода, решения STEM-задач, вызова функций и анализа изображений, документов, графиков и диаграмм. Модель содержит 24 млрд параметров и поддерживает текстово-графический сценарий image-text-to-text. Заявлена поддержка английского, французского, немецкого, испанского, португальского, итальянского, японского, корейского, русского, китайского, арабского, персидского и ряда других языков. По сравнению с Mistral-Small-3.1 улучшены следование точным инструкциям, устойчивость к повторяющимся и бесконечным генерациям, а также шаблон function calling. В тестах модель показывает сильные результаты в генерации кода, следовании инструкциям, обработке документов и диаграмм, однако в отдельных vision-бенчмарках уступает предыдущей версии. Размер контекста в README не указан. Модель рекомендуется запускать через vLLM или Transformers; для корректной работы с инструментами требуются совместимые настройки Mistral и vLLM. Квантование bnb-4bit снижает требования к памяти по сравнению с полноформатными вариантами, но точные требования для этой сборки не приведены. Для повышения качества рекомендуется низкая температура генерации и системный промпт. Лицензия — Apache-2.0.

Gemma 4 12B IT QAT Q4_0 Unquantized — мультимодальная инструкционная модель семейства Gemma, разработанного Google DeepMind. Это чекпойнт на 12 млрд параметров, полученный из google/gemma-4-12B-it с применением Quantization-Aware Training; в данном репозитории опубликованы веса safetensors, извлечённые из QAT-конвейера в формате половинной точности, а не готовая к запуску квантизованная сборка. Модель предназначена для диалога, генерации и анализа текста, рассуждений, программирования, работы с изображениями, видео и аудио. Модель принимает текст и изображения, может анализировать видео по последовательности кадров; для варианта 12B также заявлена поддержка аудио, включая распознавание речи и перевод речи в текст. Она генерирует текст, поддерживает вызов функций и контекст до 256 тысяч токенов. Семейство рассчитано на многоязычные сценарии: карточка сообщает о поддержке более 35 языков и обучении на более чем 140 языках, но не перечисляет языки отдельно для этого чекпойнта. QAT-обучение призвано сохранить качество, близкое к bfloat16, при снижении требований к памяти в соответствующих квантованных вариантах. Этот репозиторий содержит именно неупакованные QAT-веса, поэтому для непосредственного запуска может потребоваться собственная компиляция или подходящая среда. Лицензия — Apache 2.0.

RedHatAI/gemma-4-E2B-it — инструктивный вариант мультимодальной модели Gemma 4, опубликованный Red Hat AI; семейство разработано Google DeepMind. Модель основана на google/gemma-4-E2B и предназначена для диалогов, генерации и редактирования текста, рассуждений, программирования и анализа мультимодальных данных. Она использует плотную архитектуру Gemma 4 и распространяется в формате Safetensors по лицензии Apache 2.0. Версия E2B принимает текст, изображения, видео и аудио и генерирует текстовые ответы. Для небольших моделей семейства заявлено контекстное окно до 128 тысяч токенов; поддерживаются многие языки. Возможности включают понимание изображений и документов, распознавание речи, перевод речи в текст, вызов инструментов и генерацию кода. Гибридное внимание и компактный размер семейства рассчитаны в том числе на локальное выполнение на устройствах с ограниченными ресурсами. Модель может ошибаться в ответах, распознавании и интерпретации мультимодальных входов; качество следует проверять для конкретного языка и сценария. README описывает возможности семейства Gemma 4 в целом, поэтому отдельные детали, не подтверждённые для E2B, не следует считать гарантированными.

Gemma 4 E4B IT QAT Unquantized — мультимодальная модель Google DeepMind из семейства Gemma 4, основанная на Gemma 4 E4B Instruct. Это вариант с весами половинной точности, извлечёнными из конвейера обучения с учётом квантования (QAT); он предназначен для последующей компиляции и исследовательской работы. Архитектура — плотная Gemma4ForConditionalGeneration, файлы представлены в safetensors. Модель принимает текст и изображения, а также аудио; генерирует текст. Она подходит для диалога, рассуждений, генерации и исправления кода, анализа изображений и документов, распознавания речи и перевода речи в текст. Семейство поддерживает более 140 языков; для небольших вариантов, включая E4B, заявлено контекстное окно до 128 тысяч токенов. Поддерживаются вызов функций и режим рассуждений. Вариант QAT призван снизить требования к памяти при сохранении качества, близкого к bfloat16, но именно эта публикация содержит не готовый к развёртыванию квантованный формат, а веса для дальнейшей компиляции. Лицензия — Apache 2.0. Возможности аудио, языка и контекстное окно описаны для семейства; в карточке этой конкретной публикации отдельные параметры не уточнены.

Gemma 3 27B IT — мультимодальная instruction-tuned модель семейства Gemma, разработанная Google DeepMind на основе технологий, использованных при создании Gemini. Данная версия основана на google/gemma-3-27b-it и представлена в формате GGUF, предназначенном для локального запуска совместимыми инструментами. Модель принимает текст и изображения и генерирует текст. Она предназначена для ответов на вопросы, суммаризации документов, рассуждений, генерации и анализа текста, а также понимания изображений и извлечения визуальной информации. Заявлена поддержка более 140 языков. Для версии 27B предусмотрено контекстное окно до 128K токенов, изображения нормализуются до 896×896 и кодируются в 256 токенов, а максимальный объём генерируемого текста составляет 8192 токена. К сильным сторонам относятся мультимодальность, широкий языковой охват, большое контекстное окно и открытые веса, благодаря чему модель можно разворачивать на собственных устройствах или в облачной инфраструктуре. При этом размер 27B означает повышенные требования к памяти и вычислительным ресурсам по сравнению с меньшими вариантами семейства, а качество ответов может зависеть от языка, задачи, используемого квантования и конкретного программного окружения. Модель распространяется по лицензии Gemma; применяются соответствующие условия использования Google.

Mistral-Small-3.2-24B-Instruct-2506 — мультимодальная instruct-модель, разработанная Mistral AI; данная карточка содержит её 4-битную quantized-версию от Unsloth. Модель предназначена для диалоговых ассистентов, точного выполнения инструкций, генерации текста и кода, function calling, а также анализа изображений, документов, таблиц и диаграмм. Заявлена поддержка языков: английского, французского, немецкого, испанского, португальского, итальянского, японского, корейского, русского, китайского, арабского, персидского и ряда других языков. Модель содержит 24 млрд параметров и работает в текстово-визуальном сценарии image-text-to-text. Это минорное обновление Mistral-Small-3.1-24B-Instruct-2503 с улучшенным следованием точным инструкциям, меньшей склонностью к бесконечным или повторяющимся генерациям и более надёжным шаблоном function calling. Среди ограничений — высокая требовательность к ресурсам: для запуска базовой модели в форматах bf16 или fp16 требуется около 55 ГБ видеопамяти; размер контекста в README не указан. Для инференса рекомендуются vLLM и относительно низкая температура, например 0,15. Модель распространяется по лицензии Apache-2.0. В карточке также указано, что для неё рекомендуется серверный режим работы через vLLM; репозиторий содержит 4-битную версию, однако точные требования к памяти именно для этого quantized-варианта не приведены.

nicosuter/Qwen3.8-27B-AWQ — это мультимодальная квантованная версия модели Qwen/Qwen3.8-27B, подготовленная разработчиком nicosuter. Модель предназначена для обработки текста и изображений, включая программирование, математические и научные задачи, вызов инструментов, анализ документов, таблиц и визуальных вопросов. Архитектура и исходные веса унаследованы от Qwen3.8-27B; точное число параметров — 27 млрд. В модели применяется смешанная квантализация: большинство линейных слоёв используют асимметричный AWQ W4A16 с размером группы 128, а отдельные входные проекции Gated DeltaNet квантованы в int8. Зрительный модуль, MTP head, lm_head и ряд других компонентов сохранены в исходной точности, поэтому модель сохраняет мультимодальные возможности. Калибровка включала текстовые, длинноконтекстные, визуальные и связанные с вызовом инструментов примеры длиной до 32 768 токенов, однако точный максимальный контекст модели в карточке не указан. По приведённым тестам, относительно версии Qwen3.8-27B-FP8, среднее снижение качества составило около 0,12 процентного пункта; результаты на задачах вызова функций, программирования и мультимодального анализа практически сохранились. Ограничения включают возможную потерю качества из-за квантализации и отсутствие полноценных оценок агентного применения. Модель распространяется по лицензии Apache 2.0 и использует формат compressed-tensors, совместимый с указанным стеком Transformers и llm-compressor.

Карточка модели exolabs/Step-3.7-Flash-IQ3_XXS-dequant-bf16-vllm на Hugging Face совпадает с карточкой stepfun-ai/Step-3.7-Flash, поэтому описание составлено по ней. StepFun разработала Step 3.7 Flash — мультимодальную модель со смесью экспертов (MoE), предназначенную для высоконагруженных рабочих процессов. Она содержит 198 млрд параметров, из которых около 11 млрд активируются на каждом токене; включает языковую часть на 196 млрд параметров и визуальный энкодер на 1,8 млрд. Модель принимает изображения и текст, поддерживает контекст до 256 тыс. токенов и три уровня рассуждений: низкий, средний и высокий. Модель предназначена для понимания изображений, анализа больших документов, многошагового поиска и проверки фактов, оркестрации инструментов и API, а также для задач разработки ПО — например, поиска ошибок в репозиториях и подготовки исправлений. Заявленная скорость генерации достигает 400 токенов в секунду. Карточка описывает её как модель для производственных нагрузок; доступны варианты развёртывания через облачные платформы и локальные средства инференса. Репозиторий использует библиотеку Transformers и формат Safetensors. Лицензия — Apache-2.0. В метаданных указан английский язык; README не подтверждает поддержку других естественных языков.

Карточка модели exolabs/Step-3.7-Flash-IQ4_XS-dequant-bf16-vllm на Hugging Face совпадает с карточкой stepfun-ai/Step-3.7-Flash, поэтому описание составлено по ней. StepFun разработала Step 3.7 Flash — мультимодальную модель со смесью экспертов (MoE), предназначенную для высоконагруженных рабочих процессов. Она содержит 198 млрд параметров, из которых около 11 млрд активируются на каждом токене; включает языковую часть на 196 млрд параметров и визуальный энкодер на 1,8 млрд. Модель принимает изображения и текст, поддерживает контекст до 256 тыс. токенов и три уровня рассуждений: низкий, средний и высокий. Модель предназначена для понимания изображений, анализа больших документов, многошагового поиска и проверки фактов, оркестрации инструментов и API, а также для задач разработки ПО — например, поиска ошибок в репозиториях и подготовки исправлений. Заявленная скорость генерации достигает 400 токенов в секунду. Карточка описывает её как модель для производственных нагрузок; доступны варианты развёртывания через облачные платформы и локальные средства инференса. Репозиторий использует библиотеку Transformers и формат Safetensors. Лицензия — Apache-2.0. В метаданных указан английский язык; README не подтверждает поддержку других естественных языков.

Droplychee-1.0-27B — мультимодальная модель на архитектуре Qwen3.5 с 27 млрд параметров, разработанная Droplychee AI Research на основе Qwen/Qwen3.6-27B и доработанная полным supervised fine-tuning и слиянием моделей. Она поддерживает входные изображения и текст, а основное назначение по карточке Hugging Face — диалоговое понимание изображений и текста. В README также заявлены следование инструкциям, ответы на вопросы, программирование, рассуждения, перевод, суммаризация, анализ документов и агентные сценарии. Модель ориентирована на английский и бенгальский языки, а README дополнительно заявляет поддержку более чем 40 языков, включая русский; качество может различаться. README указывает контекст до 1 000 000 токенов в зависимости от среды запуска. Модель доступна в формате safetensors и совместима с Transformers. Лицензия — Apache-2.0. Возможные ограничения включают фактические ошибки, галлюцинации, предвзятость и ошибки рассуждения; важные результаты следует проверять. README не приводит независимо подтверждённых результатов бенчмарков.

unsloth/gemma-3-12b-it-qat-GGUF — мультимодальная instruction-tuned модель Gemma 3 на 12 млрд параметров, разработанная Google DeepMind. Она построена на базе google/gemma-3-12b-it-qat-q4_0-unquantized и использует Quantization Aware Training (QAT), что помогает сохранять качество на уровне, близком к bfloat16, при снижении требований к памяти после квантования. Модель принимает текст и изображения, а генерирует текст. Она предназначена для ответов на вопросы, суммаризации документов, рассуждений, анализа изображений, извлечения визуальной информации, работы с кодом и математическими запросами. Поддерживается более 140 языков. Для версии 12B заявлено контекстное окно до 128K токенов, максимальный объём генерируемого ответа — 8192 токена; изображения нормализуются до 896×896 и кодируются в 256 токенов каждое. К сильным сторонам относятся мультимодальность, широкая языковая поддержка, большое контекстное окно и возможность развертывания на ноутбуках, настольных компьютерах или собственной облачной инфраструктуре при использовании квантования. Репозиторий содержит не直接 квантованный файл: контрольную точку необходимо самостоятельно квантовать в Q4_0 совместимым инструментом. README не приводит детальных сведений об архитектуре, результатах бенчмарков и конкретных ограничениях качества, поэтому их оценку по этим данным дать нельзя. Использование регулируется лицензией Gemma и условиями Google. Доступ к модели на Hugging Face требует входа в аккаунт и подтверждения лицензионных условий.