I.4Обработка документов и форм

btbtyler09/Qwen3.6-27B-GPTQ-8bit — это 8-битная GPTQ-квантизованная версия модели Qwen/Qwen3.6-27B, разработанной командой Qwen. Модель представляет собой плотную мультимодальную систему примерно с 27 млрд параметров, предназначенную для генерации и понимания текста, работы с изображениями и ускоренного вывода с использованием MTP (Multi-Token Prediction). Контрольная точка опубликована с лицензией Apache-2.0. Архитектура включает 64 слоя: 48 слоёв линейного внимания GatedDeltaNet и 16 слоёв полного внимания, чередующихся в соотношении 3:1. Размер скрытого представления составляет 5120, размер промежуточного слоя — 17408, максимальная длина контекста — 262 144 токена. В состав входят полноразмерный 27-блочный ViT-энкодер для обработки изображений и MTP-модуль для speculative decoding. Языки и специализированные языковые возможности отдельно не указаны. Линейные модули текстового декодера квантизованы в INT8 с помощью GPTQ, тогда как vision-энкодер, MTP, эмбеддинги, нормы и выходная голова сохранены в BF16 или FP16. Размер модели составляет около 32 ГБ вместо примерно 50 ГБ в BF16. По заявленным измерениям, ухудшение perplexity на wikitext-2-raw-v1 составляет всего 0,07%, что указывает на близкое к исходному качество. Модель подходит для мультимодального сервинга и длинного контекста, однако для запуска рекомендуется vLLM; прямое использование через GPTQModel и transformers на момент публикации не поддерживается, а для некоторых версий vLLM может потребоваться исправление ошибки разбора конфигурации.

llmware разработала llmware/slim-xsum-phi-3 — дообученную на базе Microsoft Phi-3 модель серии DRAGON для ответов на вопросы по контексту в RAG-сценариях. Она предназначена для работы с текстовыми фрагментами и выдаёт ответы, извлечённые из предоставленных материалов; типовые задачи включают ответы на вопросы, извлечение значений и краткое суммирование. В карточке модели сообщается о тестировании на наборе RAG-инструкций, включая вопросы с ответом «не найдено», логические задачи и суммирование. Модель имеет плотную архитектуру Phi-3 с 3,7 млрд параметров и контекстное окно 4096 токенов. Указанный язык — английский. Репозиторий содержит веса PyTorch, модель поддерживает чат и распространяется по лицензии Apache 2.0. Результаты внутренних тестов не гарантируют точности на других данных: ответы могут быть неполными или неверными, поэтому их следует проверять.

Snerta-12l Base — многоязычная модель распознавания именованных сущностей, разработанная авторами исследования «When Is Multilingual Transfer Beneficial for Slavic Named Entity Recognition?». Это дообученная на microsoft/mdeberta-v3-base модель DeBERTa V3 для token classification: она выделяет в тексте людей (PER), места (LOC), организации (ORG) и прочие сущности (MISC), возвращая метки в формате IOB2. В метаданных указаны 306 млн параметров и контекст 512 токенов; README описывает обучение на дедуплицированном пуле из 12 языков и усечение последовательностей до 256 токенов в стандартном сценарии использования. Модель предназначена для извлечения сущностей на болгарском, боснийском, чешском, хорватском, македонском, польском, русском, словацком, словенском, албанском, сербском и украинском языках. Её можно использовать для обогащения документов, поиска, мониторинга СМИ, анализа корпусов и аналитики по сущностям, особенно когда удобнее применять одну общую модель для нескольких языков. Репозиторий модели распространяется по лицензии Apache-2.0; лицензии исходных корпусов различаются, и для некоторых из них действуют условия CC BY-NC-SA 4.0 или CC BY-SA 4.0. Результаты могут заметно различаться по языкам и предметным областям: обучающий пул несбалансирован, а часть разметки для отдельных языков автоматически построена и имеет более низкую надёжность. Оценка на случайном разбиении предложений не устанавливает качество переноса между документами, временем, темами или доменами. Модель не следует использовать как единственное средство анонимизации, контроля доступа или принятия юридически значимых решений; перед внедрением её нужно проверить на целевых данных.

ZwZ-7B — мультимодальная модель восприятия изображений, разработанная inclusionAI на базе Qwen2.5-VL-7B-Instruct. Она дообучена с помощью дистилляции Region-to-Image и обучения с подкреплением, чтобы точнее распознавать мелкие детали на изображении за один проход, без увеличения отдельных областей во время вывода и без вызова инструментов. Модель содержит 7,1 млрд параметров, использует архитектуру Qwen2.5-VL и принимает изображения и текстовые запросы, выдавая текстовые ответы. Контекст — до 128 000 токенов; в карточке указан английский язык. Модель предназначена для визуальных вопросов и ответов, подсчёта объектов, OCR, определения цветов и структурных или материальных характеристик, а также идентификации объектов. По заявлению авторов, она показывает высокие результаты среди открытых моделей на базе Qwen2.5-VL-7B в задачах детального восприятия. Для общего мультимодального понимания в некоторых случаях предпочтительнее базовая модель; для изображений очень высокого разрешения важно подходящее предварительное преобразование. Лицензия — Apache 2.0.

Bee-150M-PT-SFT — португалоязычная модель BrCamp для генерации текста и диалогов, полученная полным дообучением Bee-150M-PT-Base на примерах инструкций и использования инструментов. Это плотная авторегрессионная модель семейства Llama примерно на 151 млн параметров; она работает через Transformers, использует шаблон чата ChatML и поддерживает контекст до 2048 токенов. Модель предназначена для выполнения инструкций на португальском языке, когда нужные сведения уже содержатся во входном контексте: суммаризации, извлечения и структурирования данных, переписывания, классификации и форматирования текста. Обучение включало 7 152 примера, в том числе примеры вызова инструментов; наличие такого обучения не гарантирует надёжной работы с инструментами в произвольной среде. Карточка отмечает, что дообучение улучшает формат ответов, но не обеспечивает устойчивых фактических знаний: модель может уверенно выдумывать сведения и давать разные ответы на один вопрос. Не следует полагаться на неё для открытых фактических вопросов или медицинских, юридических и финансовых советов. Лицензия — Apache-2.0.

gravitee-io/bert-small-pii-detection — модель Gravitee для обнаружения и разметки персональных и чувствительных данных в тексте. Это BERT для классификации токенов, дообученный на наборе gravitee-io/pii-detection-dataset от базовой модели prajjwal1/bert-small. Модель содержит 32,4 млн параметров и рассчитана на контекст до 512 токенов. Модель помечает такие сущности, как имена людей, возраст, адреса электронной почты и телефоны, платёжные и банковские данные, пароли, IP- и MAC-адреса, URL, организации, местоположения и ряд идентификаторов, характерных для США. Её можно применять для поиска чувствительных фрагментов перед передачей текста в другие системы или для задач защиты данных. Поддерживается английский язык. Доступны веса в форматах Safetensors и ONNX. Модель предназначена для извлечения сущностей из текста; качество на языках и типах данных, отличных от заявленных, не подтверждено. Она лицензирована по Apache-2.0.

es_core_news_md — испаноязычный NLP-конвейер, разработанный компанией Explosion на базе spaCy 3.7.0. Модель оптимизирована для работы на CPU и предназначена для обработки текстов на испанском языке: токенизации, морфологического анализа, определения частей речи и грамматических признаков, лемматизации, синтаксического анализа зависимостей, выделения границ предложений и распознавания именованных сущностей. Она подходит для информационного поиска, анализа документов, подготовки текстовых данных и других задач классического NLP. В состав входят компоненты tok2vec, morphologizer, parser, senter, attribute_ruler, lemmatizer и ner. Модель использует 300-мерные векторы: заявлено 500 000 ключей и 20 000 уникальных векторов. Обучение опирается на UD Spanish AnCora, WikiNER, данные spaCy lookups и fastText-векторы Explosion. В README не указаны ограничения по длине контекста и перечень дополнительных модальностей, поэтому модель следует рассматривать как предназначенную для текстовых данных на испанском языке. Среди заявленных результатов — F1 0,894 для NER, точность 0,985 для UPOS, 0,980 для морфологических признаков, 0,965 для лемматизации, UAS 0,913, LAS 0,880 и F1 0,988 для определения предложений. Ограничениями являются специализация на испанском языке, CPU-ориентированная архитектура и то, что показатели зависят от домена и качества входного текста. Модель распространяется по лицензии GNU GPL 3.0, что необходимо учитывать при использовании и интеграции.

Gemma 4 31B it — мультимодальная инструкционная модель Google, представленная в 4-битной квантизированной версии MLX. Исходная модель — google/gemma-4-31B-it, а квантизацию с использованием mlx_vlm выполнила команда LM Studio. Версия оптимизирована для запуска на устройствах Apple Silicon. Модель предназначена для задач генерации текста и обработки изображений с текстом, включая сценарии, поддерживаемые классом image-text-to-text. Благодаря инструкционному варианту она рассчитана на выполнение запросов пользователя в диалоговых и прикладных задачах. Размер исходной модели составляет 31 млрд параметров, однако точные сведения о поддерживаемых языках, размере контекста и архитектурных особенностях в README не указаны. Ключевое преимущество версии — снижение требований к памяти за счёт 4-битной квантизации и оптимизация под экосистему Apple Silicon. Ограничения включают возможное снижение точности по сравнению с полной версией, зависимость производительности от оборудования Apple и отсутствие в предоставленных данных подробных результатов тестирования. Модель распространяется по лицензии Apache 2.0.

unsloth/LFM2.5-1.2B-Instruct — версия инструкционной модели Liquid AI, опубликованная Unsloth с исправлениями шаблона чата. Это компактная плотная языковая модель семейства LFM2: в README указано 1,17 млрд параметров и гибридная архитектура из 10 блоков LIV с двойной маршрутизацией и 6 блоков GQA. Модель принимает и генерирует текст; она рассчитана на локальный запуск на устройствах и поддерживает контекст до 32 768 токенов по README, тогда как метаданные указывают 128 000 токенов. Модель предназначена для диалогов общего назначения, агентных сценариев с вызовом инструментов, извлечения данных и ответов с опорой на документы в RAG. В карточке перечислены английский, арабский, китайский, французский, немецкий, японский, корейский и испанский языки. README не рекомендует использовать её для задач, требующих обширных знаний, и программирования. Репозиторий содержит веса в формате safetensors и использует лицензию, обозначенную в метаданных как other; конкретные условия лицензии следует сверить с карточкой модели.

unsloth/Llama-3.2-11B-Vision-Instruct-unsloth-bnb-4bit — это мультимодальная instruction-tuned модель на базе Meta Llama 3.2 11B Vision Instruct, подготовленная Unsloth. Она предназначена для диалоговых сценариев и задач, требующих обработки текста и изображений, включая визуальный анализ, ответы на вопросы по изображениям, суммирование и другие приложения с мультимодальным вводом. Модель рассчитана на использование с библиотекой Transformers и 4-битным квантованием bitsandbytes (BnB). Unsloth применяет динамическое 4-битное квантование, при котором отдельные параметры не квантуются для сохранения качества при близком к обычному BnB 4-bit потреблении видеопамяти. Архитектура основана на оптимизированном авторегрессионном Transformer; для семейства Llama 3.2 указано использование Grouped-Query Attention (GQA). Официально поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Размер модели — 11 млрд параметров; точное максимальное окно контекста в предоставленных данных не указано. К сильным сторонам относятся мультимодальные возможности и сниженные требования к памяти благодаря квантованию, что упрощает локальный запуск и дообучение. Ограничения связаны с возможной потерей качества из-за квантования, зависимостью от совместимого программного и аппаратного окружения, а также тем, что конкретные показатели качества и полный перечень ограничений модели в карточке не приведены. Базовая модель разработана Meta, а данная квантованная версия опубликована Unsloth. Использование регулируется Llama 3.2 Community License и Acceptable Use Policy; перед развертыванием необходимо соблюдать их условия. Модель является статической и обучена на офлайн-данных.

Masker Mini (v3) — модель Divergent Labs для обнаружения и разметки персональных данных в тексте. Это компактный шестислойный токен-классификатор на архитектуре BERT с 35,4 млн параметров по README; метаданные указывают 38,7 млн параметров. Модель принимает текст и размечает 12 типов сущностей, включая имена, адреса, телефоны, электронную почту, даты, номера карт и государственные идентификаторы, чтобы передать их на следующий этап обезличивания. Модель предназначена для локального офлайн-обнаружения PII на устройствах и в приложениях, где важно не отправлять исходный текст в облако. Для развёртывания доступны PyTorch fp16, ONNX fp16 и 4-битный ONNX, а также 4-битная Core ML-версия. Поддерживаются 23 европейских языка; контекст — до 512 токенов. В README описана дистилляция из Masker v2 с инициализацией весами первых шести слоёв Multilingual-MiniLM. По заявленным оценкам, 4-битные варианты почти совпадают с fp32 по разметке токенов. Ограничения включают более низкое качество распознавания имён по сравнению с полноразмерной Masker и остаточную ошибочную разметку компаний и других именованных сущностей как персон в нидерландских текстах. README рекомендует проверять качество на собственных данных и учитывать возможную утечку. Лицензия — Apache-2.0.

Это крупная англоязычная модель распознавания именованных сущностей, распространяемая вместе с библиотекой Flair. Она размечает текст четырьмя классами NER: людьми (PER), местами (LOC), организациями (ORG) и ещё одним классом, который в доступной таблице README не виден. Модель основана на документных эмбеддингах XLM-R и архитектуре FLERT, обучена на CoNLL-03; для исправленной версии CoNLL-03 указана оценка F1 94,36. Модель предназначена для извлечения имен людей, географических названий и организаций из английского текста, например для индексирования документов и подготовки данных для последующего анализа. Используется через Flair SequenceTagger. В метаданных указана лицензия other, поэтому конкретные условия использования следует проверять в материалах репозитория.

aule13/pii-guard-distilbert — дообученная мультиязычная модель DistilBERT для обнаружения персональных данных в русском тексте. Она выполняет разметку токенов в формате BIO и распознаёт 21 тип сущностей; автор README сообщает о F1 0,9938 на pii_benchmark. Модель предназначена для извлечения имён и других персональных данных при проверке текстов на наличие PII, в том числе в сценариях, связанных с требованиями 152-ФЗ. Её можно запускать локально через Transformers, чтобы обрабатывать данные внутри собственного периметра. Архитектура — DistilBERT для классификации токенов, максимальный контекст — 512 токенов; в метаданных указаны русский и английский языки. Репозиторий содержит веса в формате safetensors. Модель выпущена под лицензией MIT. Результат F1 приведён для pii_benchmark; README не уточняет состав и условия этого бенчмарка, поэтому показатель не гарантирует аналогичное качество на других данных. Для практического применения стоит проверять полноту обнаружения и точность разметки на целевых текстах.

Qwen3.8-27B-MLX-oQ4e-mtp — квантованная MLX-версия мультимодальной модели Qwen3.8-27B, разработанной Qwen. Модель предназначена для задач генерации текста и визуального понимания, включая обработку изображений и видео, а также для локального запуска на устройствах Apple Silicon через oMLX или mlx-vlm. Модель содержит около 27 млрд параметров и занимает примерно 16 ГБ. Используется улучшенная примерно 4-битная oQ4e-квантизация с эффективной точностью около 4,9 бит на вес, размером группы 64, imatrix-калибровкой и компенсацией ошибок на основе Hessian. В состав входит vision tower для работы с изображениями и видео. Сохранён нативный MTP head с одним дополнительным скрытым слоем, что позволяет использовать Lightning-MTP для спекулятивного декодирования в oMLX. Заявлена поддержка контекстного окна до 262144 токенов при соответствующей настройке. Сильные стороны модели — сочетание мультимодальности, сниженного потребления памяти, сохранённой совместимости с MTP и высокой скорости декодирования: на M5 Max заявлены около 54 токенов в секунду и принятие черновых токенов на уровне 81%. Ограничения включают зависимость от MLX-совместимого оборудования и программного обеспечения, а также возможную потерю точности из-за квантизации; конкретные языки в README не указаны. Модель распространяется по лицензии Apache-2.0.

huginnfork/Qwen3.8-27B-NVFP4A16 — квантизированная версия мультимодальной модели Qwen/Qwen3.8-27B, разработанной командой Qwen. Модель предназначена для задач понимания изображений и текста, генерации текста по мультимодальному вводу, а также сценариев, где важны сниженное потребление памяти и ускоренный инференс на совместимом оборудовании. Она поддерживает архитектуру семейства Qwen3.5 с гибридом полноформатного внимания и линейного внимания на базе SSM, vision tower и multi-token prediction head. Точные сведения о поддерживаемых языках и размере контекстного окна в README не указаны. Используется схема NVFP4A16 (W4A16): веса 192 MLP-модулей представлены в 4-битном формате FP4 с групповыми масштабами FP8 E4M3, а активации остаются в bf16. Пути self-attention, linear attention, vision tower, lm_head и MTP head также сохранены в bf16. Размер модели составляет около 28,8 GiB в шести shards против 51,7 GiB для исходной bf16-версии. Такой подход обеспечивает существенное сжатие при сохранении наиболее чувствительных к ошибкам компонентов в более точном формате. Сильными сторонами являются экономия памяти, отсутствие квантизации активаций и сохранение в bf16 attention-, SSM- и визуальных компонентов. По приведённым измерениям, perplexity на wikitext-2-raw выросла с 6,9416 до 7,1497, то есть примерно на 3%, что указывает на некоторую потерю точности относительно родительской bf16-модели. Производительность и совместимость зависят от поддержки NVFP4A16 и используемого программно-аппаратного стека. Модель распространяется по лицензии Apache-2.0.

Yanun/Swift-Qwen3.8-27b-oQ4e-mtp — мультимодальная модель класса 27B, разработанная на основе Swift-Qwen3.8-27b от UkisAI и преобразованная в формат MLX. Она предназначена для обработки текстовых и визуальных входных данных с генерацией текста, включая сценарии, где требуется анализ изображений совместно с текстовыми инструкциями. Модель имеет плотную текстовую архитектуру с 64 слоями, чередующуюся линейную и полную attention: 48 слоёв используют linear attention, 16 — full attention. Размер скрытого состояния составляет 5120, размер feed-forward слоя — 17408, словарь содержит 248 320 токенов, а заявленный предел контекста — 262 144 токена, хотя фактическая длина зависит от настроек среды выполнения и доступной памяти. Vision encoder включает 27 слоёв, скрытое состояние размером 1152, 16 attention heads и обрабатывает изображения через патчи 16×16. В составе также есть один multi-token prediction (MTP) слой. Чекпойнт использует смешанную квантизацию oQ4e: базовые веса квантизированы до 4 бит, для 187 модулей заданы переопределения на 5 бит, а отдельные компоненты MTP сохранены в BF16. Это уменьшает требования к хранению и вычислениям по сравнению с полноразмерной моделью, но итоговая производительность и доступная длина контекста зависят от MLX-совместимого runtime и объёма памяти. Поддерживаемые языки и специализированные сильные стороны в README не указаны. Модель распространяется на условиях Swift Open License v1.0; конвертация не изменяет условия лицензии исходной модели.

YAYI-UIE — плотная авторегрессионная языковая модель семейства YAYI UIE, разработанная командой YAYI и опубликованная wenge-research. Модель содержит 13,3 млрд параметров и дообучена инструктивно на миллионах искусственно созданных высококачественных примеров для унифицированного извлечения информации: распознавания именованных сущностей, извлечения отношений и извлечения событий. Модель предназначена для преобразования текста в структурированные результаты, например JSON с сущностями, отношениями или аргументами событий. В карточке описаны сценарии из общих и специализированных областей, включая финансы, биологию, медицину, бизнес, транспорт, промышленность и науку. README приводит примеры оценки на китайских и английских наборах данных; основной акцент модели — китайский язык. Указаны ограничения: извлечённые сведения могут содержать фактические ошибки, модель слабо распознаёт вредоносные инструкции, а качество на длинных текстах уровня абзаца требует улучшения. Лицензия в метаданных и карточке — Apache-2.0, однако README отдельно требует использовать модель и производные только в исследовательских целях и запрещает коммерческое и вредоносное применение.

Модель IreNkweke/bert-finetuned-ner-ontonotes5 — дообученная автором IreNkweke модель BERT для распознавания и классификации именованных сущностей в английском тексте. Она использует архитектуру BertForTokenClassification, содержит 135,5 млн параметров и принимает последовательности длиной до 512 токенов. Модель обучена на OntoNotes 5 и различает 37 меток, включая PERSON, ORG, GPE, DATE, MONEY, LAW и EVENT. Модель подходит для извлечения сведений из новостей, публикаций в социальных сетях и юридических документов, а также для обогащения поиска сущностями и подготовки данных к последующей классификации. В README приведены результаты оценки: F1 0,8733, точность 0,8620 и полнота 0,8849. Модель ориентирована на английский язык; качество на других языках и текстах, отличающихся от обучающих данных, не заявлено. Лицензия — MIT.

BLING Sheared-LLaMA 2.7B 0.1 — англоязычная инструкционная модель от llmware, дообученная для узкого круга задач с контекстом, включая сценарии RAG. Она построена на Sheared-LLaMA-2.7B и предназначена для локального запуска на ноутбуке, в том числе без специализированной квантизации, для прототипирования и работы с чувствительными корпоративными данными. Модель генерирует ответы на вопросы по предоставленному контексту, извлекает ключевые значения и выполняет базовое суммирование. В карточке приведены результаты тестирования RAG-Instruct-Benchmark-Tester: средняя оценка 90,25 из 100, при этом результаты по математике и логике ниже, чем по другим проверенным задачам. Архитектура — плотная LlamaForCausalLM, размер — 2,6 млрд параметров, контекст — 4096 токенов. Лицензия — Apache 2.0. Модель может давать неполные или неточные ответы; результаты следует проверять, особенно для сложных вопросов и математических задач. Оценка в карточке основана на двух тестовых прогонах и не гарантирует качество на других данных.

bling-tiny-llama-v0 — разработанная llmware модель серии BLING, дообученная для инструкций RAG на базе TinyLlama-1.1b. Это плотная авторегрессионная модель семейства Llama примерно с 1 млрд параметров и контекстом 2048 токенов; она принимает текстовый контекст и запрос, а затем генерирует текстовый ответ. Модель предназначена для быстрого тестирования и прототипирования сценариев поиска с дополненной генерацией, включая ответы на вопросы, извлечение ключевых значений и краткое изложение предоставленных материалов. В карточке указано, что модель рассчитана на английский язык и на применение в корпоративной автоматизации, в частности при работе с насыщенными знаниями источниками в финансовой, юридической и нормативной областях. На приведённом RAG-Instruct-Benchmark-Tester средний результат составил 86,5 балла из 100; качество математических и логических ответов было заметно ниже. Эти результаты получены всего в двух тестовых запусках и не гарантируют точность на других данных. Лицензия — Apache 2.0.

EuroVLM-1.7B-Preview — мультимодальная модель зрения и языка, разработанная Unbabel совместно с Instituto Superior Técnico, Instituto de Telecomunicações, University of Edinburgh, Aveni, University of Paris-Saclay, University of Amsterdam, Naver Labs и Sorbonne Université при финансировании Европейского союза. Она основана на EuroLLM-1.7B и предназначена для работы с изображениями и текстом: модель описывает изображения, отвечает на вопросы по ним, выполняет инструкции с визуальным контекстом и анализирует документы, диаграммы и графики. Модель использует архитектуру LLaVA-NeXT с плотным трансформером EuroLLM и визуальным энкодером ViT на основе SigLIP2 SO400M. По карточке, языковая часть содержит 1,7 млрд параметров, а визуальный компонент — около 400 млн; контекст поддерживает до 32 тысяч токенов. Заявлена поддержка 39 языков, включая русский. Модель была настроена на многоязычных наборах для описания изображений, визуальных вопросов и ответов и мультимодальных рассуждений. Лицензия — Apache 2.0. Это предварительная версия, которая всё ещё разрабатывается. Возможны ошибки и галлюцинации в описаниях изображений, предвзятая интерпретация и нестабильность результатов между языками; карточка рекомендует осторожность при применении в производственной среде.

Gemma 3 4B IT QAT GGUF — мультимодальная модель семейства Gemma 3, разработанная Google и представленная в формате GGUF сообществом LM Studio. Квантизация выполнена с использованием Quantization Aware Training для повышения качества работы в 4-битном режиме. Модель предназначена для генерации текста и понимания изображений, включая ответы на вопросы, суммирование и задачи, требующие рассуждений. Она поддерживает текстово-изображённые сценарии, обрабатывает изображения, нормализованные до разрешения 896 × 896 пикселей, имеет контекстное окно до 128 000 токенов и максимальную длину вывода 8192 токена. Другие характеристики, включая языковой охват и точный набор архитектурных параметров, в README не указаны. К сильным сторонам относятся мультимодальность, большое контекстное окно и оптимизация 4-битной версии с помощью QAT, что делает модель подходящей для локального запуска при ограниченных ресурсах. Ограничения связаны с применением квантизации и указанным пределом разрешения изображений; конкретное влияние на качество и требования к аппаратным ресурсам не описаны. Модель распространяется по лицензии Gemma, для доступа к ней на Hugging Face требуется принять условия лицензии Google.

canada-quant/GLM-5.3-Flash-W4A16-MTP — это квантизированная версия мультимодальной модели GLM-5.3-Flash, разработанной zai-org и подготовленной canada-quant. Модель предназначена для генерации текста и обработки изображений с текстом, включая сценарии с очень длинным контекстом и ускоренным инференсом на совместимом GPU-оборудовании. Заявлены английский и китайский языки, архитектура Transformers и контекст до 1 048 576 токенов. В модели применяется weight-only-квантизация INT4 (W4A16, GPTQ, group-128) для 36 288 routed-expert GEMM-операций. Веса занимают около 177,7 GiB вместо примерно 599 GiB в BF16. Компоненты внимания, маршрутизатор, shared experts, embeddings, vision tower и BF16 MTP draft head сохранены без квантизации; MTP используется для speculative decoding. Артефакт рассчитан на запуск, в частности, на 4× H100/H200, 4× RTX PRO 6000 или 2× DGX Spark, при этом максимальный подтверждённый контекст зависит от конфигурации оборудования. Сильные стороны модели — существенно сниженные требования к памяти, поддержка длинного контекста, мультимодальность и ускорение генерации за счёт MTP. README приводит высокие результаты на AIME 2026 и GSM8K, а также сравнительные показатели производительности на H100, H200 и DGX Spark. Ограничения включают зависимость доступного контекста и скорости от конкретного оборудования и serving stack; модель не является новой базовой разработкой, а сохраняет возможности исходной GLM-5.3-Flash с компромиссами квантизации. Лицензия — MIT.

unsloth/Llama-3.2-11B-Vision-Instruct-bnb-4bit — 4-битная версия мультимодальной инструкционно-настроенной модели Meta Llama 3.2 Vision с примерно 11 млрд параметров. Репозиторий подготовлен Unsloth и предназначен для использования с Transformers; базовая модель — meta-llama/Llama-3.2-11B-Vision-Instruct. Архитектура семейства основана на авторегрессионном оптимизированном Transformer с Grouped-Query Attention, а инструкционные версии обучались с применением supervised fine-tuning и RLHF. Модель предназначена для диалоговых сценариев и задач, требующих работы с текстом и изображениями, включая визуальное понимание и генерацию ответов по пользовательским инструкциям. Официально поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. 4-битное представление снижает требования к памяти и делает модель более подходящей для локального запуска и дообучения на ограниченных GPU-ресурсах. К сильным сторонам относятся мультимодальность, инструкционное поведение и экономичное по памяти 4-битное квантование. README не содержит точных сведений о размере контекста, формате визуального входа, бенчмарках и ограничениях качества, поэтому эти характеристики требуют проверки в исходной карточке Meta. Модель является статической и обучена на офлайн-данных. Использование регулируется Llama 3.2 Community License — специальной коммерческой лицензией Meta, а также Acceptable Use Policy.

XTuner LLaVA — мультимодальная модель на 3,7 млрд параметров для диалога по изображениям. Она дообучена на языковой модели microsoft/Phi-3-mini-4k-instruct с визуальным энкодером CLIP ViT-Large patch14 336 и использует данные ShareGPT4V-PT и InternVL-SFT. Репозиторий содержит веса в формате XTuner LLaVA; контекст составляет 4096 токенов. Модель принимает изображение и текстовый запрос, а отвечает текстом: подходит для описания изображений, визуальных вопросов и ответов, а также задач по пониманию диаграмм и текста на изображениях. В карточке приведены результаты на наборах MMBench, MMMU, SEED-IMG, AI2D, ScienceQA, HallusionBench, POPE, GQA, TextVQA, MME и MMStar. Лицензия в предоставленных данных не указана.

LocateAnything-3B — разработанная в рамках семейства Eagle компанией NVIDIA трансформерная зрительно-языковая модель на 3 млрд параметров. Она принимает изображение и текстовый запрос, а возвращает текст с метками и структурированными координатами объектов и точек. В архитектуру входят визуальный энкодер MoonViT, языковая модель Qwen2.5-3B-Instruct и MLP-проектор; модель дообучена для визуальной локализации. Модель предназначена для обнаружения объектов, поиска объектов по описанию, локализации элементов интерфейса и текста на изображениях, а также для разметки сцен в робототехнике, автономном вождении и работе с документами. Механизм Parallel Box Decoding предсказывает координаты блоками за один параллельный шаг; авторы заявляют до 2,5 раза более высокую пропускную способность по сравнению с предшествующими подходами. Поддерживается исходное разрешение изображений до 2,5K, длина запроса до 24K токенов и генерация до 8192 токенов. Модель ориентирована на разработчиков и исследователей, создающих системы визуального восприятия и мультимодальных агентов. В README выпуск обозначен как предназначенный для исследований и разработок; метаданные указывают лицензию other, поэтому перед использованием следует проверить условия лицензии репозитория. Модель обрабатывает визуальные сцены и формулирует локализацию в виде текстовых меток и координат.

MeridianPII Hindi/Hinglish v2 — модель для обнаружения персональных данных в тексте на хинди (деванагари), хинглише и индийском английском. Она разработана как региональный набор для индийских локалей и дообучена на базе microsoft/Multilingual-MiniLM-L12-H384. Это модель BERT для классификации токенов с 64,3 млн параметров и контекстом до 512 токенов; доступны веса Safetensors и квантированная INT8-версия ONNX размером около 55 МБ для запуска в браузере через transformers.js. Модель размечает имена, адреса и другие контекстные PII-сущности, чтобы их можно было находить перед маскированием или редактированием текста. В описанной авторами оценке на тестовом наборе из 2 000 строк полнота обнаружения частных данных составила 99,8%, однако на человеко-написанных именах хинди вне распределения — 80,4%. Авторы рекомендуют сочетать модель с детерминированными проверками структурированных идентификаторов и отдельно оценивать её на собственных данных. Лицензия — CC BY 4.0.

Mistral-Small-3.2-24B-Instruct-2506-ultra-uncensored-heretic — доработанная участником сообщества версия Mistral-Small-3.2-24B-Instruct-2506 от Mistral AI. К модели применена abliteration: README сообщает о целевых слоях и компонентах и приводит метрики, указывающие на снижение частоты отказов при сравнительно небольшом изменении поведения базовой модели. Это плотная мультимодальная модель семейства Mistral3 с поддержкой чата и анализа изображений; в карточке перечислены многочисленные языки, включая русский. Она подходит для диалогов по инструкциям, анализа изображений, вызова инструментов и задач, где нужны ответы с меньшим числом отказов. В README описаны улучшения базовой версии в следовании инструкциям, вызове функций и снижении повторов, а также приведены результаты тестов по STEM и зрительным задачам; эти результаты относятся к базовой модели и не подтверждают отдельную оценку данной доработки. Репозиторий содержит веса safetensors, указанная библиотека — vLLM; README также упоминает Transformers. Лицензия — Apache-2.0. Для запуска базовой версии в bf16 или fp16 README указывает потребность примерно в 55 ГБ видеопамяти, что свидетельствует о значительных аппаратных требованиях.

onnx-community/multilang-pii-ner-ONNX — ONNX-версия модели Ar86Bat/multilang-pii-ner, автоматически конвертированная для использования, в частности, через Transformers.js. Модель разработана на базе XLM-RoBERTa Base и дообучена для извлечения именованных сущностей, связанных с персональными данными (PII), в англоязычных, немецких, итальянских и французских текстах. Модель предназначена для обнаружения и маскирования персональных данных в сценариях обезличивания текста и защиты конфиденциальности. Она обучалась на датасете ai4privacy/open-pii-masking-500k-ai4privacy в формате CoNLL. Заявлены общая accuracy 99,24%, macro F1 0,954 и weighted F1 0,992; особенно высокие показатели отмечены для адресов электронной почты и дат, а также распространённых типов сущностей. Для редких или неоднозначных категорий, включая номера водительских удостоверений, паспортов, пол, фамилии и другие чувствительные типы, качество ниже, поэтому модель не предназначена для сценариев, требующих идеальной точности без дополнительного дообучения. Модель относится к задачам token classification и поддерживает инференс в экосистеме Transformers.js. Размер контекста и точное число параметров в представленном описании не указаны. Модель распространяется по лицензии MIT.

Стандартная англоязычная модель распознавания именованных сущностей, поставляемая в составе библиотеки Flair. Она использует эмбеддинги Flair и архитектуру LSTM-CRF, обучена на CoNLL-2003 и присваивает токенам метки для имён людей, географических названий, организаций и ещё одной категории сущностей. В карточке указана оценка F1 93,06 на исправленной версии CoNLL-03. Модель предназначена для выделения и классификации сущностей в английском тексте, например при разборе новостей и документов. Для использования требуется библиотека Flair. Репозиторий содержит веса PyTorch; сведения о лицензии в предоставленных данных отсутствуют.