I.4Обработка документов и форм

SuperQwen3.8-abliterated-Venice-i1-GGUF — набор GGUF-квантизаций модели SuperQwen3.8-abliterated-100-fp8, разработанной Jiunsong и квантованной mradermacher. Модель предназначена для локального запуска задач генерации текста, рассуждений, работы с изображениями и текстом, вызова инструментов и сценариев с длинным контекстом. В карточке также указана поддержка английского и корейского языков. Это мультимодальная vision-модель с архитектурой и размером исходной модели, а также максимальной длиной контекста, не указанными в README. Доступны варианты i1-квантизации от i1-Q2_K размером около 11 ГБ до i1-Q6_K размером около 22,5 ГБ, включая IQ-квантизации. Разные варианты позволяют выбирать компромисс между размером, скоростью и качеством; для работы с изображениями могут потребоваться отдельные mmproj-файлы из статического репозитория. К сильным сторонам относятся мультимодальность, поддержка рассуждений, tool-calling, длинного контекста и широкий выбор квантизаций, включая варианты, оптимизированные по матрице важности. Ограничения — отсутствие в README точных сведений о характеристиках архитектуры, контекстном окне, производительности и качестве на тестах; качество также зависит от выбранного уровня квантизации. Модель распространяется по лицензии Apache-2.0.

TomoroAI/tomoro-colqwen3-embed-8b — мультимодальная модель эмбеддингов для поиска по визуальным документам, созданная TomoroAI на основе Qwen/Qwen3-VL-8B-Instruct. Модель дообучена на наборах данных для поиска по документам и использует подход ColPali с поздним взаимодействием векторов и оценкой MaxSim. Архитектура включает вариант Qwen3-VL на 8 млрд параметров и проекционную голову размерностью 320. Модель кодирует текстовые запросы и изображения документов, включая страницы PDF, в многовекторные представления для поиска по содержимому страниц; также поддерживается поиск по коротким видео. Для страницы допускается до 1280 визуальных токенов, для видео — до 5120. README сообщает о конкурентных результатах на ViDoRe V1–V3 на английском и нескольких языках; модель предназначена для извлечения релевантных документов, а не для генерации ответов. Входы включают текст и изображения, а в сценариях поиска по коротким видеороликам — видео; выход — векторные представления и оценки релевантности. Модель опубликована под лицензией Apache-2.0. Для загрузки в README используется trust_remote_code=True, а пример запуска предусматривает значительные вычислительные ресурсы для модели на 8 млрд параметров.

xlm-v-base-language-id — модель классификации текста, разработанная Julien Simon и дообученная на базе facebook/xlm-v-base на датасете Google FLEURS. Она определяет язык по тексту и рассчитана на распознавание 102 языков. Модель построена на архитектуре XLM-RoBERTa и содержит около 805,7 млн параметров; максимальный контекст — 514 токенов. Модель подходит для автоматической сортировки и маршрутизации текстов по языку, а также для определения языка пользовательских сообщений и документов. В README указана точность 0,993 на оценочной выборке; обучение и оценка проводились на обучающей и валидационной выборках FLEURS. Доступны веса PyTorch, Safetensors и OpenVINO. Лицензия — MIT.

Argus-Colqwen3.5-9b-v0 — модель извлечения признаков для поиска по визуальным документам, разработанная группой Data Science Университета Инсбрука. Она дообучена на Qwen/Qwen3.5-VL-9B-Instruct и содержит 8,82 млрд параметров. Архитектура сочетает мультимодальную основу Qwen3.5-VL с многовекторным представлением в стиле ColPali и взаимодействием MaxSim. Запрос управляет разреженной смесью экспертов, которая обрабатывает визуальные области страницы и формирует эмбеддинги размерностью 1024 на токен. Модель предназначена для поиска релевантных страниц в сканах и других визуальных документах по текстовому запросу. В README сообщается о сильных результатах на наборах ViDoRe v1 и v2; обучение использовало публичные наборы ViDoRe и VDR-Multilingual, а для 9B версии также смесь VDR1.5M и Docmatix. Основной акцент сделан на англоязычных документах; мультиязычная обучающая выборка невелика. Для запуска в bf16 заявлено около 17 ГБ видеопамяти только для весов и рекомендация GPU от 24 ГБ. Репозиторий распространяется по лицензии Apache 2.0.

Многоязычная модель bards.ai для обнаружения и разметки персональных и чувствительных данных в тексте, предназначенная для последующего обезличивания. Она основана на XLM-RoBERTa-base и дообучена для классификации токенов с BIO-метками; охватывает 36 классов сущностей, включая идентификационные и контактные данные, финансовые и технические идентификаторы, сведения о здоровье, биометрические и генетические данные, а также специальные категории GDPR. Модель рассчитана на 24 официальных языка ЕС. Доступны веса Safetensors и ONNX, включая версию ONNX с INT8-квантизацией для CPU; размер модели — 305,2 млн параметров, контекст — до 514 токенов. Подходит для поиска данных перед сохранением документов, писем, обращений и переписок, очистки наборов данных и фильтрации текста в RAG-конвейерах и поисковых индексах. Лицензия — Apache-2.0. Точность зависит от языка, предметной области и качества входа; OCR-ошибки, смешение языков и неоднозначные упоминания могут ухудшать обнаружение. Для соответствия требованиям модель следует использовать как часть процесса проверки и обезличивания, а не как самостоятельную гарантию юридической достаточности.

unsloth/gemma-3-270m-it-qat-GGUF — GGUF-версия инструкционно дообученной модели Gemma 3 с 270 млн параметров, разработанной Google DeepMind и подготовленной Unsloth. Модель предназначена для генерации текста, ответов на вопросы, суммаризации, рассуждений и других диалоговых сценариев, а также может анализировать изображения и выдавать текстовый результат. Модель поддерживает текстовые и графические входные данные, более 140 языков и контекст до 32 тысяч токенов для моделей размером 270M. Вариант основан на google/gemma-3-270m-it-qat-q4_0-unquantized и использует квантизацию QAT в формате GGUF, что ориентировано на запуск с пониженными требованиями к ресурсам, в том числе на локальных устройствах. Конкретные сведения об архитектуре и языковых характеристиках отдельных языков в карточке не приведены. К сильным сторонам относятся малый размер, поддержка длинного контекста, мультимодальность и возможность локального развертывания. Ограничением является существенно меньшая ёмкость модели по сравнению с крупными вариантами Gemma 3, поэтому сложные задачи и требовательные сценарии могут выполняться менее качественно. Модель распространяется по лицензии Gemma; её использование регулируется условиями Google.

NeuML/language-id — модель NeuML для определения языка по тексту. Это экспорт модели FastText Language Identification в формат staticvectors; инференс выполняется в Python с NumPy, а распознавание опирается на символьные n-граммы, что обеспечивает эффективную работу. Модель предназначена для автоматической классификации коротких или длинных текстовых фрагментов по языку. Её можно использовать для предварительной маршрутизации текста в многоязычных конвейерах обработки данных. Карточка указывает многоязычную поддержку, но не перечисляет отдельные языки. Модель распространяется по лицензии CC BY-SA 3.0.

LongLLaMA-3B — языковая модель с авторегрессионной архитектурой LongLlama, разработанная авторами метода Focused Transformer на основе OpenLLaMA-3B. Модель содержит 3,3 млрд параметров и дообучена методом FoT для работы с длинным контекстом. Репозиторий предоставляет веса PyTorch и Safetensors по лицензии Apache-2.0. Модель предназначена для генерации текста, ответов на вопросы и извлечения сведений из длинных входных последовательностей. В карточке заявлена обработка контекста до 256 тыс. токенов и более; для этого вход разбивается на окна, а механизм памяти сохраняет ключи и значения выбранных слоёв. Обычный режим совместимости с реализацией LLaMA ограничен контекстом в 2048 токенов. Авторы показывают результаты на извлечении ключевой фразы, классификации вопросов TREC и ответах на вопросы WebQS. К заявленным преимуществам относятся расширение контекста без обучения на последовательностях такой длины и сохранение результатов на короткоконтекстных задачах. Качество на очень длинных последовательностях зависит от специального механизма обработки контекста и настроек памяти; README приводит в основном иллюстративные оценки на отдельных задачах. В метаданных длина контекста указана как 2048 токенов, что соответствует базовому режиму без расширения контекста.

NeoMME-260M-Retriever — мультимодальная мультиязычная модель для поиска документов, разработанная Hcompany и дообученная на базе Hcompany/NeoMME-260M. Она использует один двунаправленный Transformer-энкодер для запросов и документов, представленных текстом или изображениями страниц. За один проход модель формирует плотные и многовекторные представления: плотные сравниваются по косинусному сходству, а многовекторные оцениваются методом MeanMaxSim. Модель предназначена для поиска по текстовым коллекциям и визуальным документам, включая страницы, представленные скриншотами. Обучение сочетает контрастивную настройку для позднего взаимодействия и плотного поиска с Matryoshka-подходом. Модель содержит 366 млн параметров, принимает контекст до 16 384 токенов и доступна в формате safetensors для библиотеки Transformers. Указана лицензия Apache-2.0.

Nova 2 Lite — мультимодальная модель Amazon для повседневных задач с упором на скорость, экономичность и рассуждения. Она принимает текст, изображения и видео и генерирует текст.

Карточка модели lyNjx/Qwen2.5-0.5B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-0.5B-Instruct, поэтому описание составлено по ней. Qwen/Qwen2.5-0.5B-Instruct — компактная инструктивно настроенная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов, выполнения инструкций и генерации текста, включая длинные ответы, структурированные данные и JSON; также может применяться для простых задач по коду и математике. Модель построена на архитектуре Qwen2 с причинным языковым моделированием и содержит 494 млн параметров. В карточке указаны 24 слоя, RoPE, SwiGLU, RMSNorm и группированное внимание; контекст — 32 768 токенов, генерация — до 8 192 токенов. Модель работает с текстом, поддерживает чат и интерфейс вызова инструментов. Семейство Qwen2.5 заявляет поддержку более 29 языков, включая русский и английский. Небольшой размер упрощает запуск по сравнению с крупными языковыми моделями, но ограничивает сложность задач, которые она может надёжно решать. Модель распространяется по лицензии Apache-2.0; для загрузки через Transformers рекомендуется актуальная версия библиотеки.

LibertAIDAI/Qwen3.6-35B-A3B-NVFP4-GGUF — это GGUF-квантизация мультимодальной модели Qwen3.6-35B-A3B, разработанной командой Alibaba Qwen и адаптированной LibertAI для работы с llama.cpp. Модель предназначена для генерации текста, рассуждений и обработки изображений и видео совместно с vision-проектором mmproj. Заявленный язык — английский. Модель использует гибридную архитектуру attention и SSM с механизмом Mixture-of-Experts: 35 млрд параметров всего, около 3 млрд активируются на каждом токене; предусмотрено 40 слоёв и 256 экспертов, из которых активны 8. Маршрутизируемые экспертные FFN-тензоры представлены в формате NVFP4, а attention, shared experts, SSM-блоки linear_attn и embeddings используют обычные варианты GGUF-квантизации. Доступны варианты с Q4_K_M, Q8_0 и BF16 для неэкспертных тензоров; для мультимодального ввода требуется отдельный vision-проектор F16 размером около 861 МБ. Основное преимущество NVFP4-варианта — уменьшенный размер и высокая скорость на NVIDIA Blackwell, особенно для версии Q4_K_M; на RTX 5090 она показала до 223 токенов в секунду при генерации. При этом для этой MoE-модели стандартный GGUF Q4_K_M в некоторых сценариях пакетной обработки быстрее NVFP4-варианта, поэтому выигрыш NVFP4 зависит от оборудования и режима работы. На старых GPU поддержка NVFP4 работает через альтернативные kernels и не даёт заявленного преимущества Blackwell. Контекст модели в README не указан. Распространение выполняется по лицензии Apache 2.0. Для запуска необходимы llama.cpp и соответствующий GGUF-файл; мультимодальный режим дополнительно требует vision-проектор.

Qwen3.8-27B-Huihui-Abliterated-NVFP4-MTP-VL — мультимодальная квантованная модель, разработанная lyf на основе huihui-ai/Huihui-Qwen3.8-27B-abliterated. Это поведенческий производный вариант, предназначенный для исследований и локального инференса, включая генерацию текста, работу с изображениями и видео, рассуждения, вызов инструментов и ускорение декодирования с помощью MTP (эталонного многотокенного предсказания). Модель использует языковую часть размером 27B параметров с квантованием линейных слоёв в формате NVFP4 W4A4 и размером группы 16. Башня обработки изображений и видео, MTP-голова, lm_head, эмбеддинги токенов и GDN conv1d сохранены в формате BF16. Поддерживаются английский и китайский языки. Указанный проверенный профиль рассчитан на видеокарты NVIDIA RTX 5090 с архитектурой Blackwell, ограничением контекста 4096 токенов и KV-кэшем FP8; большие контексты требуют отдельной проверки доступной видеопамяти. К сильным сторонам относятся мультимодальность, существенное снижение требований к памяти благодаря NVFP4, сохранение исходной BF16 vision/video tower и MTP-компонентов, а также совместимость с vLLM и OpenAI-compatible API. На одной RTX 5090 модель успешно прошла проверки текстовой генерации, MTP и мультимодального профиля; во время генерации использовалось около 28 944 MiB VRAM. Ограничения включают зависимость от совместимого оборудования и программного окружения, необходимость валидации для иных нагрузок и контекстов, а также экспериментальный характер abliterated-производной. Модель распространяется по лицензии Apache-2.0. Она предназначена для исследовательского использования и локального инференса; ответственность за дальнейшее применение и соблюдение соответствующих политик лежит на пользователе.

Qwen3.8-Flash-Next-RadixArk-NVFP4-Hybrid-Sharp — мультимодальная модель для задач text-to-text и image-text-to-text, опубликованная в репозитории travelinlance на основе Qwen3.8-Flash-Next от Qwen и NVFP4-квантизированной сборки RadixArk. Модель предназначена для диалогов, генерации текста и обработки запросов с изображениями при использовании специализированного стека обслуживания. Это примерно 176-миллиардная MoE-модель с маршрутизируемыми экспертами. Основная часть весов хранится в формате NVFP4 W4A4, а около 300 тензоров в слоях внимания и общих экспертах преобразованы в блочный FP8 E4M3. Такой гибридный формат уменьшает объём данных, считываемых при генерации, и, по заявленным измерениям, повышает скорость генерации примерно на 20% без ухудшения контрольных оценок. Встроенный Sharp chat template сокращает объём ответов; в тесте он дал на 18% меньше выходных токенов. Для запуска требуется патченный образ vLLM ghcr.io/lancelind/qwen38-flash-dgx с поддержкой смешанного FP4/FP8-формата и настройками VLLM_FP8_HYBRID=1; стандартные vLLM и SGLang эту сборку загрузить не могут. Модель рассчитана прежде всего на NVIDIA DGX Spark с GB10 и 128 ГБ памяти, где используется таблица размером 44 ГиБ, доступная напрямую с диска. Точные поддерживаемые языки и размер контекстного окна в представленном README не указаны. Лицензия обозначена как qwen-community-1.0; применимые условия следует уточнять в файле LICENSE.

ReaderLM-v2 — языковая модель Jina AI с 1,5 млрд параметров, построенная на архитектуре Qwen2 в виде авторегрессионного трансформера только для декодера. Она преобразует исходный HTML в Markdown или JSON по заданной схеме, извлекает текст и структуру веб-страниц и поддерживает диалоговый режим. Модель рассчитана на работу с длинными документами: суммарный объём входа и выхода может достигать 512 тысяч токенов. Модель поддерживает 29 языков, в том числе английский, китайский, японский, корейский, французский, испанский, немецкий и русский. В карточке заявлены улучшенная обработка таблиц, вложенных списков, блоков кода и формул, прямое формирование JSON, а также повышенная устойчивость при длинной генерации. В репозитории доступны веса Safetensors и формат ONNX. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но некоммерческое. Среди ограничений — специализация на HTML; качество преобразования зависит от структуры входной страницы и заданной схемы JSON. Для больших контекстов требуются значительные вычислительные ресурсы.

Hermes 2 Pro BakLLaVA — объединённая мультимодальная модель vonjack на архитектуре LlavaForCausalLM с языковой частью Mistral и компонентами mm_projector и vision_tower от BakLLaVA. Она содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов; веса опубликованы в формате safetensors. Модель предназначена для диалогов и выполнения инструкций, ответов на вопросы по изображениям, вызова функций и генерации JSON. В карточке заявлены хорошие результаты в QA, function calling, JSON mode и работе с изображениями; среди языков указан английский. Использование разрешено по лицензии Apache-2.0.

Hunyuan-1.8B-Pretrain — базовая плотная языковая модель из открытой серии Hunyuan компании Tencent. Она содержит 1,8 млрд параметров, построена на архитектуре Hunyuan Dense V1 и предназначена для генерации текста и дальнейшей адаптации под диалоговые и прикладные сценарии. Модель поддерживает контекст до 262 144 токенов и реализована в формате safetensors для библиотеки Transformers. Модель подходит для продолжения текста, работы с длинными документами и построения приложений, где важны компактный размер и длительный контекст. В семействе заявлены режимы быстрого и пошагового рассуждения, а также возможности для агентных сценариев и интерфейсов вызова инструментов; конкретные качества этих возможностей зависят от настройки и используемой версии. Веса этой карточки — предобученный вариант, а не instruct-модель, поэтому для следования инструкциям и диалога может потребоваться дообучение или подходящая обвязка. Tencent описывает семейство как рассчитанное на разные вычислительные условия и упоминает поддержку квантизации при развертывании. В карточке указана лицензия Apache-2.0; она разрешает коммерческое использование при соблюдении её условий.

ZuzeTt/LFM2.5-1.2B-Instruct-imatrix-GGUF — квантованный вариант текстовой instruct-модели LFM2.5-1.2B-Instruct, разработанной Liquid AI; репозиторий ZuzeTt основан на базовой модели LiquidAI/LFM2.5-1.2B-Base. Модель предназначена для локального и периферийного развертывания, включая agentic-задачи, извлечение данных, RAG и общее следование инструкциям. Формат GGUF ориентирован на llama.cpp и совместимые инструменты, CPU-инференс и снижение потребления памяти. Модель содержит 1,17 млрд параметров, 16 слоёв: 10 double-gated LIV convolution blocks и 6 GQA blocks. Она поддерживает только текстовые данные, контекст до 32 768 токенов и языки: английский, арабский, китайский, французский, немецкий, японский, корейский и испанский. Заявлены скорость декодирования до 239 токенов в секунду на AMD CPU и 82 токенов в секунду на мобильном NPU, а также работа менее чем с 1 ГБ памяти; эти показатели зависят от оборудования и конфигурации. Сильные стороны модели — малый размер, высокая скорость локального инференса, многоязычность, поддержка ChatML-подобного шаблона и function calling. Модель не рекомендуется для задач, требующих обширных фоновых знаний, и программирования; дата отсечения знаний — середина 2024 года. Указана лицензия lfm1.0; дополнительные условия следует уточнять в файле LICENSE.

Millie 1.1 — мультимодальная языковая модель с поддержкой изображений от LLMs For All, представленная в формате GGUF для локального запуска на устройствах с ограниченной памятью. Это MoE-модель примерно с 35 млрд параметров и 3 млрд активных параметров на токен; около 90% весов хранятся в троичном представлении, остальные тензоры используют более высокую точность. Для обработки изображений предусмотрен отдельный файл vision encoder/projector, который можно не устанавливать при работе только с текстом. Модель основана на Qwen/Qwen3.6-35B-A3B и подходит для диалогов, ответов на вопросы по изображениям и локального мультимодального помощника. В приведённой авторами оценке результаты близки к исходной модели на MMLU Redux и HumanEval+, а на GPQA Diamond заметно ниже; измерения выполнены в отдельных запусках и не гарантируют аналогичных результатов в других сценариях. Репозиторий распространяется по лицензии Apache-2.0.

Карточка модели DdaanZzubb/Qwen2.5-0.5B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-0.5B-Instruct, поэтому описание составлено по ней. Qwen/Qwen2.5-0.5B-Instruct — компактная инструктивно настроенная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов, выполнения инструкций и генерации текста, включая длинные ответы, структурированные данные и JSON; также может применяться для простых задач по коду и математике. Модель построена на архитектуре Qwen2 с причинным языковым моделированием и содержит 494 млн параметров. В карточке указаны 24 слоя, RoPE, SwiGLU, RMSNorm и группированное внимание; контекст — 32 768 токенов, генерация — до 8 192 токенов. Модель работает с текстом, поддерживает чат и интерфейс вызова инструментов. Семейство Qwen2.5 заявляет поддержку более 29 языков, включая русский и английский. Небольшой размер упрощает запуск по сравнению с крупными языковыми моделями, но ограничивает сложность задач, которые она может надёжно решать. Модель распространяется по лицензии Apache-2.0; для загрузки через Transformers рекомендуется актуальная версия библиотеки.

Карточка модели DongfuJiang/Qwen2.5-0.5B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-0.5B-Instruct, поэтому описание составлено по ней. Qwen/Qwen2.5-0.5B-Instruct — компактная инструктивно настроенная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов, выполнения инструкций и генерации текста, включая длинные ответы, структурированные данные и JSON; также может применяться для простых задач по коду и математике. Модель построена на архитектуре Qwen2 с причинным языковым моделированием и содержит 494 млн параметров. В карточке указаны 24 слоя, RoPE, SwiGLU, RMSNorm и группированное внимание; контекст — 32 768 токенов, генерация — до 8 192 токенов. Модель работает с текстом, поддерживает чат и интерфейс вызова инструментов. Семейство Qwen2.5 заявляет поддержку более 29 языков, включая русский и английский. Небольшой размер упрощает запуск по сравнению с крупными языковыми моделями, но ограничивает сложность задач, которые она может надёжно решать. Модель распространяется по лицензии Apache-2.0; для загрузки через Transformers рекомендуется актуальная версия библиотеки.

unsloth/Qwen3.5-0.8B-GGUF — модель семейства Qwen3.5 на базе Qwen/Qwen3.5-0.8B, представленная в репозитории Unsloth. Это мультимодальная причинная языковая модель с vision encoder, предназначенная для локального запуска, прототипирования, исследовательских и разработческих задач, а также предметно-ориентированного дообучения. Модель может применяться для работы с текстом и изображениями, рассуждений, программирования, визуального понимания и агентских сценариев. Модель содержит около 0,8 млрд параметров, 24 слоя, скрытое измерение 1024 и нативное контекстное окно до 262 144 токенов. В архитектуре сочетаются Gated Delta Networks, Gated Attention и разреженная Mixture-of-Experts; заявлена поддержка 201 языка и диалекта. Артефакты совместимы с экосистемой Hugging Face Transformers, vLLM, SGLang и KTransformers, а Unsloth также заявляет возможность локального дообучения. К сильным сторонам относятся мультимодальность, большое контекстное окно, компактный размер и заявленная высокая эффективность инференса, что делает модель подходящей для локального использования и экспериментов при ограниченных ресурсах. Ограничением является небольшой масштаб в 0,8 млрд параметров: модель прежде всего ориентирована на прототипирование, специализированное дообучение и исследования, поэтому её возможности могут уступать более крупным моделям в сложных универсальных задачах. Лицензия — Apache 2.0.

onnx-community/Qwen3.5-0.8B-ONNX — это ONNX-версия постобученной мультимодальной модели Qwen3.5-0.8B, разработанной командой Qwen. Модель предназначена для обработки текста и изображений, генерации ответов, визуального понимания, рассуждений, программирования, агентских сценариев, прототипирования, исследовательских задач и специализированного дообучения. Веса и конфигурация совместимы с Hugging Face Transformers.js и ONNX Runtime. Модель представляет собой авторегрессионную языковую модель с vision encoder и содержит около 0,8 млрд параметров. Архитектура сочетает Gated Delta Networks и разреженную Mixture-of-Experts; языковая часть включает 24 слоя, скрытое измерение 1024 и нативный контекст до 262 144 токенов. Заявлена поддержка 201 языка и диалекта. Благодаря небольшому размеру модель ориентирована на относительно эффективный запуск и разработку, но по возможностям и качеству уступает более крупным моделям, а заявленные мультимодальные и языковые характеристики требуют проверки на конкретных задачах. Модель распространяется по лицензии Apache-2.0. README не содержит полного описания ограничений, требований к аппаратному обеспечению и подробных результатов именно для всех поддерживаемых сценариев.

lmstudio-community/Qwen3.6-27B-MLX-4bit — 4-битная квантованная версия модели Qwen3.6-27B, разработанной Qwen. Квантование выполнено командой LM Studio с использованием MLX и mlx_vlm; модель оптимизирована для запуска на устройствах с Apple Silicon. Модель предназначена для задач генерации текста и обработки связок изображение—текст, включая сценарии локального запуска через совместимые инструменты. В карточке указана принадлежность к классу image-text-to-text, однако подробные сведения о поддерживаемых языках, размере контекстного окна и полном наборе мультимодальных возможностей не приведены. Ключевая особенность модели — 4-битное представление, снижающее требования к памяти по сравнению с полноформатной версией и подходящее для локального использования на Apple Silicon. Ограничения включают возможную потерю качества из-за квантования, а также отсутствие в предоставленных данных конкретных результатов тестирования и характеристик производительности. Модель распространяется по лицензии Apache-2.0.

llmfan46/Qwen3.8-27B-Ultra-Uncensored-Heretic-Native-MTP-Preserved — дообученная мультимодальная модель автора llmfan46 на базе Qwen/Qwen3.8-27B. Это плотная модель класса Qwen3.5 с 27 млрд параметров, архитектурой причинного языкового моделирования и визуальным энкодером; в репозитории сохранены 15 компонентов MTP для многотокенного предсказания. Модель предназначена для диалога, ответов на запросы с изображениями и видео, а также общих задач рассуждения и генерации текста. Автор применил abliteration, чтобы снизить частоту отказов: в приведённом тесте модель отказала в 3 из 100 случаев против 91 из 100 у исходной модели. README приводит результаты MMLU для исходной Qwen3.8-27B, а не отдельную оценку этой версии. Модель поддерживает визуальное понимание изображений и видео; заявленная длина контекста — 262 144 токена с расширением до 1 000 000. В режиме thinking модель сначала формирует рассуждения, которые можно отключить настройкой запроса. Файлы представлены в формате safetensors, библиотека — Transformers. Лицензия — Apache-2.0. Снижение числа отказов означает, что модель может отвечать на запросы, от которых исходная версия отказалась бы; приведённые тесты не устанавливают качество и безопасность ответов в других сценариях.

Это копия мультимодальной модели Qwen3-Omni, опубликованная chibifire в формате safetensors для Transformers. В README указана исходная модель Qwen/Qwen3-Omni-30B-A3B-Instruct; архитектура использует схему Mixture of Experts Thinker-Talker. Модель принимает текст, изображения, аудио и видео, а выдаёт потоковые текстовые ответы и речь. Она предназначена для многоязычных мультимодальных диалогов и задач, где нужно совместно понимать разные типы входных данных и отвечать текстом или голосом. Репозиторий содержит веса, конфигурации модели и генерации, шаблон чата, конфигурацию препроцессора и токенизатор. Лицензия — Apache-2.0. README направляет за инструкциями по установке и вариантами голосов к карточке исходной модели; размер контекста и перечень поддерживаемых языков в предоставленных данных не приведены.

raging1.0-0.5B-fp16 — компактная языковая модель на 494 млн параметров, дообученная sajibsrs на Qwen/Qwen2.5-0.5B-Instruct для подготовки данных в конвейерах RAG. Это плотная авторегрессионная архитектура Qwen2, опубликованная в формате safetensors с точностью FP16; контекст — до 32 768 токенов. Модель предназначена для извлечения сущностей и отношений в виде JSON-троек, форматирования ответов по заданной схеме и краткого фактологического пересказа текста. Её можно использовать как быстрый первый этап обработки документов перед загрузкой в RAG-хранилище или граф знаний. В README приводятся улучшения точности извлечения троек и скорости относительно базовой модели, измеренные на небольшой выборке с 4-битной версией MLX; результаты зависят от оборудования и не являются гарантией качества FP16-модели. Лицензия — Apache-2.0. Модель ориентирована на одношаговое структурированное извлечение, а не на диалог. Она может объединять несколько сущностей в одну, оставлять местоимения вместо разрешённых имён и хуже справляться со сложными вложенными или условными JSON-схемами; результаты рекомендуется проверять по схеме, а при ошибках передавать более крупной модели.

TomoroAI tomoro-colqwen3-embed-4b — мультимодальная модель для поиска по визуальным документам, созданная на основе Qwen3-VL-4B-Instruct. В README указано, что модель объединена с Qwen3-Embedding-4B и дообучена на наборах данных для визуального поиска. Архитектура ColQwen3 использует позднее взаимодействие в стиле ColPali и проекционную голову размерностью 320 для создания многовекторных представлений текста и визуальных материалов. Модель предназначена для поиска изображений страниц документов, PDF и коротких видео по текстовому запросу. Для страницы поддерживается до 1280 визуальных токенов, для видео рекомендовано до 5120; текстовые запросы ограничены контекстом базовой модели. README сообщает о конкурентных результатах на бенчмарках ViDoRe V1–V3 на английском и многоязычных данных, а также о меньшем размере эмбеддингов по сравнению с некоторыми полноразмерными моделями ColPali. Доступ к весам предоставляется по лицензии Apache-2.0.

MTalha056/bert-finetuned-squad — модель на архитектуре BERT для ответов на вопросы, разработанная на основе bert-base-cased и дообученная на неизвестном наборе данных. Она предназначена для извлечения ответа из текста по заданному вопросу. Модель содержит 135,5 млн параметров, принимает текст и поддерживает контекст длиной до 512 токенов. Доступна в формате safetensors и распространяется по лицензии Apache-2.0. Карточка модели не описывает обучающие данные, качество и ограничения; язык модели по имеющимся сведениям определить нельзя.

ColFlor — модель для поиска по визуальному содержимому документов, представленная авторами проекта ColFlor. Она обрабатывает страницы документов как изображения и выполняет поиск без отдельного OCR-конвейера. Модель насчитывает 174 млн параметров; авторы сообщают, что по сравнению с ColPali она в 17 раз меньше, быстрее кодирует запросы и изображения, а качество на англоязычных документах с большим количеством текста ниже на 1,8%. Репозиторий содержит веса в формате safetensors. Модель предназначена для поиска документов и страниц по текстовому запросу, в том числе в крупных базах PDF. Она рассчитана на английский язык. Авторы отмечают заметный разрыв в качестве при работе с рисунками по сравнению с более крупными моделями, такими как ColPali, и слабую работу на других языках. Лицензия — MIT.