I.3Извлечение и структурирование данных

InternVL2-Llama3-76B — мультимодальная инструкция-модель OpenGVLab из семейства InternVL 2.0, объединяющая визуальный энкодер InternViT-6B-448px-V1-5, MLP-проектор и языковую модель Hermes-2-Theta-Llama-3-70B. Модель содержит 76 млрд параметров, использует архитектуру InternVLChatModel и доступна в формате Safetensors для Transformers. Модель принимает изображения вместе с текстовыми запросами и генерирует текстовые ответы. Она предназначена для понимания документов, диаграмм, инфографики и сцен с текстом, OCR, визуальных вопросов и ответов, научных и математических задач, а также анализа нескольких изображений и видео. В README указано контекстное окно 8 тысяч токенов; обучение включало длинные тексты, несколько изображений и видео. Карточка обозначает модель как мультиязычную, но не перечисляет конкретные поддерживаемые языки. Модель подходит для визуального анализа и диалоговых сценариев, однако для видео в описанных оценках использовались 16 кадров, уменьшенных до 448×448 пикселей. Для больших запросов с несколькими изображениями расходуется больше токенов. Лицензия — Llama 3; перед использованием следует учитывать её условия.

Kiel-2-Sol — диалоговая языковая модель KielTech для генерации текста, созданная дообучением Meta Llama 3.2 3B Instruct с помощью параметрически эффективной адаптации слоёв внимания и MLP. Модель содержит 3,2 млрд параметров, использует плотную архитектуру Transformer и поддерживает контекст до 131 072 токенов; в репозитории есть веса Safetensors и варианты GGUF Q4_K_M и Q8_0. Модель предназначена для многоходовых диалогов, многошаговых рассуждений, структурированного вывода, включая JSON, и автоматизации API-сценариев. В карточке заявлен английский язык и лицензия Apache 2.0. Метаданные отмечают возможность чата; README предлагает развёртывание через vLLM, но пример ограничивает длину контекста до 2048 токенов.

Dingdust/LFM2.5-2.6B-heretic — текстовая разговорная модель на архитектуре LFM2, созданная как производная LiquidAI/LFM2.5-2.6B-Base. В карточке указано, что abliteration снизила частоту отказов с 97 до 3 случаев на 100 запросов при KL-дивергенции 0,0133 относительно исходной модели. Модель содержит 2,6 млрд параметров, имеет 30 слоёв и контекстное окно 131 072 токена; поддерживает чат и вызов инструментов. Модель предназначена для локального запуска на устройствах и для агентных сценариев: использования инструментов, извлечения данных, RAG и работы с длинным контекстом. Поддерживаемые языки включают английский, русский, арабский, китайский, французский, немецкий, хинди, индонезийский, итальянский, японский, корейский, польский, португальский, испанский, тайский и вьетнамский. Она не рекомендуется для агентного программирования и задач, требующих обширных знаний. Лицензия указана как other, конкретные условия в предоставленных данных не приведены.

MuXodious/LFM2.5-VL-3B-absolute-heresy — мультимодальная дообученная версия LFM2.5-VL-3B, созданная с помощью инструмента Heretic и метода abliteration для уменьшения отказов модели. Она принимает текст и изображения и предназначена для визуального диалога, распознавания текста на изображениях, анализа страниц с разметкой макета и обнаружения объектов по текстовому запросу. Модель использует языковую основу LFM2.5-2.6B и визуальный энкодер SigLIP2 NaFlex; контекст составляет 32 768 токенов. Поддерживает 17 языков, включая русский, английский, китайский, арабский, хинди и европейские языки. Базовая модель рассчитана на локальное и периферийное развертывание, а карточка этой версии приводит показатели снижения отказов и низкого KL-расхождения. Подходит для коротких запросов по изображениям, распознавания и структурирования сканированных документов, а также визуального поиска объектов. Разработчик базовой модели рекомендует сценарии с высокой пропускной способностью и малой задержкой; модель не рекомендуется для задач с длинным контекстом и интенсивными рассуждениями. В метаданных указана лицензия other; конкретные условия лицензии следует проверить в репозитории.

noctrex/LightOnOCR-2-1B-ocr-soup-GGUF — это набор квантованных версий модели LightOnOCR-2-1B-ocr-soup, разработанной LightOn AI. Модель предназначена для преобразования изображений в текст и задач оптического распознавания символов (OCR), включая извлечение текста из изображений. В основе лежит модель с объёмом около 2,1 млрд параметров; распространяемые файлы используют формат GGUF и различающиеся уровни квантования. В README не указаны архитектура, поддерживаемые языки, размер контекстного окна и точный набор модальностей. Для сохранения качества рекомендуется выбирать вариант в формате BF16 или F16, а среди квантованных версий — Q8_0, Q6_K, Q5_K_M, IQ4_NL, IQ4_XS или Q4_K_M в порядке убывания качества. Для мультимодального проектора mmproj рекомендуется версия F32, затем BF16 или F16. README не содержит сведений о сильных сторонах и ограничениях модели, лицензии или конкретных сценариях применения помимо OCR и преобразования изображений в текст.

algiraldohe/lm-ner-linkedin-skills-recognition — модель DistilBERT, дообученная algiraldohe для распознавания навыков в тексте профилей и вакансий LinkedIn. Она выполняет токенную классификацию: размечает фрагменты текста, соответствующие навыкам. Контекст модели составляет до 512 токенов. В README приведены результаты на наборе оценки: precision 0,9119, recall 0,9312, F1 0,9214 и accuracy 0,9912. Модель можно применять для извлечения навыков из профилей LinkedIn и анализа требований в описаниях вакансий. Данные обучения и подробные ограничения в карточке не описаны. Формат весов — PyTorch; лицензия в предоставленных данных не указана.

MGP-STR base — модель распознавания текста на изображениях, разработанная Alibaba DAMO Academy. Это чисто зрительная архитектура на основе Vision Transformer (ViT) с модулями A³ и головами предсказания символов, подслов и слов; предсказания объединяются для распознавания текста. Модель содержит 113,2 млн параметров и распространяется в форматах PyTorch и safetensors. Модель предназначена для OCR и распознавания текста в изображениях, в частности для scene text recognition. Она обучена на синтетических наборах MJSynth и SynthText. В основе ViT использованы веса DeiT-base, кроме слоя встраивания патчей; входное изображение имеет размер 32×128. Карточка не сообщает о поддержке нескольких языков или о длине контекста. Модель можно использовать для распознавания текста без дополнительной настройки; для прикладных задач README предлагает искать дообученные версии. Ограничение — обучение описано на синтетических данных, поэтому качество на реальных изображениях и вне этого распределения не гарантируется. Лицензия в предоставленных данных не указана.

Mistral-Small-3.2-24B-Instruct-2506 — дообученная версия Mistral-Small-3.1-24B-Instruct-2503, опубликованная Unsloth на базе модели Mistral AI. Это плотная мультимодальная модель семейства Mistral3 с 24 млрд параметров, принимающая текст и изображения и выдающая текст. Она предназначена для диалогов по инструкциям, анализа изображений и вызова инструментов; по сравнению с версией 3.1 улучшены следование точным инструкциям и шаблон вызова функций, а повторяющиеся генерации встречаются реже. В README приведены результаты тестов на рассуждение, STEM, программирование и визуальные задачи. Модель поддерживает множество языков, включая русский, английский, французский, немецкий, испанский, китайский, японский, арабский и хинди. Для запуска рекомендуются vLLM или Transformers; README указывает, что для работы на GPU в форматах bf16 или fp16 требуется около 55 ГБ видеопамяти. Модель распространяется по лицензии Apache-2.0.

mmBERT-32K PII Detector — модель разметки токенов для обнаружения персональных данных, разработанная vLLM Semantic Router. Она дообучена на базе vllm-sr/mmbert-32k-yarn и представляет собой ModernBERT с 306,9 млн параметров; поддерживает контекст до 32 768 токенов. Модель принимает текст и помечает в нём сущности, включая имена, адреса, телефоны, электронную почту, платёжные и государственные идентификаторы, даты, возраст и названия организаций. Модель предназначена для выявления чувствительных данных в документах и текстовых потоках, например перед передачей данных внешним сервисам или для маршрутизации запросов. В README приведены показатели точности для некоторых типов сущностей, но они не описывают качество на всех языках и доменах. В карточке указан английский язык; качество на других языках не подтверждено. Модель распространяется под лицензией MIT. Доступны веса Safetensors и формат ONNX.

MOSS-Transcribe-Diarize 0.9B — мультимодальная модель для распознавания и структурированного анализа длинных аудио- и видеозаписей. Она совместно выполняет транскрибацию и диаризацию: выдаёт текст с временными метками и относительными анонимными метками говорящих, а также может отмечать акустические события. В README модель представлена как разработка MOSS; репозиторий использует архитектуру MossTranscribeDiarizeForConditionalGeneration и библиотеку Transformers с пользовательским кодом загрузки. Модель предназначена для встреч, звонков, подкастов, интервью, лекций и других записей с несколькими участниками. Поддерживает более 50 языков, обработку записей длительностью до 90 минут за один проход и подсказки с пользовательскими ключевыми словами для терминологии предметной области. В метаданных указаны английский и китайский языки; README также сообщает о результатах соревнования на 14 языках, включая русский. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. Для загрузки требуется разрешить выполнение пользовательского кода Transformers через trust_remote_code=True.

Карточка модели neongeckocom/NeonLLM-Base на Hugging Face совпадает с карточкой NousResearch/Hermes-2-Pro-Mistral-7B, поэтому описание составлено по ней. Hermes 2 Pro на Mistral 7B — диалоговая языковая модель, разработанная Nous Research совместно с Interstellarninja и Fireworks.AI. Это дообученная плотная модель Mistral с 7,1 млрд параметров; она использует формат ChatML и контекст до 32 768 токенов. Модель предназначена для диалогов и выполнения инструкций, а также для вызова функций и формирования структурированных ответов в JSON. Авторы сообщают о точности 90% в собственной оценке вызова функций и 84% в оценке JSON-вывода. Она подходит для ассистентов, которым нужно передавать вызовы инструментам и возвращать ответы по заданной схеме. Модель принимает текст и генерирует текст, включая представления вызовов инструментов и JSON. В метаданных указан английский язык. Модель распространяется по лицензии Apache-2.0. Результаты оценок приведены авторами модели; качество ответов и корректность вызовов инструментов следует проверять в целевом приложении.

NVIDIA-Nemotron-Labs-Teacher-Instruction-Following — большая языковая модель NVIDIA для точного следования инструкциям. Она предназначена как для самостоятельного применения, так и для роли модели-учителя при генерации обучающих данных и дистилляции. Модель особенно ориентирована на запросы с явными ограничениями по формату, длине, стилю и структуре ответа, включая заполнение схем и оценку соблюдения требований. Модель построена на гибридной архитектуре LatentMoE: в ней сочетаются слои Mamba-2, Mixture of Experts и отдельные слои внимания; Multi-Token Prediction поддерживает ускоренную генерацию. Всего модель содержит 550 млрд параметров, из которых 55 млрд активны. Метаданные указывают контекст 262 144 токена; README заявляет до 1 млн токенов. Поддерживаются английский, французский, испанский, итальянский, немецкий, японский, корейский, хинди, португальский и китайский языки; метаданные также перечисляют иврит и арабский. Модель принимает текстовые запросы и генерирует текст. По карточке, чекпойнт готов к коммерческому и некоммерческому использованию, однако лицензия в метаданных обозначена как other, поэтому перед использованием следует проверить условия лицензии в репозитории. Масштаб модели предполагает высокие требования к вычислительным ресурсам; README описывает многосерверное развертывание на оборудовании NVIDIA.

Donut — модель Geewok и соавторов для понимания документов по изображениям. Эта версия базового размера дообучена на наборе CORD, содержащем изображения чеков и разметку для извлечения их содержимого. Модель использует архитектуру vision-encoder-decoder: визуальный энкодер Swin Transformer кодирует изображение, а текстовый декодер BART авторегрессионно формирует результат. Она предназначена для разбора чеков и извлечения структурированных сведений непосредственно из изображения, без отдельного этапа OCR. Лицензия — MIT. Модель специализирована на чеках из CORD; качество на других видах документов и изображений карточка не характеризует. Поддерживаемый язык в карточке не указан.

mlx-community/openai-privacy-filter-4bit — конверсия модели openai/privacy-filter в формат MLX с 4-битным представлением; карточка указывает mlx-embeddings версии 0.1.1. Базовая модель — двунаправленный разреженный MoE-классификатор токенов, который размечает персональные данные в тексте BIOES-метками по восьми категориям: имена людей, адреса электронной почты, телефоны, URL, адреса, даты, номера счетов и секреты. Модель предназначена для обнаружения и последующей фильтрации или маскирования персональных данных, в том числе локально на устройствах Apple с MLX. Она содержит 145,4 млн параметров по метаданным; README указывает 1,5 млрд параметров и 50 млн активных параметров у исходной базовой модели. Контекст составляет до 131 072 токенов. Лицензия — Apache-2.0. Карточка не описывает точность на разных языках или условия оценки, поэтому качество распознавания вне перечисленных типов данных не следует предполагать.

mlx-community/openai-privacy-filter-5bit — конвертированная в формат MLX модель-классификатор из семейства OpenAI Privacy Filter. Она размечает в тексте фрагменты с персональными данными в формате BIOES по восьми категориям: имя человека, электронная почта, телефон, URL, адрес, дата, номер счёта и секрет. Модель предназначена для локального выявления PII, фильтрации и маскирования чувствительных данных. Модель основана на openai/privacy-filter и использует двунаправленную разреженную MoE-архитектуру. В README указано 1,5 млрд параметров и около 50 млн активных параметров; метаданные каталога сообщают 145,4 млн параметров. Для поставки использованы формат MLX и 5-битное представление. Указанная длина контекста — 131072 токена. Лицензия — Apache-2.0. Карточка описывает классификацию персональных данных в тексте; сведений о поддерживаемых естественных языках и подробной оценке качества нет. Практическое применение стоит проверять на данных и категориях, важных для конкретного сценария.

Perseus-Doc-vl-0712-i1-GGUF — это квантованные файлы GGUF базовой визуально-языковой модели Perseus-Doc-VL-0712, разработанной prithivMLmods и подготовленной к квантованию пользователем mradermacher. Модель предназначена для работы с документами и изображениями: распознавания текста, интеллектуального распознавания рукописного текста, анализа PDF и других визуальных данных, генерации подписей и преобразования изображений в текст. Доступны mmproj-файлы для мультимодального режима. В README указана поддержка английского и китайского языков. Архитектура, число параметров, размер контекста и точный набор поддерживаемых входных форматов не раскрыты. Репозиторий содержит варианты квантования от 2,0 до 6,4 ГБ; более компактные варианты требуют меньших ресурсов, но могут заметно уступать по качеству, тогда как Q4_K_M отмечен как быстрый и рекомендуемый вариант. Основные ограничения — отсутствие подробных количественных оценок, сведений о производительности и характеристиках базовой модели в карточке данного репозитория. Модель распространяется по лицензии Apache-2.0. Указанные в README датасеты включают OpenDoc-Pdf-Preview, Corvus-OCR-Caption-Mix, Openpdf-Analysis-Recognition и Opendoc2-Analysis-Recognition.

PP-OCRv6_tiny_rec — компактная модель распознавания текста на изображениях из семейства PP-OCRv6, разработанного PaddlePaddle. Она предназначена для преобразования изображений текстовых строк в текст и может использоваться как модуль распознавания в OCR-конвейере вместе с детектором текста и другими компонентами PaddleOCR. Модель использует LCNetV4 в качестве backbone, прямую проекцию reshape без encoder neck и декодер с головами CTC и NRTR. По README, она содержит 1,1 млн параметров и поддерживает 49 языков; семейство PP-OCRv6 рассчитано на разные сценарии, включая промышленные изображения, экраны и точечно-матричные символы. В метаданных указаны английский и китайский языки. Лицензия — Apache-2.0. Модель узкоспециализирована на распознавании текста и сама по себе не описана как полный OCR-конвейер: для обнаружения текстовых областей могут понадобиться другие модули. Качество зависит от языка, типа изображения и условий съёмки; подробные показатели именно tiny_rec в предоставленном README не приведены.

QARI-OCR v0.3 — специализированная мультимодальная модель NAMAA-Space для распознавания арабского текста на изображениях документов и сохранения их структуры. Она дообучена на основе Qwen2-VL-2B-Instruct; архитектура — Qwen2-VL, размер — 1,5 млрд параметров. Модель принимает изображения и текстовые запросы, а распознанный текст может сохранять структуру документа с помощью тегов HTML или Markdown. Модель предназначена для OCR документов с заголовками, основным текстом и сложной версткой. В карточке отмечены поддержка огласовок и работа с 12 арабскими шрифтами, а также начальные возможности распознавания рукописного текста и устойчивость к изображениям низкого разрешения и ухудшенного качества. По данным README, CER составляет 0,300, WER — 0,485, BLEU — 0,545; для версии v0.2 указана более высокая точность распознавания обычного текста. Модель обрабатывает арабский язык, использует библиотеку Transformers и имеет контекст длиной до 32 768 токенов. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0.

QuantFactory/Qwen2.5-14B-GGUF — это квантизированная версия базовой языковой модели Qwen2.5-14B, созданная QuantFactory с использованием llama.cpp. Исходную модель разработала команда Qwen. Модель предназначена для генерации текста, продолжения текста и последующего дообучения, включая supervised fine-tuning, RLHF и continued pretraining. Разработчики не рекомендуют использовать базовую версию непосредственно для диалогов без дополнительного обучения. Модель относится к каузальным языковым моделям и содержит 14,7 млрд параметров, из которых 13,1 млрд не относятся к embedding-слою. Архитектура использует transformers, RoPE, SwiGLU, RMSNorm и смещения в attention QKV; предусмотрены 48 слоёв и Grouped-Query Attention с 40 головами Q и 8 головами KV. Контекстное окно составляет до 131 072 токенов, поддерживается генерация длинных текстов. Заявлена поддержка более 29 языков, включая английский, китайский, русский, французский, испанский, немецкий, итальянский, японский, корейский, арабский и другие. К сильным сторонам относятся улучшенные знания, возможности в программировании и математике, следование инструкциям, работа со структурированными данными и генерация структурированных ответов, включая JSON, а также поддержка длинного контекста. К ограничениям относятся базовый, а не instruction-tuned характер модели и необходимость использования совместимого программного окружения; для работы рекомендуется актуальная версия transformers, поскольку версии ниже 4.37.0 могут вызывать ошибку совместимости. Модель распространяется по лицензии Apache-2.0.

SAIFIINDUSTRIES/Qwen2.5-7B-Instruct-1M — чат-модель для генерации текста на основе Qwen2.5-7B, представленная как вариант семейства Qwen2.5-1M с длинным контекстом. В метаданных указаны архитектура Qwen2, 7,1 млрд параметров, формат safetensors и дообучение базовой модели Qwen/Qwen2.5-7B; README описывает причинную языковую модель с RoPE, SwiGLU, RMSNorm и контекстом до 1 010 000 токенов, включая генерацию до 8192 токенов. Модель предназначена для диалогов и задач генерации текста с длинными входными материалами: например, анализа объёмных документов и работы с большими контекстами. README рекомендует специальную сборку vLLM со sparse attention и методами экстраполяции контекста для эффективной работы на максимальной длине. Для обработки последовательностей в миллион токенов указано требование не менее 120 ГБ видеопамяти суммарно; при использовании прежних средств вывода возможно снижение точности на длинах свыше 262 144 токенов. Модель использует лицензию Apache-2.0. Метаданные указывают английский язык; README не приводит отдельного перечня поддерживаемых языков.

Qwen2-VL-7B — базовая предварительно обученная мультимодальная модель, разработанная командой Qwen. Это плотная модель с 7,1 млрд параметров для понимания изображений и видео по текстовым запросам. Она обрабатывает изображения с произвольным разрешением и соотношением сторон, а также видео длительностью более 20 минут; динамическое число визуальных токенов и позиционные кодировки M-ROPE учитывают текстовые, двумерные визуальные и трёхмерные видеоданные. Модель предназначена для визуальных вопросов и ответов, диалога о содержимом изображений и видео, распознавания текста на изображениях и задач, связанных с визуальным анализом и принятием решений. README описывает поддержку английского и китайского языков, а также чтение текста на изображениях на многих других языках, включая европейские языки, японский, корейский, арабский и вьетнамский. Версия в этом репозитории не прошла инструкционную настройку, поэтому для диалога и следования пользовательским инструкциям может требоваться дополнительная настройка. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-AWQ-MTP — это 4-битная AWQ-квантизованная версия модели HauhauCS/Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-MTP-GGUF, опубликованная twolven. Модель предназначена для генерации текста, рассуждений, работы с изображениями и вызова инструментов; поддерживает speculative decoding через встроенную NextN/MTP draft head при использовании vLLM. В карточке указан английский язык и мультимодальный режим image-text-to-text. Модель содержит около 27 млрд параметров и использует гибридную архитектуру Qwen3.5: 64 декодерных слоя, включая 48 слоёв с линейным вниманием Qwen3_5GatedDeltaNet и 16 слоёв с полным вниманием, а также 27-слойную vision tower. Основные линейные слои квантизованы в формате W4A16 с размером группы 128 и асимметричным квантованием; vision tower, lm_head, MTP head и отдельные компоненты сохранены в bf16. Размер модели на диске составляет около 19 ГБ. Проверки показали связное поведение, арифметическое рассуждение, распознавание форм и цветов на изображениях, работу tool calling и извлечение данных из контекстов до 229 200 токенов. К сильным сторонам относятся мультимодальность, сохранённая поддержка MTP для ускорения генерации, совместимость с vLLM, инструментами и длинным контекстом, а также отсутствие отказов в заявленных тестах uncensored-профиля. Главное ограничение — модель восстановлена из GGUF-квантизации Q8_K_P, а затем повторно квантизована до 4 бит, поэтому накопленная ошибка выше, чем у сборки, созданной непосредственно из исходных BF16-весов. Производительность MTP зависит от характера запроса и может различаться примерно на 30%; единое значение скорости генерации не приводится. Лицензия — Apache-2.0.

FuriosaAI публикует эту версию Qwen3-VL-2B-Instruct вместе с исполняемым пакетом для запуска на ускорителях FuriosaAI RNGD через Furiosa-LLM. Это плотная мультимодальная модель с примерно 2 млрд параметров: визуальный энкодер обрабатывает изображения и видеокадры, а трансформерный декодер формирует текст. В архитектуре используются Interleaved-MRoPE и многоуровневое объединение визуальных признаков DeepStack; версия Instruct предназначена для диалога и не использует режим рассуждений из отдельной thinking-версии. Модель подходит для ответов на вопросы по изображениям и видео, OCR, анализа документов и диаграмм, пространственных рассуждений и вызова инструментов. README описывает запуск через Furiosa-LLM на RNGD; также указана совместимость с vLLM, SGLang и Transformers. Веса не квантизированы и сохраняют точность upstream-модели. Лицензия — Apache 2.0.

cyankiwi/Qwen3-VL-2B-Instruct-AWQ-4bit — это 4-битная AWQ-квантизованная версия мультимодальной instruct-модели Qwen3-VL-2B-Instruct, разработанной командой Qwen. Модель предназначена для обработки текста и изображений, а также заявлена для понимания видео, визуального рассуждения и взаимодействия с графическими интерфейсами. Она может использоваться для описания изображений, визуального и текстового анализа, OCR, STEM- и математических задач, генерации кода и выполнения агентных сценариев с инструментами. Модель относится к плотной архитектуре и имеет 2 млрд параметров в базовой версии; применённая 4-битная AWQ-квантизация снижает требования к памяти и может упростить локальное развёртывание, потенциально ценой некоторого снижения точности по сравнению с полной версией. В README указаны контекст до 256K токенов с возможностью расширения до 1M, поддержка видео с временной индексацией и OCR на 32 языках, однако конкретный список языков для данной сборки не приведён. Среди архитектурных компонентов упомянуты Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками. Сильные стороны модели — сочетание текстового и визуального понимания, анализ пространственных отношений, работа с длинным контекстом, документами и видео, а также поддержка визуального управления интерфейсами. Ограничения включают возможные потери качества из-за 4-битной квантизации и отсутствие в представленном README детальных результатов тестирования именно этой AWQ-сборки. Модель распространяется по лицензии Apache-2.0.

Qwen3-VL-2B-Thinking-GGUF — мультимодальная vision-language модель серии Qwen3-VL, разработанная командой Qwen. Данный вариант подготовлен Unsloth в формате GGUF и предназначен для локального запуска и эффективного инференса в совместимых средах, включая llama.cpp. Модель рассчитана на анализ изображений, текста и видео, генерацию ответов с усиленным рассуждением, решение STEM- и математических задач, распознавание текста и структур документов, пространственный анализ, понимание временной динамики видео, а также взаимодействие с графическими интерфейсами и инструментами. Заявлены возможности визуального программирования по изображениям и видео, включая генерацию Draw.io, HTML, CSS и JavaScript. Размер модели составляет 2B параметров. Она использует мультимодальную архитектуру Qwen3-VL с механизмами Interleaved-MRoPE, DeepStack и выравниванием текста с временными метками. Заявлена длина контекста 256K токенов с возможностью расширения до 1M. OCR поддерживает 32 языка, однако полный перечень языков в README не приведён. Модель ориентирована на сочетание визуального восприятия, текстового понимания и рассуждений, но README не содержит подробных числовых результатов тестирования или информации о конкретных ограничениях качества. Лицензия — Apache 2.0. Для запуска в llama.cpp рекомендуется использовать параметр --jinja из-за исправлений шаблона чата Unsloth.

viaqlo/Qwen3-VL-4B-Instruct-ara — производная мультимодальная модель на основе Qwen/Qwen3-VL-4B-Instruct, созданная методом abliteration. Она предназначена для диалогов с изображениями и видео, визуального рассуждения, распознавания текста на изображениях и обычных текстовых запросов. Модель сохраняет архитектуру Qwen3-VL плотного типа с 4 млрд параметров; базовая модель заявляет контекст до 256 тыс. токенов с возможностью расширения до 1 млн и поддержку OCR на 32 языках. В карточке приведено сравнение с исходной моделью: доля отказов снизилась с 97 из 100 до 4 из 100, а KL divergence составляет 0,0265. Это указывает на ослабление отказного поведения и может означать меньшую осторожность при ответах. Модель распространяется в формате safetensors через Transformers по лицензии Apache-2.0.

unsloth/Qwen3-VL-4B-Instruct-unsloth-bnb-4bit — это квантованная 4-битная версия мультимодальной модели Qwen3-VL-4B-Instruct, разработанной командой Qwen и подготовленной Unsloth. Модель предназначена для понимания и генерации текста на основе изображений, а также для работы с видео и текстовыми запросами. Модель имеет размер 4B параметров и архитектуру vision-language с режимом Instruct. Она поддерживает визуальное распознавание, OCR для 32 языков, анализ пространственных отношений, понимание длительных видеосцен, мультимодальное рассуждение в STEM-задачах и взаимодействие с графическими интерфейсами ПК и мобильных устройств. Заявлен нативный контекст до 256K токенов с возможностью расширения до 1M. Среди архитектурных компонентов указаны Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками. Сильными сторонами являются сочетание текстового и визуального понимания, обработка изображений, документов и видео, распознавание текста в сложных условиях, а также задачи визуального программирования и управления интерфейсами. Ограничения включают зависимость качества и совместимости от 4-битного квантования, а также необходимость подходящей аппаратной и программной конфигурации для длинного контекста и видео; конкретные языки, требования к ресурсам и детальные числовые результаты в README не указаны. Модель распространяется по лицензии Apache-2.0.

Qwen3-VL-4B-Thinking-1M-GGUF — мультимодальная vision-language модель в формате GGUF, подготовленная Unsloth на базе Qwen/Qwen3-VL-4B-Thinking. Это reasoning-ориентированная версия семейства Qwen3-VL с плотной архитектурой и примерно 4 млрд параметров, предназначенная для локального и эффективного развёртывания, в том числе через llama.cpp с использованием шаблонов чата Jinja. Модель принимает текст и изображения, а также ориентирована на понимание видео. Она предназначена для визуального вопросно-ответного взаимодействия, распознавания и анализа изображений, OCR, понимания документов, STEM- и математического рассуждения, пространственного анализа, генерации кода и взаимодействия с графическими интерфейсами и инструментами. Заявлены улучшенные возможности визуального распознавания, анализа временной структуры видео и работы с длинным контекстом: базовый контекст составляет 256K токенов с возможностью расширения до 1M. Ключевые архитектурные особенности включают Interleaved-MRoPE для пространственно-временного позиционного кодирования, DeepStack для объединения многоуровневых признаков ViT и выравнивание текста с временными метками для анализа событий в видео. Заявлена поддержка OCR на 32 языках, однако полный список языков модели в карточке не приведён. Сильными сторонами являются сочетание текстового и визуального рассуждения, работа с длинными документами и видео, пространственное понимание и сценарии visual agent. Ограничения включают зависимость качества от используемой квантизации GGUF, вычислительных ресурсов и совместимости программного окружения; конкретные параметры квантизации и результаты тестов в README не указаны. Модель распространяется по лицензии Apache-2.0.

Mungert/Qwen3-VL-8B-Instruct-GGUF — квантованная GGUF-версия мультимодальной модели Qwen3-VL-8B-Instruct, разработанной командой Qwen и подготовленной пользователем Mungert с помощью llama.cpp. Модель предназначена для задач «изображение—текст»: анализа изображений и видео, генерации текста, визуального вопросно-ответного взаимодействия, OCR, пространственного рассуждения, анализа документов, визуального программирования и взаимодействия с графическими интерфейсами и инструментами. Модель имеет плотную архитектуру с 8 млрд параметров и поддерживает обработку текста, изображений и видео. Заявлены нативный контекст до 256K токенов с возможностью расширения до 1M, понимание длительных видео с временной индексацией, улучшенное пространственное рассуждение и OCR для 32 языков. Среди архитектурных компонентов указаны Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками. Формат GGUF ориентирован на запуск через llama.cpp и другие совместимые средства локального инференса. Сильными сторонами являются мультимодальность, распознавание текста в сложных условиях, анализ пространственных и временных отношений, работа с длинным контекстом и возможности визуального агента. Точность и размер файла зависят от выбранного уровня квантования: низкая разрядность может ухудшать качество, тогда как описанный автором подход с повышением точности отдельных слоёв увеличивает размер модели и потенциально сохраняет больше точности. README не содержит подробных результатов тестирования конкретных квантованных файлов и сведений о требованиях к оборудованию. Лицензия — Apache 2.0.

Qwen-3-VL-8B-Instruct-heretic — мультимодальная разговорная модель, созданная Heretic как декензурированная версия Qwen/Qwen3-VL-8B-Instruct с помощью Heretic v1.3.0. Это плотная архитектура Qwen3-VL с 8 млрд параметров, предназначенная для диалога по тексту и изображениям, визуального анализа и рассуждений. В README указано контекстное окно 256K токенов с возможностью расширения до 1M у базовой модели; метаданные подтверждают поддержку изображений и формат safetensors. Модель подходит для ответов на вопросы по изображениям, OCR, понимания видео и пространственных сцен, а также для визуального взаимодействия с интерфейсами. README сообщает о снижении отказов: 6 из 100 запросов против 100 из 100 у исходной модели; это может влиять на защитное поведение. Качество и заявленные возможности унаследованы от описания базовой Qwen3-VL, а отдельные показатели этой производной модели ограничены приведённой метрикой KL-дивергенции и отказов. Лицензия — Apache-2.0.