I.14Автоматизация процессов и AI-агенты

Это зеркало инструктивной мультимодальной модели Qwen2.5-VL-7B от команды Qwen, опубликованное пользователем chibifire. Модель принимает изображения, видео и текст, а генерирует текст; она предназначена для диалогового анализа визуального содержимого и локального инференса. В репозитории находятся веса в формате safetensors, токенизатор, шаблон чата и конфигурации процессора и генерации. Модель содержит 7,1 млрд параметров, использует архитектуру Qwen2.5-VL и поддерживает контекст до 128 000 токенов. Зеркало основано на Qwen/Qwen2.5-VL-7B-Instruct и распространяется по лицензии Apache-2.0. Карточка описывает английский язык; возможности для других языков здесь не подтверждены.

Карточка модели Lostsoulfs/Qwen2.5-VL-7B-Instruct на Hugging Face совпадает с карточкой unsloth/Qwen2.5-VL-7B-Instruct, поэтому описание составлено по ней. Qwen2.5-VL-7B-Instruct — мультимодальная инструкционная модель семейства Qwen, представленная в репозитории Unsloth на основе Qwen/Qwen2.5-VL-7B-Instruct. Это плотная архитектура Qwen2.5-VL с 7,1 млрд параметров, поддерживающая диалоговую работу с изображениями; длина контекста составляет 32 768 токенов. Модель принимает изображения и текстовые запросы, а отвечает текстом, в том числе может выдавать структурированные данные и координаты объектов. Модель предназначена для анализа изображений и документов, распознавания текста, таблиц, диаграмм и макетов, визуальных вопросов и ответов, а также понимания видео и локализации событий. Карточка описывает возможности визуального агента для взаимодействия с интерфейсами и инструментами. Динамическое разрешение позволяет настраивать баланс качества, скорости и расхода памяти. В README приведены результаты на бенчмарках изображений, видео и экранных интерфейсов. Для обработки изображений высокого разрешения требуется больше вычислений; поддержка видео зависит от используемой библиотеки, а видеофайлы подаются локально. Увеличение контекста с YaRN может ухудшить временную и пространственную локализацию. Лицензия — Apache-2.0.

Qwen2.5-VL-7B-Instruct — мультимодальная инструкционная модель семейства Qwen, представленная в репозитории Unsloth на основе Qwen/Qwen2.5-VL-7B-Instruct. Это плотная архитектура Qwen2.5-VL с 7,1 млрд параметров, поддерживающая диалоговую работу с изображениями; длина контекста составляет 32 768 токенов. Модель принимает изображения и текстовые запросы, а отвечает текстом, в том числе может выдавать структурированные данные и координаты объектов. Модель предназначена для анализа изображений и документов, распознавания текста, таблиц, диаграмм и макетов, визуальных вопросов и ответов, а также понимания видео и локализации событий. Карточка описывает возможности визуального агента для взаимодействия с интерфейсами и инструментами. Динамическое разрешение позволяет настраивать баланс качества, скорости и расхода памяти. В README приведены результаты на бенчмарках изображений, видео и экранных интерфейсов. Для обработки изображений высокого разрешения требуется больше вычислений; поддержка видео зависит от используемой библиотеки, а видеофайлы подаются локально. Увеличение контекста с YaRN может ухудшить временную и пространственную локализацию. Лицензия — Apache-2.0.

Qwen2.5-VL-7B-Instruct-unsloth-bnb-4bit — 4-битная версия instruction-tuned мультимодальной модели Qwen2.5-VL-7B, разработанной командой Qwen и распространяемой в формате Unsloth. Модель предназначена для задач image-text-to-text: анализа изображений и видео, распознавания текста, понимания документов, диаграмм, таблиц и макетов, а также визуального рассуждения и формирования структурированных ответов. В README указана поддержка английского языка. Модель содержит 7 миллиардов параметров и объединяет языковую модель с vision encoder. Для обработки видео используются динамические разрешение и частота кадров, а также механизмы временного позиционирования; заявлена работа с видео длительностью более часа и поиск релевантных временных сегментов. Модель умеет локализовать объекты с помощью bounding boxes или точек, выдавать координаты и атрибуты в JSON, а также поддерживает сценарии визуального агента, включая взаимодействие с компьютером и телефоном. К сильным сторонам относятся анализ документов и изображений, OCR, понимание графиков и таблиц, обработка длинных видео и визуальная локализация. Ограничения включают зависимость качества от входных визуальных данных и вычислительных ресурсов, а также то, что приведённые результаты относятся к базовой Qwen2.5-VL-7B и не обязательно полностью характеризуют именно 4-битную сборку. Модель распространяется по лицензии Apache-2.0.

QuantTrio/Qwen3-30B-A3B-Thinking-2507-AWQ — это AWQ-квантизированная версия причинной языковой модели Qwen3-30B-A3B-Thinking-2507, разработанной командой Qwen и подготовленной QuantTrio. Модель предназначена для генерации текста с акцентом на углублённое рассуждение, включая решение математических и научных задач, программирование, логический анализ, следование инструкциям, использование инструментов и работу в агентских сценариях. Поддерживается только режим thinking; шаблон чата автоматически добавляет маркер <think>. Архитектура модели основана на Mixture-of-Experts: всего 30,5 млрд параметров, из которых при обработке активируются 3,3 млрд; предусмотрены 48 слоёв, 128 экспертов и 8 активируемых экспертов, а также GQA с 32 головами запросов и 4 головами ключей и значений. Исходная модель поддерживает нативный контекст до 262 144 токенов, однако в приведённой конфигурации vLLM задан максимальный размер контекста 32 768 токенов. Файлы квантизированной версии занимают около 16 ГБ. К сильным сторонам относятся улучшенные способности к рассуждению, математике, программированию, работе с инструментами и обработке длинного контекста, а квантизация снижает требования к памяти при развёртывании. Ограничения включают поддержку только thinking-режима, необходимость запуска с параметром --enable-expert-parallel и рекомендуемую зависимость vLLM версии 0.10.0; в README приведена конфигурация для одной узловой системы с четырьмя GPU. Модель распространяется по лицензии Apache-2.0.

PrimeIntellect/Qwen3-4B — текстовая генеративная модель семейства Qwen3, представленная Prime Intellect как копия Qwen/Qwen3-4B с шаблоном диалога, совместимым с многоходовым общением и вызовом инструментов. Модель основана на Qwen/Qwen3-4B-Base и дообучена; её плотная архитектура Qwen3ForCausalLM содержит 3,7 млрд параметров и поддерживает контекст до 40 960 токенов. Модель предназначена для генерации текста и диалоговых сценариев, включая обмен сообщениями в несколько ходов и форматирование вызовов инструментов. Репозиторий содержит веса safetensors и использует библиотеку Transformers. Лицензия — Apache-2.0.

Jackrong/Qwen3.5-9B-Gemini-3.1-Pro-Reasoning-Distill — плотная текстовая модель на архитектуре Qwen3.5 с 9 млрд параметров, разработанная Jackrong путём дообучения Qwen/Qwen3.5-9B. Она предназначена для диалогов и сложных задач, где нужны последовательные рассуждения: разбиение задачи на части, планирование, анализ ограничений и обобщение. Обучение с учителем использует дистиллированные трассы рассуждений Gemini 3.1, Gemini 3.0 Pro и Qwen3.5-27B; модель рассчитана на генерацию текста и поддерживает интерфейс вызова инструментов. В корпусах обучения представлены математика, программирование и системы, безопасность, физика, право, медицина, финансы и другие области. Метаданные карточки указывают языки английский, китайский и корейский. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0. Модель может галлюцинировать факты и ссылки, а её склонность к подробному структурированному анализу иногда приводит к избыточным ответам на простые запросы. Дистилляция может повлиять на обобщение и вызвать частичное забывание знаний базовой модели; для конкретного сценария требуется оценка качества и настройка формата запросов.

Crucible Labs выпустила сжатую версию Qwen3.6-35B-A3B для локальной генерации кода и работы с инструментами. Модель основана на архитектуре mixture-of-experts: методом REAP удалено 48% маршрутизируемых экспертов, после чего веса квантизированы в GGUF по схеме Q3K-mixed с использованием importance matrix. Артефакт содержит 19,17 млрд параметров и занимает 9,4 ГБ; для запуска предназначен llama.cpp. В отличие от базовой модели, в этой версии нет визуального энкодера.

darkc0de/Qwen3.8-27B-heretic — декензурированная версия Qwen/Qwen3.8-27B, созданная с помощью Heretic v1.4.0. Это плотная модель с 27 млрд параметров, построенная на архитектуре семейства Qwen3.5: языковая модель с визуальным энкодером, поддерживающая диалог и анализ изображений. В метаданных Hugging Face для неё указана задача image-text-to-text; исходная карточка также описывает понимание видео, но каталог не отмечает эту возможность отдельно. Модель предназначена для сложных запросов, программирования, исследований, многошагового планирования, работы с документами и визуальными материалами. Контекст составляет 262 144 токена с возможностью расширения до 1 000 000. Режим рассуждения включён по умолчанию и может настраиваться. По сравнению с исходной моделью, согласно карточке, частота отказов в указанной проверке снизилась с 89 до 64 из 100; это не гарантирует отсутствие отказов или пригодность ответов для любой задачи. Веса опубликованы в формате safetensors и совместимы с Transformers, vLLM и SGLang. Лицензия — Apache-2.0. В карточке не приведены языки модели; описание не приписывает ей поддержку конкретных естественных языков.

Qwen3.8-27B-heretic-ara-NVFP4 — производная модель hwkranger на базе Qwen/Qwen3.8-27B, прошедшая ARA-abliteration у trohrbaugh и последующую квантизацию NVFP4 от автора репозитория. Модель предназначена для генерации текста, агентных и программных сценариев, вызова инструментов, а также обработки изображений и видео. Она ориентирована прежде всего на запуск через vLLM на NVIDIA GB10 и DGX Spark с унифицированной памятью. Модель содержит 27B параметров и использует формат квантизации W4A16 NVFP4; размер на диске составляет около 20 ГБ вместо 52 ГБ у исходной BF16-версии. Vision tower и MTP-голова сохранены без квантизации, что обеспечивает работу с изображениями и видео и поддерживает speculative decoding через vLLM. Нативный контекст составляет 262 144 токена; в рекомендуемой конфигурации используется 131 072 токена. Поддерживаются шаблон чата Qwen3, reasoning-разметка с тегами <think> и вызов инструментов в формате qwen3_coder. К сильным сторонам относятся сниженные требования к памяти, высокая пропускная способность при параллельной обработке запросов и отсутствие отказов от ответов вследствие удаления исходного refusal-поведения. MTP может повысить скорость однопоточной и многопоточной генерации, но его draft-голова не обучалась на аблитерированных весах, поэтому acceptance rate ниже; также описан единичный сбой CUBLAS при смешанной нагрузке prefill и decode. Квантизация может снизить точность, поэтому критичные сценарии следует проверять сравнением с BF16-моделью. Модель унаследует знания, смещения и ограничения базовой модели; для публичного доступа необходимы собственные защитные механизмы. Лицензия — Apache-2.0.

Карточка модели nurdich/Qwen3.8-9B-Distill-uncensored-heretic на Hugging Face совпадает с карточкой petruhonk/Qwen3.8-9B-Distill-uncensored-heretic, поэтому описание составлено по ней. Qwen3.8-9B-Distill-uncensored-heretic — текстовая генеративная модель автора @ptruha, опубликованная в рамках проекта Empero. Это полно-параметрическое дообучение Qwen/Qwen3.5-9B: модель-дистиллят обучена методом SFT на примерно 70 тысячах отфильтрованных трасс рассуждений учителя Qwen3.8 2.4T A95B. Веса содержат около 9 млрд параметров и распространяются в формате Safetensors; карточка указывает архитектуру Qwen3.5 и нативный контекст 262 144 токена. Модель предназначена для диалога, рассуждений, математики, программирования, следования инструкциям и вызова инструментов. В README приведены результаты GSM8K и MMLU; автор сообщает о низкой частоте отказов в собственном тесте, однако эти результаты не являются независимой оценкой. Дообучение было текстовым, поэтому унаследованные от мультимодальной базовой модели возможности работы с изображениями не оценивались. Для запуска требуется актуальная версия Transformers с поддержкой Qwen3.5 и CUDA-совместимыми компонентами; без них внимание может работать медленно и потреблять больше памяти. Лицензия — Apache-2.0.

JANGQ-AI подготовила JANG_4S — квантованный 4-битный вариант Qwen/Qwen3.8-Flash-Next для запуска на компьютерах Apple Silicon через MLX и vMLX. В основе лежит экспериментальная архитектура Qwen4: разреженная MoE-модель на 125 млрд параметров с 6 млрд активных, большой хешированной n-граммной таблицей эмбеддингов, гибридными слоями Gated DeltaNet и Qwen Sparse Attention, а также башнями для обработки изображений и видео. В этой сборке сохранена голова многотокенного предсказания; таблица эмбеддингов может обслуживаться с SSD при поддержке рантайма. Модель предназначена для диалога, рассуждений, анализа изображений и видео и агентных сценариев с вызовом инструментов. Она принимает текст, изображения и видео, а контекст составляет 262 144 токена с возможностью расширения до 1 млн через YaRN. По заявлению карточки, квантование оценивали сравнением с bf16 на 5 931 отложенной позиции; качество выражено метриками KL и совпадения предсказаний. Для работы требуются значительные ресурсы: файлы занимают около 71,8 ГиБ, заявленный резидентный объём при обслуживании таблицы с SSD — около 53 ГиБ. Вызовы инструментов используют диалект Qwen XML, поэтому рантайм должен поддерживать соответствующий парсер; карточка предупреждает о несовместимости с Hermes-only парсерами. Лицензия указана как other, её конкретные условия в предоставленных данных не раскрыты.

Qwen3-VL-235B-A22B-Instruct-AWQ — квантованная версия мультимодальной instruct-модели Qwen3-VL-235B-A22B-Instruct, разработанной командой Qwen. Модель предназначена для генерации текста по текстовым и визуальным запросам, анализа изображений и видео, OCR, визуального рассуждения, решения STEM- и математических задач, пространственного анализа, визуального программирования и взаимодействия с графическими интерфейсами через инструменты. Модель построена на архитектуре Mixture-of-Experts (MoE) с общим размером 235B параметров и 22B активных параметров. Она поддерживает текст, изображения и видео, заявлена с нативным контекстом 256K токенов и возможностью расширения до 1M. Среди архитектурных особенностей указаны Interleaved-MRoPE для временных и пространственных измерений, DeepStack для объединения многоуровневых визуальных признаков и выравнивание текста с временными метками для анализа событий в видео. OCR поддерживает 32 языка, однако полный перечень языков в README не приведён. К сильным сторонам относятся расширенное понимание изображений и видео, распознавание текста в сложных условиях, пространственное и временное рассуждение, а также возможность использования в агентных сценариях и визуальном программировании. Ограничения связаны с крупным размером и высокими требованиями к вычислительным ресурсам: опубликованный набор файлов занимает около 117 GB, а пример запуска рассчитан на 8 GPU с tensor parallelism и expert parallelism. Репозиторий распространяется по лицензии Apache-2.0; для инференса рекомендуется vLLM версии 0.11.0 или выше.

unsloth/Qwen3-VL-2B-Instruct — версия мультимодальной модели Qwen3-VL-2B-Instruct, подготовленная Unsloth; это плотная модель семейства Qwen3-VL с архитектурой Qwen3VLForConditionalGeneration и весами в формате safetensors. Она принимает текст и изображения, а также предназначена для анализа видео в диалоге: отвечает на вопросы по визуальным данным, распознаёт текст, рассуждает о пространственных отношениях и помогает взаимодействовать с графическими интерфейсами и инструментами. Карточка базовой модели указывает контекст 256 тысяч токенов с возможностью расширения до миллиона; README также заявляет поддержку OCR на 32 языках и обработку длинных видео. Модель подходит для описания изображений и видео, извлечения текста из документов, визуальных вопросов и ответов, генерации кода интерфейсов по визуальному примеру и сценариев с визуальными агентами. README отмечает исправления шаблона чата Unsloth; для llama.cpp требуется параметр --jinja. Заявления о качестве и производительности приведены без таблиц результатов в доступном README. Лицензия — Apache-2.0.

cyankiwi/Qwen3-VL-4B-Instruct-AWQ-4bit — квантованная 4-битная версия мультимодальной инструкционной модели Qwen3-VL-4B-Instruct, разработанной командой Qwen. Модель предназначена для задач, где требуется совместное понимание текста и изображений, включая описание и анализ изображений, визуальное рассуждение, распознавание текста, работу с документами, анализ видео, пространственное понимание, генерацию кода и взаимодействие с графическими интерфейсами через визуального агента. Модель использует плотную архитектуру и относится к классу vision-language моделей; заявленный размер базовой модели — 4 млрд параметров. Поддерживаются текстовые и визуальные входы, включая изображения и видео. Среди архитектурных особенностей указаны Interleaved-MRoPE для моделирования временных и пространственных измерений, DeepStack для объединения многоуровневых визуальных признаков и выравнивание текста с временными метками. Заявлена нативная длина контекста 256K токенов с возможностью расширения до 1M, а OCR поддерживает 32 языка, однако полный список языков в README не приведён. Сильные стороны модели — расширенное понимание изображений и видео, пространственное и мультимодальное рассуждение, OCR в сложных условиях, обработка длинных документов и видеоматериалов, а также сценарии визуального программирования и управления интерфейсами. Ограничения, конкретные показатели производительности и требования к аппаратному обеспечению для данной AWQ-версии в README не указаны; 4-битное квантование может влиять на точность по сравнению с полной точностью. Модель распространяется по лицензии Apache-2.0.

cyankiwi/Qwen3-VL-8B-Thinking-AWQ-4bit — это 4-битно-квантизированная версия vision-language модели Qwen3-VL-8B-Thinking, разработанной командой Qwen. Модель предназначена для совместной работы с текстом и изображениями, а также для понимания видео, визуального рассуждения и генерации ответов на естественном языке. Она подходит для анализа изображений и документов, OCR, STEM- и математического рассуждения, визуального программирования, пространственного анализа и сценариев визуального агента, включая взаимодействие с графическими интерфейсами и инструментами. Модель использует плотную архитектуру размером 8B параметров и поддерживает мультимодальный ввод. Заявлен контекст до 256K токенов с возможностью расширения до 1M, а видео может анализироваться с учетом временной структуры и привязки событий к временным меткам. Среди архитектурных особенностей указаны Interleaved-MRoPE для позиционного кодирования во времени, ширине и высоте, DeepStack для объединения многоуровневых визуальных признаков и улучшенное выравнивание текста с временными метками. OCR заявлен для 32 языков, однако полный перечень языков в README не приведен. Сильными сторонами являются визуальное и пространственное восприятие, понимание длинного контекста и видео, мультимодальное рассуждение, распознавание объектов и документов, а также поддержка агентских и визуально-кодировочных задач. Ограничения, включая возможные ошибки распознавания, рассуждения и требования к вычислительным ресурсам, в README не описаны; 4-битная AWQ-квантизация призвана снизить требования к памяти по сравнению с полноразмерной версией. Модель распространяется по лицензии Apache-2.0.

RTriever-4B — плотная модель для извлечения текстовых эмбеддингов, разработанная на базе Qwen/Qwen3-Embedding-4B и дообученная для поиска, требующего многошаговых рассуждений и объединения взаимодополняющих свидетельств. Модель содержит около 3,7 млрд параметров, построена на архитектуре Qwen3 и работает с текстом; её можно загружать через sentence-transformers или Transformers с ручным объединением токенов. Контекст составляет до 40 960 токенов по метаданным, а README указывает поддержку длинных входов до 32 тысяч токенов. Модель предназначена для семантического поиска по запросам и документам, в том числе для RAG, поиска научных материалов и агентных поисковых систем. Для запросов требуется инструкция: в sentence-transformers можно использовать prompt_name="query", тогда как документы кодируются без неё. Векторы нормализованы по L2, поэтому косинусное сходство можно считать скалярным произведением. Для специализированных областей полезно задавать собственный шаблон запроса; длинные документы рекомендуется ограничивать 4–8 тысячами токенов ради стоимости вычислений. Лицензия — MIT.

SchemaForge V2 — Distilled MiniCPM5-1B — это дообученная методом последовательной дистилляции компактная языковая модель проекта SchemaForge. Указанная в README базовая модель — openbmb/MiniCPM5-1B; метаданные описывают архитектуру как плотную LlamaForCausalLM с 837,6 млн параметров и контекстом до 131 072 токенов. Модель предназначена для извлечения полей из документов в JSON по 12 схемам: счетам, чекам, резюме, договорам, обращениям в поддержку, медицинским записям, страховым случаям, CRM-записям, письмам, диалогам, формам и триплетам графа знаний. Обучение проводилось на примерах, размеченных учителем google/gemma-4-31B. Лучший результат авторы получают при совместной работе модели с детерминированным предварительным извлечением: гибридная система показала F1 по полям 0,6827, частоту галлюцинаций 0,0092 и валидность схемы 0,8333 на тестовом наборе из 72 записей. Самостоятельный результат модели заметно слабее: F1 0,4841 и валидность схемы 0,8194; авторы рекомендуют запускать её в гибридном конвейере с соответствующим форматом запроса и списком неразобранных полей. Выявленная основная ошибка — пропуск полей; оценка уверенности без дополнительной калибровки ненадёжна. Модель выпущена под лицензией Apache-2.0.

SLANeXt_wired — модель PaddlePaddle для распознавания структуры таблиц на изображениях. Она определяет строки, столбцы и ячейки и преобразует область таблицы в HTML, чтобы результат можно было редактировать или передать на последующую обработку в системе распознавания таблиц. Модель входит в экосистему PaddleOCR и предназначена для использования как отдельный модуль или в составе конвейеров распознавания документов. Модель ориентирована на таблицы с линиями-разделителями. Полный конвейер может сочетать распознавание структуры с детекцией ячеек и текста, распознаванием текста и анализом макета, а результат выдавать в HTML или Excel. В карточке приведено примечание, что показатели точности SLANeXt_wired получены при совместном тестировании с SLANeXt_wireless, поэтому их нельзя считать оценкой отдельной модели. Модель распространяется по лицензии Apache-2.0.

Agens Pilot — мультимодальная языковая модель Blockway, гонконгской компании, построенная на базе Qwen/Qwen3.8-27B и дообученная для агентных сценариев и письменного кантонского языка. Это плотная модель с архитектурой Qwen3.5, примерно 27 млрд параметров, которая принимает текст и изображения и генерирует текст. Поддерживает контекст до 1 048 576 токенов; карточка указывает китайский и английский, а разработчик отдельно отмечает приоритет кантонского, традиционного и упрощённого китайского и английского. Модель предназначена для кантонских ассистентов и чат-ботов, работы с длинными документами, анализа изображений, программирования и многошаговых агентных задач с вызовом инструментов. Разработчик сообщает об улучшении многостороннего изложения сложных исторических и геополитических вопросов на внутреннем наборе из 20 запросов; результаты имеют малый объём выборки и не являются независимой комплексной оценкой. Модель распространяется по лицензии Apache-2.0, допускающей коммерческое использование. Известные ограничения: точность фактов не гарантируется, ответы по сложным вопросам требуют проверки человеком; письменный кантонский в варианте Гонконга охвачен лучше других разновидностей юэ. Разработчик также отмечает слабую способность к визуальной математике и возможное снижение согласованности INT4-версии на неоднозначных фактических вопросах.

Agents-A1-4B-kimi-Preview-heretic — текстовая чат-модель для задач программирования и агентных сценариев, опубликованная автором hotdogs. Это дообученная и изменённая с помощью abliteration версия hotdogs/Agents-A1-4B-kimi-Preview; в README указана архитектура на базе InternScience/Agents-A1-4B. Модель имеет архитектуру Qwen3.5 dense, около 3,4 млрд параметров по метаданным и контекст до 262 144 токенов. Распространяется в формате safetensors с весами BF16; лицензия — AGPL-3.0. Модель предназначена для генерации кода, планирования и отладки, пошаговых рассуждений, многоходовых диалогов и вызова инструментов в агентных сценариях. README сообщает, что модель прошла abliteration для снижения склонности к отказам и заявляет сохранение качества работы с кодом; эти показатели приведены автором и не являются независимой оценкой. Карточка отмечает английский и тайский языки, а также поддержку сценариев с кодом на нескольких языках программирования. Версия обозначена как preview, а автор предупреждает, что модель может выдавать оскорбительный, вредный или неподходящий контент.

Decision-2.0-Sol-2B — плотная модель с 1,88 млрд параметров из семейства Decision 2.0, разработанная командой vLLM Semantic Router. Она принимает текст или JSON вместе с вопросами и за один проход выбирает вариант, отвечает «да» или «нет» либо выставляет оценку. Для каждого возможного ответа модель возвращает вероятность и не генерирует текст. Модель предназначена для классификации и оценки свидетельств или условий, в том числе для обработки нескольких вопросов об одном входе за один проход. Контекст составляет 16 384 токена. В README сообщается о результатах на JevArena и наборе из 15 задач с разметкой людьми, а также о медианной задержке 7,2 мс на запрос с одним вопросом на одном GPU. Это дообученная версия vllm-sr/Decision-1.0-Sol-2B, распространяемая в формате safetensors. Лицензия — Apache-2.0. Модель выдаёт вероятности вариантов, а не свободный текст; задержка и результаты бенчмарков из README не гарантируют аналогичной скорости или качества в других условиях.

Карточка модели lamm-mit/DeepSeek-OCR на Hugging Face совпадает с карточкой deepseek-ai/DeepSeek-OCR, поэтому описание составлено по ней. DeepSeek-OCR — мультимодальная модель DeepSeek для распознавания текста и анализа документов по изображениям. Она предназначена для извлечения текста из визуальных материалов, включая страницы документов; README также указывает поддержку обработки PDF через vLLM. Модель основана на архитектуре DeepSeek-VL2 и содержит 559,7 млн параметров. Она принимает изображения и текстовые запросы, а результат формирует в виде текста; заявлен контекст до 8192 токенов и многоязычная поддержка. В качестве среды запуска README описывает Transformers на GPU NVIDIA, а также отмечает поддержку vLLM. Модель доступна по лицензии MIT. README не приводит подробных оценок качества и перечня поддерживаемых языков, поэтому применимость к конкретному языку или типу документа следует проверять на собственных данных.

DeepSeek-OCR 2 — мультимодальная модель DeepSeek для распознавания текста и анализа документов по изображениям. Она использует архитектуру DeepSeek-VL2 с причинным языковым декодером и рассчитана на запуск через Transformers на GPU NVIDIA; README также упоминает ускоренный инференс и обработку PDF через vLLM. Модель поддерживает динамическое разрешение изображений: указан режим от 0 до 6 фрагментов 768×768 и одного изображения 1024×1024. Размер модели составляет 559,7 млн параметров, контекст — 8192 токена. В карточке заявлена поддержка многоязычного ввода. Модель подходит для извлечения текста с изображений и документов, включая сценарии OCR и работы с PDF. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. Для запуска README приводит зависимости для Transformers и CUDA; указанные версии окружения могут потребовать соответствующей GPU-конфигурации.

Это канал-квантизованная версия DeepSeek-R1, подготовленная Meituan: веса BF16 преобразованы в INT8 с поканальными масштабами. Модель предназначена для генерации текста в диалоге и решения задач, требующих рассуждений, включая математику, программирование и ответы на сложные вопросы. В метаданных архитектура указана как DeepSeek V3 с плотной causal language model; размер — 37,6 млрд параметров, нативный контекст — 163 840 токенов. Репозиторий содержит веса Safetensors и интерфейс вызова инструментов. В README сообщается о сохранении точности на GSM8K и MMLU и ускорении до 50% в указанном бенчмарке на нескольких A100; эти результаты относятся к описанной конфигурации и не гарантируют такого ускорения на другом оборудовании. Для запуска может потребоваться поддержка поканальной INT8-квантизации в используемом inference-движке. Лицензия модели — MIT.

NVIDIA DeepSeek-V3.2-NVFP4 — текстовая авторегрессионная модель на архитектуре Transformer с классом DeepseekV32ForCausalLM, основанная на DeepSeek-V3.2 от DeepSeek AI. NVIDIA выпустила эту квантованную версию с помощью TensorRT Model Optimizer; она предназначена для генерации текста и развёртывания в чат-ботах, агентных системах, RAG и других приложениях на базе ИИ. Модель принимает текст и генерирует текст, поддерживает контекст до 163 840 токенов и насчитывает 37,6 млрд параметров по метаданным Hugging Face. Квантование NVFP4 снижает требования к диску и памяти GPU примерно в 1,66 раза; для запуска README указывает TensorRT-LLM версии 1.2.0rc8 или новее и восемь GPU B200. Оптимизация рассчитана на оборудование NVIDIA Blackwell и Linux. Модель заявлена для коммерческого и некоммерческого использования по лицензии MIT. Она может воспроизводить токсичные формулировки и социальные предубеждения из обучающих данных, а также давать неточные, неполные, нерелевантные или избыточные ответы; перед внедрением её следует проверять на данных конкретного сценария.

DeepSeek-V4-Flash-0731-REAP37-native-MLX — это MLX-конверсия модели DeepSeek-V4-Flash-0731, разработанной командой DeepSeek. Модель предназначена для генерации текста, диалоговых приложений, агентских сценариев и вызова инструментов через формат DSML. Она работает только с текстом и не содержит компонентов для обработки изображений. Модель использует архитектуру deepseek_v4 с механизмом внимания HISA, hyper-connections и маршрутизацией экспертов: в 40 слоях применяется обучаемая маршрутизация, а в первых трёх — hash-routing. Из исходных 256 экспертов в каждом слое сохранено 163, что соответствует сокращению примерно на 36,7%. Размер модели на диске составляет около 96 ГБ против примерно 155 ГБ у исходного варианта с 304 млрд параметров. Сохранённая точность является штатной для исходных весов — дополнительное квантование не применялось; выжившие эксперты побитово совпадают с исходным checkpoint. Главное преимущество модели — уменьшенный размер при сохранении исходной 4-битной точности оставшихся весов, а также поддержка нативного вызова инструментов DSML. Модель рассчитана на запуск в экосистеме MLX и тестировалась с oMLX; также доступна через mlx_vlm. Ограничения включают отсутствие независимого сравнения с полной моделью на стандартных бенчмарках, поэтому качество следует проверять на собственных задачах. Лицензия — MIT, унаследованная от базовой модели.

Devstral-Small-2-24B-Instruct-2512-GGUF — это мультимодальная GGUF-сборка исходной instruct-модели Devstral-Small-2-24B-Instruct-2512, разработанной Mistral AI. Модель упакована и квантована для локального запуска в llama.cpp и рабочей среде Backpack. Она поддерживает текстовые и графические входные данные и генерирует текст. Модель построена на архитектуре Mistral3ForConditionalGeneration и содержит около 24 млрд параметров. Точная длина контекста в карточке не указана. Для обработки изображений требуется отдельный мультимодальный проектор F16 размером около 837,4 MiB. Доступны варианты квантования Q4_K_M, Q5_K_M и Q8_0; рекомендуемым для большинства пользователей назван Q4_K_M, обеспечивающий практический баланс качества, размера и скорости. Оценочный объём оперативной памяти составляет от 21,23 до 35,7 ГБ в зависимости от варианта, но фактическое потребление зависит от конфигурации запуска и длины контекста. Модель предназначена для диалогов, генерации кода, структурированных аргументов инструментов, tool calling и многошаговых циклов взаимодействия с инструментами. В тестах прошли проверки загрузки, инференса и токенизатора для всех вариантов квантования, а также детерминированные проверки перечисленных возможностей для Q4_K_M. Языки, специальные показатели качества и ограничения исходной модели в README не указаны. Квантование может влиять на качество ответов. Распространение осуществляется по лицензии Apache-2.0 с необходимостью учитывать условия upstream-модели.

Это модель rhovhannisyan/dmr-invoice-extractor — вариант Donut, дообученный на извлечении полей из изображений счетов-фактур. Она принимает изображение документа и генерирует текстовые значения для типа документа, валюты, даты, валовой и чистой суммы, суммы налога, номера счета, номера заказа и страны кредитора; для документов, не являющихся счетами, тип документа может быть «Other». Архитектура VisionEncoderDecoderModel сочетает визуальный энкодер Swin Transformer и текстовый декодер BART. Модель обучена примерно на нескольких тысячах размеченных счетов и документов других типов из разных стран и на разных языках; ожидаются одностраничные документы. Разрешение входа — 1280×1920 пикселей, а сканирование с плотностью выше 150 dpi, согласно карточке, не даёт дополнительной пользы. Модель предназначена для автоматизации извлечения реквизитов из счетов и первичной обработки документов. Данные обучения проприетарные, а метрика валидации приведена без пояснения шкалы, поэтому её нельзя напрямую трактовать как точность. Лицензия CC BY-NC-SA 4.0 требует атрибуции, ограничивает коммерческое использование и предписывает распространять адаптации на тех же условиях.

DocLayout-YOLO Docstructbench — модель компьютерного зрения для обнаружения элементов структуры документов, основанная на семействе DocLayout-YOLO и представленная в формате ONNX. Она предназначена для поиска и классификации десяти типов областей: заголовков, обычного текста, иллюстраций и подписей к ним, таблиц и их подписей и сносок, а также формул и подписей к ним. Модель можно применять в конвейерах анализа документов и подготовки их структурированного представления. Модель рассчитана на входные изображения документов и выдаёт обнаруженные области с метками классов. Репозиторий указывает Apache-2.0 в качестве лицензии. Карточка не сообщает сведения о размере модели, контексте или языковой поддержке; применимость может зависеть от качества и разметки входного документа.