III.4Клиентская поддержка и customer success
В разделе собраны самостоятельные задачи, где AI помогает быстрее решать обращения и предупреждать проблемы клиентов. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
9 831 модельolmOCR-7B-0725 — модель Allen Institute for AI, дообученная на наборе olmOCR-mix-0225 на основе Qwen2.5-VL-7B-Instruct. Она предназначена для распознавания текста и извлечения содержимого из изображений документов; для масштабной обработки авторы рекомендуют использовать её через инструментарий olmOCR, который поддерживает эффективный инференс с помощью sglang. Модель использует мультимодальную архитектуру Qwen2.5-VL с 7,1 млрд параметров и принимает изображение одного документа. В README рекомендовано подавать его с максимальной стороной 1288 пикселей. Метаданные указывают контекст длиной до 128 000 токенов; модель работает с текстом и изображениями, а в качестве основного сценария заявлена обработка документов. Лицензия — Apache-2.0.
Qwen2.5-VL-7B-Instruct-GGUF — мультимодальная instruction-tuned модель семейства Qwen, разработанная командой Qwen. Репозиторий основан на Qwen/Qwen2.5-VL-7B-Instruct и содержит 7B-версию модели в формате GGUF. Указана лицензия Apache-2.0; заявленный язык — английский, задача — преобразование изображений и текста в текст. Модель предназначена для анализа изображений, документов, диаграмм, таблиц, графики и макетов, распознавания текста, визуального вопросно-ответного взаимодействия, структурированного извлечения данных из счетов и форм, визуальной локализации объектов с помощью координат или точек, а также анализа видео. Она может обрабатывать длинные видео длительностью более часа и выделять релевантные моменты. Также заявлены сценарии визуального агента, включая взаимодействие с компьютером и мобильными устройствами. Архитектура включает языковую модель Qwen2.5, vision encoder ViT с window attention, SwiGLU и RMSNorm, динамическое разрешение изображений и динамическую частоту выборки кадров видео. Для временного измерения используется mRoPE с идентификаторами и абсолютным выравниванием времени. Ключевые сильные стороны — распознавание документов и текста, понимание диаграмм и видео, генерация структурированных результатов и визуальная локализация. Ограничения: README не содержит точных требований к ресурсам, максимального контекста, полного списка поддерживаемых языков и подробностей качества GGUF-квантизации; приведённые результаты зависят от конкретных бенчмарков и настроек.
GoLongRL-30B-A3B — языковая модель Kwai-Klear для генерации ответов в сценариях с длинным контекстом. Это модель семейства Qwen3 MoE с архитектурой причинного языкового моделирования; в метаданных указано 2,6 млрд параметров и окно контекста 262 144 токена. Модель доступна в формате Safetensors и поддерживает диалоговый режим. Модель обучена по рецепту постобучения с обучением с подкреплением и проверяемыми вознаграждениями на наборе GoLongRL из 23 тысяч примеров для девяти типов задач. Она предназначена для поиска сведений в длинных документах, понимания контекста, извлечения и сопоставления структурированных данных, упорядочивания событий, ранжирования, суммаризации и рассуждений, включая численные задачи. В README заявлены улучшения на тестах длинного контекста и памяти диалога; результаты относятся к приведённым бенчмаркам. Лицензия — MIT. Карточка не указывает поддерживаемые естественные языки. Учитывая специализацию на длинном контексте и сравнительно компактный размер активной модели MoE, модель подходит для диалоговых систем, которым нужно работать с большими документами, однако качество на конкретных данных следует проверять отдельно.
Qwen2.5-VL-32B-Instruct-GGUF — мультимодальная instruction-tuned модель семейства Qwen, разработанная командой Qwen; репозиторий подготовлен Unsloth. Модель предназначена для задач, где требуется совместно обрабатывать текст и изображения, включая визуальные вопросы и ответы, распознавание текста, анализ документов, графиков, таблиц и макетов, математическое и логическое рассуждение, а также структурированное извлечение данных из счетов и форм. Она также поддерживает анализ видео длительностью более часа, поиск релевантных временных фрагментов, визуальную локализацию объектов и сценарии взаимодействия с компьютером или телефоном. Модель содержит 32 млрд параметров и использует архитектуру Qwen2.5-VL с визуальным энкодером ViT, динамическим разрешением изображений и динамической частотой выборки кадров видео. В архитектуре заявлены оконное внимание, SwiGLU и RMSNorm; для временного измерения применяется mRoPE с учетом идентификаторов и абсолютного времени. Основные модальности — текст, изображения и видео. В README указан английский язык, однако полный перечень поддерживаемых языков и размер контекстного окна не приведены. Сильные стороны модели — развитое понимание визуального содержимого, документов и видео, генерация структурированных JSON-ответов, визуальная локализация, а также улучшенные математические и общие рассуждательные способности. Ограничения включают большой размер, высокие требования к вычислительным ресурсам и отсутствие в представленном README подробностей о характеристиках именно GGUF-квантизации, поддерживаемых вариантах квантования и рекомендуемых ресурсах. Модель распространяется по лицензии Apache-2.0.
Llama-3.1-Nemotron-Ultra-253B-v1 — крупная языковая модель NVIDIA, производная от Meta Llama-3.1-405B-Instruct. Это reasoning- и chat-модель для разработчиков AI-агентов, чат-ботов, RAG-систем, инструментального вызова и других приложений на основе генерации текста, а также для стандартных задач следования инструкциям, математики, программирования и рассуждений. Модель обучалась с ноября 2024 года по апрель 2025 года и выпущена 7 апреля 2025 года. Модель использует плотную decoder-only Transformer-архитектуру с 253 млрд параметров, модифицированную с помощью Neural Architecture Search. В отдельных блоках применяются пропуск attention, переменное соотношение расширения FFN и объединение последовательных FFN-слоёв. Для восстановления качества использовались knowledge distillation на 65 млрд токенов и continual pretraining на 88 млрд токенов, а последующее дообучение включало supervised fine-tuning и reinforcement learning с GRPO. Поддерживается текстовый ввод и вывод с контекстом до 131 072 токенов; модель предназначена прежде всего для английского языка и языков программирования, также заявлена поддержка немецкого, французского, итальянского, португальского, хинди, испанского и тайского. К сильным сторонам относятся сочетание высокой точности с уменьшенным потреблением памяти, потенциально более высокая пропускная способность и сниженная задержка благодаря NAS и вертикальной компрессии. Модель рассчитана на работу на одном узле с 8 GPU H100, совместима с NVIDIA Hopper и Ampere, использует Transformers и ориентирована на Linux. Ограничения включают очень большой размер, высокие требования к вычислительным ресурсам и отсутствие гарантии качества для языков и сценариев, не перечисленных разработчиком. Использование регулируется NVIDIA Open Model License и дополнительными условиями Llama 3.1 Community License Agreement; модель заявлена как пригодная для коммерческого использования.
Qwen2.5-VL-7B-Instruct-AWQ — мультимодальная instruction-tuned модель семейства Qwen, разработанная командой Qwen. Это AWQ-квантованная версия модели Qwen2.5-VL-7B-Instruct с 7 миллиардами параметров, предназначенная для задач vision-language. Модель принимает текст, изображения и видео и может распознавать объекты, анализировать текст, графики, таблицы, иконки и макеты, извлекать структурированные данные из счетов и форм, локализовать объекты с помощью bounding boxes или точек, а также поддерживать сценарии визуального агента, включая взаимодействие с компьютером и телефоном. Она способна анализировать видео длительностью более часа и находить релевантные временные фрагменты. В архитектуре заявлены динамическое разрешение и частота кадров для видео, временная версия mRoPE и оптимизированный vision encoder на базе ViT с window attention, SwiGLU и RMSNorm. К сильным сторонам относятся широкий набор мультимодальных возможностей, обработка документов и структурированный вывод, визуальная локализация и понимание длительных видео. Модель позиционируется как более эффективная за счет AWQ-квантования, а использование flash attention 2 может снизить потребление памяти и ускорить инференс. README не содержит результатов оценки, точного размера контекстного окна и подробного перечня поддерживаемых языков; в метаданных указан английский язык. Для работы рекомендуется актуальная версия Transformers и соответствующие инструменты обработки изображений и видео. Модель распространяется по лицензии Apache-2.0.
Solar Pro 4 — большая языковая модель компании Upstage, предназначенная для длительных задач и агентных сценариев. В карточке указано контекстное окно размером 524 тыс. токенов. Модель рассчитана на работу с длинными документами и задачи офисной продуктивности. README также отмечает поддержку агентных рабочих процессов, но не приводит подробностей об архитектуре, размере модели, языках или условиях лицензии.
Cogito v2 Preview 70B — диалоговая языковая модель с настройкой по инструкциям, разработанная командой DeepCogito на основе Meta Llama 3.1 70B. Это плотная авторегрессионная модель примерно на 69,5 млрд параметров для генерации текста; она работает в стандартном режиме или может включать расширенное рассуждение и самоанализ. Для включения режима рассуждения в Transformers предусмотрен параметр enable_thinking в шаблоне чата либо специальная системная инструкция. Модель предназначена для программирования, задач STEM, следования инструкциям и общих диалогов. В README заявлена поддержка инструментов, параллельных вызовов инструментов и более чем 30 языков. Контекст составляет до 128 тысяч токенов по README и 131 072 токена по метаданным. Модель опубликована в формате safetensors и использует библиотеку Transformers. Лицензия Llama 3.1 разрешает коммерческое использование на условиях лицензии Meta.
InternVL2-26B — мультимодальная диалоговая модель с настройкой по инструкциям, разработанная командой OpenGVLab. Она объединяет визуальный энкодер InternViT-6B-448px-V1-5, MLP-проектор и языковую модель internlm2-chat-20b; заявленный размер — около 25,5 млрд параметров. Модель предназначена для диалога по изображениям и видео, а также для анализа документов, диаграмм, инфографики и текста на изображениях, решения научных и математических задач. Модель принимает текст и изображения; видео может обрабатываться через кадры. Она обучена на контекстном окне 8k и данных с длинными текстами, несколькими изображениями и видео. README заявляет конкурентные результаты на мультимодальных бенчмарках, включая задачи OCR и понимания документов. Метаданные отмечают поддержку многоязычного режима, но конкретные языки не перечислены. Репозиторий распространяется по лицензии MIT.
unsloth/Qwen3.6-27B-NVFP4 — это квантованный checkpoint модели Qwen3.6-27B, разработанный Unsloth на основе модели Qwen от команды Qwen. Модель представляет собой каузальную языковую модель с vision-энкодером и предназначена для генерации текста, мультимодального понимания изображений, агентного программирования, работы с frontend-задачами и рассуждений на уровне репозиториев. Модель содержит 27 млрд параметров, 64 слоя и поддерживает контекст длиной 262 144 токена с возможностью расширения до 1 010 000 токенов. Архитектура сочетает Gated DeltaNet, Gated Attention и FFN; в checkpoint включён модуль Multi-Token Prediction (MTP), который может использоваться для ускорения декодирования. Точные языки в README не указаны. Формат NVFP4 рассчитан на эффективный запуск, в том числе на GPU с 24 ГБ VRAM. По заявлению Unsloth, checkpoint обеспечивает до 2,5 раза большую пропускную способность по сравнению с другими NVFP4-квантованиями, а результаты на MMLU-Pro, GPQA и AIME 2025 близки к FP8 и BF16. Основные ограничения — потери, присущие квантованию, зависимость производительности от аппаратного обеспечения и backend, а также необходимость корректной настройки vLLM или совместимого движка; README не рекомендует Marlin из-за более низкой скорости. Модель распространяется по лицензии Apache-2.0 и совместима с Hugging Face Transformers, vLLM, SGLang и KTransformers.
Gliese-OCR-7B-Post1.0 — мультимодальная модель для анализа документов, разработанная prithivMLmods как дообучение Camel-Doc-OCR-062825 на архитектуре Qwen2.5-VL. Она содержит 7,1 млрд параметров, принимает изображения вместе с текстовыми запросами и формирует текстовые ответы; заявленная длина контекста — 128 000 токенов. Модель предназначена для распознавания и извлечения содержимого документов, поиска сведений в сложной структуре страниц, связывания элементов и анализа таблиц, графиков и диаграмм. Модель также подходит для вопросов по документам, извлечения математических выражений с форматированием LaTeX, а также подготовки результатов в Markdown. В карточке заявлена поддержка видеоанализа и визуального управления устройствами, но метаданные подтверждают только задачу image-text-to-text; эти дополнительные сценарии следует считать заявленными возможностями, а не отдельными подтверждёнными задачами. В качестве языков карточка указывает английский и китайский. Репозиторий распространяется под лицензией Apache-2.0. Среди ограничений указаны ухудшение результатов на изображениях низкого качества или с перекрытиями, нестабильность на редких языках и письменностях, высокие требования к ресурсам, а также возможные галлюцинации и зависимость качества от настроек визуальных токенов.
Карточка модели ahmed-amedo-1/GLM-5.2 на Hugging Face совпадает с карточкой zai-org/GLM-5.2, поэтому описание составлено по ней. GLM-5.2 — флагманская языковая модель компании Z.ai для длительных задач и диалогового взаимодействия. Она предназначена для генерации текста, программирования и решения задач, требующих работы с большим объёмом контекста. Модель построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров. Поддерживает контекст до 1 048 576 токенов; в README также отмечены гибкие уровни усилий для задач программирования, механизм IndexShare для снижения вычислений на длинном контексте и улучшение MTP для ускорения спекулятивного декодирования. Заявлены английский и китайский языки. Модель доступна в формате safetensors для Transformers и поддерживается рядом сред локального запуска, включая vLLM и SGLang. Лицензия — MIT. README приводит сравнительные результаты на бенчмарках, но они зависят от настроек и сценариев оценки.
Карточка модели ANGELOSEGRETO/GLM-5.2 на Hugging Face совпадает с карточкой zai-org/GLM-5.2, поэтому описание составлено по ней. GLM-5.2 — флагманская языковая модель компании Z.ai для длительных задач и диалогового взаимодействия. Она предназначена для генерации текста, программирования и решения задач, требующих работы с большим объёмом контекста. Модель построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров. Поддерживает контекст до 1 048 576 токенов; в README также отмечены гибкие уровни усилий для задач программирования, механизм IndexShare для снижения вычислений на длинном контексте и улучшение MTP для ускорения спекулятивного декодирования. Заявлены английский и китайский языки. Модель доступна в формате safetensors для Transformers и поддерживается рядом сред локального запуска, включая vLLM и SGLang. Лицензия — MIT. README приводит сравнительные результаты на бенчмарках, но они зависят от настроек и сценариев оценки.
Карточка модели wepsitesi/GLM-5.2 на Hugging Face совпадает с карточкой zai-org/GLM-5.2, поэтому описание составлено по ней. GLM-5.2 — флагманская языковая модель компании Z.ai для длительных задач и диалогового взаимодействия. Она предназначена для генерации текста, программирования и решения задач, требующих работы с большим объёмом контекста. Модель построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров. Поддерживает контекст до 1 048 576 токенов; в README также отмечены гибкие уровни усилий для задач программирования, механизм IndexShare для снижения вычислений на длинном контексте и улучшение MTP для ускорения спекулятивного декодирования. Заявлены английский и китайский языки. Модель доступна в формате safetensors для Transformers и поддерживается рядом сред локального запуска, включая vLLM и SGLang. Лицензия — MIT. README приводит сравнительные результаты на бенчмарках, но они зависят от настроек и сценариев оценки.
Granite Vision 3.1 2B Preview — компактная мультимодальная модель IBM для понимания изображений и документов. Она предназначена для извлечения и анализа содержимого таблиц, графиков, инфографики, диаграмм и других визуальных материалов, распознавания текста на изображениях и ответов на вопросы по документам; также поддерживает общие задачи понимания изображений и диалоговый режим. Модель дообучена на базе ibm-granite/granite-3.1-2b-instruct и использует архитектуру LLaVA-NeXT: визуальный энкодер SigLIP, двухслойный MLP-коннектор и языковую модель Granite 3.1. В README указано 2 млрд параметров у языковой основы и около 3 млрд у модели с визуальным энкодером и проектором; контекст языковой основы — 128 тыс. токенов. Основной поддерживаемый язык — английский. Модель распространяется под лицензией Apache 2.0. Сильная сторона модели — специализированная работа с визуальными документами при сравнительно небольшом размере; в приведённых тестах она показывает хорошие результаты на DocVQA и ChartQA. Возможны неточные, предвзятые или небезопасные ответы и галлюцинации, особенно в общих задачах понимания изображений; для обработки только текста IBM рекомендует использовать текстовые Granite-модели.
MiniMax-M3 — мультимодальная модель компании MiniMax для диалогов, работы с изображениями и видео, программирования и агентных задач. Она принимает текст и визуальные данные, объединяя их обработку благодаря обучению на смешанных модальностях с самого начала. Модель содержит около 428 млрд параметров, из которых активируется около 23 млрд. Архитектура использует разреженное внимание MiniMax Sparse Attention (MSA) и поддерживает контекст до 1 млн токенов. Разработчик заявляет об ускорении обработки длинного контекста относительно M2 и о сильных результатах в длительных агентных задачах, включая программирование и совместную работу. Модель доступна через MiniMax Agent и API, а также для локального запуска на Transformers с весами safetensors. Лицензия указана как other; конкретные условия следует проверить в карточке модели. В README не перечислены поддерживаемые естественные языки и отдельные ограничения качества.
Mungert/Youtu-LLM-2B-GGUF — GGUF-версия языковой модели Youtu-LLM-2B, разработанной Tencent. Это авторегрессионная causal language model для генерации текста; семейство включает базовую и instruct-версии. Данная сборка создана с использованием llama.cpp, однако конкретный уровень квантования в README не указан. Модель содержит 1,96 млрд параметров, 32 слоя и использует плотную архитектуру MLA с 16 attention heads для Q/K/V. Поддерживается контекст до 131 072 токенов, размер словаря — 128 256. Модель ориентирована на рассуждения, следование инструкциям, STEM-задачи, программирование, работу с длинным контекстом и агентские сценарии с инструментами; для instruct-версии заявлен режим reasoning. В представленных тестах она показывает особенно сильные результаты в генерации кода, математике, обработке длинного контекста и ряде end-to-end агентских задач, но результаты зависят от версии модели и настроек запуска. README не указывает поддерживаемые языки, точные требования к ресурсам и ограничения безопасности. Лицензия обозначена как other; условия следует уточнять по файлу лицензии Tencent.
NuExtract3-FP8 — 4B vision-language reasoning model, разработанная NuMind на базе Qwen/Qwen3.5-4B. Модель предназначена для понимания документов и поддерживает структурированное извлечение данных: получает текст и/или изображения вместе с JSON-шаблоном и инструкциями и формирует JSON-ответ. Также она преобразует изображения документов в Markdown, включая текст, таблицы, математические формулы и изображения. Модель ориентирована на OCR, подготовку данных для RAG и обработку сканов, чеков, форм, счетов, договоров и таблиц. Модель поддерживает мультимодальные входные данные, многоязычные документы, режимы вывода с рассуждением и без него, а также генерацию шаблонов для извлечения структуры из естественного языка или самого документа. В README не указаны точный размер контекстного окна, перечень языков, специфические параметры FP8-сборки или сведения о производительности именно этой версии; приведённые бенчмарки относятся к NuExtract3.4_4B-RL. Среди сильных сторон заявлены сочетание визуального понимания, OCR, рассуждений и структурированного вывода, однако сложные или длинные задания могут приводить к повторениям, превышению лимита вывода и невалидному JSON. Модель распространяется по лицензии Apache 2.0.
unsloth/Qwen3.6-27B-GGUF — это квантизированное распространение открытой модели Qwen3.6-27B, разработанной командой Qwen и подготовленной Unsloth в формате GGUF. Модель предназначена для локального запуска и интеграции через совместимые инструменты инференса, а также для задач агентного программирования, работы с репозиториями, frontend-разработки, рассуждений и использования инструментов. Это причинная языковая модель с vision-энкодером, то есть мультимодальная модель, способная обрабатывать текст и изображения. Она содержит около 27 млрд параметров, 64 слоя и имеет нативный контекст 262 144 токена с возможностью расширения до 1 010 000 токенов. Архитектура сочетает Gated DeltaNet, Gated Attention и FFN; заявлена поддержка сохранения контекста рассуждений между сообщениями и улучшенный разбор вложенных объектов при вызове инструментов. Языки в README не указаны. К сильным сторонам относятся большой контекст, возможности работы с изображениями, улучшенная производительность в сценариях агентного кодирования и совместимость с экосистемой Transformers, vLLM, SGLang и KTransformers. Ограничения включают высокие требования к вычислительным ресурсам, особенно при длинном контексте, а конкретные характеристики квантизации и результаты бенчмарков для данного GGUF-варианта в README не приведены. Модель распространяется по лицензии Apache 2.0.
unsloth/Jan-nano-128k-GGUF — это GGUF-квантизированная версия компактной языковой модели Jan-Nano-128k, разработанной Menlo Research авторами Alan Dao, Bach Vu Dinh и Thinh Le и опубликованной в формате Unsloth Dynamic 2.0. Модель предназначена для генерации текста и исследовательских задач, включая анализ длинных документов, обработку научных статей, синтез информации из нескольких источников, сложные рассуждения и многошаговые диалоги. Она совместима с серверами Model Context Protocol (MCP) и может использоваться локально, в том числе через Jan, с сохранением конфиденциальности данных. Ключевая характеристика модели — нативное контекстное окно до 128 000 токенов, рассчитанное на эффективную работу с длинными контекстами без типичной деградации производительности при их расширении. В README не указаны точный размер модели, базовая архитектура, поддерживаемые языки, модальности и параметры GGUF-квантизации; заявлена поддержка текстовой генерации и языка English. Модель оценивалась на SimpleQA с использованием MCP-методологии, однако численные результаты в предоставленных данных отсутствуют. Сильными сторонами являются большое контекстное окно, ориентация на глубокий анализ и работа с большими объёмами информации, а также возможность локального развертывания. Ограничения включают отсутствие подробных сведений о размере, аппаратных требованиях, конкретных вариантах квантизации и фактических показателях качества. Модель распространяется по лицензии Apache 2.0.
Карточка модели charleshyella/MISS_V0 на Hugging Face совпадает с карточкой zai-org/GLM-5.2, поэтому описание составлено по ней. GLM-5.2 — флагманская языковая модель компании Z.ai для длительных задач и диалогового взаимодействия. Она предназначена для генерации текста, программирования и решения задач, требующих работы с большим объёмом контекста. Модель построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров. Поддерживает контекст до 1 048 576 токенов; в README также отмечены гибкие уровни усилий для задач программирования, механизм IndexShare для снижения вычислений на длинном контексте и улучшение MTP для ускорения спекулятивного декодирования. Заявлены английский и китайский языки. Модель доступна в формате safetensors для Transformers и поддерживается рядом сред локального запуска, включая vLLM и SGLang. Лицензия — MIT. README приводит сравнительные результаты на бенчмарках, но они зависят от настроек и сценариев оценки.
qwp4w3hyb/Phi-3-mini-4k-instruct-iMat-GGUF — это GGUF-квантизированная версия Phi-3-Mini-4K-Instruct, разработанной Microsoft. Модель содержит около 3,8 млрд параметров и предназначена для генерации текста на основе инструкций. Она обучалась на синтетических данных и отфильтрованных общедоступных веб-данных с акцентом на качество и задачи, требующие рассуждений, а также прошла supervised fine-tuning и direct preference optimization для улучшения следования инструкциям и безопасности. Модель рассчитана прежде всего на коммерческое и исследовательское использование на английском языке, включая среды с ограниченными ресурсами памяти и вычислений, сценарии с требованиями к низкой задержке, а также задачи программирования, математики, логики, понимания языка и здравого смысла. Поддерживается текстовая модальность и контекст до 4096 токенов. Версия представлена в формате GGUF для запуска с llama.cpp; квантизация выполнена с использованием importance matrix, доступны варианты K- и IQ-квантизации с уровнями от Q6_K до IQ1_S. Сильными сторонами являются компактный размер, пригодность для локального запуска и высокая производительность среди моделей с менее чем 13 млрд параметров, особенно в задачах кода, математики и логического рассуждения. Ограничениями остаются английская специализация, контекст в 4K токенов и общие риски языковых моделей: возможные ошибки, проблемы безопасности и предвзятость. Для критически важных сценариев требуется отдельная проверка качества и безопасности. Модель распространяется по лицензии MIT.
Ferox AI подготовила конверсию Microsoft Phi-4-multimodal-instruct для локального мультимодального инференса на устройствах Apple Silicon. Модель принимает изображения вместе с текстовыми запросами и генерирует текстовые ответы; она предназначена для визуальных вопросов и ответов, извлечения сведений из документов, распознавания текста на изображениях и анализа графиков и диаграмм. В основе — плотная архитектура семейства Phi-4 с языковой частью Phi-4-Mini на 3,8 млрд параметров и визуальным энкодером SigLIP-SO400M. Весовая часть модели квантизирована до 4 бит с группами по 64, тогда как энкодер SigLIP остаётся в FP16. Метаданные указывают контекст 4096 токенов. В этой сборке аудио не поддерживается; для запуска нужны Apple Silicon и MLX. По внутренним оценкам на небольших выборках модель показывает полезные результаты для документов, диаграмм и OCR, но точность ответов не гарантируется и требует проверки человеком. Распространяется по лицензии MIT. Визуальные LoRA-адаптеры заранее слиты с весами, поэтому переключать их во время работы нельзя.
Qwen3.8-27B ThinkingCap Abliterated (MTP GGUF) — GGUF-версия модели, разработанная hotdogs на основе hotdogs/Qwen3.8-27B-thinkingcap-abliterated и дообученная с использованием датасета hotdogs/thinkingcap-sft-qwen38-27b. Модель предназначена для генерации текста, рассуждений, решения задач, следования инструкциям и помощи в программировании, включая сценарии SWE-bench. Она ориентирована на эффективное рассуждение с сокращённым числом токенов и поддерживает запуск через llama.cpp. Модель содержит 27,3 млрд параметров и сохраняет MTP-слой (Multi-Token Prediction) с 15 тензорами. Доступны варианты GGUF F16 размером около 51 ГБ, Q6_K размером около 21 ГБ и Q4_K_M размером около 16 ГБ; Q6_K позиционируется как компромисс между качеством и размером, а Q4_K_M — как наиболее быстрый вариант. В README указано тестирование с контекстом 8192 токена. Языки и набор поддерживаемых модальностей явно не указаны; по описанию это текстовая модель. Сильные стороны — эффективное рассуждение, сохранение MTP при квантовании и высокая производительность на GPQA Diamond, IFEval и SWE-bench в заявленных условиях тестирования. Ограничения включают зависимость качества от выбранной квантовки, значительные требования к памяти и вычислительным ресурсам, а также ограниченность и специфичность приведённых бенчмарков. Модель распространяется по лицензии Apache-2.0.
MiniMax-M2.5-bf16 — текстовая MoE-модель для диалогов и выполнения задач с помощью агентных сценариев. Модель разработана MiniMax и обучалась с подкреплением на сложных задачах из реальных сред. В карточке указаны сильные результаты в программировании, поиске, вызове инструментов и офисной работе, включая подготовку материалов для Word, PowerPoint и Excel. Модель предназначена для планирования и разработки программных систем, исправления и проверки кода, многошагового поиска информации, работы с инструментами и создания офисных материалов. README сообщает об обучении на более чем десяти языках программирования; это не устанавливает поддержку конкретных естественных языков. Метаданные указывают 2,9 млрд параметров, контекст до 196 608 токенов, библиотеку Transformers и формат safetensors. Доступна версия MiniMax-M2.5 в формате bf16. Лицензия указана в README как Modified-MIT, а в метаданных — как other; перед использованием следует свериться с условиями лицензии в репозитории. Результаты бенчмарков приведены разработчиком и не гарантируют аналогичного качества в конкретном приложении. Модель описана как чат-модель; README рекомендует SGLang для локального развёртывания.
OpenGryd/PaddleOCR-VL-1.6-MLX-16bit — конверсия PaddlePaddle/PaddleOCR-VL-1.6 в формат MLX для запуска на компьютерах Apple Silicon. Это мультимодальная модель обработки документов на основе ERNIE-4.5 с архитектурой PaddleOCRVLForConditionalGeneration; в README указано 0,9 млрд параметров, а размер файлов составляет около 1,81 ГБ. Модель использует точность bfloat16 без квантизации, принимает изображение вместе с текстовым запросом и выдаёт текстовый разбор документа. Контекст — до 131 072 токенов; языковые метки карточки указывают английский, китайский и многоязычную поддержку. Модель предназначена для локального распознавания и структурирования документов: извлекает текст целых страниц в Markdown или JSON, анализирует макет, распознаёт таблицы и формулы, диаграммы, печати и текстовые области. Повышенный предел разрешения изображения нацелен на распознавание мелкого текста, но увеличивает время обработки крупных страниц; README приводит замеры на 8-битной версии. Для работы требуется библиотека mlx-vlm и включение trust_remote_code=True, а запрос должен включать изображение. Лицензия — Apache-2.0.
Gliese-OCR-7B-Post1.0-GGUF — мультимодальная модель для анализа документов, распознавания текста и извлечения структурированной информации. Она разработана prithivMLmods как GGUF-версия модели Gliese-OCR-7B-Post1.0, дообученной на основе Camel-Doc-OCR-062825 и построенной на архитектуре Qwen2.5-VL. Обучение было сфокусировано на наборе данных Opendoc2-Analysis-Recognition. Модель предназначена для Document Retrieval, OCR, Content Extraction, анализа и распознавания содержимого документов, связывания извлечённых элементов, а также задач Intelligent Document Processing. Поддерживаются текстовые и визуальные входные данные; заявлены английский и китайский языки. Доступен набор GGUF-квантизаций от F16 размером 15,2 ГБ до вариантов объёмом около 1,9 ГБ, а также отдельные файлы мультимодального проектора. Это позволяет выбирать компромисс между качеством и требованиями к памяти, однако README не содержит сравнительных оценок качества, сведений о контекстном окне или подробностей об ограничениях модели. Модель распространяется по лицензии Apache-2.0 и ориентирована на использование с совместимыми инструментами, включая llama.cpp и Transformers.
Gliese-OCR-7B-Post2.0-final-GGUF — мультимодальная модель для распознавания и анализа документов, разработанная prithivMLmods. Это финальная, оптимизированная версия серии Gliese-OCR, созданная на архитектуре Qwen2.5-VL и представленная в формате GGUF для использования с llama.cpp и совместимыми инструментами. Модель дообучалась на данных для визуализации документов и задач, связанных с OCR. Модель предназначена для OCR, визуального анализа, извлечения и связывания информации, преобразования документов в структурированный вид и интеллектуальной обработки документов (IDP). Она рассчитана на работу со сканированными PDF, рукописными страницами, структурированными формами и аналитическими отчётами, а также может формировать результат в формате Markdown. В карточке указано, что поддерживается английский язык. Архитектура мультимодальная: модель обрабатывает текст и изображения; размер модели — 7B параметров. Доступны варианты квантования GGUF с размерами примерно от 1,9 до 15,2 ГБ, включая F16, Q2–Q8 и IQ-квантизации, что позволяет выбирать баланс между требованиями к памяти и качеством. Сильными сторонами заявлены эффективность, точность и улучшенные возможности визуализации документов. Ограничения, включая фактическую точность на конкретных типах документов, максимальный контекст и требования к оборудованию, в README не указаны. Модель распространяется по лицензии Apache-2.0.
Это преобразованная в формат MLX версия PaddleOCR-VL-1.5 от mlx-community, основанная на PaddlePaddle/PaddleOCR-VL-1.5. Модель построена на архитектуре PaddleOCR-VL для генерации текста по изображению и дообучена на базе baidu/ERNIE-4.5-0.3B-Paddle. В метаданных указаны 318,2 млн параметров и контекст до 131 072 токенов. Модель предназначена для OCR и разбора содержимого документов: извлечения текста и структурированных сведений с изображений, включая таблицы, формулы, графики и печати. Метаданные отмечают английский, китайский и многоязычный режимы; README указывает на использование через mlx-vlm. Репозиторий распространяется по лицензии Apache-2.0.
Карточка модели Vongxman/Unlimited-OCR на Hugging Face совпадает с карточкой baidu/Unlimited-OCR, поэтому описание составлено по ней. Unlimited-OCR — мультимодальная модель Baidu для распознавания текста и разбора документов по изображениям. Она предназначена для обработки длинных документов за один проход, включая сценарии с PDF, предварительно преобразованными в изображения. Модель построена на архитектуре UnlimitedOCRForCausalLM, содержит 559,7 млн параметров, принимает изображения и текстовые инструкции и выдаёт текст. Поддерживает многоязычные сценарии и контекст длиной до 32 768 токенов. Модель доступна для запуска через Transformers, vLLM и SGLang; карточка также описывает оценку на OmniDocBench. Лицензия — MIT. Карточка не приводит подробностей о точности по языкам и типам документов, поэтому качество для конкретного набора документов следует проверять отдельно.