III.4Клиентская поддержка и customer success

AREX-Turbo — компактная модель-агент для глубокого исследования, разработанная Beijing Academy of Artificial Intelligence (BAAI). Это плотная модель на 4 млрд параметров, дообученная на Qwen/Qwen3.5-4B; она поддерживает контекст до 262 144 токенов и предназначена для многоэтапного поиска информации с использованием инструментов. Модель собирает и сопоставляет сведения из источников, формирует предварительный ответ, проверяет его по заданным ограничениям и при необходимости уточняет или начинает исследование заново. Она также обновляет контекст исследования, сохраняя проверенные выводы, источники, отвергнутые варианты и нерешённые вопросы. AREX-Turbo рассчитана на сценарии, где важны стоимость обслуживания и скорость итераций; метаданные указывают поддержку диалога и интерфейса вызова инструментов. Модель основана на Qwen3.5-4B и выпущена в формате safetensors для Transformers. В карточке заявлены сценарии поиска, просмотра источников, интеграции свидетельств и построения ответов; оценки приведены для длинных исследовательских задач с инструментами. Лицензия — Apache-2.0. README не описывает отдельные ограничения качества или безопасности.

DeepSeek-OCR-2-bf16 — мультимодальная модель для анализа изображений и генерации текстовых ответов, опубликованная сообществом mlx-community. Модель конвертирована в формат MLX из prince-canuma/DeepSeek-OCR-2 с помощью mlx-vlm 0.3.10 и предназначена для использования через библиотеку Transformers и инструменты MLX. Модель решает задачи оптического распознавания символов и описания изображений: извлекает текст из изображений, отвечает на вопросы о визуальном содержимом и формирует текстовые результаты по изображению. Она поддерживает мультиязычные сценарии, имеет 559,7 млн параметров и нативное контекстное окно до 8192 токенов. К сильным сторонам относятся специализированная направленность на OCR, поддержка vision-language сценариев и формат bf16 для экосистемы MLX. Результаты могут зависеть от качества, разрешения и структуры исходного изображения, а точность распознавания сложных документов, мелкого текста и нестандартных макетов следует проверять на собственных данных. Модель распространяется по лицензии Apache-2.0.

Ginckl/HashBlitz-1-7B-Max — языковая модель для генерации текста и кода, разработанная Ginckl на базе unsloth/Qwen2.5-Coder-7B-Instruct. По описанию, модель создана как оптимизированная версия с 7 миллиардами параметров и ориентирована на локальное развёртывание, разработчиков и сценарии «vibe coding». Она предназначена для программирования, решения сложных задач разработки, повседневного диалога и аналитических сценариев, включая работу с актуальной информацией, если такая информация предоставляется через внешние инструменты или контекст. Заявлено, что при создании авторы синтезировали особенности нескольких передовых моделей: Claude Opus 5 — для программирования и логического рассуждения, Groq 4.5 — для характера и настройки безопасности, GPT-5.4 — для естественного диалога, а Gemini 3.1 Pro (Extended Thinking) — для анализа сложных реальных задач. Эти утверждения приведены в README разработчика и не сопровождаются подробностями о методике обучения или результатами независимой оценки. Модель поддерживает текстовую генерацию, заявленные языки — английский, испанский и французский. Архитектура основана на семействе Qwen 2.5 Coder; сведения о размере контекста, дополнительных модальностях, точных параметрах дообучения и ограничениях производительности не указаны. Лицензия — Apache-2.0, что допускает широкое использование на условиях этой лицензии.

xbikevn/LightOnOCR-2-1B-vi-vllm — дообученная версия LightOnOCR-2-1B от LightOn, опубликованная пользователем xbikevn. Это компактная мультимодальная модель семейства Mistral3 для распознавания текста и структуры документов по изображениям и страницам PDF. В метаданных Hugging Face указан тег text-generation и возможность диалогового взаимодействия; карточка не приводит подробностей о датасете и оценке качества. Модель подходит для извлечения текста и структуры из документов, если этот сценарий подтверждён возможностями базовой модели. Она принимает текстовые запросы и изображения, а результат выдаёт в текстовом виде. Лицензия — Apache-2.0. README не раскрывает специальные ограничения или характеристики именно этого дообучения.

LongCite-glm4-9b — диалоговая модель семейства ChatGLM от организации zai-org, предназначенная для генерации ответов с цитатами по длинным документам. Она дообучена на наборе THUDM/LongCite-45k и ориентирована на задачи LongCite: ответы на вопросы с подтверждающими цитатами из контекста. Модель содержит 10,7 млрд параметров, использует плотную архитектуру ChatGLM и принимает контекст длиной до 131 072 токенов. Репозиторий содержит веса в формате safetensors; для работы применяется библиотека Transformers. В карточке указаны английский и китайский языки. Лицензия в предоставленных данных не указана.

PaddleOCR-VL-1.6-GGUF — набор квантованных версий мультимодальной модели PaddleOCR-VL-1.6, разработанной PaddlePaddle и распространяемой в формате GGUF пользователем mradermacher. Модель предназначена для распознавания и структурированного анализа документов по изображениям: извлечения текста, определения компоновки страниц, обработки таблиц, формул, диаграмм, печатей и других элементов, а также задач image-to-text и document parsing. Указана поддержка английского, китайского и других многоязычных сценариев. README не содержит сведений о точной архитектуре, количестве параметров или размере исходной модели, контекстном окне и перечне поддерживаемых языков. Доступны варианты квантования Q2_K, Q3_K, IQ4_XS, Q4_K, Q5_K, Q6_K, Q8_0 и f16 размером примерно от 0,3 до 1,0 ГБ. Более сильное квантование уменьшает требования к ресурсам, но может снижать качество; в README варианты Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, Q6_K — как обеспечивающий очень хорошее качество, а Q8_0 — как быстрый вариант с лучшим качеством. Модель удобна для локального запуска в совместимых с GGUF инструментах и позволяет выбирать компромисс между скоростью, размером файла и качеством. Ограничения включают отсутствие подробных данных о результатах тестирования, производительности, требованиях к оборудованию и точных характеристиках исходной модели. Указана лицензия Apache-2.0.

Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP-GGUF — многоэтапная fine-tune и merge-модель семейства Qwen3.8 с 27 млрд параметров, опубликованная в репозитории isihdfg на основе модели DavidAU. По README, разработка выполнена командой DavidAU с использованием методов COLD FUSION, Fable Fusion 711 и инструментов Unsloth. Модель распространяется в форматах GGUF, включая обычные и MTP-квантизации, рассчитанные на запуск на пользовательском оборудовании. Модель предназначена для решения общих задач, рассуждений, программирования, творческого письма, создания художественных текстов и ролевых сценариев. Заявлены режимы thinking, reasoning и coder, а также поддержка английского и китайского языков. Основной акцент сделан на сокращении объёма рассуждений и ускорении генерации при сохранении детализации ответа; README также заявляет улучшение результатов на ряде ARC-бенчмарков по сравнению с базовыми моделями, однако эти показатели приведены автором и могут зависеть от режима, квантизации и методики оценки. К сильным сторонам относятся ориентация на программирование и творческие задачи, уменьшенное избыточное рассуждение, наличие вариантов для устройств с ограниченными ресурсами и заявленная поддержка MTP. Ограничения включают отсутствие в README точных данных о размере контекстного окна, полном наборе поддерживаемых модальностей и системных требованиях; заявленная «uncensored» и «abliterated» настройка также может означать ослабленные ограничения безопасности. Лицензия модели указана как Apache-2.0.

ZAYA1-VL-8B — открытая vision-language модель Zyphra для диалога и ответов на вопросы по изображениям. Она использует ZAYA1-8B как текстовый декодер и визуальный энкодер Qwen2.5-VL; архитектура включает специализированные LoRA-параметры для обработки зрительных токенов и двунаправленное внимание к токенам изображения. В карточке указано 3 млрд параметров, контекст до 32 768 токенов и поддержка изображений и текста. Модель предназначена для анализа изображений, диаграмм и документов, а также визуальных вопросов и ответов. В README приведены результаты на наборах AI2D, ChartQA и DocVQA. Для запуска требуется форк Transformers с веткой zaya1-vl и дополнительные зависимости, включая qwen-vl-utils и flash_attn. Модель распространяется по лицензии Apache 2.0.

DevQuasar/deepseek-ai.DeepSeek-V3.1-Terminus-GGUF — это квантизированная версия модели DeepSeek-V3.1-Terminus, разработанной командой deepseek-ai и опубликованной пользователем или организацией DevQuasar. Модель предназначена для генерации текста; точные сценарии применения в представленном README не описаны. Из доступных данных известно только, что модель относится к конвейеру text-generation и распространяется в формате GGUF. Архитектура, размер, поддерживаемые языки, длина контекста, модальности, варианты квантования и технические характеристики не указаны. Лицензия и условия использования также не приведены, поэтому их нельзя достоверно определить по этому README.

EuroVLM-1.7B-Preview — мультимодальная модель зрения и языка, разработанная Unbabel совместно с Instituto Superior Técnico, Instituto de Telecomunicações, University of Edinburgh, Aveni, University of Paris-Saclay, University of Amsterdam, Naver Labs и Sorbonne Université при финансировании Европейского союза. Она основана на EuroLLM-1.7B и предназначена для работы с изображениями и текстом: модель описывает изображения, отвечает на вопросы по ним, выполняет инструкции с визуальным контекстом и анализирует документы, диаграммы и графики. Модель использует архитектуру LLaVA-NeXT с плотным трансформером EuroLLM и визуальным энкодером ViT на основе SigLIP2 SO400M. По карточке, языковая часть содержит 1,7 млрд параметров, а визуальный компонент — около 400 млн; контекст поддерживает до 32 тысяч токенов. Заявлена поддержка 39 языков, включая русский. Модель была настроена на многоязычных наборах для описания изображений, визуальных вопросов и ответов и мультимодальных рассуждений. Лицензия — Apache 2.0. Это предварительная версия, которая всё ещё разрабатывается. Возможны ошибки и галлюцинации в описаниях изображений, предвзятая интерпретация и нестабильность результатов между языками; карточка рекомендует осторожность при применении в производственной среде.

Mistral_Pro_8B_v0.1 — плотная авторегрессионная языковая модель семейства Mistral, разработанная лабораторией Tencent ARC. По описанию разработчиков, модель расширяет Mistral-7B добавлением блоков Transformer и дообучена на корпусах кода и математики; в метаданных указаны 8,9 млрд параметров, контекст до 32 768 токенов и формат Safetensors. Модель предназначена для генерации текста и широкого круга языковых задач, с особым акцентом на программирование, математику и общие языковые запросы. Она принимает текст и генерирует текст; в карточке указаны английский язык и датасеты по математике, коду и общим текстам. Разработчики приводят результаты сравнительных бенчмарков, но они не гарантируют качество на конкретных пользовательских задачах. Модель распространяется по лицензии Apache-2.0. Она может ошибаться, особенно в узкоспециализированных областях, и наследует возможные смещения обучающих данных.

TomoroAI/tomoro-colqwen3-embed-8b — мультимодальная модель эмбеддингов для поиска по визуальным документам, созданная TomoroAI на основе Qwen/Qwen3-VL-8B-Instruct. Модель дообучена на наборах данных для поиска по документам и использует подход ColPali с поздним взаимодействием векторов и оценкой MaxSim. Архитектура включает вариант Qwen3-VL на 8 млрд параметров и проекционную голову размерностью 320. Модель кодирует текстовые запросы и изображения документов, включая страницы PDF, в многовекторные представления для поиска по содержимому страниц; также поддерживается поиск по коротким видео. Для страницы допускается до 1280 визуальных токенов, для видео — до 5120. README сообщает о конкурентных результатах на ViDoRe V1–V3 на английском и нескольких языках; модель предназначена для извлечения релевантных документов, а не для генерации ответов. Входы включают текст и изображения, а в сценариях поиска по коротким видеороликам — видео; выход — векторные представления и оценки релевантности. Модель опубликована под лицензией Apache-2.0. Для загрузки в README используется trust_remote_code=True, а пример запуска предусматривает значительные вычислительные ресурсы для модели на 8 млрд параметров.

Dingdust/LFM2.5-VL-3B-heretic — мультимодальная модель на основе LFM2.5-VL-3B от Liquid AI, ориентированная на локальный запуск и высокую скорость обработки изображений и текста. Это плотная модель класса LFM2-VL с языковой основой LFM2.5-2.6B и визуальным энкодером SigLIP2 NaFlex; веса представлены в формате Safetensors. В карточке указаны контекст 32 768 токенов и поддержка 17 языков: арабского, китайского, английского, французского, немецкого, хинди, индонезийского, итальянского, японского, корейского, польского, португальского, русского, испанского, тайского, вьетнамского и других перечисленных языков. Модель предназначена для диалога по изображениям, распознавания текста на страницах с сохранением структуры, поиска объектов по текстовому запросу и локального перевода надписей, например меню и дорожных знаков. В README вариант heretic описан как abliteration-модификация исходной модели: в приведённом сравнении число отказов уменьшено со 100 из 100 до 5 из 100, при KL-дивергенции 0,0168. Модель рассчитана на быстрые одношаговые задачи и локальный инференс; автор README не рекомендует её для задач с интенсивными рассуждениями или сложного анализа чертежей. Лицензия указана как other, поэтому конкретные условия использования следует сверять с карточкой модели.

Typhoon-OCR-1.5-2B — компактная vision-language модель для распознавания и разбора документов на тайском и английском языках, разработанная OpenTyphoon на основе Qwen3-VL-2B-Instruct. Это дообученная плотная модель Qwen3-VL с архитектурой Qwen3VLForConditionalGeneration; она принимает изображения документов и формирует структурированный текст. Модель предназначена для извлечения текста и структуры из PDF-страниц и изображений, включая рукописные записи, формы, чеки, таблицы, отчёты, инфографику и схемы. Вывод может включать Markdown для текста, HTML для таблиц, описания рисунков и диаграмм, LaTeX для формул и номера страниц; результаты подходят для последующей загрузки в RAG-системы и базы данных. Распознавание структуры выполняется по изображению без зависимости от метаданных PDF. Для работы требуется специальный prompt из карточки; модель не рассчитана на другие запросы и не предоставляет возможностей общего визуального вопросно-ответного диалога. Возможны галлюцинации, поэтому результаты следует проверять. Для локального запуска авторы рекомендуют Ollama и предупреждают о возможной потере точности у GGUF-сборок для llama.cpp и LM Studio. Лицензия в метаданных — Apache-2.0; README также указывает на условия OpenTyphoon.

unsloth/Llama-3_3-Nemotron-Super-49B-v1-GGUF — GGUF-версия большой языковой модели Llama-3.3-Nemotron-Super-49B-v1, разработанной NVIDIA на основе Meta Llama-3.3-70B-Instruct и оптимизированной с применением Neural Architecture Search. Это плотная decoder-only Transformer-модель примерно на 49 млрд параметров с контекстом до 128K токенов и текстовым вводом. Модель предназначена прежде всего для английского языка и языков программирования, также поддерживает немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Модель ориентирована на рассуждения, диалог, следование инструкциям, генерацию кода, математику, RAG, tool calling и разработку AI-агентов, чат-ботов и других приложений на базе LLM. Постобучение включало SFT для математики, кода, рассуждений и вызова инструментов, а также этапы reinforcement learning и оптимизации предпочтений. Архитектура использует нестандартные блоки с пропуском или упрощением attention и переменным соотношением расширения FFN, что снижает требования к памяти и повышает эффективность при сохранении качества. Ограничениями являются преимущественно англоязычная специализация, возможное снижение качества на других языках и необходимость учитывать требования к ресурсам при запуске модели такого размера. Использование регулируется NVIDIA Open Model License; дополнительно указано соглашение Meta Llama 3.3 Community License Agreement. Модель заявлена как пригодная для коммерческого использования.

unsloth/GLM-4.6-GGUF — это версия языковой модели GLM-4.6 в формате GGUF, подготовленная Unsloth на основе модели GLM-4.6 от Z.ai (Zhipu AI). Модель предназначена для локального запуска и генерации текста, включая программирование, рассуждения, агентские сценарии, использование инструментов и поисковых агентов. Она также ориентирована на создание более естественных текстов и ролевое взаимодействие. Заявлено контекстное окно до 200 000 токенов, поддержка английского и китайского языков, а также улучшения по сравнению с GLM-4.5 в задачах кодирования, рассуждений, tool use и агентских приложениях. Размер модели, точная архитектура, перечень модальностей и конкретный вариант квантования в README не указаны. Репозиторий содержит исправления chat template; для запуска рекомендуется актуальная версия llama.cpp с параметром --jinja. Для общих оценок рекомендована температура 1.0, а для задач, связанных с кодом, — top_p 0.95 и top_k 40. Модель сильна в длинноконтекстной обработке, генерации кода, рассуждениях и интеграции с инструментами, однако README не приводит подробных количественных характеристик, ограничений качества или требований к вычислительным ресурсам. Лицензия — MIT.

Карточка модели PositronicLlama/Ovis2.5-9B на Hugging Face совпадает с карточкой ATH-MaaS/Ovis2.5-9B, поэтому описание составлено по ней. Ovis2.5-9B — мультимодальная модель семейства Ovis2.5, разработанная командой AIDC-AI. Она сочетает визуальный энкодер NaViT для обработки изображений в исходном переменном разрешении с языковой моделью Qwen3-8B; размер модели — 9 млрд параметров. Модель принимает текст и изображения и генерирует текст, поддерживает контекст до 40 960 токенов и рассчитана прежде всего на английский и китайский языки. Модель предназначена для визуальных вопросов и ответов, мультимодальных рассуждений, понимания видео, распознавания текста и анализа документов, таблиц, форм, графиков и диаграмм. Режим размышления с самопроверкой и пересмотром ответа можно включать при выводе, увеличивая задержку ради потенциально более точного ответа на сложные запросы. В README заявлен средний результат 78,3 в мультимодальном наборе OpenCompass и сильные результаты в задачах понимания изображений и документов. Модель распространяется по лицензии Apache-2.0. README предупреждает, что разработчики не гарантируют полного отсутствия проблем с авторскими правами или неподобающим содержимым.

Dolphin 2.9.4 Llama 3.1 8B — диалоговая модель на архитектуре Llama 3.1, дообученная Эриком Хартфордом и Cognitive Computations на базе Meta-Llama-3.1-8B. Она содержит около 7,5 млрд параметров, использует формат ChatML и поддерживает контекст до 131 072 токенов; при дообучении использовалась длина последовательности 8 192 токена. Модель предназначена для диалога и следования инструкциям, написания и разбора кода, математических задач и сценариев с агентными функциями и вызовом инструментов. В карточке заявлена поддержка инструкций на многих языках и высокая подчиняемость системным инструкциям. Это неконтент-фильтрованная модель, поэтому для публичного сервиса разработчик рекомендует самостоятельно добавить слой выравнивания. Распространяется по лицензии Llama 3.1.

GLM-4.7-FP8 — языковая модель семейства GLM, разработанная организацией Z.ai (zai-org). Это версия с представлением FP8, предназначенная прежде всего для генерации текста, программирования и агентских сценариев. Модель ориентирована на многоязычное программирование, выполнение задач через терминал, использование инструментов, веб-навигацию, сложное математическое рассуждение, чат, творческое письмо и ролевые сценарии. Также заявлены улучшенные возможности «vibe coding»: генерация веб-страниц и презентаций с более качественным дизайном, компоновкой и размерами элементов. Поддерживаются английский и китайский языки. Модель умеет использовать interleaved thinking и сохраняемое рассуждение перед выполнением действий. К сильным сторонам относятся заметные улучшения по сравнению с GLM-4.6 в SWE-bench, SWE-bench Multilingual, Terminal Bench 2.0, τ²-Bench, BrowseComp и задачах математического и общего рассуждения. README не содержит достоверных сведений о числе параметров, точной архитектуре, размере контекстного окна, поддерживаемых модальностях помимо текста и системных требованиях, поэтому эти характеристики нельзя определить по представленным данным. Модель распространяется по лицензии MIT.

Ornith-1.5-9B-GGUF — открытая плотная модель на 9 млрд параметров, разработанная Ornith AI и представленная в формате GGUF пользователем prithivMLmods. Она предназначена для локального запуска на одной GPU, мобильных и периферийных устройствах, а также для интеграции с llama.cpp и другими средами инференса. Модель ориентирована на генерацию текста, рассуждения, программирование, агентские сценарии и использование инструментов. Модель поддерживает встроенное пошаговое рассуждение с разделением промежуточных размышлений в тегах <think> и итогового ответа, а также структурированные вызовы инструментов в XML-формате, совместимые с OpenAI API, vLLM, SGLang, Ollama и llama.cpp. Заявлено контекстное окно 262 144 токена с возможностью расширения до 1 млн токенов посредством YaRN RoPE scaling. Указан английский язык; архитектурная линия основана на Qwen3.5 и Gemma-4 с дополнительным предварительным обучением, дообучением и reinforcement learning. В репозитории доступны варианты BF16, F16 и различные уровни квантования размером примерно от 4,26 до 17,9 ГБ, а также файлы мультимодального проектора. Сильными сторонами заявлены производительность в задачах кодирования, рассуждений и работы с инструментами, поддержка длинного контекста и локального инференса при относительно небольшом размере. README приводит результаты на SWE-bench Verified — 70,6% и GPQA Diamond — 86,4%, однако методика оценки не описана. Ограничения включают зависимость качества и требований к памяти от выбранного варианта квантования, а также отсутствие подробных сведений о поддерживаемых мультимодальных входах и фактических сценариях работы проектора. Модель распространяется по лицензии MIT.

UDOP-large-512-300k — модель для анализа документов, разработанная авторами работы «Unifying Vision, Text, and Layout for Universal Document Processing». Она использует архитектуру encoder-decoder Transformer на основе T5 и предназначена для задач, объединяющих изображение документа, текст и его пространственную структуру. Модель с 386,3 млн параметров принимает изображение документа и текстовый запрос, а затем генерирует текстовый ответ. Её можно применять для классификации изображений документов, разбора документов и визуальных вопросов и ответов по документам (DocVQA). Веса опубликованы в формате safetensors; лицензия — MIT.

caskcsg/Llama-3-8B-NExtLong-512K-Instruct — диалоговая языковая модель семейства Llama, разработанная авторами проекта NExtLong. Это дообученная версия Llama-3-8B-NExtLong-512K-Base: базовую модель обучали на синтетических длинных контекстах, созданных методом NExtLong с чередованием фрагментов документа и отвлекающих фрагментов из корпусов предобучения; instruct-версию дополнительно настроили на Magpie-Align/Magpie-Llama-3.3-Pro-1M-v0.1. Модель предназначена для генерации ответов и работы с длинными входными контекстами, включая поиск информации в тексте, вопросы и ответы по документам, длинноконтекстный RAG и задачи с примерами в контексте. Заявленное окно контекста — 524 288 токенов; размер модели — около 7,5 млрд параметров. Модель имеет плотную архитектуру Llama и поставляется в формате safetensors. Карточка приводит результаты оценки на LongBench V2, HELMET, RULER и короткоконтекстных бенчмарках. Карточка не сообщает поддерживаемые языки или лицензию, поэтому применимые условия использования следует уточнить в репозитории модели. Указанная длина контекста — характеристика модели; фактическое использование такого окна зависит от реализации и доступных вычислительных ресурсов.

Qwen3-4B-Thinking-2507-Qwen3.8-Max-Distillation-Detrax — компактная дистиллированная языковая модель в формате GGUF, опубликованная пользователем или организацией Detrax. Она основана на Qwen3-4B-Thinking-2507 и обучалась с использованием набора данных r0b0tlab/qwen3.8-max-distillation-50k. В README не указаны точные сведения о разработчике дистилляции, языковом охвате и исходной архитектуре, кроме принадлежности к семейству Qwen и наличия 4 млрд параметров. Модель предназначена для генерации текста, многошагового рассуждения, написания и отладки кода, решения математических задач, структурированного логического вывода и точного соблюдения инструкций и ограничений. Заявлены улучшения по сравнению с базовой моделью в математическом рассуждении, генерации кода, логическом выводе, релевантности и сходстве ответов; наиболее заметные результаты отмечены для алгоритмических и требующих строгого соблюдения ограничений задач. Модель поставляется в вариантах F16, Q8_0, Q6_K и Q4_K_M размером примерно от 2,3 до 7,5 ГБ. Она совместима с llama.cpp, LM Studio, Jan, koboldcpp и другими средами, поддерживающими GGUF. Рекомендуемая длина контекста составляет 8192 токена. Сильными сторонами являются компактность, эффективность на технических задачах и возможность запуска на CPU или с GPU offloading. Ограничения включают меньший размер по сравнению с крупными моделями, зависимость качества от выбранного уровня квантования и отсутствие в README подробных данных о поддерживаемых языках, мультимодальности и независимой оценке качества. Модель распространяется по лицензии Apache-2.0.

karlsencoin/Qwen3.6-27B-GGUF — это GGUF-сборка модели Qwen3.6-27B, основанная на базовой модели Qwen/Qwen3.6-27B. Модель разработана командой Qwen; данный репозиторий распространяет её в формате GGUF с использованием подхода Unsloth Dynamic 2.0 GGUF. Это причинная языковая модель с визуальным энкодером, предназначенная для генерации текста, программирования, агентных сценариев, работы с репозиториями, фронтенд-разработки, рассуждений и вызова инструментов. Поддержка изображений указана в карточке как часть мультимодальной архитектуры, однако конкретные форматы и языки не перечислены. Модель содержит около 27 млрд параметров, 64 слоя и скрытое измерение 5120. Архитектура сочетает Gated DeltaNet и Gated Attention, использует multi-step training и поддерживает контекст до 262 144 токенов с возможностью расширения до 1 010 000 токенов. Среди заявленных сильных сторон — улучшенная работа с агентным кодированием, сохранение контекста рассуждений между сообщениями и более надёжный разбор вложенных объектов при вызове инструментов. Для запуска упоминаются Transformers, vLLM, SGLang и KTransformers; высокая вычислительная нагрузка и требования к памяти являются ограничениями модели, особенно при использовании длинного контекста. Указанная лицензия — Apache 2.0. README не содержит подробностей о конкретном уровне квантования данной GGUF-сборки, результатах бенчмарков или точном наборе поддерживаемых языков.

unsloth/MiniMax-M3-GGUF — это экспериментальная GGUF-версия мультимодальной модели MiniMax-M3, разработанной MiniMax и подготовленной в формате GGUF проектом Unsloth. Модель предназначена для работы с текстом, изображениями и видео, включая диалоговые сценарии, генерацию и анализ кода, агентские задачи и длительное взаимодействие с пользователем. Архитектура модели сочетает Mixture of Experts (MoE) и механизм разреженного внимания MiniMax Sparse Attention (MSA). Всего модель содержит около 428 млрд параметров, из которых на каждый токен активируется примерно 23 млрд; используется 128 экспертов, четыре из которых активны для каждого токена, и 60 слоёв. Заявлена длина контекста до 1 млн токенов. Поддерживаются режимы thinking для сложного рассуждения, агентских задач и долгого сотрудничества и non-thinking для сценариев, чувствительных к задержке, например чата и автодополнения кода. К сильным сторонам относятся нативная мультимодальность, заявленная эффективность на длинном контексте и высокие результаты в задачах программирования и агентского взаимодействия. Ограничения этой версии связаны с экспериментальным статусом: поддержка MiniMax-M3 в llama.cpp предварительная, а MiniMax Sparse Attention пока не поддерживается, поэтому используется плотное внимание. Модель очень велика и требует значительных ресурсов, включая распределение вычислений между несколькими GPU или размещение весов в оперативной памяти CPU. Для использования указана MiniMax Community License.

Qwen3.8-27B-Abliterated-SME-Preview — предварительная модель-ассистент для малого и среднего бизнеса от hotdogs, дообученная методом LoRA SFT на базе hotdogs/Qwen3.8-27B-abliterated. Это плотная гибридная модель с архитектурой Qwen3_5ForConditionalGeneration: 64 слоя, включая линейное внимание GDN и полное внимание; в репозитории представлены объединённые веса BF16 в safetensors. Модель предназначена для ответов на деловые вопросы, анализа CSV и офисных документов, а также для формирования структурированных вызовов инструментов. Модель принимает текст; в карточке указана мультимодальная обёртка с поддержкой изображений, хотя README описывает текстовые сценарии. Обучение проводилось на англоязычном наборе документов и вызовов инструментов; метаданные также указывают тайский язык. Контекст обучения — 8192 токена. Лицензия — Apache-2.0. В README приведены результаты на ARC, MMLU и GSM8K, а также проверки формата вызовов инструментов; они указывают на сохранение общих возможностей базовой модели и улучшение математического рассуждения, но полноценные агентные бенчмарки ещё не проводились. Выпуск имеет статус Preview. Склонность базовой модели отказывать снижена намеренно; для выполнения вызовов csv_* и doc_* требуется подключить инструменты к среде исполнения. BF16-версия на 27 млрд параметров требует нескольких GPU либо квантованного варианта для практического запуска.

protogeni/Qwen3.8-27B-Uncensored-W4A16-RTX3090-MTP4 — сервировочно-оптимизированный квантованный чекпойнт семейства Qwen3.8-27B. Модель разработана protogeni на основе Qwen3.8-27B, последовательно преобразованного в uncensored-версию OrcaRouter, квантованный вариант AutoRound W4A16 и данный чекпойнт для инференса. Заявлены английский и китайский языки. Модель предназначена прежде всего для генерации текста, программирования и задач рассуждения, а также для развёртывания на одной видеокарте с поддержкой speculative decoding через MTP4. Vision tower сохранён, однако протестированный профиль на 100 000 токенов рассчитан только на текст. Основная часть трансформера использует W4A16 с группой 128, эмбеддинги токенов имеют формат INT8, а выходные и MTP-головы — калиброванный GPTQ INT4. Для черновой генерации используется словарь из 40 960 токенов. На RTX 3090 Ti с BF16 KV-кэшем и MTP4 заявлена поддержка контекста до 100 000 токенов; измеренная скорость генерации составляет примерно 82,7–128,4 токена в секунду в зависимости от нагрузки. Среди приведённых результатов: 94,77% на GSM8K, 76,14% на MMLU-Pro, 94,51% pass@1 на HumanEval и 90,85% pass@1 на HumanEval+. Сильные стороны модели — высокая производительность на одной 24 ГБ видеокарте, большой текстовый контекст, ускорение speculative decoding и хорошие результаты в математике и программировании. Ограничения включают зависимость от специально исправленного runtime syv-ai и vLLM 0.27.1, необходимость соответствующей настройки MTP4, а также то, что 100K-профиль не использует мультимодальный ввод. Результат на MMMU validation составил 24,56% при 891 ограничении по максимальному числу выходных токенов, поэтому мультимодальные возможности и этот показатель следует интерпретировать осторожно. Модель распространяется по лицензии Apache-2.0.

coreOCR-7B-050325-preview — модель prithivMLmods, дообученная на базе Qwen/Qwen2-VL-7B-Instruct для распознавания текста и анализа документов по изображениям. Она построена на архитектуре Qwen2-VL, содержит 7,1 млрд параметров, принимает изображения и текстовые запросы и формирует текстовые ответы; заявленная длина контекста — 32 768 токенов. Модель предназначена для извлечения текста и структурированных данных из сканов, PDF, форм, счетов и научных статей, а также для ответов на вопросы по изображениям и преобразования математических выражений в LaTeX. Карточка также заявляет поддержку видео, длинных последовательностей и визуально управляемых действий, однако метаданные подтверждают только задачу image-text-to-text. Модель поддерживает многоязычные OCR-сценарии, но отдельные языки в метаданных и README не перечислены. Качество может снижаться на зашумлённых или низкокачественных изображениях и редких письменностях; возможны неполные или галлюцинированные ответы при длинных запросах, а размер модели затрудняет запуск на устройствах с ограниченной памятью. Распространяется по лицензии Apache-2.0.

VIDraft/Gemma-3-R1984-12B — мультимодальная модель на архитектуре Gemma 3, дообученная на базе google/gemma-3-12b-pt. Карточка описывает локальную платформу для диалогов, анализа изображений и документов, а также исследовательских запросов с веб-поиском через SERPHouse API. Заявлена обработка изображений, видео и текстовых документов; поиск может включать до 20 результатов с цитированием источников. В карточке указаны около 12 млрд параметров и контекст до 8 000 токенов. Метаданные подтверждают задачу image-text-to-text, поддержку vision и chat, библиотеку Transformers и лицензию Gemma. Для веб-поиска требуется ключ SERPHouse; README рекомендует развёртывание на NVIDIA L40S, но не приводит независимых оценок качества или подробностей обучения. Условия лицензии следует сверять с лицензией Gemma, указанной в метаданных: упоминание MIT для платформы в README не подтверждает лицензию весов модели.

Карточка модели prashim98/GLM-5.2 на Hugging Face совпадает с карточкой zai-org/GLM-5.2, поэтому описание составлено по ней. GLM-5.2 — флагманская языковая модель компании Z.ai для длительных задач и диалогового взаимодействия. Она предназначена для генерации текста, программирования и решения задач, требующих работы с большим объёмом контекста. Модель построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров. Поддерживает контекст до 1 048 576 токенов; в README также отмечены гибкие уровни усилий для задач программирования, механизм IndexShare для снижения вычислений на длинном контексте и улучшение MTP для ускорения спекулятивного декодирования. Заявлены английский и китайский языки. Модель доступна в формате safetensors для Transformers и поддерживается рядом сред локального запуска, включая vLLM и SGLang. Лицензия — MIT. README приводит сравнительные результаты на бенчмарках, но они зависят от настроек и сценариев оценки.