III.10Проекты, процессы и операционное управление

AIOne-Agent-52B-A36B-it — мультимодальная модель с разреженной архитектурой Mixture-of-Experts, разработанная JDONE-Research на базе google/gemma-4-31B-it. В текстовой части около 52 млрд параметров, из которых примерно 36 млрд активны на токен; модель также использует визуальный энкодер. Она принимает текст, изображения и видео и генерирует ответы на корейском и английском языках. Заявлена длина контекста 256 тысяч токенов. Модель предназначена для корейского рассуждения и следования инструкциям, анализа изображений и видео, ответов на вопросы по документам и длинным текстам. Её можно применять в корпоративных агентных системах, для поиска по документам и многошаговых диалогов. Базовая модель поддерживает работу с изображениями; понимание видео и корейская настройка заявлены в карточке AIOne-Agent. Модель распространяется под лицензией Apache-2.0. Результаты не следует использовать как единственное основание для решений с юридическими последствиями; README также исключает применение для автоматизированного насилия и анализа медиаданных с нарушением приватности или прав на изображения.

Muse Glimmer-30B — мультимодальная причинная языковая модель, разработанная Meta Superintelligence Lab и представленная в квантованном формате professorf для воспроизводимости исследований. Модель предназначена прежде всего для автономных агентных задач на пользовательском оборудовании: многошагового рассуждения, вызова инструментов, написания и отладки кода, выполнения длительных рабочих процессов и восстановления после ошибок. Она рассчитана на локальную работу без облачной инфраструктуры и сетевого доступа и совместима с различными агентными оркестраторами, включая OpenClaw и Hermes Agent. Модель содержит около 29,6 млрд параметров и построена как плотный causal Transformer с выделенным perception encoder примерно на 1,8 млрд параметров для обработки изображений. Поддерживаются входные данные в виде текста и изображений, а на выходе генерируется текст. Архитектура включает 52 слоя, скрытое измерение 6656, механизм GQA, SwiGLU, локальное и глобальное внимание с окном 2048 токенов, контекст длиной 131 072 и более токенов и до 4096 визуальных токенов на изображение. Модель обучалась на данных более чем на 100 языках; дата отсечения знаний — 4 января 2026 года. К сильным сторонам относятся интеграция рассуждения, надёжного использования инструментов, мультимодального анализа, планирования и восстановления после сбоев, а также оптимизация для локального запуска. Квантование примерно до 4 бит позволяет разместить языковую часть менее чем в 20 ГБ и использовать модель в конфигурациях на 24 или 32 ГБ памяти; заявленная деградация качества составляет около 0,2% для варианта на 32 ГБ и 1,0% для варианта на 24 ГБ по среднему результату 15 бенчмарков. Для ускорения генерации предусмотрен speculative decoding с drafter-моделью DFlash. Ограничения включают высокие требования к памяти, зависимость производительности от аппаратной конфигурации и то, что модель поддерживает изображения только на входе. Лицензия — Apache 2.0.

Qwen2.5-VL-32B-Instruct-GGUF — мультимодальная instruction-tuned модель семейства Qwen, разработанная командой Qwen; репозиторий подготовлен Unsloth. Модель предназначена для задач, где требуется совместно обрабатывать текст и изображения, включая визуальные вопросы и ответы, распознавание текста, анализ документов, графиков, таблиц и макетов, математическое и логическое рассуждение, а также структурированное извлечение данных из счетов и форм. Она также поддерживает анализ видео длительностью более часа, поиск релевантных временных фрагментов, визуальную локализацию объектов и сценарии взаимодействия с компьютером или телефоном. Модель содержит 32 млрд параметров и использует архитектуру Qwen2.5-VL с визуальным энкодером ViT, динамическим разрешением изображений и динамической частотой выборки кадров видео. В архитектуре заявлены оконное внимание, SwiGLU и RMSNorm; для временного измерения применяется mRoPE с учетом идентификаторов и абсолютного времени. Основные модальности — текст, изображения и видео. В README указан английский язык, однако полный перечень поддерживаемых языков и размер контекстного окна не приведены. Сильные стороны модели — развитое понимание визуального содержимого, документов и видео, генерация структурированных JSON-ответов, визуальная локализация, а также улучшенные математические и общие рассуждательные способности. Ограничения включают большой размер, высокие требования к вычислительным ресурсам и отсутствие в представленном README подробностей о характеристиках именно GGUF-квантизации, поддерживаемых вариантах квантования и рекомендуемых ресурсах. Модель распространяется по лицензии Apache-2.0.

Qwen-SEA-LION-v4.5-27B-IT — мультимодальная инструктивная модель AI Singapore для языков Юго-Восточной Азии, дообученная на основе Qwen3.6-27B. Это плотная модель на 27 млрд параметров с гибридной архитектурой Linear и Full Attention и визуальным энкодером; она принимает текст и изображения и генерирует текст. Контекстное окно составляет 262 тыс. токенов. Модель прошла постобучение с дистилляцией и слиянием моделей на наборе SEA-Instruct-2602. Модель предназначена для многоязычного диалога, ответов на вопросы, перевода, суммаризации, рассуждений и работы с изображениями. В карточке заявлена поддержка английского, бирманского, индонезийского, филиппинского, малайского, тамильского, тайского и вьетнамского языков; метаданные также указывают китайский. Доступны интерфейсы чата и вызова инструментов. Модель распространяется по лицензии MIT. Разработчик предупреждает, что модель может галлюцинировать, давать нерелевантные или непоследовательные ответы и не проверялась на устойчивость к состязательным запросам. Она не проходила выравнивание по безопасности, поэтому перед использованием следует самостоятельно оценить риски и при необходимости провести дополнительную настройку.

google/gemma-3-12b-it-qat-q4_0-unquantized — мультимодальная модель Google из семейства Gemma 3, представленная в формате safetensors и основанная на Gemma 3 12B IT. Она принимает текст и изображения и генерирует текст; подходит для диалогов, ответов на вопросы по изображениям, суммаризации, генерации текстов и рассуждений. Контекстное окно семейства — до 128K токенов, поддерживается более 140 языков. Компактный для мультимодальной модели размер позволяет запускать её на локальных устройствах и в собственной облачной инфраструктуре. Модель можно применять в чат-ботах и помощниках, для извлечения и объяснения информации из изображений, подготовки кратких изложений и создания текстов. Как и другие генеративные модели, она может выдавать фактические ошибки, отражать смещения обучающих данных и хуже справляться с неоднозначными формулировками и сложными открытыми задачами. Лицензия — Gemma; использование регулируется условиями лицензии и политикой допустимого использования Google.

unsloth/GLM-5.2-GGUF — это GGUF-версия языковой модели GLM-5.2, подготовленная Unsloth на основе модели zai-org/GLM-5.2, разработанной командой GLM-5. Модель предназначена для генерации текста, решения сложных задач с длинным горизонтом планирования, программирования, агентской работы и использования инструментов. Заявлена поддержка английского и китайского языков. Модель рассчитана на контекст до 1 миллиона токенов и поддерживает несколько уровней интенсивности рассуждений, позволяя выбирать баланс между качеством и задержкой. В архитектуре используется IndexShare, повторно применяющий один индексатор для каждой группы из четырёх разреженных attention-слоёв и снижающий вычисления на токен при контексте в 1 миллион токенов. Улучшенный слой MTP предназначен для speculative decoding и, по данным README, увеличивает длину принимаемой последовательности до 20%. Представлена в формате GGUF с вариантами квантования, включая 1-bit UD-IQ1_M. Сильными сторонами являются работа с очень длинным контекстом, задачи программирования, математическое и общее рассуждение, а также сценарии агентской инженерии и взаимодействия с инструментами. Ограничения конкретной GGUF-версии, требования к памяти и производительность зависят от выбранного варианта квантования и используемого оборудования; подробные размеры модели в README не указаны. Модель распространяется по лицензии MIT.

Карточка модели unsloth/gemma-3-12b-it-qat на Hugging Face совпадает с карточкой Lightricks/gemma-3-12b-it-qat-q4_0-unquantized, поэтому описание составлено по ней. Lightricks публикует эту версию Gemma 3 — мультимодальную модель Google Gemma 3 12B IT с инструкционной настройкой, представленную в формате safetensors. Она принимает текст и изображения и генерирует текст; подходит для диалога, ответов на вопросы по изображениям, извлечения визуальной информации, суммаризации и других задач по текстовым инструкциям. Модель относится к семейству Gemma 3 с плотной архитектурой Gemma3ForConditionalGeneration и основана на google/gemma-3-12b-it. В карточке семейства указаны контекстное окно до 128 тысяч токенов и поддержка более 140 языков. Модель рассчитана на применение в чат-ботах, виртуальных помощниках, создании и редактировании текстов, а также для понимания изображений; её размер допускает локальное развёртывание на подходящем оборудовании. Качество ответов зависит от данных и формулировки запроса: возможны ошибки в фактах, предвзятость и трудности с нюансами языка и сложными задачами. Модель распространяется по лицензии Gemma. Для использования следует соблюдать условия этой лицензии и политику допустимого использования Gemma.

Gemma 3 4B PT — предварительно обученная мультимодальная модель Google из семейства Gemma, созданного на основе исследований и технологий Gemini. Она принимает текст и изображения и генерирует текст; открытые веса позволяют запускать её на ноутбуках, настольных компьютерах и собственной облачной инфраструктуре. Модель подходит для ответов на вопросы по тексту и изображениям, суммаризации, генерации текстов, диалоговых интерфейсов и извлечения сведений из изображений. Семейство Gemma 3 поддерживает контекст до 128 тысяч токенов и более 140 языков. Карточка описывает как предварительно обученные, так и настроенные на инструкции варианты семейства; этот репозиторий — вариант PT. Ответы могут содержать фактические ошибки и отражать смещения обучающих данных; модель может испытывать трудности с неоднозначностью, нюансами языка и сложными открытыми задачами. Лицензия — Gemma, с условиями использования Google Gemma.

Granite-3.0-3B-A800M-Base — базовая языковая модель IBM Granite Team для генерации текста и других задач преобразования текста. Это декодерный трансформер со sparse Mixture of Experts (MoE): в README указаны 32 слоя и размер эмбеддинга 1536. Модель обучена с нуля в два этапа на 8 трлн и затем 2 трлн токенов из открытых и проприетарных источников; репозиторий содержит веса в формате Safetensors, библиотека — Transformers. Метаданные указывают 352,3 млн параметров и контекст до 4096 токенов. Модель предназначена для суммаризации, классификации и извлечения информации, ответов на вопросы и других сценариев генерации текста; также её можно использовать как основу для специализированного дообучения. Поддерживаемые языки: английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский. Лицензия — Apache 2.0. Модель не проходила выравнивание по безопасности, поэтому может генерировать проблемный контент. Возможны предвзятость, дезинформация, галлюцинации и буквальное воспроизведение фрагментов обучающих данных.

DeepSeek-V3.2 — языковая модель, разработанная DeepSeek AI и представленная как дообученная версия DeepSeek-V3.2-Exp-Base. Модель ориентирована на эффективное рассуждение, работу с агентными сценариями и взаимодействие с инструментами, включая режим «thinking with tools». Она распространяется через Transformers и использует обновлённый формат чата с поддержкой вызова инструментов и рассуждений. Ключевой особенностью модели является механизм DeepSeek Sparse Attention (DSA), предназначенный для снижения вычислительной сложности при сохранении качества, особенно в задачах с длинным контекстом. Для обучения применялись масштабируемое reinforcement learning и pipeline синтеза данных для агентных задач. README заявляет высокие результаты в математических и программных соревнованиях, однако точные размер модели, длина контекста, поддерживаемые языки и набор модальностей не указаны. Для интеграции требуется учитывать, что релиз не содержит Jinja-шаблон chat template: разработчикам предлагается использовать скрипты из каталога encoding для кодирования сообщений в OpenAI-совместимом формате и разбора ответов. Указанная функция разбора рассчитана на корректно сформированные строки и не исправляет ошибки формата. Модель распространяется по лицензии MIT.

FastwebMIIA — языковая модель Fastweb с 7 млрд параметров на авторегрессионной архитектуре Transformer с декодером и RoPE. Она рассчитана прежде всего на итальянский язык и культурный контекст, также обучена на английском. Собственный токенизатор Fastweb оптимизирован для итальянского, английского и основных языков программирования; словарь содержит 50 000 токенов, контекстное окно — 16 тыс. токенов. Модель принимает текст и предназначена для диалоговой помощи, генерации контента, суммаризации и извлечения информации, в том числе из длинных документов и многоходовых бесед. По карточке, веса на Hugging Face доступны для некоммерческих исследований, образования и внутреннего применения; коммерческое использование требует отдельной коммерческой лицензии Fastweb. Ответы могут быть фактически неверными, неполными или предвзятыми, поэтому модель не следует считать авторитетным источником или заменой профессионального суждения. Для важных решений и применений с существенными рисками необходима проверка человеком.

RedHatAI/Qwen3.6-35B-A3B-FP8 — открытая FP8-квантованная версия модели Qwen3.6-35B-A3B, разработанной командой Qwen компании Alibaba Cloud и подготовленной Red Hat AI. Это авторегрессионная языковая модель с vision encoder, предназначенная для генерации текста, рассуждений, программирования, агентных сценариев и вызова инструментов. Модель использует архитектуру Mixture of Experts: 35 млрд параметров всего, около 3 млрд активируются при обработке запроса. Она содержит 40 слоёв, 256 экспертов, из которых выбираются 8 маршрутизируемых и 1 общий, а также сочетает Gated DeltaNet и Gated Attention. Нативная длина контекста составляет 262 144 токена и может быть расширена до 1 010 000 токенов. Поддерживаются текстовые и визуальные входы, однако конкретный набор языков в README не указан. Сильными сторонами модели заявлены агентное программирование, работа с frontend-задачами, рассуждение на уровне репозитория, сохранение контекста рассуждений и вызов инструментов. Квантование выполнено в формате fine-grained FP8 с размером блока 128; заявлена производительность, близкая к исходной модели. Вариант может быть предпочтителен на оборудовании, где вычислительные ресурсы превышают пропускную способность памяти. Для работы с vLLM требуются параметры reasoning-parser qwen3 и включение prefix caching; совместимость также заявлена с Transformers, SGLang и KTransformers. README не приводит подробных ограничений, полного набора языков или характеристик работы с изображениями. Модель распространяется по лицензии Apache-2.0. Артефакты проверены с RHOAI 3.5, RHAIIS 3.5 и vLLM 0.24.0.

Qwen3.8-2.4T-A95B — текстовая причинная языковая модель семейства Qwen, опубликованная в открытом виде. Она предназначена для генерации ответов и выполнения сложных многошаговых задач в программировании, профессиональной работе, исследованиях и агентных сценариях. Модель поддерживает чат и интерфейс вызова инструментов; README указывает совместимость формата Transformers с vLLM, SGLang и TokenSpeed. Архитектура — Mixture of Experts с 92 слоями и 512 экспертами: всего 2,4 трлн параметров, из которых активируется 95 млрд. Нативная длина контекста составляет 262 144 токена и может расширяться примерно до 1,01 млн. Модель принимает только текст; для всех взаимодействий требуется режим рассуждения, который нельзя отключить. Модель не поддерживает мультимодальные входы, а её языковая поддержка в предоставленных данных не перечислена. В метаданных указана лицензия «other», без конкретных условий использования; перед применением следует проверить лицензию на странице модели. README описывает постобученные веса и файлы конфигурации.

Карточка модели scalejade/qwen-sea-lion-v4.5-27b-it на Hugging Face совпадает с карточкой aisingapore/Qwen-SEA-LION-v4.5-27B-IT, поэтому описание составлено по ней. Qwen-SEA-LION-v4.5-27B-IT — мультимодальная инструктивная модель AI Singapore для языков Юго-Восточной Азии, дообученная на основе Qwen3.6-27B. Это плотная модель на 27 млрд параметров с гибридной архитектурой Linear и Full Attention и визуальным энкодером; она принимает текст и изображения и генерирует текст. Контекстное окно составляет 262 тыс. токенов. Модель прошла постобучение с дистилляцией и слиянием моделей на наборе SEA-Instruct-2602. Модель предназначена для многоязычного диалога, ответов на вопросы, перевода, суммаризации, рассуждений и работы с изображениями. В карточке заявлена поддержка английского, бирманского, индонезийского, филиппинского, малайского, тамильского, тайского и вьетнамского языков; метаданные также указывают китайский. Доступны интерфейсы чата и вызова инструментов. Модель распространяется по лицензии MIT. Разработчик предупреждает, что модель может галлюцинировать, давать нерелевантные или непоследовательные ответы и не проверялась на устойчивость к состязательным запросам. Она не проходила выравнивание по безопасности, поэтому перед использованием следует самостоятельно оценить риски и при необходимости провести дополнительную настройку.

Карточка модели CollectionStudio/Trinity-Large-Preview на Hugging Face совпадает с карточкой arcee-ai/Trinity-Large-Preview, поэтому описание составлено по ней. Trinity-Large-Preview — разговорная модель Arcee AI на архитектуре разреженного Mixture-of-Experts (MoE), созданная на основе Trinity-Large-Base и прошедшая лёгкое дообучение для диалога. В README указано около 398 млрд параметров всего и примерно 13 млрд активных параметров на токен; метаданные каталога приводят размер 8,7 млрд параметров. Модель обучалась на более чем 17 трлн токенов, а этап настройки инструкций охватил 20 млрд токенов. Контекст составляет до 262 144 токенов. Модель предназначена для генерации текста и диалогов, в том числе с использованием интерфейса вызова инструментов. Заявлена поддержка английского, испанского, французского, немецкого, итальянского, португальского, русского, арабского, хинди, корейского и китайского языков. Доступны варианты запуска через Transformers, vLLM, llama.cpp, LM Studio и API. Карточка приводит неоднозначные результаты бенчмарков: модель выше Llama 4 Maverick на MMLU, но ниже на MMLU-Pro и GPQA-Diamond. Это preview-чекпойнт, который проходит активное обучение с подкреплением, поэтому качество может меняться. Указана лицензия other; конкретные условия использования следует проверять в репозитории модели.

Lightricks публикует эту версию Gemma 3 — мультимодальную модель Google Gemma 3 12B IT с инструкционной настройкой, представленную в формате safetensors. Она принимает текст и изображения и генерирует текст; подходит для диалога, ответов на вопросы по изображениям, извлечения визуальной информации, суммаризации и других задач по текстовым инструкциям. Модель относится к семейству Gemma 3 с плотной архитектурой Gemma3ForConditionalGeneration и основана на google/gemma-3-12b-it. В карточке семейства указаны контекстное окно до 128 тысяч токенов и поддержка более 140 языков. Модель рассчитана на применение в чат-ботах, виртуальных помощниках, создании и редактировании текстов, а также для понимания изображений; её размер допускает локальное развёртывание на подходящем оборудовании. Качество ответов зависит от данных и формулировки запроса: возможны ошибки в фактах, предвзятость и трудности с нюансами языка и сложными задачами. Модель распространяется по лицензии Gemma. Для использования следует соблюдать условия этой лицензии и политику допустимого использования Gemma.

Linkbricks-Horizon-AI-Avengers-V2-78B — многоязычная разговорная языковая модель, дообученная специалистом компании Linkbricks на базе MaziyarPanahi/calme-3.2-instruct-78b. Это плотная модель семейства Qwen2 с 76,7 млрд параметров и контекстом 32 768 токенов; репозиторий содержит веса Safetensors для Transformers. В README описаны этапы SFT, DPO, ORPO и слияния моделей, а также поддержка вызова функций и инструментов. Модель предназначена для генерации текста и диалогов, анализа отзывов клиентов и публикаций в социальных сетях, написания текстов и кода, решения математических и логических задач. Обучение включало многоязычные новостные и wiki-корпуса, а также данные для задач на корейском, японском, китайском и английском языках, включая переводы, суммаризацию и вопросы-ответы. По данным карточки, лицензия — Apache-2.0. Карточка описывает заявленные возможности, но не приводит результатов независимых оценок качества. Размер модели требует значительных вычислительных ресурсов для запуска; поддержка конкретных языков и сценариев может различаться по качеству.

Linkbricks-Horizon-AI-Japanese-Avengers-V3-70B — дообученная языковая модель компании Linkbricks, созданная дата-сайентистом Юнсоном Джи (Saxo) на основе Saxo/Linkbricks-Horizon-AI-Japanese-Avengers-V2-70B. Это плотная авторегрессионная модель семейства Llama с 69,5 млрд параметров и контекстом до 131 072 токенов; веса опубликованы в формате Safetensors по лицензии Apache 2.0. Модель обучали на японских новостях и Википедии, а также на многоязычных данных и примерах для перевода, суммаризации, вопросов и ответов, анализа тональности, математики и логических задач. Она предназначена для диалогов и генерации текста, включая написание и редактирование, анализ отзывов и публикаций в социальных сетях, программирование и сложные рассуждения. Поддерживается интерфейс вызова инструментов. Заявленная языковая направленность — японский, корейский, китайский и английский; метаданные карточки подтверждают корейский и английский, а README описывает обучение на четырех языках. Возможное качество ответов и работы с каждым языком отдельно не приведено. Большой размер модели требует значительных вычислительных ресурсов.

MiniCPM5-2B-GPTQ — GPTQ-квантованная версия MiniCPM5-2B, разработанная OpenBMB. Это плотная Transformer-модель на 2 млрд параметров для генерации текста, локального и on-device-развертывания, а также сценариев с ограниченными ресурсами. Модель ориентирована на английский и китайский языки и интегрируется с библиотекой Transformers. Модель предназначена для следования инструкциям, программирования, математических рассуждений, работы с длинным контекстом, использования инструментов и агентских задач. Заявлена конкурентоспособность с моделями класса 4B, а среди моделей сопоставимого размера отмечаются сильные результаты в коде, математике, long-context, tool use и agentic-сценариях. Поддерживаемая модальность — текст; максимальный размер контекста в предоставленных данных не указан. Ключевое преимущество — сочетание компактного размера, возможностей для локального запуска и высокой производительности в ряде прикладных задач. Ограничения включают меньший размер по сравнению с крупными моделями и отсутствие сведений о точных требованиях к памяти, форматах квантования и результатах независимого тестирования. Модель распространяется по лицензии Apache-2.0.

OpenJAI-v1.0-14B — открытая языковая модель Jasmine Technology Solution (JTS), дообученная на базе Qwen/Qwen3-14B для работы на тайском и английском языках. Это плотная трансформерная модель с 14 млрд параметров для диалогов и генерации текста; опубликована в формате Safetensors и использует библиотеку Transformers. Модель предназначена для следования сложным инструкциям, работы с длинными текстами и вызова инструментов или функций. Разработчики сообщают об улучшении результатов относительно базовой модели и других сопоставимых открытых тайских моделей на ряде тестов, сохраняя основные знания Qwen3. Заявлена поддержка контекстов до 120 000 токенов при расширении контекста; штатное окно — 32 768 токенов, а конфигурация модели задаёт 40 960 позиций. Для длинных входов требуются методы масштабирования RoPE, например YaRN; постоянное масштабирование может ухудшать результаты на коротких текстах. Лицензия — Apache-2.0.

Qwen3.5 Plus (April 2026) — крупная мультимодальная языковая модель Alibaba. Она принимает текст, изображения и видео и формирует текстовые ответы. Заявленное окно контекста составляет 1 млн токенов. Модель предназначена для диалогов и работы с визуальным содержимым, включая анализ изображений и видео. В доступных данных не раскрыты архитектура, число параметров, поддерживаемые языки и условия лицензии, поэтому эти характеристики не указаны.

Saxo из Linkbricks дообучил эту плотную авторегрессионную модель на базе Meta Llama 3.3 70B Instruct: обучение включало японскую адаптацию CPT, SFT и DPO. Для обучения использовались японские новостные и вики-корпуса, а также многоязычные данные и примеры для разных задач. Модель рассчитана на диалог и генерацию текста, включая анализ отзывов и публикаций в соцсетях, написание текстов и кода, математические и логические задачи; заявлена поддержка вызова функций и инструментов. Модель принимает текст и поддерживает контекст до 128 тысяч токенов. README заявляет усиленную работу с японским, корейским, китайским и английским языками; метаданные подтверждают японский и корейский среди языков карточки, а также английский. Модель опубликована в формате Safetensors под лицензией Apache-2.0. Размер базовой модели — 69,5 млрд параметров.

NuExtract3-GGUF — квантизированная версия NuExtract3, разработанная компанией NuMind. Это мультимодальная vision-language модель с архитектурой на 4 млрд параметров, предназначенная для понимания документов, структурированного извлечения информации и преобразования изображений документов в Markdown. Модель принимает текст, изображения или их сочетание. Для структурированного извлечения она использует JSON-шаблон и инструкции, возвращая данные в формате JSON; также поддерживает генерацию шаблонов из естественного языка или содержимого документа. NuExtract3 подходит для OCR и подготовки данных для RAG, обработки сканов, чеков, форм, счетов, договоров, таблиц и других документов. Заявлена поддержка многоязычных документов, режимов вывода с рассуждением и без него, а также больших входных и выходных контекстов. К сильным сторонам относятся объединение визуального анализа, OCR, рассуждений и структурированного извлечения в одной модели, а также возможность преобразования сложных документов в Markdown с HTML для таблиц, LaTeX для математических выражений и описаниями изображений. Внутренний бенчмарк NuMind показал средний результат 0,651 для варианта NuExtract3.4_4B-RL на наборе примерно из 600 документов, однако часть ответов не была корректно десериализуема в JSON, а производительность может снижаться на особенно больших или сложных заданиях. Модель распространяется по лицензии Apache-2.0. Данный репозиторий содержит квантизированный вариант базовой модели NuMind/NuExtract3; конкретные параметры квантизации и точное максимальное окно контекста в карточке не указаны.

Это 4-битная версия Hermes 3 на базе Llama 3.1 8B, преобразованная сообществом mlx-community из NousResearch/Hermes-3-Llama-3.1-8B в формат MLX с помощью mlx-lm 0.16.1. Модель представляет собой плотную авторегрессионную LlamaForCausalLM с примерно 7,5 млрд параметров и контекстом до 131 072 токенов. Она предназначена для диалоговой генерации текста и следования инструкциям; в метаданных также отмечены чат и function calling. Репозиторий ориентирован на запуск через mlx-lm. Карточка указывает английский язык и лицензию Llama 3. Использование 4-битного представления уменьшает требования к памяти, но может влиять на точность по сравнению с исходными весами.

VAGO solutions Llama-3.1-SauerkrautLM-70b-Instruct — плотная языковая модель семейства Llama 3.1 с 69,5 млрд параметров, созданная VAGO solutions дообучением Meta-Llama-3.1-70B-Instruct. Для Spectrum Fine-Tuning обучали 15% слоёв на немецко-английском наборе Sauerkraut Mix v2; авторы сообщают об улучшениях за счёт межъязыкового переноса также для арабского, итальянского, французского, испанского, нидерландского и португальского языков. Модель предназначена для диалогов и генерации текста на этих языках, включая задачи с длинным контекстом до 131 072 токенов и сценарии с интерфейсом вызова инструментов. В карточке заявлено улучшение многоязычных навыков и приведены названия наборов для оценки, включая MMLU-Multilingual, но численные результаты не указаны. Репозиторий содержит веса в формате Safetensors. Лицензия — llama3.1. Авторы предупреждают, что модель может выдавать неподходящий или некорректный контент; результаты бенчмарков и стабильность поведения следует проверять для конкретных задач.

Megalodon-OCR-Sync-0713-AIO-GGUF — мультимодальная модель, разработанная prithivMLmods. Это GGUF-версия Megalodon-OCR-Sync-0713, дообученной на базе Qwen2.5-VL-3B-Instruct. Модель предназначена для обработки изображений и текста, включая OCR, извлечение и анализ содержимого документов, а также работу с визуальными данными. Модель ориентирована на поиск и извлечение информации из документов разных типов и форматов, распознавание структурированных и неструктурированных данных, таблиц, графиков, математических выражений и других визуальных представлений. Она поддерживает контекстный анализ сложных и длинных документов, форматирование результатов в LaTeX, мультиязычный анализ, визуальное позиционирование объектов для управления устройствами и понимание видео длительностью более 20 минут. Заявлены английский и китайский языки. Объём контекста в README не указан. Доступны варианты квантования GGUF от F16 размером 6,18 ГБ до компактных вариантов менее 1 ГБ, что позволяет выбирать баланс между качеством и требованиями к ресурсам. Сильными сторонами являются специализация на OCR и документах, работа с разнообразными визуальными структурами и применимость в образовательных и корпоративных сценариях. Ограничениями являются значительные требования к вычислительным ресурсам, а также возможное снижение качества на изображениях низкого качества и при работе с редкими языками. Лицензия — Apache 2.0.

DeepSeek-R1-Distill-Qwen-14B-bnb-4bit — дистиллированная языковая модель, разработанная командой DeepSeek на основе DeepSeek-R1 и базовой архитектуры Qwen объёмом 14 млрд параметров. Данная версия подготовлена и опубликована Unsloth в 4-битном формате bnb для использования с Transformers. Модель предназначена для задач рассуждения, решения математических задач, генерации и анализа кода, а также других сценариев, требующих многошагового вывода. Дистилляция использует reasoning-поведение DeepSeek-R1, включая самопроверку, рефлексию и развернутые цепочки рассуждений. В метаданных README указан английский язык; сведения о поддержке других языков, размере контекста и мультимодальности не приведены. Ключевое преимущество версии — сниженные требования к памяти благодаря 4-битному представлению, что упрощает локальный запуск по сравнению с полноразмерной моделью. Ограничения включают возможное снижение точности из-за квантования и отсутствие в README подробных данных о бенчмарках, контекстном окне и требованиях к оборудованию. Модель распространяется по лицензии Apache 2.0.

HauhauCS/Gemma4-26B-A4B-QAT-Uncensored-HauhauCS-Balanced-MTP — мультимодальная версия Gemma 4, разработанная HauhauCS на основе Gemma 4 26B-A4B-it от Google DeepMind. Модель предназначена для агентного программирования, рассуждений, творческого письма, ролевого общения, диалогов и задач, где важны следование инструкциям и надежность. Вариант позиционируется как uncensored и оптимизирован для минимизации отказов при сохранении исходных возможностей базовой модели. Модель использует MoE-архитектуру размером 26B параметров: из 128 экспертов для каждого токена активны 8. Поддерживается контекст до 256K токенов, английский язык и обработка изображений через отдельный vision mmproj-компонент. Распространяется в формате GGUF с 4-битной квантизацией Q4_K_M; основной файл занимает около 16,8 ГБ, vision-компонент — 1,2 ГБ. В комплект входит MTP-драфтер для speculative decoding, который в тестах автора ускорял генерацию примерно на 35% без заявленного изменения качества. К сильным сторонам относятся большой контекст, поддержка изображений, высокая эффективность MoE и ориентация на программирование, рассуждения и творческие задачи. Работа MTP и заявленное ускорение проверялись автором в llama.cpp; модель совместима с llama.cpp, LM Studio, Jan, koboldcpp и другими GGUF-рантаймами. Ограничения включают зависимость vision-возможностей от отдельного mmproj-файла, возможные сбои Gemma 4 в LM Studio при multi-GPU tensor-split, а также то, что отсутствие отказов не гарантируется для всех пограничных запросов. Лицензия указана как Gemma. Для запуска рекомендуется использовать параметры temperature 0.6, top_k 64, top_p 0.9, min_p 0.05 и repeat_penalty 1.1.

Qwen2.5-VL-3B-Instruct — мультимодальная модель семейства Qwen от Alibaba, дообученная для работы по инструкциям. Она сочетает языковую модель с визуальным энкодером и принимает текст вместе с изображениями или видеокадрами, отвечая текстом. Модель рассчитана на диалоговые сценарии: распознавание объектов и текста на изображениях, анализ диаграмм и макетов, понимание видео и поиск нужных временных отрезков, локализация объектов с координатами, а также формирование структурированных данных из сканов и таблиц. Модель содержит 3,1 млрд параметров, использует архитектуру Qwen2.5-VL и библиотеку Transformers. Метаданные указывают контекст до 128 000 токенов; в README базовая конфигурация описана как 32 768 токенов с возможностью расширения через YaRN, которое может ухудшать точность пространственной и временной локализации. Поддерживаются английский язык и визуальные сценарии, включая изображения и видео; авторы также описывают управление инструментами, компьютером и телефоном. Лицензия в предоставленных данных не указана.

txn545/Qwen3.5-35B-A3B-NVFP4 — квантизированная версия авторегрессионной языковой модели Qwen3.5-35B-A3B, разработанной Alibaba. Квантизация выполнена с помощью NVIDIA Model Optimizer до формата NVFP4; модель предназначена для текстового ввода и генерации текста. Модель рассчитана на разработчиков, которым нужны готовые к развертыванию решения для AI Agent-систем, чат-ботов, RAG-систем и других приложений на базе ИИ. Она использует трансформерную архитектуру Qwen3.5-35B-A3B с 35 млрд параметров, из которых активируется 3 млрд, и поддерживает контекст до 262K токенов. Указанные сценарии инференса ориентированы на NVIDIA GPU, в частности архитектуру Blackwell, Linux и движок SGLang. Ключевое преимущество модели — предварительная NVFP4-квантизация весов и активаций линейных операторов в MoE-блоках, что предназначено для эффективного инференса на совместимом оборудовании. Ограничения включают зависимость от NVIDIA GPU и совместимой версии SGLang, а также возможные неточности, токсичные ответы и усиление предубеждений, унаследованных от обучающих данных базовой модели. Модель распространяется по лицензии Apache 2.0 и допускает коммерческое и некоммерческое использование с учетом требований базовой модели.