I.1Поиск и навигация по информации

Qwen3.8-27B-heretic-ara-Q4_K_M-MTP-GGUF — квантизированная GGUF-версия модели trohrbaugh/Qwen3.8-27B-heretic-ara, подготовленная cygnal. Модель основана на Qwen3.8-27B и распространяется с сохранёнными тензорами MTP (Multi-Token Prediction) для ускоренного декодирования, а также с отдельным vision-проектором mmproj для обработки изображений. В карточке заявлены поддержка английского и китайского языков и мультимодальный сценарий image-text-to-text. Модель предназначена для диалогов, генерации и анализа текста, программирования, технических задач, извлечения структурированных данных и понимания изображений. Основной файл Q4_K_M имеет размер около 16 ГБ и использует квантизацию с 4,83 битами на вес. Для запуска рекомендован llama.cpp; заявлена поддержка контекста до 32768 токенов в типовой конфигурации. MTP может заметно повысить скорость генерации, особенно на совместимом оборудовании AMD Strix Halo, однако для запросов с изображениями в ROCmFPX его необходимо отключать из-за ограничений реализации. Сильными сторонами являются сочетание текстовых и визуальных возможностей, наличие MTP, поддержка OpenAI-совместимого API и несколько вариантов запуска для стандартного llama.cpp и ROCmFPX. Ограничения включают высокие требования к памяти, зависимость производительности от оборудования и backend, а также необходимость отдельного mmproj-файла для изображений. Исходная модель описана как uncensored-версия с изменённым поведением отказов, поэтому её ответы требуют дополнительной проверки и настройки мер безопасности. Лицензия — Apache-2.0.

ByteOtter/Qwen3.8-27B-TAK-Reasoning-GGUF — квантованная версия Qwen3.8-27B, разработанная ByteOtter на основе модели Qwen/Qwen3.8-27B. Это текстовая генеративная модель в формате GGUF для запуска через llama.cpp. Дообучение и слияние моделей не применялись: изменена только точность представления весов с использованием task-aware quantization (TAK), ориентированной на задачи рассуждения. Модель предназначена прежде всего для задач, требующих логического анализа и пошагового рассуждения, а также может применяться для генерации текста, ответов на вопросы, работы с кодом, математикой, извлечения и структурирования информации. Размер файла составляет 8,372 ГБ, используется смешанная точность с целевым форматом UD-IQ2_S. В опубликованной оценке модель набрала 82,81% в категории reasoning, превысив сопоставимую квантованную версию Unsloth на 5,47 процентного пункта и немного уступив исходной BF16-модели с результатом 83,59%. Сильной стороной является сохранение высокой способности к рассуждению при существенно меньшем размере по сравнению с BF16-версией, а также улучшенные относительно компаратора показатели по математике, следованию инструкциям, суммаризации, структурированному выводу и связности. Ограничения включают возможное изменение качества, стабильности и точности из-за квантования; результаты на диагностических наборах не следует считать универсальными гарантиями. Модель содержит только текстовый GGUF и не включает мультимодальный проектор. Языки и размер контекстного окна в README не указаны, поэтому их следует уточнять в карточке базовой модели. Производитель рекомендует использовать свежую сборку llama.cpp. Производная распространяется по лицензии Apache License 2.0 в соответствии с лицензией базовой модели.

ZYR3.1MoE (ZV1.1MeO) — текстовая генеративная модель с многоагентной архитектурой и маршрутизацией Mixture-of-Experts. В README разработчик явно не указан; модель опубликована под идентификатором zyr-AGENT/ZYR3.1MoE. Это объединённая самостоятельная версия с весами, токенизатором и chat template, без необходимости загружать отдельные адаптеры или компоненты. Размер весов составляет около 18 ГБ в пяти safetensors-фрагментах. Модель предназначена для сложных рабочих запросов: планирования, декомпозиции задач, программирования, математических рассуждений, исследования, проверки фактов, критики, обзора, оптимизации и координации компьютерных операций. Её поведение имитирует работу оркестрационной команды из 11 специализированных агентов, которыми управляют уровни ATP, ACN и MeO. Простые вопросы обрабатываются напрямую, а практические запросы могут запускать цикл планирования, распределения ролей и проверки результата. Ключевая особенность — обученное многоагентное поведение поверх одной объединённой модели; ATP и ACN являются внешними runtime-компонентами, а не отдельными нейронными весами. README не указывает точный размер базовой модели, максимальную длину контекста, поддерживаемые языки или мультимодальные возможности, поэтому подтверждённой является только работа с текстовой генерацией. Сгенерированные моделью отчёты о тестах могут быть симулированными и не заменяют реальные внешние результаты выполнения. Для надёжной работы рекомендуется GPU с объёмом памяти от 24 ГБ; поддержка 4-битной квантизации для гибридной архитектуры не гарантируется. Лицензия обозначена как other, но её конкретные условия в README не приведены.

Mungert/Apriel-1.6-15b-Thinker-GGUF — GGUF-версия мультимодальной модели Apriel-1.6-15B-Thinker, разработанной ServiceNow в рамках серии Apriel SLM. Модель предназначена для рассуждений по тексту и изображениям, диалоговых приложений, следования инструкциям, работы с функциями и инструментами, а также корпоративных сценариев, включая телекоммуникации, розничную торговлю и авиаперевозки. Модель содержит около 15 млрд параметров и поддерживает текстово-изображённые входы. GGUF-файлы созданы с использованием llama.cpp; в процессе квантования для отдельных важных слоёв применялось повышение точности сверх стандартной конфигурации IMatrix, что должно улучшать качество при заданном уровне квантования, хотя увеличивает размер файла. Заявлены более эффективное расходование токенов рассуждений по сравнению с Apriel-1.5-15B-Thinker, конкурентоспособные результаты на ряде бенчмарков и возможность запуска на одной GPU. Для вызовов инструментов предусмотрены специальные токены, включая <tool_calls> и </tool_calls>. Сильные стороны модели — сочетание мультимодального reasoning, относительно небольшого размера, эффективности по памяти и поддержки сценариев function calling. Ограничения конкретного GGUF-файла зависят от выбранного уровня квантования: снижение точности может влиять на качество, а повышенная точность отдельных слоёв увеличивает размер модели. В представленных данных не указаны контекстное окно, языки, точные требования к памяти и полный перечень ограничений базовой модели. Лицензия — MIT.

DeepSeek-V3.1-Base — базовая языковая модель, разработанная DeepSeek AI. Она предназначена как основа для последующего дообучения и создания прикладных версий, включая варианты с режимами рассуждения и без рассуждения, поддержкой вызова инструментов и агентскими сценариями. Модель ориентирована на обработку длинного контекста и сложных текстовых запросов. Модель построена на архитектуре Mixture-of-Experts: общий размер составляет 671 млрд параметров, из которых для одного токена активируется 37 млрд. Максимальная длина контекста — 128K токенов. В README не указаны точный набор поддерживаемых языков и мультимодальные возможности, поэтому подтверждённо описать её можно только как текстовую языковую модель. Для обучения использовалось расширение длинного контекста в два этапа, а веса и активации представлены в формате UE8M0 FP8. К сильным сторонам относятся большой контекст, высокая вычислительная ёмкость при меньшем числе активируемых параметров и пригодность в качестве базы для специализированного дообучения. Ограничения включают очень высокие требования к ресурсам для развёртывания и отсутствие в предоставленных данных подробных результатов оценки, перечня языков и описания мультимодальности. Модель распространяется по лицензии MIT.

GLM-4.6V-Flash-GGUF — мультимодальная модель семейства GLM-V, разработанная Z.ai (zai-org) и представленная в формате GGUF компанией Unsloth. Это облегчённая версия GLM-4.6V с 9 млрд параметров, ориентированная на локальное развёртывание и приложения с низкой задержкой. Модель поддерживает китайский и английский языки, работает с текстом и изображениями, а также предназначена для обработки скриншотов, страниц документов, таблиц, графиков и других визуальных данных. Модель рассчитана на визуальное понимание, мультимодальное рассуждение, анализ длинных и сложных документов, распознавание структуры и содержимого изображений, а также на сценарии мультимодальных агентов. Она поддерживает контекст до 128K токенов, нативный Function Calling с передачей изображений и документов инструментам, интерливинг текстового и визуального контента, генерацию HTML/CSS по скриншотам интерфейсов и визуальное редактирование по инструкциям на естественном языке. К сильным сторонам относятся сочетание визуального восприятия, рассуждения и вызова инструментов, поддержка длинного мультимодального контекста и оптимизация для локального использования. Ограничения включают меньший размер и, вероятно, более ограниченные возможности по сравнению с облачной версией GLM-4.6V на 106 млрд параметров; конкретные требования к оборудованию и характеристики квантования для данного GGUF в README не указаны. Лицензия модели — MIT.

GLM-5.3-Flash — мультимодальная языковая модель, размещённая и поддерживаемая AMAImedia в составе платформы автоматизации профессионального мультиязычного дубляжа NOESIS. В README также указано имя основателя AMAImedia Ильи Болотникова. Модель относится к серии GLM-5 и выпущена 27 августа 2026 года. Модель предназначена для задач генерации текста, программирования, работы с агентами, обработки длинного контекста и мультимодальных сценариев с изображениями. Заявлена поддержка английского и китайского языков. GLM-5.3-Flash имеет 320 млрд общих параметров, из которых 18 млрд активируются при обработке запроса, что ориентировано на повышение эффективности. Архитектура сочетает разреженное и линейное внимание, Manifold-Constrained Hyper-Connections (mHC), а обучение проводилось на мультимодальном корпусе. Модель можно запускать локально через Transformers, vLLM, SGLang, TokenSpeed и KTransformers; для развёртывания рекомендуются bfloat16 или поддерживаемые фреймворком квантованные варианты. В README указана лицензия MIT. К ограничениям относятся высокая вычислительная требовательность из-за общего размера модели, необходимость уточнять совместимость версий библиотек, требования к видеопамяти, конфигурацию tensor parallelism и фактически поддерживаемую длину контекста. Заявлены контекстные режимы до 131 072 токенов в примере развёртывания, а в отдельных оценках использовались контексты до 300 000 и 1 000 000 токенов, но это не следует считать гарантированной рабочей конфигурацией для всех сценариев.

GLM-5.3-Flash — мультимодальная модель семейства GLM-5, разработанная командой GLM-5 и представленная Z.ai. Она предназначена для генерации текста, программирования, агентских сценариев, работы с инструментами и задачами, требующими обработки изображений и текста. Модель доступна для локального развёртывания и может использоваться через API-платформу Z.ai. Модель содержит 320 млрд общих параметров, из которых 18 млрд активируются при обработке запроса. Она использует гибридную архитектуру с разреженным и линейным вниманием, а также Manifold-Constrained Hyper-Connections (mHC), что направлено на снижение стоимости обслуживания длинного контекста при сохранении точности. Обучение проводилось на мультимодальном корпусе объёмом 30 трлн токенов. Заявлена поддержка английского и китайского языков; README также указывает нативную мультимодальность, но не уточняет полный перечень поддерживаемых типов входных данных и максимальный размер контекста. К сильным сторонам относятся высокая эффективность за счёт малого числа активных параметров, возможности работы с длинным контекстом, мультимодальность и производительность в задачах программирования и агентского взаимодействия. Ограничения, включая требования к аппаратному обеспечению, фактическое качество на отдельных задачах и особенности варианта NVFP4-Spark, в README не описаны. Указана лицензия MIT.

GPT-5.1 — модель серии GPT-5, представленная как модель передового уровня общего назначения. В карточке отмечены улучшенные по сравнению с GPT-5 рассуждения, следование инструкциям и естественность диалога. Модель использует адаптивное рассуждение. Она предназначена для диалогов и решения разнообразных задач, где требуются рассуждения и точное выполнение инструкций. Данных о размере, поддерживаемых языках, модальностях, длине контекста и условиях лицензии в предоставленных источниках нет.

Hunyuan-A13B-Pretrain — базовая большая языковая модель Tencent на архитектуре Mixture of Experts (MoE), предназначенная для генерации текста, рассуждений и общих языковых задач. В README для семейства Hunyuan-A13B указано 80 млрд параметров всего и 13 млрд активных параметров; метаданные именно этого репозитория указывают 3,1 млрд параметров. Карточка также описывает режимы быстрого и пошагового рассуждения, Grouped Query Attention и поддержку длинного контекста, но приводит для семейства 256 тыс. токенов, тогда как метаданные репозитория указывают нативный контекст 32 768 токенов. Модель подходит для диалоговых приложений, генерации и продолжения текста, решения задач на рассуждение, математику и код, а также для агентных сценариев с вызовом инструментов. Репозиторий содержит веса safetensors и рассчитан на работу через Transformers; для сервинга README также упоминает TensorRT-LLM, vLLM и SGLang. В README упоминаются возможности семейства и результаты варианта Instruct, которые не следует считать подтверждёнными оценками именно этого pretrain-чекпойнта. Лицензия указана как other; README ссылается на LICENSE, но конкретные условия в предоставленных данных не раскрыты.

Карточка модели Merlinoz11/Hy3-Apex-GGUF на Hugging Face совпадает с карточкой tencent/Hy3, поэтому описание составлено по ней. Hy3 — разговорная модель с открытыми весами, разработанная командой Tencent Hy. Это MoE-модель для генерации текста; карточка Hugging Face описывает вариант репозитория как модель на 16,6 млрд параметров, а README — семейство Hy3 как модель на 295 млрд параметров с 21 млрд активных параметров и 3,8 млрд параметров MTP-слоя. Модель предназначена для рассуждений, работы с длинным контекстом, вызова инструментов и задач продуктивности, включая программирование, офисную работу, финансовое моделирование, фронтенд-разработку и создание игр. В метаданных указан контекст 262 144 токена, поддержка чата и формат Safetensors. Разработчик сообщает об улучшениях надёжности вызова инструментов, следования форматам, удержания контекста и снижения галлюцинаций по внутренним оценкам. README рекомендует серверный запуск через vLLM или SGLang и отмечает значительные требования к памяти: для полного варианта предлагается конфигурация из восьми GPU H20-3e или устройств с сопоставимой памятью. Лицензия — Apache-2.0. Языки в источниках не установлены.

JoyAI-LLM Flash — инструктивная языковая модель среднего размера от jdopensource для диалогов, рассуждений, программирования и работы с инструментами. В карточке описаны предварительное обучение на 20 триллионах текстовых токенов, supervised fine-tuning, DPO и обучение с подкреплением в разных средах. Модель использует архитектуру Mixture-of-Experts: в README указаны 48 млрд параметров всего и 3 млрд активируемых параметров; метаданные Hugging Face сообщают 2,7 млрд параметров и класс DeepseekV3ForCausalLM. Эти сведения о размере расходятся. Модель рассчитана на генерацию текста в формате чата, решение задач на рассуждение и код, а также агентные сценарии с вызовом инструментов. README заявляет поддержку контекста до 131 072 токенов согласно метаданным. Указаны китайский и английский языки. Репозиторий содержит веса Safetensors для Transformers. README описывает доступ через API и совместимые с OpenAI и Anthropic интерфейсы; конкретные условия лицензии в предоставленных данных отсутствуют.

Linkbricks-Horizon-AI-Japanese-Avengers-V2-70B — плотная языковая модель семейства Llama на 69,5 млрд параметров, созданная Саксо (Джи Юнсоном), специалистом по данным компании Linkbricks. Это дообучение версии V1-70B: модель прошла японское CPT, SFT и DPO и использует исходный токенизатор базовой модели. Для обучения применялись японские новостные и вики-корпуса, а также данные для задач на японском, корейском, китайском и английском языках. Модель предназначена для генерации текста и диалогов, включая анализ отзывов и публикаций в соцсетях, написание текстов и кода, перевод, суммаризацию, математические и логические задачи. Поддерживает вызов инструментов и контекст до 131 072 токенов. Доступна в формате Safetensors через Transformers; лицензия — Apache-2.0. Качество ответов и вызова инструментов может зависеть от формулировки запроса. Карточка не приводит результатов стандартизированных оценок качества.

aifeifei798/Meta-Llama-3.1-8B-Instruct — мультиязычная инструктивная языковая модель, разработанная Meta на архитектуре Llama 3.1. Это авторегрессионный трансформер с 7,5 млрд параметров и механизмом Grouped-Query Attention; репозиторий содержит веса в формате safetensors. Модель принимает и генерирует текст, настроена на диалог с помощью дообучения по инструкциям и обучения с обратной связью от людей. Контекстное окно — до 131 072 токенов. Модель предназначена для диалоговых помощников, ответов на запросы и других задач генерации текста. В карточке заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков; метаданные также включают китайский, корейский и японский. Возможен интерфейс вызова инструментов, но его интеграцию и безопасность должен обеспечивать разработчик приложения. Условия использования определяет пользовательская лицензия Meta Llama 3.1 Community License; действуют её ограничения и Acceptable Use Policy.

Nanbeige4.2-3B — компактная языковая модель Nanbeige Lab на 3,2 млрд параметров, дообученная на базе Nanbeige/Nanbeige4.2-3B-Base для диалогов и агентных сценариев. Она использует плотную Looped Transformer архитектуру, повторно применяющую слои трансформера для увеличения эффективной ёмкости без добавления параметров. Модель поддерживает контекст до 262 144 токенов и доступна в формате safetensors для Transformers; лицензия — Apache 2.0. Модель предназначена для генерации текста, рассуждений, работы с инструментами и многошаговых задач общего назначения. Среди заявленных сценариев — программирование и задачи кодовых агентов, офисные процессы, математические и научные рассуждения, а также локальный персональный ассистент при интеграции с подходящей агентной средой. Карточка описывает обучение с учителем и обучение с подкреплением с оценкой результата и процесса. Заявленные языки — английский и китайский. Модель поддерживает чат и интерфейс вызова инструментов; сама по себе она генерирует текст, а выполнение действий зависит от внешней агентной оболочки и подключённых инструментов. Показатели из карточки основаны на бенчмарках и конкретных средах оценки, поэтому не гарантируют аналогичного качества во всех приложениях.

Qwen2.5-7B-Instruct-1M-heretic — это модифицированная версия Qwen2.5-7B-Instruct-1M, разработанная автором репозитория saidutta69 с использованием Heretic v1.4.0. Модель предназначена для генерации текста, диалогов, ролевых сценариев, программирования, анализа длинных документов и рассуждений по большим контекстам, включая анализ целых кодовых баз. Она ориентирована на локальный запуск разработчиками и пользователями потребительских GPU. Модель относится к семейству Qwen 2.5, имеет около 7 млрд параметров и поддерживает контекст до 1 млн токенов. Это instruction-tuned текстовая авторегрессионная модель; заявленный язык — английский. Доступны веса BF16 и квантованные варианты GGUF Q4_K_M, Q5_K_M, Q6_K и Q8_0, что позволяет запускать её на GPU с 8–24 ГБ памяти, а также на CPU и Apple Silicon при наличии достаточного объёма оперативной памяти. Модификация выполнена методом directional ablation, или abliteration: целевые изменения весов attention output и MLP down-projections подавляют поведение, связанное с отказами, без дообучения. Сильной стороной модели являются большой контекст, возможность локального запуска и сохранение большей части знаний и возможностей базовой модели после модификации. При этом подавление отказов является осознанным ограничением безопасности: модель может выполнять запросы, которые исходная версия отклоняла, в том числе потенциально опасные, и не содержит дополнительной фильтрации. Поэтому её не рекомендуется использовать за незащищённым публичным интерфейсом без собственной модерации. Модель распространяется по лицензии other, унаследованной от базовой Qwen2.5-7B-Instruct-1M.

YOYO-AI/Qwen3-30B-A3B-YOYO-V6 — объединённая модель YOYO-AI, созданная методом YOYO-Fusion V2 с фиксированной опорной точкой на базе instruction-модели. В слиянии использованы Qwen3-30B-A3B-Base, Qwen3-30B-A3B-Instruct-2507, Qwen3-30B-A3B-Thinking-2507 и Qwen3-Coder-30B-A3B-Instruct. Архитектура — Qwen3 MoE для генерации текста; метаданные указывают 2,6 млрд параметров и формат safetensors с точностью bfloat16. Модель предназначена для диалога, выполнения инструкций, генерации текста и взаимодействия с инструментами. Заявленная длина контекста — 262 144 токена; README также упоминает 1 010 000 токенов, но не поясняет условия для такого значения. Указаны английский и китайский языки. Рекомендованные параметры генерации: температура 0,7, TopP 0,8 и TopK 20. Лицензия — Apache-2.0.

Qwen3.8-27B-heretic-ara-NVFP4 — производная модель hwkranger на базе Qwen/Qwen3.8-27B, прошедшая ARA-abliteration у trohrbaugh и последующую квантизацию NVFP4 от автора репозитория. Модель предназначена для генерации текста, агентных и программных сценариев, вызова инструментов, а также обработки изображений и видео. Она ориентирована прежде всего на запуск через vLLM на NVIDIA GB10 и DGX Spark с унифицированной памятью. Модель содержит 27B параметров и использует формат квантизации W4A16 NVFP4; размер на диске составляет около 20 ГБ вместо 52 ГБ у исходной BF16-версии. Vision tower и MTP-голова сохранены без квантизации, что обеспечивает работу с изображениями и видео и поддерживает speculative decoding через vLLM. Нативный контекст составляет 262 144 токена; в рекомендуемой конфигурации используется 131 072 токена. Поддерживаются шаблон чата Qwen3, reasoning-разметка с тегами <think> и вызов инструментов в формате qwen3_coder. К сильным сторонам относятся сниженные требования к памяти, высокая пропускная способность при параллельной обработке запросов и отсутствие отказов от ответов вследствие удаления исходного refusal-поведения. MTP может повысить скорость однопоточной и многопоточной генерации, но его draft-голова не обучалась на аблитерированных весах, поэтому acceptance rate ниже; также описан единичный сбой CUBLAS при смешанной нагрузке prefill и decode. Квантизация может снизить точность, поэтому критичные сценарии следует проверять сравнением с BF16-моделью. Модель унаследует знания, смещения и ограничения базовой модели; для публичного доступа необходимы собственные защитные механизмы. Лицензия — Apache-2.0.

cyankiwi/Qwen3-VL-2B-Instruct-AWQ-4bit — это 4-битная AWQ-квантизованная версия мультимодальной instruct-модели Qwen3-VL-2B-Instruct, разработанной командой Qwen. Модель предназначена для обработки текста и изображений, а также заявлена для понимания видео, визуального рассуждения и взаимодействия с графическими интерфейсами. Она может использоваться для описания изображений, визуального и текстового анализа, OCR, STEM- и математических задач, генерации кода и выполнения агентных сценариев с инструментами. Модель относится к плотной архитектуре и имеет 2 млрд параметров в базовой версии; применённая 4-битная AWQ-квантизация снижает требования к памяти и может упростить локальное развёртывание, потенциально ценой некоторого снижения точности по сравнению с полной версией. В README указаны контекст до 256K токенов с возможностью расширения до 1M, поддержка видео с временной индексацией и OCR на 32 языках, однако конкретный список языков для данной сборки не приведён. Среди архитектурных компонентов упомянуты Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками. Сильные стороны модели — сочетание текстового и визуального понимания, анализ пространственных отношений, работа с длинным контекстом, документами и видео, а также поддержка визуального управления интерфейсами. Ограничения включают возможные потери качества из-за 4-битной квантизации и отсутствие в представленном README детальных результатов тестирования именно этой AWQ-сборки. Модель распространяется по лицензии Apache-2.0.

Qwen3-VL-4B-Instruct-FP8 — FP8-квантизированная версия мультимодальной модели Qwen3-VL-4B-Instruct из семейства Qwen. Репозиторий содержит веса с мелкозернистой FP8-квантизацией и размером блока 128; по данным карточки, показатели почти идентичны исходной версии BF16. Разработчик в README явно не назван, но модель относится к серии Qwen. Модель предназначена для понимания и генерации текста по изображениям и видео, визуального анализа, OCR, пространственного рассуждения, обработки документов, STEM-задач, визуального программирования и взаимодействия с графическими интерфейсами через инструменты. Она поддерживает анализ изображений и видео, включая временную привязку событий, а также сценарии visual agent для PC и мобильных GUI. Заявлена поддержка контекста 256K токенов с возможностью расширения до 1M и OCR на 32 языках; конкретный перечень языков в README не приведён. К ключевым архитектурным особенностям относятся Interleaved-MRoPE для позиционного кодирования времени, ширины и высоты, DeepStack для объединения многоуровневых признаков ViT и выравнивание текста с временными метками. Сильными сторонами являются мультимодальное рассуждение, распознавание текста в сложных условиях, понимание пространственных отношений и длинных видео. Ограничение состоит в том, что на момент публикации Transformers не поддерживает прямую загрузку этих весов; для развёртывания рекомендуются vLLM или SGLang. Модель распространяется по лицензии Apache-2.0.

Qwen-7B-Chat — диалоговая языковая модель семейства Qwen, разработанная Alibaba Cloud на основе предварительно обученной Qwen-7B с применением методов выравнивания. Это плотная Transformer-модель с архитектурой QWenLMHeadModel; в карточке указано 11,4 млрд параметров и контекст до 8192 токенов. Она предназначена для многоходового общения, ответов на вопросы, работы с кодом, математическими задачами и вызова внешних инструментов. Модель обучена на китайских, английских и других данных; токенизатор на основе tiktoken использует словарь примерно из 150 тысяч токенов, оптимизированный для китайского, английского и кода. README сообщает результаты оценок на C-Eval, MMLU, GSM8K и HumanEval, но они не гарантируют качество в конкретном применении. Репозиторий содержит веса PyTorch. Лицензия в предоставленных данных не указана.

T-pro-it-2.0 — плотная языковая модель семейства Qwen3, разработанная t-tech на базе Qwen/Qwen3-32B с продолженным предобучением и этапами выравнивания. Модель содержит 29,7 млрд параметров, рассчитана на генерацию текста и диалог; в карточке заявлена поддержка русского языка и контекст до 40 960 токенов по метаданным. README указывает нативную длину контекста 32 768 токенов. Модель предназначена для русскоязычных запросов общего назначения, включая рассуждения, ответы на вопросы и программирование. Обучение включало 40 млрд токенов инструкционных данных, около 500 тыс. примеров для supervised fine-tuning и около 100 тыс. примеров preference tuning; предусмотрены режимы с рассуждением и без него. В README приведено сравнение с Qwen 3 32B и другими моделями на русскоязычных бенчмарках. Для инференса рекомендован SGLang; настройки генерации предлагается выбирать с учётом режима и сложности запроса. Модель распространяется по лицензии Apache-2.0. Разработчики предупреждают, что перед промышленным или коммерческим применением необходимы дополнительная проверка, обучение и контроль ответов.

RedHatAI/DeepSeek-R1-Distill-Llama-70B-FP8-dynamic — квантизированная версия модели DeepSeek-R1-Distill-Llama-70B, разработанная Neural Magic на базе модели DeepSeek. Это текстовая авторегрессионная модель с архитектурой LlamaForCausalLM: принимает текст и генерирует текст. Модель предназначена для задач рассуждения, ответов на вопросы, математических и общих языковых задач, а также для развертывания через vLLM и OpenAI-совместимый сервер. Модель содержит около 70 миллиардов параметров и использует FP8-квантизацию весов и активаций. Квантизации подвергаются линейные операции внутри трансформерных блоков; веса квантизируются по симметричной поканальной схеме, а активации — по симметричной потокенной схеме. Переход с 16-битного представления на 8-битное примерно вдвое сокращает размер модели на диске и требования к памяти GPU. Для квантизации использован LLM Compressor. В README не указаны поддерживаемые языки и максимальная длина контекста. По приведенным оценкам, FP8-версия сохраняет близкую к исходной точность на тестах рассуждения и OpenLLM Leaderboard, включая AIME 2024, MATH-500, GPQA Diamond, GSM8K и MMLU. Основное преимущество модели — снижение требований к памяти и возможность эффективного инференса на GPU, однако фактическая производительность зависит от оборудования и конфигурации vLLM. Модель распространяется по лицензии MIT.

google/gemma-3-12b-it-qat-int4-unquantized — мультимодальная диалоговая модель Google семейства Gemma 3, представленная как дообученная версия google/gemma-3-12b-it. Она принимает текст и изображения и генерирует текст; подходит для чат-ботов, ответов на вопросы по изображениям, извлечения и пересказа визуальной информации, суммаризации и генерации текстов. Открытые веса и сравнительно компактный размер семейства позволяют запускать модель на локальных компьютерах или собственной облачной инфраструктуре. Gemma 3 поддерживает контекст до 128 тысяч токенов и более 140 языков. Модель может ошибаться в фактах, испытывать трудности с неоднозначностью, тонкими языковыми нюансами и сложными открытыми задачами, а её ответы могут отражать смещения обучающих данных. Лицензия — Gemma; перед использованием следует соблюдать условия лицензии и политику допустимого использования Google.

llmfan46 представил uncensored-вариант Gemma 4 26B A4B IT, дообученный с изменением компонента attn.o_proj. Это диалоговая мультимодальная модель для анализа изображений и генерации текста; карточка указывает на поддержку чата и vision, а также на архитектуру Gemma 4 и формат safetensors. Базовая модель разработана Google DeepMind, использует гибридный механизм внимания и рассчитана на контекст до 256 тысяч токенов. Модель подходит для ответов на вопросы по изображениям и документам, распознавания текста и рукописей, понимания графиков и интерфейсов, а также для диалогов, рассуждений, программирования и вызова инструментов. Вариант предназначен для ослабления ограничений базовой модели, однако карточка не описывает метод дообучения и не приводит отдельные оценки качества именно этой версии. Поддерживаемые базовой линейкой языковые и аудиовозможности не следует полностью переносить на этот чекпойнт: метаданные подтверждают только image-text-to-text и vision. Модель выпущена по лицензии Apache-2.0. Возможны предвзятость и пробелы в данных, ошибки в фактах и затруднения с неоднозначными или сложными запросами; маркировка uncensored также означает, что ответы могут быть менее ограничены защитными механизмами.

Gemma-SEA-LION-v4-27B-IT-GGUF — квантованная GGUF-версия Gemma-SEA-LION-v4-27B-IT, разработанная подразделением AI Products Pillar компании AI Singapore при финансировании Singapore NRF. Это decoder-модель семейства SEA-LION (Southeast Asian Languages In One Network), ориентированная на задачи для Юго-Восточной Азии. Модель предназначена для генерации и понимания текста, диалоговых сценариев, обработки документов, визуальных вопросов и ответов, рассуждений по изображениям, вызова функций и формирования структурированных ответов. Модель имеет 27B параметров и контекстное окно до 128K токенов. Она поддерживает текст и изображения, использует токенизатор Gemma 3 27B Instruct и обучалась на бирманском, английском, индонезийском, кхмерском, лаосском, малайском, китайском, тагальском, тамильском, тайском и вьетнамском языках. Квантованные варианты Q4_K_M, Q8_0 и BF16 снижают требования к памяти и совместимы с различными движками инференса, включая llama.cpp; вариант Q4_K_M может запускаться на ноутбуке с 16 ГБ памяти через Ollama. Сильными сторонами являются специализация на языках и сценариях Юго-Восточной Азии, большой контекст, мультимодальность и поддержка интеграции в системы через function calling и structured outputs. Ограничения включают зависимость производительности и требований к памяти от выбранного варианта квантования, а также отсутствие выравнивания по безопасности: разработчикам и пользователям необходимо самостоятельно применять safety fine-tuning и дополнительные меры защиты. Лицензия — Gemma Terms of Use.

GKA-primed-HQwen3-32B-Instruct — плотная языковая модель с гибридной архитектурой, разработанная на базе Qwen3-32B с помощью конвейера Priming от Hybrid Model Factory. В ней поровну слоёв Attention и Gated KalmaNet (GKA): 32 слоя каждого типа. GKA — слой модели пространства состояний, который поддерживает фиксированное состояние и линейные вычислительные затраты по длине последовательности; модель содержит 29,7 млрд параметров и принимает контекст до 131 072 токенов. Модель предназначена для диалога и выполнения инструкций, включая задачи на длинных контекстах. По данным авторов, она близка по качеству к базовой модели и может ускорять инференс на длинных контекстах до двух раз за счёт меньшего KV-кэша. Параметр num_iter позволяет настраивать компромисс между скоростью и вычислениями при инференсе. Модель не является thinking-моделью и не поддерживает вызов инструментов. Авторы отмечают отставание примерно на 2,5–3 пункта от длинноконтекстной версии Qwen3-32B в среднем по указанным бенчмаркам. Лицензия — Apache 2.0.

RedHatAI/GLM-5.2-NVFP4-FP8 — квантизированная версия модели zai-org/GLM-5.2, разработанная RedHatAI. Это текстовая авторегрессионная модель для генерации текста, построенная на архитектуре GlmMoeDsaForCausalLM. Она принимает текст и возвращает текст, поддерживает английский и китайский языки и предназначена прежде всего для высокопроизводительного инференса и развёртывания через vLLM, включая сценарии с рассуждениями и вызовом инструментов. Модель использует смешанную точность: веса и активации механизмов внимания представлены в FP8 с блочным масштабированием, а эксперты MoE — в FP4 (NVFP4). Такая оптимизация снижает среднее число битов на параметр примерно с 16 до 4–5, уменьшая размер на диске и потребность в GPU-памяти примерно на 70–75% по сравнению с исходной версией BF16. Контекстная длина в README не указана; для конфигураций с контекстом до 1M токенов предлагается обращаться к рецепту vLLM для GLM-5.2. Главное преимущество модели — существенное сокращение требований к памяти при сохранении большей части качества исходной модели: на GPQA Diamond она набрала 89,1 против 91,2 у незаквантизированной версии, что соответствует восстановлению 97,7% результата. Ограничения включают небольшое снижение точности, зависимость от совместимой версии vLLM и необходимость исправления из pull request #47780. Модель распространяется по лицензии MIT.

Карточка модели sanjum2/GLM-5.2-Own на Hugging Face совпадает с карточкой zai-org/GLM-5.2, поэтому описание составлено по ней. GLM-5.2 — флагманская языковая модель компании Z.ai для длительных задач и диалогового взаимодействия. Она предназначена для генерации текста, программирования и решения задач, требующих работы с большим объёмом контекста. Модель построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров. Поддерживает контекст до 1 048 576 токенов; в README также отмечены гибкие уровни усилий для задач программирования, механизм IndexShare для снижения вычислений на длинном контексте и улучшение MTP для ускорения спекулятивного декодирования. Заявлены английский и китайский языки. Модель доступна в формате safetensors для Transformers и поддерживается рядом сред локального запуска, включая vLLM и SGLang. Лицензия — MIT. README приводит сравнительные результаты на бенчмарках, но они зависят от настроек и сценариев оценки.

Granite-4.2-3B — компактная языковая модель IBM Granite Team на базе плотного декодирующего трансформера GraniteForCausalLM с 3,4 млрд параметров. Она дообучена на Granite-4.1-3B-Base и рассчитана на диалог, рассуждения и следование инструкциям; доступны режимы полного, облегчённого и отключённого рассуждения. Модель предназначена для решения математических и логических задач, программирования, многошагового анализа и вызова инструментов в агентных сценариях. Она поддерживает контекст до 131 072 токенов по метаданным; в README заявлено окно 512 тысяч токенов. Поддерживаемые языки включают английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский; качество может быть ниже английского. Модель использует архитектуру decoder-only dense Transformer, формат весов safetensors и библиотеку Transformers. Она выпущена по лицензии Apache 2.0, допускающей коммерческое и академическое использование. Ответы могут быть неточными, предвзятыми или небезопасными; промежуточные рассуждения не всегда отражают итоговый ответ.