II.3Рефакторинг, миграция и модернизация

Falcon3-7B-Instruct — инструктивная языковая модель семейства Falcon3, разработанная Technology Innovation Institute. Это плотная авторегрессионная Transformer-модель с причинным декодером и 7,1 млрд параметров, дообученная на основе tiiuae/Falcon3-7B-Base. Архитектура включает 28 блоков декодера, grouped-query attention, SwiGLU и RMSNorm; контекстное окно — до 32 768 токенов. Модель предназначена для диалогов и выполнения инструкций, включая задачи рассуждения, понимания языка, программирования и математики. Она поддерживает английский, французский, испанский и португальский языки; метаданные также отмечают интерфейс вызова инструментов. В README указана посттренировка на примерах STEM, диалогов, кода, безопасности и вызова функций. Репозиторий использует safetensors и библиотеку Transformers. Лицензия — TII Falcon-LLM License 2.0; перед применением следует учитывать её условия.

Gemma-4-26B-A4B-text-base — текстовая версия модели Gemma 4, опубликованная wyattearp на основе Google Gemma-4-26B-A4B-it. Веса языкового трансформера сохранены без изменений, а компоненты обработки изображений и аудио удалены. Это модель типа MoE с 26 млрд параметров и примерно 4 млрд активных параметров на токен; она выдаёт текст и предназначена для генерации, диалогов, рассуждений, программирования и вызова инструментов. Длина контекста — 262 144 токена. Репозиторий содержит веса BF16 в формате safetensors для использования с Transformers и vLLM. Удаление мультимодальных компонентов упрощает языковый инференс и снижает требования к памяти, но модель не обрабатывает изображения или аудио. В README описана проблема совместимости парсера вызова инструментов в vLLM и связанное с ней исправление. Лицензия — Gemma.

cyankiwi/gemma-4-31B-it-AWQ-8bit — квантизированная 8-битная версия instruction-tuned модели Gemma 4 31B, разработанной Google DeepMind. Модель предназначена для генерации текста, программирования, рассуждений, агентных сценариев и мультимодального анализа изображений с выдачей текстового ответа. Модель использует плотную архитектуру Dense с 30,7 млрд параметров, 60 слоями, гибридным вниманием с локальными скользящими окнами и глобальным вниманием, а также контекстным окном до 256K токенов. Поддерживаются текст и изображения; заявлена работа более чем со 140 языками. Среди возможностей — настраиваемые режимы рассуждений, native function calling и поддержка системных сообщений. Версия AWQ-8bit ориентирована на более экономичное по памяти развертывание, однако README не содержит точных требований к оборудованию и сведений о влиянии квантизации на качество. Сильными сторонами являются большой контекст, мультимодальность, улучшенные возможности кодирования и рассуждений, а также пригодность для сложных длинноконтекстных задач. Ограничения включают отсутствие аудиоподдержки у варианта 31B и высокие вычислительные требования по сравнению с меньшими моделями. Модель распространяется по лицензии Apache 2.0.

NVIDIA GLM-5.1 NVFP4 — это квантизированная версия языковой модели ZAI GLM-5.1, основанная на авторегрессионной архитектуре оптимизированного Transformer. NVIDIA не является владельцем или разработчиком исходной модели: компания подготовила и выпустила её квантизированную версию с помощью NVIDIA Model Optimizer. Модель предназначена для коммерческого и некоммерческого использования, включая AI-агентов, чат-ботов, RAG-системы и другие приложения на базе искусственного интеллекта. Модель работает с текстом на входе и генерирует текст на выходе, поддерживает контекст длиной до 200 000 токенов. Объём составляет 754 млрд параметров, из которых активируется 40 млрд. Используется формат квантизации NVFP4 с точностью 4 бита; версия модели — NVFP4 1.0, квантизация выполнена с помощью nvidia-modelopt v0.45.0. Калибровка проводилась на наборах данных для диалогов и следования инструкциям, научного и математического рассуждения, программирования, SWE-задач, вызова инструментов и многоязычных сценариев. Языки обучения включают английский, немецкий, французский, японский, итальянский, китайский и испанский, однако полный перечень поддерживаемых языков README не гарантирует. Модель ориентирована на развёртывание с использованием SGLang или vLLM на GPU NVIDIA с архитектурой Blackwell под Linux. Её сильными сторонами являются большой контекст, высокая общая ёмкость модели, поддержка задач рассуждения, программирования и агентного взаимодействия, а также снижение требований к памяти благодаря 4-битной квантизации. Ограничения включают необходимость совместимого оборудования, отсутствие раскрытых сведений о полном обучающем и тестовом наборах, а также необходимость дополнительного тестирования на данных конкретного применения для проверки качества, безопасности и соответствия требованиям. Лицензия — MIT.

GLM-5.2 — языковая модель компании Z.ai для длительных многошаговых задач, включая диалог и программирование. Модель объёмом 30,4 млрд параметров построена на архитектуре GLM MoE DSA и использует механизм IndexShare для снижения вычислений при работе с длинным контекстом. Заявлена поддержка контекста до 1 048 576 токенов и режимов рассуждения с разным уровнем усилий. Модель предназначена для генерации текста и диалоговых сценариев, а также для разработки кода и работы с задачами, требующими обработки больших объёмов контекста. В карточке указана поддержка английского и китайского языков. Модель доступна в формате safetensors для Transformers; README также описывает запуск через SGLang, vLLM и другие фреймворки. Лицензия — MIT.

GLM-5.3-GGUF — квантизированная версия модели GLM-5.3, распространяемая Unsloth на основе базовой модели zai-org/GLM-5.3. Это текстовая генеративная модель для задач, требующих рассуждений, написания и анализа кода, длительных многоэтапных рабочих процессов, взаимодействия с инструментами и автоматизации. Заявлена поддержка английского и китайского языков. Модель использует архитектуру GLM-5.3; точный размер, число параметров, тип и уровни GGUF-квантизации, а также максимальная длина контекста в представленном README не указаны. Доступно управление бюджетом рассуждений через параметр reasoning_effort со значениями low, high и max; по умолчанию используется max. В описании особо отмечены улучшения в сложном программировании и задачах с длинным горизонтом по сравнению с GLM-5.2, а также высокие результаты в тестах на поиск уязвимостей и эксплуатацию. Сильные стороны модели — программирование, агентные сценарии, работа с терминалом, автоматизация и кибербезопасность; при этом приведённые результаты являются заявленными бенчмарками и не гарантируют аналогичное качество в каждом применении. Для чат-сценариев рекомендуется явно задавать clear_thinking=true. Модель распространяется по лицензии glm-5.3; условия этой лицензии в README не приведены.

Granite-4.2-8B (MXFP4) — квантизированная версия языковой модели Granite-4.2-8B, разработанной командой Granite компании IBM. Это decoder-only dense Transformer для генерации текста, диалогов, рассуждений, написания кода, вызова инструментов и агентских сценариев. Репозиторий содержит вариант с представлением MXFP4; базовая модель имеет 8 млрд параметров, а квантизированный вариант на странице модели обозначен как модель размером около 5 млрд параметров. Архитектура включает GraniteForCausalLM, Grouped Query Attention с 32 attention heads и 8 KV heads, RoPE, SwiGLU и RMSNorm. Модель поддерживает встроенный режим рассуждений с тегами <think>...</think>, а также режимы полного, отключённого и облегчённого рассуждения. Нативный контекст составляет 128K токенов, заявлено расширение до 512K. Проверены английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки; модель текстовая и мультимодальность не заявлена. Сильные стороны — рассуждения, программирование, многошаговые задачи, tool calling, длинный контекст и многоязычный диалог при сниженных требованиях к памяти благодаря MXFP4. Ограничения включают возможное снижение качества вне английского языка, а также риск неточных, предвзятых или небезопасных ответов; вывод рассуждений может содержать промежуточные и неотшлифованные мысли. Модель распространяется по лицензии Apache 2.0, допускающей коммерческое и исследовательское использование.

NVIDIA-Nemotron-Labs-3-Puzzle-75B-A9B-NVFP4 — большая языковая модель NVIDIA для диалога, рассуждений и агентных приложений. Она создана на основе Nemotron-3-Super-120B-A12B методом многоэтапного сжатия и восстановления: использованы pruning компонентов MoE и Mamba, дистилляция, обучение с подкреплением, квантизация NVFP4 и Multi-Token Prediction. Архитектура сочетает Mamba2, Transformer, LatentMoE и механизм MTP; модель содержит 75,3 млрд параметров, из которых активно 9,3 млрд. Модель предназначена для чат-ботов, RAG-систем, совместной работы агентов, сложного следования инструкциям и рассуждений по длинному контексту, а также задач программирования. Заявлена поддержка английского, французского, немецкого, итальянского, японского, испанского и китайского языков. В карточке указано окно контекста до 1 млн токенов для сценариев оценки конкурентности, а NVFP4-вариант ориентирован на GPU поколения Blackwell; NVIDIA сообщает о повышении пропускной способности относительно родительской модели. Модель заявлена как готовая к коммерческому использованию. Лицензия Hugging Face обозначена как other, поэтому конкретные условия использования следует сверять с лицензией в репозитории. Квантизация и сжатие могут влиять на качество в отдельных задачах; опубликованные сравнительные результаты относятся к указанным в карточке бенчмаркам и конфигурациям.

Qwen2-72B-Instruct-GGUF — крупная языковая модель с 72 миллиардами параметров, разработанная командой Qwen. Это instruction-tuned версия Qwen2, предназначенная для диалогов, генерации и понимания текста, многоязычных задач, программирования, математики и рассуждений. Модель относится к семейству decoder-only языковых моделей и распространяется в формате GGUF для запуска с помощью llama.cpp. Модель построена на архитектуре Transformer с активацией SwiGLU, смещениями в QKV-внимании и group query attention. В README указана улучшенная токенизация для нескольких естественных языков и языков программирования, однако точный список языков и размер контекстного окна не приведены. Доступны варианты квантования q5_0, q5_k_m, q6_k и q8_0, что позволяет выбирать компромисс между качеством, размером модели и требованиями к памяти. Поддерживается локальный запуск через llama.cpp и совместимый с OpenAI API сервер. К сильным сторонам относятся заявленная конкурентоспособность с проприетарными моделями и высокое качество на задачах понимания, генерации, многоязычности, кодинга, математики и рассуждений. Основные ограничения — очень большой размер, высокие требования к вычислительным ресурсам и возможная потеря качества при агрессивном квантовании. В метаданных указана лицензия other; конкретные условия использования в README не описаны.

Sarvam-105B — созданная Sarvam AI языковая модель с архитектурой Mixture-of-Experts и MLA-style attention. По README, у неё 10,3 млрд активных параметров, 128 экспертов с маршрутизацией top-8 и контекст до 128 тыс. токенов; метаданные Hugging Face указывают общий размер 9,7 млрд параметров. Модель предназначена для генерации текста и диалогов, сложных рассуждений, математики, программирования и агентных сценариев, включая веб-поиск и техническую диагностику. При обучении особое внимание уделялось индийскому контексту и 22 языкам Индии. В метаданных перечислены английский и ряд языков Южной Азии; карточка заявляет сильные результаты на тестах рассуждений и агентных задач. Для запуска README описывает использование Transformers и варианты развёртывания через vLLM и SGLang, включая специальные настройки. Модель распространяется по лицензии Apache 2.0.

Apriel-H1-15b-Thinker-SFT — языковая модель на 15 млрд параметров от ServiceNow AI для генерации ответов, рассуждений и кода. Она построена на гибридной архитектуре Transformer и Mamba: часть слоёв внимания заменена линейными блоками Mamba. По заявлению разработчика, такая конструкция повышает пропускную способность инференса более чем вдвое по сравнению с Apriel-Nemotron-15B-Thinker при небольшом снижении качества рассуждений, математических решений и программирования. Модель получена дистилляцией Apriel-Nemotron-15B-Thinker, обучена для диалогов и поддерживает интерфейс вызова инструментов. Модель рассчитана на многошаговые рассуждения, помощь с кодом, ответы на вопросы, выполнение сложных инструкций и агентные сценарии. Контекстное окно — 65 536 токенов; фактический предел зависит от среды запуска. Шаблон диалога задаёт генерацию этапа рассуждения перед кратким финальным ответом. Наиболее сильные результаты заявлены для английского языка, качество на менее представленных языках может быть ниже. Модель выпущена под лицензией MIT. Она может ошибаться, выдавать устаревшие или предвзятые ответы и не предназначена для критически важных сценариев без проверки человеком; для медицинских, юридических и финансовых решений нужны соответствующие меры контроля.

NVIDIA DeepSeek-V4-Pro-0813-nvfp4-DSpark — это NVFP4-квантизированная версия языковой модели DeepSeek-V4-Pro-0813, разработанной DeepSeek AI и подготовленной с использованием NVIDIA Model Optimizer. NVIDIA указывает, что модель не является новой самостоятельной разработкой NVIDIA: это релиз на базе nvidia/DeepSeek-V4-Pro-0813-NVFP4 с дополнительно квантизированной головой DSpark для speculative decoding. Модель предназначена для коммерческого и некоммерческого использования. Модель представляет собой авторегрессионную Transformer-модель с архитектурой Mixture-of-Experts, гибридным вниманием Compressed Sparse Attention и Heavily Compressed Attention, а также Manifold-Constrained Hyper-Connections. Общее число параметров составляет около 1,65 трлн, из которых активируется около 49 млрд. Модель работает с текстом на входе и выходе, поддерживает многоходовые диалоги, системные инструкции, структурированный JSON, вызов функций и инструментов, а также выдачу рассуждений при включении соответствующего режима. Максимальная длина контекста — 1 млн токенов; предусмотрены уровни интенсивности рассуждений low, high и max. Языковой охват явно не указан. Модель ориентирована на сложное рассуждение, агентные приложения, использование инструментов, математику, разработку программного обеспечения и корпоративных AI-ассистентов. К сильным сторонам относятся большой контекст, высокая вычислительная ёмкость MoE, поддержка speculative decoding через DSpark и оптимизация под NVIDIA GPU. Ограничения включают зависимость от специализированной аппаратной и программной инфраструктуры: заявлена совместимость с NVIDIA Blackwell B200, Linux, SGLang и vLLM; характеристики работы на другой аппаратуре не указаны. Данные исходного обучения не раскрыты, а перед промышленным внедрением требуется дополнительное тестирование на прикладных данных. Модель распространяется по лицензии MIT. Указана версия NVIDIA Model Optimizer v0.47.0rc1; опубликованный релиз датирован 9 сентября 2026 года.

NVIDIA DeepSeek-V4-Pro-nvfp4-DSpark — это квантизированная версия DeepSeek-V4-Pro, разработанная на базе моделей DeepSeek и собранная с использованием NVIDIA Model Optimizer. Модель не является новой базовой моделью NVIDIA: она представляет собой NVFP4-вариант DeepSeek-V4-Pro-NVFP4, объединённый с официальным модулем спекулятивного декодирования DSpark от DeepSeek в едином контрольном файле. Лицензия — MIT; модель заявлена для коммерческого и некоммерческого использования. Модель предназначена для генерации текста, сложного рассуждения, математических задач, программной инженерии, агентных приложений, вызова инструментов и корпоративных AI-ассистентов. Она поддерживает многоходовые диалоги, системные инструкции, структурированный JSON-вывод и function/tool calling. Доступны режимы Non-think для быстрой генерации, Think High для логического анализа и Think Max для наиболее глубокого рассуждения. Архитектура основана на Transformer и Mixture-of-Experts с гибридным вниманием. Основная модель содержит около 1,6 триллиона параметров, из которых примерно 49 миллиардов активируются при обработке запроса. Модуль DSpark использует черновую модель общим размером 82 миллиарда параметров и примерно 2,4 миллиардами активных параметров; размер блока черновой генерации составляет 5 токенов. Поддерживается текстовый ввод и вывод, а максимальная длина контекста достигает 1 миллиона токенов. Ключевое преимущество модели — сочетание крупной MoE-модели с NVFP4-квантизацией и спекулятивным декодированием DSpark, что ориентировано на ускорение инференса при сохранении возможностей исходной модели. Ограничения связаны с требованиями к инфраструктуре: модель рассчитана на NVIDIA GPU архитектуры Blackwell, интегрируется с vLLM через DSpark и рекомендуется для Linux. Перед эксплуатацией необходимы тестирование на прикладных данных и проверка безопасности; сведения о поддерживаемых языках в карточке явно не указаны.

Gemma 4 26B A4B IT QAT Q4_0 Unquantized — мультимодальная инструктивная модель семейства Gemma 4, разработанная Google DeepMind. Это вариант Gemma 4 26B A4B IT с весами, полученными из конвейера обучения с учётом квантования (QAT): веса сохранены в половинной точности, а не в готовом квантованном формате. Репозиторий предназначен для последующей компиляции и исследовательской работы с QAT-чекпойнтами. Модель принимает текст и изображения и генерирует текст. Она подходит для диалогов, рассуждений, программирования, анализа изображений, распознавания текста в документах и на изображениях, понимания диаграмм и интерфейсов, а также агентных сценариев с вызовом инструментов. Для варианта 26B A4B README указывает контекст до 256K токенов; семейство поддерживает более 140 языков в обучающих данных. Для Gemma 4 заявлены гибридное внимание с локальными и глобальными слоями и режим рассуждений; вариант 26B A4B относится к MoE-линейке семейства. QAT-чекпойнты призваны снижать требования к памяти при сохранении качества, близкого к bfloat16, однако этот конкретный репозиторий содержит не готовый GGUF или другой формат для прямого развёртывания, а веса для последующей обработки. Лицензия — Apache 2.0. Аудио для этой модели не заявлено: в README оно поддерживается только вариантами E2B, E4B и 12B.

davidsyoung/GLM-5.3-EXL3-TR3-3.42bpw — это квантизированная версия GLM-5.3 от zai-org, подготовленная в формате EXL3/TR3 с использованием смешанной схемы trellis-квантизации. Базовая модель представляет собой MoE-архитектуру glm_moe_dsa размером 755B параметров: 78 слоёв, 256 маршрутизируемых экспертов на слой и дополнительный MTP-компонент. Заявлены английский и китайский языки, а назначение модели — генерация текста, сложное программирование, рассуждения и задачи с длинным контекстом. Средний размер квантизации весов составляет 3,42 bpw: маршрутизируемые эксперты используют комбинацию K3 и K4, а внимание, эмбеддинги, нормализации, lm_head и ряд других компонентов сохранены в BF16. Квантизация выполнена без калибровочных данных; заявлено небольшое отклонение от BF16-учителя по измеренному KLD. Модель рассчитана на запуск через совместимый стек exllamav3-b12x или sparkinfer с четырьмя GPU, TP4 и FP8 KV-кэшем. Указан проверенный профиль с envelope до 393 216 токенов, но это измеренный безопасный режим, а не гарантированный архитектурный максимум. Сильными сторонами являются высокая степень сжатия, сохранение значительной части компонентов в BF16, поддержка очень длинного контекста и подтверждённая работоспособность в сценариях кодирования, структурированного вывода, tool use и извлечения данных из длинных документов. Ограничение — специальный смешанный K3/K4 runtime: модель несовместима с обычной загрузкой vanilla exllamav3, а использование стандартного загрузчика может приводить к некорректной генерации. Лицензия указана как glm-5.3; подробные условия следует уточнять в лицензии базовой модели.

Granite-4.2-30B — языковая модель IBM и команды Granite, дообученная на базе IBM Granite 4.1 30B Base. Это плотный decoder-only трансформер с архитектурой GraniteForCausalLM и 28,9 млрд параметров. Модель предназначена для рассуждений, диалога, программирования и работы с инструментами; режимы рассуждений позволяют выбирать между подробной проработкой, обычным ответом и низкой затратностью. В метаданных указан контекст 131 072 токена. Модель принимает текст и генерирует текст. Заявлены поддержка вызова инструментов и языков английского, немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского. README также указывает обучение на математических, программных, научных, диалоговых и агентных задачах. Выпущена под лицензией Apache 2.0, допускающей коммерческое и академическое использование. Сильные стороны модели — встроенные режимы рассуждения, решение многошаговых задач и вызов инструментов. Качество на языках помимо английского может быть ниже; ответы могут содержать ошибки, смещения или небезопасный контент. README указывает окно контекста 512K, тогда как метаданные каталога — 131 072 токена; здесь приведено значение из метаданных.

ybelkada/Mixtral-8x7B-Instruct-v0.1-AWQ — это 4-битно квантованная версия Mixtral 8x7B Instruct v0.1, опубликованная пользователем ybelkada на Hugging Face. Исходную модель разработала Mistral AI. Она предназначена для генерации текста, диалоговых сценариев и выполнения инструкций; поддерживает запуск через Transformers, vLLM и SGLang. В основе лежит decoder-only Transformer с разреженной архитектурой Mixture of Experts: восемь experts примерно по 7B параметров, из которых для каждого токена выбираются два. Всего модель содержит около 47B параметров, но во время обработки токена активно используется около 13B. Контекстное окно исходной модели составляет 32K токенов. Модель обучалась на многоязычных данных и демонстрирует сильные результаты в рассуждениях, математике, генерации кода и многоязычных задачах; версия Instruct дополнительно дообучена следовать инструкциям с использованием supervised fine-tuning и Direct Preference Optimization. Ключевое преимущество этой версии — снижение требований к памяти благодаря AWQ-квантизации до 4 бит при сохранении функциональности исходной модели. Ограничения включают значительный общий объём параметров и соответствующие требования к памяти, а также возможные накладные расходы MoE-маршрутизации; эффективность зависит от совместимого программного обеспечения и GPU. Для исходной Mixtral 8x7B Instruct указана лицензия Apache 2.0, допускающая академическое и коммерческое использование; для конкретного квантованного репозитория условия следует проверять отдельно.

Карточка модели rohitsingh158/NVIDIA-Nemotron-3-Ultra-550B-A55B-NVFP4 на Hugging Face совпадает с карточкой nvidia/NVIDIA-Nemotron-3-Ultra-550B-A55B-NVFP4, поэтому описание составлено по ней. Nemotron-3-Ultra-550B-A55B-NVFP4 — большая языковая модель NVIDIA для диалога, рассуждений и агентных приложений. Она предназначена для сложных многошаговых задач, анализа больших документов и кодовых баз, а также для работы с математическими и научными запросами. Модель подходит разработчикам чат-ботов, RAG-систем и AI-агентов. Модель построена на гибридной архитектуре LatentMoE: в ней сочетаются слои Mamba-2, Mixture-of-Experts и Attention, а Multi-Token Prediction ускоряет генерацию. Всего в модели 550 млрд параметров, из которых 55 млрд активны; контекст достигает 1 млн токенов. Чекпойнт использует NVFP4 и рассчитан на высокую пропускную способность на современном оборудовании NVIDIA. Поддерживаются английский, французский, испанский, итальянский, немецкий, японский, корейский, хинди, бразильский португальский и китайский языки. NVIDIA заявляет о готовности модели к коммерческому и некоммерческому использованию; в метаданных лицензия обозначена как other, поэтому перед внедрением следует проверить условия лицензии в карточке модели. Для запуска требуются значительные вычислительные ресурсы и подходящая инфраструктура NVIDIA; в README рекомендована многосерверная конфигурация для развертывания на нескольких узлах.

geoffmunn/Qwen3-14B-f16 — версия модели Qwen3-14B в формате GGUF F16, подготовленная Geoff Munn для локального запуска через llama.cpp и совместимые приложения. Это языковая модель на 14 млрд параметров для диалогов, следования инструкциям, рассуждений, генерации кода и работы с многоязычным текстом. Карточка описывает варианты квантования, но этот репозиторий содержит веса F16. Модель подходит для локальных ассистентов, генерации и отладки кода, ответов по документам в RAG-системах и многошаговых задач. Метаданные указывают поддержку английского, китайского, испанского, французского, немецкого, русского, арабского, японского, корейского и хинди. Указана лицензия Apache-2.0. Размер модели составляет 14 млрд параметров. README заявляет о работе с длинными входами, но точную длину контекста не приводит. Для локального запуска требуются ресурсы, соответствующие размеру модели; потребление памяти и скорость зависят от формата весов и оборудования. Приведённые в карточке оценки квантованных вариантов не следует напрямую переносить на F16.

shatu/Qwen3.5-27B — публикация Шашанка, содержащая веса и конфигурацию Qwen3.5-27B в формате Transformers. По README, веса идентичны Qwen/Qwen3.5-27B, а изменённый шаблон чата сохраняет промежуточные рассуждения между ходами диалога. Это мультимодальная причинная языковая модель с визуальным энкодером: плотная архитектура Qwen3.5 объединяет Gated Delta Networks и разреженные блоки внимания. В модели 27 млрд параметров и 64 слоя; нативный контекст — 262 144 токена, с расширением до 1 010 000 токенов. Модель предназначена для диалогов, анализа изображений, рассуждений, программирования и сценариев с вызовом инструментов. Она поддерживает 201 язык и диалект согласно README. Репозиторий использует safetensors и совместим с Transformers и рядом движков инференса. Лицензия — Apache-2.0. Это изменённая публикация существующих весов, а не новое обучение; качество и поведение шаблона зависят от используемого движка и его совместимости с Qwen3.5.

unsloth/Qwen3.6-35B-A3B-UD-MLX-4bit — 4-битная MLX-версия открытой мультимодальной модели Qwen3.6-35B-A3B. Модель разработана командой Qwen, а данная адаптация опубликована Unsloth. Это авторегрессионная языковая модель с vision encoder, предназначенная для генерации текста, анализа изображений, программирования и агентных сценариев. Модель имеет 35 млрд параметров, из которых 3 млрд активируются при обработке запроса. Архитектура сочетает Mixture of Experts с 256 экспертами, Gated DeltaNet и Gated Attention; содержит 40 слоёв и скрытое измерение 2048. Нативная длина контекста составляет 262 144 токена с возможностью расширения до 1 010 000 токенов. Поддерживаются текстовая и визуальная модальности, однако конкретный набор языков в README не указан. К сильным сторонам относятся улучшенная работа с кодированием, репозиториями и frontend-задачами, поддержка сохранения контекста рассуждений между сообщениями и улучшенный вызов инструментов, включая вложенные объекты. 4-битное представление снижает требования к памяти и подходит для запуска через MLX, но может уступать полноразмерным вариантам по точности, а производительность зависит от совместимого оборудования и программного окружения. Модель распространяется по лицензии Apache-2.0.

Frosty40/Qwen3.8-27B-GGUF — это квантованная версия базовой модели Qwen/Qwen3.8-27B, разработанной командой Qwen и преобразованной в формат GGUF для запуска через llama.cpp. Модель предназначена для генерации и анализа текста, работы с кодом и агентскими сценариями, а также для задач vision-language с обработкой изображений через отдельный vision projector. Поддерживаются большие контексты до 262K токенов, гибридная архитектура с 48 слоями линейного внимания Gated-DeltaNet и 16 слоями полного внимания, а также межслойное позиционное кодирование MRoPE и гибридная recurrent-attention память. Языки в README явно не указаны. Основной рекомендуемый файл использует квантование Q6_K, повышенную точность Q8_0 для attention-проекций и встроенную MTP-голову для speculative decoding; его размер составляет 23,2 ГБ. MTP может ускорять декодирование примерно на 45–95% при поддержке NextN/MTP в llama.cpp. Заявлены высокая близость к версии bf16, особенно для кода и агентских задач, а также сохранение качества vision-инференса. Для работы требуются llama.cpp с поддержкой архитектуры qwen35, а для MTP-версии — дополнительная поддержка NextN/MTP и vision projector. Контекстное смещение недоступно, а превышение объёма памяти видеокарты приводит к выгрузке в оперативную память и снижению производительности. Модель распространяется по лицензии Apache-2.0.

Qwopus3.5-27B-v3.5 — дообученная Jackrong мультимодальная модель на основе Qwen3.5-27B. Версия 3.5 продолжает Qwopus3.5-27B-v3 с примерно вдвое большим объёмом данных SFT; новая архитектура и отдельный этап RL не заявлены. Модель предназначена для структурированных рассуждений, диалогов, программирования, работы с инструментами и многошаговых агентных сценариев. Метаданные также указывают поддержку анализа изображений и интерфейс вызова инструментов. Архитектура — плотная Qwen3.5 для генерации текста и работы с изображениями; в репозитории представлены веса Safetensors. Заявлена лицензия Apache-2.0. В карточке приведены результаты на выбранных подмножествах MMLU-Pro и SWE-подобном наборе тестов; оценки предварительные и не заменяют независимую проверку на полном наборе задач. Среди ограничений автор отмечает нестабильность рассуждений в отдельных случаях, зависимость работы с инструментами от интеграции со средой и возможность ухудшения отдельных показателей выравнивания. Данные README о языковом охвате шире явно перечисленных в метаданных языков, поэтому в языковые теги включены только указанные там коды.

BigBang-V1 — мультимодальная модель общего назначения, разработанная Endless Frontier на основе Qwen3.6-35B-A3B. Авторы дообучили её с помощью постобучения на примерно 10 тысячах синтетических научных и технических задач, которые генераторы и критики итеративно усложняли и проверяли. Модель предназначена для научных исследований, сложных рассуждений, программирования, длительного поиска и работы с инструментами; поддерживает диалог и анализ изображений. Модель построена на архитектуре Qwen3.5 MoE и распространяется в формате Safetensors для Transformers. В README указан контекст до 262 144 токенов; авторы рекомендуют сохранять не менее 128 тысяч токенов для сложных задач. В README приведены сильные результаты на бенчмарках научных исследований, поиска, программирования и AI-исследований, однако это результаты авторской оценки и не гарантия качества для конкретного сценария. Лицензия — Apache-2.0.

Calcium-Opus-14B-Elite4 — диалоговая языковая модель на архитектуре Qwen2, дообученная prithivMLmods на базе Qwen/Qwen2.5-14B-Instruct. Она предназначена для генерации текста с акцентом на многошаговые рассуждения, решение математических задач и работу с кодом. Модель поддерживает инструкции, длинные ответы, таблицы и структурированный вывод, включая JSON; заявленная длина контекста составляет 131 072 токена, а генерация — до 8 000 токенов за ответ. Карточка заявляет поддержку более 29 языков, в том числе русского и английского. Модель подходит для чат-ботов, объяснений, анализа структурированных данных, написания и отладки кода, а также создания длинных материалов. В репозитории указаны веса Safetensors и библиотека Transformers; лицензия — Apache-2.0. Качество может различаться между языками; возможны повторы и ошибки в длинных ответах, а знания о текущих событиях ограничены данными обучения. Для запуска 14-миллиардной модели с длинным контекстом требуются значительные вычислительные ресурсы. README противоречиво указывает размер модели как 20B в разделе ограничений, тогда как метаданные и название указывают 14B.

DeepSeek-R1-Distill-Llama-70B — плотная авторегрессионная языковая модель семейства Llama, разработанная DeepSeek и дообученная на примерах рассуждений, сгенерированных DeepSeek-R1. Она предназначена для диалогов и задач, требующих многошагового анализа: решения математических задач, программирования и ответов на сложные вопросы. Модель содержит 69,5 млрд параметров и поддерживает контекст до 131 072 токенов. Модель принимает текст и генерирует текст; в метаданных также заявлен интерфейс для вызова инструментов. Карточка сообщает о результатах серии дистиллированных моделей на математических, кодовых и научных тестах, но не приводит отдельные показатели именно для версии Llama-70B. Репозиторий распространяется по лицензии MIT. README отмечает, что настройки токенизатора и конфигурации были изменены, и рекомендует использовать настройки DeepSeek для запуска.

coder3101/gemma-4-26B-A4B-it-heretic — мультимодальная диалоговая модель на базе Google Gemma 4 26B A4B IT, дообученная автором репозитория. Она принимает текст и изображения и генерирует текст; подходит для диалогов, рассуждений, программирования, анализа изображений и агентных сценариев с вызовом инструментов. По карточке базовой модели Gemma 4 поддерживает распознавание объектов, чтение документов и экранов, OCR, анализ диаграмм и последовательностей видеокадров. Для этой версии доступны веса SafeTensors и библиотека Transformers; контекст базовой модели составляет до 256 тысяч токенов. Модель обозначена как uncensored/decensored/abliterated. Эти метки указывают на изменение поведения относительно базовой модели, но карточка не описывает методику или объём изменений и не приводит отдельную оценку качества. Поддержка аудио заявлена только для вариантов Gemma 4 E2B и E4B, поэтому её не следует приписывать этой версии. Возможны ошибки в фактах, трудности с нюансами языка и сложными открытыми задачами, а также смещения из обучающих данных. Лицензия — Apache-2.0.

coder3101/gemma-4-E4B-it-qat-q4_0-unquantized-heretic — производная диалоговая мультимодальная модель на основе Google Gemma 4 E4B-it, опубликованная пользователем coder3101. Это плотная модель семейства Gemma 4 для обработки текста и изображений; карточка также описывает для семейства поддержку видео и аудио в вариантах E4B, хотя возможности именно этой сборки отдельно не подтверждены. Архитектура Gemma4ForConditionalGeneration использует гибридное внимание с локальными скользящими окнами и глобальными слоями. Для E4B в карточке семейства указан контекст до 128 тысяч токенов. Модель предназначена для диалога, рассуждений, генерации и исправления кода, анализа изображений и документов, OCR, а также агентных сценариев с вызовом инструментов. Карточка семейства заявляет поддержку более 35 языков, но не перечисляет языки именно этой сборки. Метаданные указывают на дообучение от Google Gemma 4 E4B-it QAT и формат safetensors; название и теги описывают сборку как uncensored/abliterated. Лицензия — Apache-2.0. Ответы могут содержать фактические ошибки, а качество зависит от формулировки запроса, сложности задачи и охвата обучающих данных; возможны трудности с языковыми нюансами и предвзятостью. Возможности аудио и видео приведены для семейства в целом и не подтверждены отдельно для данного репозитория.

Карточка модели AmanNagtode/GLM-5.2 на Hugging Face совпадает с карточкой Ares-Realm-Studios/GLM-5.2, поэтому описание составлено по ней. GLM-5.2 — большая языковая модель от Ares-Realm-Studios для продолжительных задач, диалогов и программирования. Она построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров; модель принимает и генерирует текст, поддерживает контекст до 1 048 576 токенов и рассчитана прежде всего на английский и китайский языки. Модель предназначена для многошаговой работы с длинным контекстом, включая анализ материалов и разработку программного кода. В README заявлены гибкие уровни усилий рассуждения и оптимизации для обработки контекста в миллион токенов; для локального запуска перечислены Transformers, vLLM, SGLang и другие среды. Репозиторий содержит веса Safetensors. Модель распространяется по лицензии MIT. Заявленные возможности и результаты приведены авторами; практическое качество может зависеть от сценария и настроек запуска.

Карточка модели ravan011/GLM-5.2 на Hugging Face совпадает с карточкой Ares-Realm-Studios/GLM-5.2, поэтому описание составлено по ней. GLM-5.2 — большая языковая модель от Ares-Realm-Studios для продолжительных задач, диалогов и программирования. Она построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров; модель принимает и генерирует текст, поддерживает контекст до 1 048 576 токенов и рассчитана прежде всего на английский и китайский языки. Модель предназначена для многошаговой работы с длинным контекстом, включая анализ материалов и разработку программного кода. В README заявлены гибкие уровни усилий рассуждения и оптимизации для обработки контекста в миллион токенов; для локального запуска перечислены Transformers, vLLM, SGLang и другие среды. Репозиторий содержит веса Safetensors. Модель распространяется по лицензии MIT. Заявленные возможности и результаты приведены авторами; практическое качество может зависеть от сценария и настроек запуска.