II.3Рефакторинг, миграция и модернизация

unsloth/Qwen3.8-27B-FP8 — FP8-квантизированная версия модели Qwen3.8-27B, разработанной командой Qwen. Это плотная каузальная языковая модель с vision encoder, предназначенная для генерации текста, программирования, профессиональных и исследовательских задач, долгих агентских сценариев, а также понимания изображений и видео, включая документы, STEM-диаграммы и продолжительные видеоматериалы. Модель содержит 27 млрд параметров, 64 слоя и поддерживает контекст длиной 262 144 токена с возможностью расширения до 1 000 000 токенов. Архитектура основана на сочетании Gated DeltaNet, Gated Attention и FFN; также используется Multi-Token Prediction. Доступны режимы с рассуждением и без него: глубину рассуждений можно регулировать параметром reasoning_effort, а контекст рассуждений в диалоге сохранять с помощью preserve_thinking. Указанные материалы совместимы с Hugging Face Transformers, vLLM, SGLang и TokenSpeed. К сильным сторонам относятся развитые возможности для кода, профессиональной работы, исследований, автономного планирования и выполнения многошаговых задач, а также нативная мультимодальность и близкая к исходной модели производительность после квантизации. Ограничения включают зависимость эффективности и пропускной способности от используемого inference-фреймворка, а также дополнительные вычислительные и временные затраты при включённом глубоком рассуждении. В README не указаны поддерживаемые языки. Модель распространяется по лицензии Apache-2.0. Репозиторий содержит веса и конфигурации в формате Hugging Face Transformers; для производственного или высоконагруженного развёртывания рекомендуются специализированные серверные движки, например vLLM или SGLang.

NVIDIA DeepSeek-V4-Flash-NVFP4 — это квантизированная версия DeepSeek-V4-Flash, разработанного DeepSeek AI. NVIDIA подготовила модель с использованием Model Optimizer, но не является её владельцем или исходным разработчиком. Модель предназначена для генерации текста, сложного рассуждения, агентных AI-приложений, сценариев с использованием инструментов, математики, программной инженерии и корпоративных AI-ассистентов. Модель использует архитектуру Transformer с Mixture-of-Experts и гибридным вниманием, включающим Compressed Sparse Attention и Heavily Compressed Attention, а также Manifold-Constrained Hyper-Connections. Общее число параметров составляет 284 млрд, из них активируется 13 млрд. Поддерживается только текстовый ввод и вывод, многошаговые диалоги, системные инструкции, структурированный JSON, function/tool calling и выдача рассуждений. Максимальная длина контекста — 1 млн токенов. Доступны режимы Non-think, Think High и Think Max; используется специальный pipeline кодирования encoding_dsv4. К сильным сторонам относятся большой контекст, поддержка углублённого рассуждения, инструментального взаимодействия и задач программирования. Модель квантизирована в формат NVFP4, что ориентировано на ускоренный инференс на GPU NVIDIA. Указаны поддерживаемые среды SGLang и vLLM, операционная система Linux и совместимость с архитектурой NVIDIA Blackwell; тестирование проводилось на NVIDIA B200. Данные обучения не раскрыты, поэтому характеристики качества следует проверять на прикладных задачах. Для безопасного внедрения требуется дополнительное тестирование и валидация. Лицензия указана как MIT, модель доступна для коммерческого и некоммерческого использования.

K2-Horizon-3.7B — плотная авторегрессионная языковая модель семейства K2-Horizon от IFM, представленная как небольшой вариант семейства. Это декодерная модель с архитектурой K2HorizonForCausalLM; в карточке указано 3,7 млрд параметров в названии, а в метаданных — 4,1 млрд. Модель принимает текст и предназначена для диалогов, генерации текста, рассуждений, программирования и агентных задач. Нативное контекстное окно составляет 524 288 токенов. Для запуска описана совместимость с Transformers, vLLM и SGLang; для vLLM приведены настройки вызова инструментов и парсер формата модели. Обучение включает предварительное обучение, этапы расширения контекста и постобучение. Для снижения повторяющихся бесконечных генераций выпущенная версия прошла дополнительный этап FTPO на LoRA-предпочтениях, после чего обновление было объединено с весами. Авторы сообщают об оценках на математических, кодовых, агентных и общих бенчмарках, а также об улучшении поведения при длинной генерации. Обучающие данные, рецепт, код и ресурсы оценки заявлены как открытые. Лицензия — Apache-2.0.

Это GGUF-квантизированная версия Meta-Llama-3.1-70B-Instruct, разработанная Meta и предназначенная для запуска с llama.cpp. Модель представляет собой авторегрессионную большую языковую модель на базе оптимизированной архитектуры Transformer. Инструкционная версия обучалась с применением supervised fine-tuning и reinforcement learning from human feedback для повышения полезности и безопасности ответов. Модель работает только с текстом на входе и генерирует многоязычный текст и код. Она предназначена прежде всего для диалоговых ассистентов, генерации и обработки текста, программирования, синтетической генерации данных и дистилляции других моделей. Заявлены английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Модель содержит 70 млрд параметров, поддерживает Grouped-Query Attention и контекст длиной до 128 тысяч токенов. Данные обучения включают более 15 трлн токенов, срез знаний — декабрь 2023 года. Сильными сторонами являются большой контекст, многоязычный режим, поддержка кода и оптимизация для диалоговых сценариев. Это статическая модель, обученная на офлайн-данных, поэтому она не обладает актуальными знаниями после даты отсечения и может требовать проверки ответов. Репозиторий содержит квантизированный формат GGUF; для полной поддержки необходима llama.cpp версии 5e2727f или новее. Использование регулируется пользовательской коммерческой лицензией Llama 3.1 Community License и применимой Acceptable Use Policy.

Qwen2-72B-Instruct — большая языковая модель с настройкой для следования инструкциям и диалогов, разработанная командой Qwen. Это плотная decoder-only модель на архитектуре Transformer Qwen2 с 71,5 млрд параметров; в ней используются активация SwiGLU, смещение в проекциях внимания QKV и групповое внимание запросов. Модель принимает текст и формирует текстовые ответы, поддерживает чатовый режим и несколько естественных языков, а также код. Модель предназначена для диалоговых помощников, генерации и понимания текста, ответов на вопросы, рассуждений, математических задач и программирования. Метаданные указывают контекст 32 768 токенов; в README описано расширение до 131 072 токенов с помощью YARN, которое требует соответствующей настройки. Для длинных контекстов авторы отмечают возможное снижение качества на коротких запросах при статическом масштабировании YARN. Модель является дообученной версией Qwen/Qwen2-72B. В репозитории указана лицензия other, поэтому конкретные условия использования следует сверять с файлами лицензии модели. Для запуска рекомендуется Transformers версии 4.37.0 или новее; README также рекомендует vLLM для развёртывания.

Step 3.7 Flash — мультимодальная vision-language модель, разработанная StepFun. Она предназначена для высокочастотных производственных нагрузок и агентных сценариев, объединяющих восприятие изображений, поиск, проверку информации, рассуждения и взаимодействие с инструментами. Модель подходит для анализа больших финансовых отчётов, многошагового поиска с верификацией по нескольким источникам, параллельной работы coding-агентов, обработки пользовательских интерфейсов, диаграмм и других визуальных материалов. Модель построена на разреженной архитектуре Mixture-of-Experts (MoE) и содержит около 198 млрд параметров: примерно 196 млрд приходятся на языковую часть и 1,8 млрд — на vision encoder. На каждый токен активируется около 11 млрд параметров. Поддерживается контекст длиной до 256 тысяч токенов, изображения и текст, а также три уровня рассуждения — low, medium и high, позволяющие выбирать баланс между скоростью, стоимостью и глубиной анализа. В README указан английский язык; заявленная мультимодальность обеспечивает понимание изображений, визуальное заземление, анализ интерфейсов и преобразование визуальных данных в структурированный код. Сильные стороны модели — высокая пропускная способность до 400 токенов в секунду, работа с длинным контекстом, устойчивое выполнение многошаговых агентных процессов, использование внешних API, визуальная проверка данных и задачи программной инженерии. Ограничения включают очень большой общий размер модели и, как следствие, высокие требования к инфраструктуре при локальном развёртывании; заявленные результаты также зависят от конкретных бенчмарков и сценариев. Модель распространяется по лицензии Apache-2.0 и поддерживает Transformers, vLLM, SGLang и llama.cpp; доступна через StepFun Open Platform, OpenRouter и NVIDIA NIM, а также может развёртываться в облачных, дата-центровых и локальных средах.

google/gemma-4-31B-it-qat-q4_0-gguf — мультимодальная instruction-tuned модель семейства Gemma 4, разработанная Google DeepMind. Она предназначена для генерации текста, рассуждений, программирования, агентских сценариев и анализа изображений с формированием текстового ответа. Модель поддерживает текстовые и графические входы, но аудио для версии 31B не заявлено. Модель использует плотную архитектуру с примерно 30,7 млрд параметров, 60 слоями и гибридным механизмом внимания, сочетающим локальное sliding window attention с глобальным вниманием. Контекстное окно составляет до 256K токенов, размер словаря — 262K. Семейство Gemma 4 заявляет мультиязычную поддержку более 140 языков, нативную поддержку system role, configurable thinking modes и function calling. Эта версия представлена в формате GGUF с Q4_0 и прошла Quantization-Aware Training, что ориентировано на снижение требований к памяти при сохранении качества, близкого к bfloat16. К сильным сторонам относятся большое контекстное окно, мультимодальное понимание текста и изображений, возможности рассуждения, кодирования и локального развёртывания в экосистемах, совместимых с GGUF. Ограничениями являются отсутствие заявленной поддержки аудио у 31B, а также потенциальные компромиссы качества и точности, характерные для квантованного формата. Модель распространяется по лицензии Apache 2.0.

K2-Horizon-32B — плотная авторегрессионная языковая модель с архитектурой K2HorizonForCausalLM, разработанная IFM. Модель содержит 31,2 млрд параметров и предназначена для генерации текста в диалогах, решения задач на рассуждение, программирование и сценариев с агентами. Для работы с чатом и вызовом инструментов предусмотрены соответствующие парсеры; основной pipeline-тег — text-generation. Модель поддерживает контекст до 524 288 токенов и опубликована в формате Safetensors для Transformers. В карточке указаны английский язык и открытая публикация обучающих данных, рецепта и кода обучения. Указанная лицензия — Apache-2.0. Для заявленного качества авторы рекомендуют высокий уровень рассуждений; для обслуживания описаны конфигурации vLLM и SGLang, включая использование двух ускорителей H200.

K2-Horizon-7B — плотная авторегрессионная языковая модель семейства K2-Horizon от IFM, предназначенная для генерации текста и диалогового взаимодействия. Модель имеет около 8 млрд параметров и поддерживает контекст до 524 288 токенов; карточка описывает её как 7B-core модель с окном контекста 512K. Веса опубликованы в формате Safetensors, лицензия — Apache-2.0. Модель рассчитана на сценарии рассуждений, программирования, работы с длинным контекстом и агентных задач; README приводит результаты оценки на соответствующих бенчмарках и описывает обучение для снижения повторяющихся циклов в длинных генерациях. Доступны промежуточные контрольные точки для изучения изменений возможностей в ходе обучения, а обучающие данные, код и материалы оценки заявлены как открытые. Метаданные указывают английский язык карточки, но это не гарантирует, что модель поддерживает только английский.

RedHatAI/Llama-3.3-70B-Instruct-quantized.w8a8 — квантизированная версия языковой модели Llama-3.3-70B-Instruct, разработанная Neural Magic на базе модели Meta. Это текстовая модель формата «текст на входе — текст на выходе», предназначенная для диалоговых ассистентов, генерации текста, решения задач с открытым ответом, математического рассуждения и программирования. Заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков, а также коммерческого и исследовательского использования. Модель использует архитектуру Llama и имеет 70 млрд параметров в исходной версии. Веса и активации линейных операторов в трансформерных блоках квантизированы в INT8. Для весов применяется статическая симметричная поканальная квантизация, для активаций — динамическая симметричная поточенная квантизация. По данным README, это примерно вдвое снижает требования к видеопамяти и размеру модели, а также может примерно вдвое увеличить пропускную способность матричных умножений. Приведённые примеры развертывания используют vLLM и длину контекста 8192 или 32768 токенов, однако точный нативный размер контекста в README не указан. По результатам внутренней оценки модель сохраняет 99,4% качества исходной версии по OpenLLM v1 и показывает 100% pass@1 на HumanEval и HumanEval+. Она оптимизирована для эффективного инференса, в частности через vLLM и совместимые с OpenAI API серверы, но квантизация может приводить к некоторой потере качества по сравнению с полной точностью. Модель предназначена только для текстовых задач и не поддерживает мультимодальный ввод. Условия использования определяются лицензией Llama 3.3 от Meta; README также исключает применение с нарушением действующих законов и нормативных требований. Модель была валидирована в Red Hat OpenShift AI 2.20, Red Hat AI Inference Server 3.0, Red Hat Enterprise Linux AI 1.5 и vLLM 0.8.4.

Mistral-Medium-3.5-128B-NVFP4 — квантизированная в формате NVFP4 версия Mistral Medium 3.5 128B, разработанная Mistral AI и оптимизированная NVIDIA с помощью Model Optimizer v0.44.0. NVIDIA не является разработчиком исходной модели. Это плотная Transformer-модель Mistral со 128 млрд параметров и визуальным энкодером, предназначенная для генерации текста, диалогов, программирования, сложных рассуждений, работы с изображениями и агентных сценариев. Модель принимает текст и изображения RGB с переменными размерами и соотношениями сторон, поддерживает контекст до 262 144 токенов и генерирует текст. Заявлена поддержка английского, французского, испанского, немецкого, итальянского, португальского, нидерландского, китайского, японского, корейского и арабского языков. Доступны вызов функций, JSON-вывод, настраиваемая интенсивность рассуждений и следование системным инструкциям. Модель рассчитана на использование с vLLM на NVIDIA GPU архитектуры Blackwell и в Linux. Сильные стороны — единые веса для задач следования инструкциям, рассуждений и кодирования, длинный контекст, мультимодальное понимание изображений и поддержка структурированного и агентного взаимодействия. Ограничения включают отсутствие раскрытых сведений о тренировочных данных и необходимость дополнительного тестирования на данных конкретного применения для оценки качества, безопасности и соответствия требованиям. Модель готова к коммерческому и некоммерческому использованию; применяются условия Modified MIT license Mistral, а для развёртывания и настройки рекомендуется связаться с Mistral.

Muse Glimmer — 30-миллиардная причинная языковая модель, разработанная Meta Superintelligence Lab и дистиллированная из Muse Spark. Она создана для автономных агентских задач на потребительском оборудовании и может работать локально без облачной инфраструктуры и сетевого доступа. Модель предназначена для многошагового рассуждения, выполнения задач от начала до конца, написания и отладки кода, надёжного вызова инструментов, восстановления после ошибок и работы в агентских оркестраторах. Она принимает текст и изображения, включая скриншоты, графики и документы, а выдаёт текст. Muse Glimmer обучалась на данных более чем из 100 языков и поддерживает контекст длиной не менее 131 072 токенов; дата отсечения знаний — 4 января 2026 года. Архитектура включает плотный causal Transformer примерно на 29,6 млрд параметров и отдельный perception encoder примерно на 1,8 млрд параметров типа ViT-G/14. Используются 52 слоя, GQA с соотношением 32 Q-heads к 2 KV-heads, SwiGLU, локальное и глобальное внимание, а также до 4096 визуальных токенов на изображение. Модель поддерживает управляемую интенсивность рассуждений и оптимизирована для локального запуска: динамическое квантование примерно до 4 бит позволяет разместить её менее чем в 20 ГБ, с целевыми конфигурациями на 24–32 ГБ памяти. Ограничения включают высокие требования к ресурсам по сравнению с компактными моделями и зависимость качества от выбранного уровня квантования. Лицензия — Apache 2.0.

NVIDIA Nemotron-3-Super-120B-A12B — большая языковая модель NVIDIA для диалога, рассуждений и агентных приложений. Она предназначена для сложного следования инструкциям, работы с кодом, чат-ботов, систем RAG и автоматизации задач, включая обработку IT-заявок; также поддерживает вызов инструментов и сценарии с длинным контекстом. Модель построена на гибридной архитектуре LatentMoE, сочетающей Mamba-2, смеси экспертов и слои внимания, и использует Multi-Token Prediction для ускорения генерации. В карточке указано 120 млрд параметров, из которых активны 12 млрд; репозиторий содержит BF16-вариант, а обучение использовало NVFP4. Контекст в метаданных каталога — 262 144 токена; README заявляет поддержку до 1 млн токенов. Модель поддерживает английский, французский, немецкий, итальянский, японский, испанский и китайский языки. Модель дообучена на базе nvidia/NVIDIA-Nemotron-3-Super-120B-A12B-BF16 и распространяется в формате safetensors. NVIDIA указывает готовность к коммерческому применению, однако метаданные обозначают лицензию как other, поэтому перед использованием следует проверить условия лицензии репозитория.

NVIDIA Nemotron-3-Ultra-550B-A55B-NVFP4 — текстовая языковая модель NVIDIA для диалогов, рассуждений и агентных приложений. Она основана на Nemotron-3-Ultra-550B-A55B-BF16 и в метаданных обозначена как дообучение этой модели; репозиторий использует формат safetensors и библиотеку Transformers. Архитектура сочетает Mamba-2, Mixture-of-Experts и слои внимания в гибриде LatentMoE, а Multi-Token Prediction предназначен для ускорения генерации. Модель содержит 550 млрд параметров, из которых активно 55 млрд, и поддерживает контекст до 1 млн токенов. Модель предназначена для сложных многошаговых задач, анализа длинных документов и кодовых баз, ответов на вопросы, следования инструкциям и построения чат-ботов, RAG-систем и ИИ-агентов. Карточка сообщает о поддержке английского, французского, испанского, итальянского, немецкого, японского, корейского, хинди, португальского Бразилии и китайского; метаданные также включают арабский и иврит. В карточке заявлена пригодность для коммерческого и некоммерческого использования, но метаданные указывают лицензию «other», поэтому условия следует сверить с лицензией репозитория. Модель очень крупная, а приведённые в карточке рекомендации по запуску ориентированы на ускорители NVIDIA; практическое развёртывание требует значительных вычислительных ресурсов.

Qwen2-7B-Instruct-AWQ — инструкционная языковая модель из серии Qwen, разработанная командой Qwen. Это текстовая модель для генерации ответов в диалогах, следования инструкциям, понимания и создания текста, а также задач программирования, математики, рассуждений и многоязычной обработки. Модель предназначена для локального развертывания и интеграции в приложения через Transformers или vLLM. Модель содержит около 7 миллиардов параметров и основана на decoder-only архитектуре Transformer с активацией SwiGLU, смещениями в QKV-проекциях и Grouped Query Attention. Она прошла предварительное обучение, supervised fine-tuning и Direct Preference Optimization. Вариант AWQ использует квантованные веса для снижения требований к памяти и ускорения инференса. Модель работает с текстом, поддерживает английский язык, а токенизатор адаптирован также к нескольким естественным языкам и языкам программирования. Заявлена длина контекста до 131 072 токенов; для обработки очень длинных входов применяется метод YARN. Сильными сторонами модели являются большой контекст, инструкционное выравнивание, поддержка многоязычных и технических сценариев, а также более экономичное развертывание благодаря квантованию. Модель не является мультимодальной и ориентирована на текстовую генерацию. При использовании YARN в vLLM статический коэффициент масштабирования может отрицательно влиять на качество или производительность на коротких текстах, поэтому его рекомендуется включать только при необходимости длинного контекста. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-27B with MTP — это плотная мультимодальная модель на базе Qwen/Qwen3.6-27B, представленная пользователем froggeric в формате GGUF для llama.cpp. Модель предназначена для диалога, программирования, отладки, анализа, перевода, работы с изображениями, рассуждений и использования инструментов. Заявлена поддержка английского, китайского и других языков. Модель содержит 27 млрд параметров, поддерживает текстовый и графический ввод через отдельный vision-проектор, а также контекст до 262 144 токенов при подходящей конфигурации памяти. Встроенные MTP-головы обеспечивают self-speculative decoding: llama.cpp может предсказывать несколько токенов за шаг и затем проверять их, что особенно эффективно для кода и других предсказуемых задач. Доступны варианты квантования от F16 до IQ2_M, что позволяет выбирать между качеством, скоростью и требованиями к памяти. К сильным сторонам относятся мультимодальность, большой контекст, поддержка reasoning и tool use, встроенное ускорение генерации без дополнительной draft-модели и исправленный шаблон чата для корректной работы в C++-рантаймах. Ограничения включают зависимость от версии llama.cpp b9180 или новее, необходимость отдельного mmproj-файла для изображений, а также неодинаковую эффективность MTP: ускорение обычно выше при программировании и ниже при аналитических и творческих задачах, особенно на сильных вариантах квантования. Модель распространяется по лицензии Apache-2.0.

Inferact/Qwen3.8-2.4T-A95B-NVFP4 — открытая причинно-следственная языковая модель семейства Qwen3.8, разработанная командой Qwen. Репозиторий содержит веса и конфигурацию постобученной модели в формате Hugging Face Transformers; заявлена совместимость с vLLM, SGLang и TokenSpeed. Модель предназначена для генерации текста, программирования, профессиональных и исследовательских задач, а также для длительных многошаговых агентских сценариев с планированием и обработкой обратной связи от среды. Модель построена на архитектуре Mixture of Experts и содержит около 2,4 трлн параметров, из которых при обработке одного токена активируется около 95 млрд. Она включает 92 слоя, 512 экспертов, 10 маршрутизируемых и один общий активируемый эксперт, а также сочетает Gated DeltaNet и Gated Attention. Нативная длина контекста составляет 262 144 токена и может быть расширена до 1 010 000 токенов. Глубина рассуждений настраивается параметром reasoning_effort, а контекст рассуждений из предыдущих сообщений может сохраняться через preserve_thinking. Сильные стороны модели — высокая заявленная производительность в программировании, профессиональной работе, исследованиях и автономном выполнении сложных задач, а также широкая совместимость с инструментами инференса. В представленном описании не указана поддержка изображений или других модальностей, поэтому модель следует рассматривать прежде всего как текстовую. Лицензия обозначена как qwen3.8-max с типом other; применимые условия приведены в файле LICENSE базовой модели Qwen/Qwen3.8-2.4T-A95B.

Cogito v1 preview 70B — диалоговая языковая модель, разработанная Deep Cogito и дообученная на базе Meta Llama 3.1 70B. Модель содержит 69,5 млрд параметров, использует архитектуру Llama с плотной авторегрессионной сетью и предназначена для генерации текста, следования инструкциям и общения. Модель поддерживает два режима ответа: прямой и с дополнительным рассуждением, которое можно включить через системную инструкцию или параметр шаблона чата. Она ориентирована на программирование, STEM-задачи, многоязычные запросы, вызов инструментов и общую помощь; заявлена поддержка более 30 языков и контекст до 128 тыс. токенов. Модель работает с текстом на входе и выдаёт текст. По заявлению разработчика, Cogito обучалась методом Iterated Distillation and Amplification и показывает результаты выше сопоставимых по размеру моделей на стандартных отраслевых тестах. Репозиторий содержит веса Safetensors и использует библиотеку Transformers. Лицензия Llama 3.1 допускает коммерческое использование с соблюдением её условий.

NVIDIA DeepSeek-V4-Flash-0731-NVFP4 — это квантизированная версия модели DeepSeek-V4-Flash-0731, разработанной DeepSeek AI и оптимизированной NVIDIA с помощью Model Optimizer. Модель предназначена для коммерческого и некоммерческого использования и ориентирована на сложное рассуждение, агентные AI-приложения, работу с инструментами, математику, программную инженерию и корпоративных AI-ассистентов. Модель построена на архитектуре Transformer и использует Mixture-of-Experts с 304 млрд параметров, из которых активируются 13 млрд, гибридное внимание Compressed Sparse Attention и Heavily Compressed Attention, а также Manifold-Constrained Hyper-Connections. Это авторегрессионная языковая модель с текстовым вводом и выводом, поддержкой многоходовых диалогов, системных инструкций, структурированного JSON, function calling и отображения рассуждений. Максимальная длина контекста составляет 1 млн токенов; доступны уровни reasoning effort low, high и max. Модель включает модуль спекулятивного декодирования DSpark. К сильным сторонам относятся поддержка очень длинного контекста, задач рассуждения, программирования, следования инструкциям и агентного взаимодействия с инструментами. Модель предназначена прежде всего для запуска на GPU NVIDIA с архитектурой Blackwell в Linux через SGLang или vLLM; совместимость с другими платформами в README не указана. Данные исходного обучения не раскрыты, поэтому заявленные характеристики требуют дополнительной проверки на прикладных данных. Модель распространяется по лицензии MIT.

NVIDIA DeepSeek-V4-Flash-nvfp4-DSpark — это квантизированная версия DeepSeek-V4-Flash, разработанная с использованием NVIDIA Model Optimizer и объединённая в одном контрольном файле с официальным модулем спекулятивного декодирования DSpark от DeepSeek. Модель не является новой самостоятельной архитектурой и не принадлежит NVIDIA: NVIDIA подготовила сборку по требованиям сторонней модели DeepSeek. Лицензия — MIT. Модель предназначена для продвинутого рассуждения, агентных приложений, использования инструментов и решения сложных задач, включая математику, разработку программного обеспечения и корпоративных AI-ассистентов. Она принимает и генерирует текст, поддерживает многоходовые диалоги, системные инструкции, структурированный JSON, вызов функций и вывод рассуждений. Доступны режимы Non-think, Think High и Think Max, а максимальная длина контекста составляет 1 миллион токенов. Архитектура основана на Transformer и Mixture-of-Experts с гибридным вниманием, включающим Compressed Sparse Attention и Heavily Compressed Attention. Основная модель содержит 284 млрд параметров, из которых активируется 13 млрд. Модуль DSpark использует черновую модель с 21 млрд параметров, примерно 1 млрд из которых активируется; он предназначен для ускорения генерации за счёт спекулятивного декодирования, причём один контрольный файл может использоваться одновременно как целевая и черновая модель. Модель оптимизирована для NVIDIA GPU, прежде всего архитектуры Blackwell, и рассчитана на работу в Linux через vLLM с поддержкой DSpark. Квантизация NVFP4 снижает требования к вычислительным ресурсам, однако совместимость и производительность зависят от поддерживаемого оборудования и программного стека. Перед эксплуатацией необходимы тестирование на данных конкретного сценария и проверка безопасности и качества результатов.

NVIDIA DeepSeek-V4-Pro-NVFP4 — квантизированная версия языковой модели DeepSeek-V4-Pro, разработанная и подготовленная с помощью NVIDIA Model Optimizer v0.44. Базовая модель создана сторонней организацией и не принадлежит NVIDIA; NVIDIA выполнила её квантизацию под данный сценарий использования. Модель распространяется по лицензии MIT и допускает коммерческое и некоммерческое применение. Модель предназначена для генерации текста, сложного рассуждения, математических задач, программной инженерии, агентных приложений, вызова инструментов и корпоративных AI-ассистентов. Она поддерживает многоходовые диалоги с системными, пользовательскими и ассистентскими сообщениями, структурированный JSON-вывод, function calling и выдачу рассуждений в соответствующем режиме. Доступны режимы Non-think для быстрого ответа, Think High для логического анализа и Think Max для максимально глубокого рассуждения. Архитектура построена на Transformer и Mixture-of-Experts с гибридным вниманием, включающим Compressed Sparse Attention и Heavily Compressed Attention. Общее число параметров составляет около 1,6 трлн, из них активируется 49 млрд. Модель работает с текстом, использует контекст до 1 млн токенов и поддерживает пользовательский конвейер кодирования encoding_dsv4. NVFP4-квантизация применяется к весам и активациям линейных операторов в MoE-блоках. Для запуска заявлены SGLang и vLLM на Linux-системах с GPU NVIDIA Blackwell, тестирование проводилось на NVIDIA B200. Ограничения включают высокие требования к совместимой аппаратуре и необходимость дополнительного тестирования на данных конкретного применения; сведения о языках модели, обучающих данных и полном наборе характеристик базовой DeepSeek-V4-Pro в карточке не раскрыты.

aifeifei798/gemma-4-E2B-Queen-it-qat-q4_0-unquantized — производная инструктивная модель семейства Gemma 4 на базе google/gemma-4-E2B-it-qat-q4_0-unquantized. В карточке описана архитектура Gemma 4 с плотной моделью и гибридным вниманием: локальные окна чередуются с глобальным вниманием. Модель предназначена для диалогов, рассуждений, программирования и мультимодального анализа; контекст Gemma 4 E2B составляет до 128 тысяч токенов. Модель принимает текст и изображения, а семейство Gemma 4 также описано как способное анализировать видео и аудио; однако карточка не подтверждает аудиовозможности именно этой производной сборки. Поддерживаются более 35 языков, а предварительное обучение проводилось более чем на 140 языках. Лицензия — Apache-2.0. Возможны фактические ошибки, трудности с тонкими языковыми нюансами и сложными открытыми задачами; ответы могут отражать смещения и пробелы обучающих данных.

unsloth/Meta-Llama-3.1-8B-bnb-4bit — 4-битно квантованная версия языковой модели Meta Llama 3.1 8B, подготовленная с использованием Unsloth. Базовую модель разработала Meta. Это авторегрессионная модель на оптимизированной архитектуре Transformer с Grouped-Query Attention (GQA), предназначенная для генерации текста и кода. Модель работает с многоязычным текстом на входе и генерирует многоязычный текст и код. Заявленная длина контекста составляет 128 тысяч токенов, данные обучения включают более 15 триллионов токенов, дата отсечения знаний — декабрь 2023 года. Поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Модель подходит для диалоговых сценариев, обработки текста, генерации кода и дообучения на собственных данных. Ключевое преимущество данной версии — 4-битное представление bnb 4bit, снижающее требования к памяти и упрощающее запуск и дообучение по сравнению с полноразмерной моделью. Ограничения включают текстовую модальность без обработки изображений и зависимость качества от квантования и доступных вычислительных ресурсов. Модель статична и не содержит знаний о событиях после даты отсечения. Для использования указана лицензия Llama 3.1 Community License — специальная коммерческая лицензия Meta.

Nemotron-3-Super-120B-A12B-NVFP4 — большая языковая модель NVIDIA для диалога, рассуждений и агентных приложений. Вариант с NVFP4 содержит 120 млрд параметров, из которых 12 млрд активны; модель построена на гибридной архитектуре LatentMoE с чередованием Mamba-2, слоёв Mixture-of-Experts и отдельных слоёв внимания. Multi-Token Prediction поддерживает ускоренную генерацию. Для запуска используются Transformers и PyTorch; в карточке заявлен контекст до 1 млн токенов. Модель предназначена для чат-ботов, систем RAG, совместно работающих агентов, автоматизации IT-заявок, сложного следования инструкциям и рассуждений по длинному контексту. Она генерирует текст и поддерживает интерфейс вызова инструментов. Заявлены английский, французский, немецкий, итальянский, японский, испанский и китайский языки; также подходит для задач с кодом. По карточке, модель готова к коммерческому применению. Метаданные указывают лицензию «other», поэтому условия коммерческого использования следует сверять с лицензией и условиями NVIDIA для исходной модели.

Nemotron-3-Ultra-550B-A55B-BF16 — большая языковая модель NVIDIA для диалога, рассуждений и агентных сценариев. Она предназначена для разработчиков чат-ботов, RAG-систем и ИИ-агентов, которым нужны сложное следование инструкциям, анализ больших документов и кодовых баз, а также задачи в математике и науке. Модель использует гибридную архитектуру LatentMoE с чередованием слоёв Mamba-2 и Mixture-of-Experts, отдельными слоями внимания и Multi-Token Prediction. Всего в ней 550 млрд параметров, из которых активно используются 55 млрд; метаданные указывают контекст до 262 144 токенов. README заявляет поддержку английского, французского, испанского, итальянского, немецкого, японского, хинди, корейского, бразильского португальского и китайского; теги карточки также включают арабский и иврит. Модель распространяется в формате safetensors, работает через Transformers и заявлена как пригодная для коммерческого и некоммерческого применения. Лицензия обозначена как other, поэтому перед использованием следует проверить её условия у разработчика.

NVIDIA Nemotron-3-Ultra-550B-A55B-BF16 — крупная языковая модель NVIDIA для диалогов, рассуждений и агентных приложений. Она предназначена для разработчиков систем с ИИ-агентами, чат-ботов и RAG-приложений, а также для анализа больших документов и кодовых баз, сложного следования инструкциям и задач по математике и науке. Модель содержит 550 млрд параметров, из которых 55 млрд активируются при обработке токена. Архитектура LatentMoE объединяет слои Mamba-2, Mixture-of-Experts и внимания; Multi-Token Prediction поддерживает ускоренную генерацию. Метаданные указывают контекстное окно 262 144 токена, а README заявляет до 1 млн токенов. Поддерживаются английский, французский, испанский, итальянский, немецкий, японский, хинди, корейский, португальский и китайский языки; в метаданных также отмечен иврит. Модель предназначена для коммерческого и некоммерческого использования. В метаданных лицензия обозначена как other, поэтому перед внедрением следует свериться с условиями лицензии в карточке модели. Масштаб модели требует значительных вычислительных ресурсов; заявленная длина контекста README отличается от значения в метаданных.

Карточка модели Openintelligent123/NVIDIA-Nemotron-3-Ultra-550B-A55B-NVFP4 на Hugging Face совпадает с карточкой nvidia/NVIDIA-Nemotron-3-Ultra-550B-A55B-NVFP4, поэтому описание составлено по ней. Nemotron-3-Ultra-550B-A55B-NVFP4 — большая языковая модель NVIDIA для диалога, рассуждений и агентных приложений. Она предназначена для сложных многошаговых задач, анализа больших документов и кодовых баз, а также для работы с математическими и научными запросами. Модель подходит разработчикам чат-ботов, RAG-систем и AI-агентов. Модель построена на гибридной архитектуре LatentMoE: в ней сочетаются слои Mamba-2, Mixture-of-Experts и Attention, а Multi-Token Prediction ускоряет генерацию. Всего в модели 550 млрд параметров, из которых 55 млрд активны; контекст достигает 1 млн токенов. Чекпойнт использует NVFP4 и рассчитан на высокую пропускную способность на современном оборудовании NVIDIA. Поддерживаются английский, французский, испанский, итальянский, немецкий, японский, корейский, хинди, бразильский португальский и китайский языки. NVIDIA заявляет о готовности модели к коммерческому и некоммерческому использованию; в метаданных лицензия обозначена как other, поэтому перед внедрением следует проверить условия лицензии в карточке модели. Для запуска требуются значительные вычислительные ресурсы и подходящая инфраструктура NVIDIA; в README рекомендована многосерверная конфигурация для развертывания на нескольких узлах.

Qwen3-235B-A22B — большая языковая модель семейства Qwen3 от команды Qwen, разработанная Alibaba. Это причинная языковая модель архитектуры Mixture of Experts: всего 235 млрд параметров, из которых при генерации активируются 22 млрд; используются 128 экспертов, из них активны 8. Модель доступна в формате safetensors и рассчитана на работу через Transformers. Модель предназначена для диалогов и генерации текста, следования инструкциям, рассуждений, математики, программирования, творческого письма, перевода и сценариев с вызовом внешних инструментов. В одном чекпойнте можно переключать режимы рассуждения и обычного ответа. README заявляет поддержку более 100 языков и диалектов. Контекст в README указан как 32 768 токенов нативно и до 131 072 с YaRN; метаданные каталога указывают нативную длину 40 960 токенов. Модель принимает текст и выдаёт текст. Репозиторий лицензирован по Apache-2.0. Для практического использования следует учитывать большой общий размер модели и требования к инфраструктуре; README не приводит конкретных аппаратных требований или оценок качества для отдельных задач.

Xing4.0-29B-A4B-GGUF — большая языковая модель серии Xing, разработанная China Telecom Artificial Intelligence Technology Co., Ltd. Это GGUF-представление модели Xing4.0-29B-A4B с квантованием смешанной точности IQ4_NL; размер файла составляет около 18 ГБ, что позволяет запускать модель на одной пользовательской видеокарте. Модель распространяется под лицензией Apache 2.0. Модель предназначена для генерации текста, сложного рассуждения, программирования, инженерных задач, многошагового планирования, вызова инструментов и агентских сценариев. Она также подходит для дообучения под прикладные задачи, включая классификацию намерений, анализ таблиц, аудит договоров и ответы на вопросы по корпоративным знаниям. Заявлена совместимость с Transformers, vLLM, SGLang, KTransformers, LLaMA-Factory и MindFormers, а также с рядом агентских фреймворков. Архитектура включает MoE с 29 млрд общих параметров и 4 млрд активных параметров на токен, 40 слоёв, скрытый размер 3584, MLA-attention, 64 маршрутизируемых эксперта, 4 активных эксперта на токен и одного общего эксперта. Модель поддерживает контекст 256 тысяч токенов с возможностью расширения до 512 тысяч. Указана поддержка режима рассуждений, который можно включать или отключать при инференсе. README не сообщает полный список поддерживаемых языков и не описывает мультимодальные возможности, поэтому модель следует считать текстовой. Сильными сторонами являются большой контекст, высокая эффективность MoE при инференсе, ориентация на агентские и программные задачи, а также возможность локального запуска и доменной адаптации. Ограничения включают необходимость совместимого инференс-стека и значительный объём памяти; показатели бенчмарков приведены авторами README и могут зависеть от настроек оценки. Сведения о безопасности, фильтрации контента и конкретных языковых ограничениях не указаны.

Cogito v1 preview 32B — инструктивно дообученная языковая модель Deep Cogito для генерации текста и диалогов. Она построена на плотной архитектуре Qwen2 и содержит 32 млрд параметров; базовая модель — Qwen/Qwen2.5-32B. Модель принимает и выдаёт текст, поддерживает контекст до 131 072 токенов и обучена более чем на 30 языках. Модель может отвечать напрямую или включать режим расширенного рассуждения. Она предназначена для следования инструкциям, программирования, задач STEM, общего помощника и вызова инструментов; заявлена поддержка одиночных и параллельных вызовов. Разработчик сообщает о результатах выше сопоставимых по размеру моделей на отраслевых тестах, однако подробности оценок вынесены в отдельную публикацию. Модель распространяется под лицензией Apache 2.0, допускающей коммерческое использование. Это предварительная версия; качество ответов и рассуждений может зависеть от задачи, языка и выбранного режима.