I.2Синтез, понимание и проверка знаний

Frosty40/Qwen3.8-27B-GGUF — это квантованная версия базовой модели Qwen/Qwen3.8-27B, разработанной командой Qwen и преобразованной в формат GGUF для запуска через llama.cpp. Модель предназначена для генерации и анализа текста, работы с кодом и агентскими сценариями, а также для задач vision-language с обработкой изображений через отдельный vision projector. Поддерживаются большие контексты до 262K токенов, гибридная архитектура с 48 слоями линейного внимания Gated-DeltaNet и 16 слоями полного внимания, а также межслойное позиционное кодирование MRoPE и гибридная recurrent-attention память. Языки в README явно не указаны. Основной рекомендуемый файл использует квантование Q6_K, повышенную точность Q8_0 для attention-проекций и встроенную MTP-голову для speculative decoding; его размер составляет 23,2 ГБ. MTP может ускорять декодирование примерно на 45–95% при поддержке NextN/MTP в llama.cpp. Заявлены высокая близость к версии bf16, особенно для кода и агентских задач, а также сохранение качества vision-инференса. Для работы требуются llama.cpp с поддержкой архитектуры qwen35, а для MTP-версии — дополнительная поддержка NextN/MTP и vision projector. Контекстное смещение недоступно, а превышение объёма памяти видеокарты приводит к выгрузке в оперативную память и снижению производительности. Модель распространяется по лицензии Apache-2.0.

Карточка модели Mahesh111000/qwen3-8b-hanabi-init30turns-thinking-step_220 на Hugging Face совпадает с карточкой Qwen/Qwen3-8B, поэтому описание составлено по ней. Qwen3-8B — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Версия содержит 7,6 млрд параметров по метаданным и дообучена на базе Qwen/Qwen3-8B-Base; карточка описывает этапы предварительного обучения и последующего обучения. Модель принимает текст и генерирует текст, поддерживает диалог и интерфейс вызова инструментов. Модель предназначена для диалоговых помощников, следования инструкциям, рассуждений, решения математических задач, генерации кода, творческого письма и перевода. Она поддерживает более 100 языков и диалектов и позволяет переключаться между режимами рассуждения и обычного ответа. Метаданные указывают нативный контекст 40 960 токенов; README приводит 32 768 токенов нативно и до 131 072 с YaRN. Лицензия — Apache-2.0. Качество ответов и рассуждений может зависеть от задачи и формулировки запроса; генерация кода и ответы модели требуют проверки. Значение контекстного окна в README отличается от метаданных, а заявленное расширение с YaRN требует соответствующей настройки.

Qwen3-VL-8B-Instruct-FP8 — мультимодальная instruction-модель семейства Qwen, разработанная командой Qwen. Это FP8-квантизированная версия Qwen3-VL-8B-Instruct с мелкозернистой квантизацией и размером блока 128; согласно README, её показатели почти идентичны исходной версии BF16. Модель предназначена для обработки текста, изображений и видео, генерации ответов по визуальному и текстовому контексту, OCR, анализа документов, пространственного рассуждения, понимания длительных видеоматериалов, визуального программирования и взаимодействия с графическими интерфейсами через инструменты. Заявлены возможности работы с контекстом до 256K токенов с расширением до 1M, временная привязка событий в видео, улучшенное распознавание текста на 32 языках и поддержка задач STEM и математики. Ключевые архитектурные особенности включают Interleaved-MRoPE для позиционного кодирования времени, ширины и высоты, DeepStack для объединения многоуровневых признаков ViT и механизм выравнивания текста с временными метками. Ограничение текущей версии заключается в том, что Transformers пока не поддерживает прямую загрузку этих весов; для развёртывания рекомендуются vLLM или SGLang. Модель распространяется по лицензии Apache 2.0.

unsloth/Qwen3-VL-8B-Instruct-FP8 — мультимодальная vision-language модель серии Qwen3-VL, разработанная на базе Qwen3-VL-8B-Instruct и опубликованная Unsloth. Это FP8-квантизированная версия с мелкозернистой квантизацией и размером блока 128; заявлено, что её показатели почти идентичны исходной версии в формате BF16. Модель предназначена для понимания и генерации текста по тексту, изображениям и видео. Она поддерживает визуальное распознавание, OCR, анализ документов, пространственное и STEM-рассуждение, понимание длительных видео, генерацию HTML/CSS/JS и Draw.io по визуальным материалам, а также взаимодействие с графическими интерфейсами и инструментами. Заявлены контекст до 256 тысяч токенов с возможностью расширения до 1 миллиона, улучшенная работа с временной структурой видео и OCR для 32 языков. К архитектурным особенностям относятся плотная модель на 8 млрд параметров, визуальный энкодер ViT, механизмы Interleaved-MRoPE для позиционного кодирования времени, ширины и высоты, DeepStack для объединения многоуровневых визуальных признаков и выравнивание текста с временными метками. Сильными сторонами являются сочетание текстового, визуального и видеоанализа, длинный контекст, пространственное рассуждение и сохранение качества после квантизации. Ограничение состоит в том, что на момент публикации веса нельзя напрямую загружать через Transformers; для развертывания рекомендуются vLLM или SGLang. Модель распространяется по лицензии Apache-2.0.

Карточка модели TreezzZ/r2s-webshop-qwen3-8b-student на Hugging Face совпадает с карточкой Qwen/Qwen3-8B, поэтому описание составлено по ней. Qwen3-8B — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Версия содержит 7,6 млрд параметров по метаданным и дообучена на базе Qwen/Qwen3-8B-Base; карточка описывает этапы предварительного обучения и последующего обучения. Модель принимает текст и генерирует текст, поддерживает диалог и интерфейс вызова инструментов. Модель предназначена для диалоговых помощников, следования инструкциям, рассуждений, решения математических задач, генерации кода, творческого письма и перевода. Она поддерживает более 100 языков и диалектов и позволяет переключаться между режимами рассуждения и обычного ответа. Метаданные указывают нативный контекст 40 960 токенов; README приводит 32 768 токенов нативно и до 131 072 с YaRN. Лицензия — Apache-2.0. Качество ответов и рассуждений может зависеть от задачи и формулировки запроса; генерация кода и ответы модели требуют проверки. Значение контекстного окна в README отличается от метаданных, а заявленное расширение с YaRN требует соответствующей настройки.

Tess-4-35B-A3B — мультимодальная модель семейства Tess-4, разработанная Migel Tissera и представленная в этом репозитории как неизменённая копия весов оригинальной модели. Это постобученная смесь экспертов на базе Qwen/Qwen3.6-35B-A3B: модель имеет около 35 млрд параметров общей ёмкости и активирует примерно 3 млрд параметров на токен. Используется гибридное внимание с gated-delta-net и полным GQA в каждом четвёртом слое. Модель предназначена для диалогов, многошагового использования инструментов, агентного программирования, анализа изображений и работы с длинными техническими документами. Карточка описывает обучение на 64K-токенных агентных трассах; базовая архитектура поддерживает контекст до 262K позиций. Веса сохраняют визуальный тракт Qwen и обработку изображений и видео. Указан английский язык. Для запуска BF16-весов требуется современная версия Transformers с поддержкой мультимодальной архитектуры Qwen3.6 MoE; полный набор весов занимает около 72 ГБ. Указанная лицензия — Apache-2.0. Заявления о качестве и скорости в README частично основаны на данных автора и сообщества; GGUF-оптимизации и ускорение с MTP относятся к отдельному репозиторию и специализированной сборке llama.cpp.

Calcium-Opus-14B-Elite — диалоговая языковая модель prithivMLmods, дообученная на базе Qwen/Qwen2.5-14B-Instruct. Это плотная архитектура Qwen2 с 14 млрд параметров, рассчитанная на генерацию текста, следование инструкциям и многошаговые рассуждения, включая решение математических задач и работу с кодом. Модель принимает текст и выдаёт текст; заявлена поддержка контекста до 131 072 токенов и генерации ответов длиной до 8 000 токенов. В README заявлена поддержка более 29 языков, в том числе английского, русского, китайского, французского, испанского, немецкого, японского и арабского. Карточка описывает улучшенное следование инструкциям, анализ таблиц и JSON, а также генерацию структурированных ответов. Модель доступна в формате Safetensors и использует библиотеку Transformers. Модель подходит для диалоговых помощников, объяснения решений, математических задач, генерации и отладки кода, а также обработки структурированных данных. Качество может различаться между языками; длинные ответы могут содержать ошибки или повторы, а актуальность знаний ограничена данными обучения. В README также отмечены высокие требования к вычислительным ресурсам, особенно при длинном контексте. Лицензия — Apache-2.0.

dolphin-2.9.1-llama-3-70b-IMat-GGUF — GGUF-квантизированная версия текстовой модели dolphin-2.9.1-llama-3-70b, разработанной cognitivecomputations. Модель основана на Llama 3 с исходным типом данных BF16 и содержит около 70 млрд параметров. Квантизация выполнена с использованием llama.cpp версии b3003, а разработчиком сборки указан legraphista. Для калибровки применён IMatrix-набор данных. Модель предназначена для генерации текста и диалоговых сценариев, включая выполнение инструкций, программирование, математические задачи, function calling и агентские задачи. При обучении исходной модели использовались наборы Dolphin-2.9, OpenHermes-2.5, CodeFeedback-Filtered-Instruction, dolphin-coder, samantha-data, Orca Math Word Problems, Locutusque Function Calling ChatML и Agent-FLAN. Поддерживаются варианты квантизации от Q2_K и IQ3 до Q8_0, а также FP16 и BF16; доступны как цельные, так и разделённые файлы. Ключевое преимущество сборки — возможность запускать крупную модель в формате GGUF через совместимое программное обеспечение, выбирая компромисс между размером файла и сохранением качества. IMatrix применяется в ряде вариантов с более низкой разрядностью и может улучшать качество по сравнению с обычной квантизацией. Ограничения включают значительные требования к дисковому пространству и вычислительным ресурсам, особенно для вариантов высокого качества; сведения о конкретном контекстном окне, языках и мультимодальности в README не указаны. Лицензия указана как llama3.

Domyn Small v1.0 — текстовая генеративная модель с открытыми весами, разработанная компанией Domyn S.p.A. Модель построена на плотной архитектуре Nemotron с 10,7 млрд параметров, группированным запросным вниманием и контекстом 32 768 токенов; при инференсе контекст можно расширить до 131 072 токенов с помощью YaRN. Модель принимает и выдаёт текст, поддерживает режимы рассуждения с включением и выключением, а также вызов инструментов. Она предназначена для многоязычных диалогов, многошаговых задач рассуждения и агентных приложений, в том числе для задач программирования и математики. Разработчик заявляет о сопоставимой с другими моделями класса 7–10B точности на ряде тестов при меньшем расходе токенов на рассуждение. В карточке указана оптимизация для английского, итальянского, испанского, французского и немецкого языков; README также сообщает о покрытии более 50 языков. Модель основана на Italia 10B и прошла дополнительное предобучение на 503 млрд токенов. Лицензия в метаданных указана как other, тогда как README заявляет MIT; условия распространения следует сверять с файлами лицензии в репозитории. YaRN может снижать качество на запросах короче штатного контекста, а разработчик рекомендует отдельно оценивать точность, безопасность и справедливость для конкретного применения, особенно в областях высокого риска.

Карточка модели GokulRajaR/embeddinggemma-300m-qat-q8_0-unquantized на Hugging Face совпадает с карточкой h2oai/embeddinggemma-300m-qat-q8_0-unquantized, поэтому описание составлено по ней. EmbeddingGemma — мультиязычная модель эмбеддингов Google DeepMind на 302,8 млн параметров, основанная на текстовой архитектуре Gemma 3 с инициализацией T5Gemma. Она преобразует текст в векторы для поиска, извлечения информации, оценки семантического сходства, классификации и кластеризации. Модель обучена на данных более чем на 100 языках и рассчитана на запуск в условиях ограниченных ресурсов, включая мобильные устройства и настольные компьютеры. Модель принимает текст длиной до 2048 токенов и выдаёт вектор размерности 768; с помощью Matryoshka Representation Learning его можно сократить до 512, 256 или 128 измерений с последующей нормализацией. Веса предназначены для использования с Sentence Transformers и реализацией Gemma 3 в Transformers. Модель подходит для поиска документов и кода по запросам, а также для подбора текстов по смыслу. Качество может снижаться при неоднозначных формулировках, сарказме и тонких языковых нюансах; результаты также зависят от охвата и возможных смещений обучающих данных. Лицензия — Gemma; применяются условия использования и политика запрещённого использования Gemma.

unsloth/gemma-4-12b-it-NVFP4 — квантизированная версия instruction-tuned модели Gemma 4 12B, подготовленная Unsloth на базе Google Gemma 4 12B-it. Исходную модель разработала Google DeepMind. Вариант предназначен для локального запуска и дообучения, в том числе на потребительских GPU, а также для использования в vLLM и Unsloth Studio. Модель поддерживает мультимодальный ввод: текст, изображения, аудио и видео, при этом генерирует текст. Она рассчитана на генерацию текста, программирование, рассуждения, мультимодальное понимание и агентские сценарии с нативным вызовом функций. Семейство Gemma 4 поддерживает более 140 языков, режимы настраиваемого рассуждения, системные сообщения и контекст до 256 тысяч токенов для моделей среднего размера. Архитектура семейства использует гибридное внимание с чередованием локального скользящего и глобального внимания; конкретные дополнительные параметры архитектуры этой версии в карточке не указаны. NVFP4-квантизация уменьшает требования к памяти и ориентирована на эффективное выполнение, однако карточка не приводит количественных оценок влияния квантизации на качество или подробных ограничений модели. Для запуска рекомендуется vLLM с автоматическим выбором NVFP4-ядра; использование Marlin не рекомендуется из-за снижения скорости. Модель распространяется по лицензии Apache 2.0.

RedHatAI/gemma-4-26B-A4B-it-FP8-dynamic — мультимодальная instruction-tuned модель семейства Gemma 4, разработанная RedHatAI на основе google/gemma-4-26B-A4B-it. Она принимает текст и изображения и генерирует текст; поддерживает режим рассуждений и вызов инструментов. Модель предназначена для диалоговых приложений, генерации текста, следования инструкциям, решения задач, мультимодального анализа и function calling. Архитектура модели — Gemma4ForConditionalGeneration. Вариант имеет конфигурацию 26B-A4B и оптимизирован для инференса в vLLM. Веса и активации линейных слоёв transformer-блоков квантизированы в FP8: веса используют статическое масштабирование per-channel, активации — динамическое масштабирование per-token. Vision tower, embedding-слои, output head и MoE router сохранены в исходной точности. Квантизация уменьшает объём хранения и требования к памяти GPU примерно на 50%; заявленная максимальная длина контекста при развёртывании составляет 32768 токенов. Поддерживаются изображения и аудио в конфигурации vLLM, однако сведения о языках обучения или поддержки в README не указаны. К сильным сторонам относятся мультимодальность, поддержка рассуждений и вызова инструментов, совместимость с vLLM и близкие к исходной модели результаты на указанных тестах после FP8-квантизации. Ограничениями являются зависимость от корректной настройки vLLM, специальных reasoning- и tool-call parser, а также возможные потери точности из-за квантизации. Модель распространяется по лицензии Apache 2.0; для использования Gemma также следует учитывать условия лицензии Google Gemma, указанной в README.

trohrbaugh/gemma-4-26B-A4B-it-heretic-ara — разговорная мультимодальная модель семейства Gemma 4, размещённая пользователем trohrbaugh. Это вариант Gemma 4 26B A4B с метками heretic, uncensored, decensored и abliterated; карточка не описывает, какие именно изменения внесены в веса. Архитектура использует чередование локального скользящего и глобального внимания. Модель принимает текст и изображения и предназначена для диалога, понимания изображений и документов, генерации и исправления кода, суммаризации и рабочих процессов с вызовом инструментов. В README для семейства Gemma 4 26B A4B заявлен контекст до 256K токенов и поддержка более 35 языков, однако эти сведения приведены для семейства, а не подтверждены отдельными тестами этого варианта. README также описывает для Gemma 4 понимание видео, но карточка именно этого репозитория и его метаданные подтверждают только задачу image-text-to-text и возможность vision, поэтому видео в назначение этой версии не включено. Аудиофункции в README отнесены только к моделям E2B и E4B. Модель может ошибаться в фактах и сложных запросах, а изменённая маркировкой heretic версия может отличаться по поведению и отказам от исходной Gemma 4. Лицензия репозитория — Apache-2.0.

darkc0de/gemma-4-31B-it-Claude-Opus-Distill-v2-heretic — производная модель на основе unsloth/gemma-4-31B-it, дообученная с помощью Unsloth на наборах рассуждений, дистиллированных из взаимодействий Claude Opus 4.5 и 4.6 с высоким уровнем рассуждений. Затем модель была декензурирована методом abliteration с помощью Heretic v1.3.0; в описанных измерениях частота отказов снизилась с 89 до 28 из 100, а KL-дивергенция относительно исходной версии составила 0,0063. Модель предназначена для диалогов и решения многошаговых задач: генерации и отладки кода, научного анализа, исследовательских запросов и повседневных инструкций. Архитектура Gemma 4 — плотная мультимодальная модель на 31 млрд параметров с поддержкой изображений; заявлены режим рассуждений и обработка изображений с настраиваемым бюджетом визуальных токенов. В метаданных указан pipeline image-text-to-text и библиотека Transformers. Модель распространяется по лицензии Apache-2.0. В README отмечены сниженная склонность к отказам и способность к сложным рассуждениям, однако бенчмарки ещё не опубликованы; измерение отказов приведено только для конкретной внутренней проверки и не гарантирует поведения во всех сценариях.

gemma-4-E2B-it-GGUF — мультимодальная instruction-tuned модель семейства Gemma 4, разработанная Google и представленная в формате GGUF пользователем prithivMLmods. Она предназначена для локального запуска на смартфонах, ноутбуках, Raspberry Pi, IoT-устройствах и потребительских GPU, включая сценарии с llama.cpp. Модель подходит для агентных рабочих процессов, OCR, включая многоязычный и рукописный текст, анализа документов и PDF, понимания интерфейсов и экранов, диаграмм и объектов, помощи в программировании, извлечения структурированных данных и задач, требующих рассуждений. Заявлены 2,3 млрд эффективных параметров и 5,1 млрд параметров всего, 35 слоёв, 512-токенное скользящее окно, контекст до 128K токенов и словарь из 262K элементов. Модель поддерживает текст, изображения с переменным соотношением сторон и разрешением, а также аудио; предусмотрены настраиваемые режимы рассуждений. Указан английский язык. Доступны варианты BF16, F16 и квантизации от Q2_K до Q8_0, а также отдельные multimodal projector-файлы, что позволяет выбирать между качеством, размером и требованиями к памяти. Сильные стороны модели — мультимодальность, большой контекст, локальное выполнение и низкие требования к ресурсам; заявлена оптимизация для чипов Qualcomm и MediaTek через Android AICore. Ограничения включают зависимость мультимодальных возможностей от совместимого projector-файла и программного обеспечения, а также отсутствие в README подробных результатов бенчмарков, сведений о поддерживаемых языках кроме английского и точных требований к аппаратному обеспечению. Модель распространяется по лицензии Apache-2.0.

Gemma 4 E4B Instruct QAT Mobile — мультимодальная модель Google DeepMind с плотной архитектурой Gemma 4ForConditionalGeneration, дообученная для следования инструкциям и оптимизированная с помощью Quantization-Aware Training для мобильного оборудования. Эта версия распространяется в формате compressed-tensors и использует схему wNa8o8 с 2-битными слоями декодирования, оптимизированным KV-кэшем и статическими активациями, чтобы снизить требования к памяти при запуске на устройстве. Модель принимает текст и изображения, а для варианта E4B также поддерживает аудио; выдаёт текст. Она предназначена для диалогов, генерации и редактирования кода, рассуждений, извлечения сведений из изображений и документов, OCR, понимания видео и агентных сценариев с вызовом инструментов. Для E4B заявлено контекстное окно 128K токенов; семейство Gemma поддерживает более 140 языков при предварительном обучении. Модель может работать на мобильных устройствах и других локальных системах с ограниченными ресурсами. Модель доступна по лицензии Apache 2.0. Качество и скорость на конкретном устройстве зависят от реализации и аппаратного обеспечения; QAT снижает расход памяти, но отдельные слои используют низкую разрядность. Карточка описывает аудио-возможности семейства, однако не уточняет их точный охват для этой сборки.

GLM-4.7-Flash-GGUF — это GGUF-версия модели GLM-4.7-Flash, подготовленная Unsloth на основе модели Z.ai. Это языковая модель для генерации текста с архитектурой MoE: 30 млрд параметров, из которых при обработке активируется около 3 млрд. Модель поддерживает английский и китайский языки; размер контекста в README не указан. Модель предназначена для общего диалога, рассуждений, программирования, агентских сценариев, вызова инструментов и локального развертывания. Заявлены сильные результаты на задачах математического и научного рассуждения, программирования, веб-поиска и взаимодействия с инструментами. Для локального запуска указана поддержка llama.cpp, vLLM, SGLang и Transformers; также допускается дообучение через Unsloth. Ключевое преимущество модели — сочетание высокой заявленной производительности с относительно компактным числом активных параметров, что делает её подходящей для более эффективного развертывания по сравнению с плотными моделями сопоставимого общего размера. Ограничения включают необходимость использовать актуальные версии некоторых фреймворков, а для GGUF-файлов — корректные параметры генерации; в README отдельно рекомендуется отключить repeat penalty и учитывать настройки temperature, top-p и min-p. Модель распространяется по лицензии MIT.

GRM-2.6-Plus-0628 — дообученная OrionLLM модель с 27 млрд параметров на архитектуре семейства Qwen3.5. Она предназначена для общего общения и сложных задач, включая структурированные рассуждения, программирование и длительные многошаговые агентные сценарии. Метаданные указывают поддержку изображений и интерфейса вызова инструментов; модель принимает текст и изображения и генерирует текст. В README также описана исправленная версия шаблона чата для передачи вызовов инструментов в некоторых движках инференса. Модель выпущена под лицензией Apache 2.0. Заявления о высокой производительности приведены в карточке, но численные результаты бенчмарков в доступном тексте отсутствуют.

Hermes-4-14B-AWQ-4bit — квантизированная 4-битная версия языковой модели Hermes 4 14B, разработанной Nous Research на базе Qwen 3 14B. Модель предназначена для диалоговых ассистентов, генерации и анализа текста, решения задач по математике, программированию, STEM и логике, творческого письма, структурированного вывода данных, а также сценариев с вызовом функций и использованием инструментов. Модель поддерживает гибридный режим рассуждений: при необходимости формирует сегменты <think>…</think>, а в быстром режиме может отвечать без длительного рассуждения. Она обучена следовать инструкциям, соблюдать заданные JSON-схемы и исправлять некорректные структурированные объекты. Для взаимодействия используется формат ChatML; заявлена поддержка английского языка. Архитектура основана на Qwen 3 14B, однако точная длина контекста в README не указана. Мультимодальные возможности не заявлены, поэтому модель следует рассматривать как текстовую. К сильным сторонам относятся улучшенные рассуждения, математика, код, логика, качество форматирования, управляемость и поддержка function calling и tool use. К ограничениям относятся зависимость качества от корректного применения ChatML-шаблона и инструментов, а также возможные компромиссы 4-битной квантизации по сравнению с полноточной версией; конкретные результаты бенчмарков в README не приведены. Модель распространяется по лицензии Apache 2.0.

NVIDIA Kimi-K2.6-NVFP4 — квантизированная версия авторегрессионной языковой модели Kimi-K2.6 от Moonshot AI. NVIDIA подготовила эту сборку с помощью Model Optimizer; сама модель не принадлежит NVIDIA и не была ею разработана. Она предназначена для разработчиков и провайдеров инференса, которым нужны готовые к развертыванию предварительно квантизированные генеративные модели для инференса на GPU NVIDIA. Модель использует оптимизированную архитектуру Transformer с сетевой архитектурой DeepSeek V3. Общий размер составляет около 1 трлн параметров, из которых активируется 32 млрд. Поддерживаются текст, изображения и видео на входе, а результатом является текст, включая естественно-языковые ответы, код, структурированный JSON, запросы вызова инструментов, инструкции для координации агентов и другие артефакты в зависимости от конфигурации сервинга. Заявлена длина контекста 256 тысяч токенов. В README языки явно не указаны. Сильные стороны модели — мультимодальность, большой контекст, поддержка задач рассуждения, программирования и агентного использования инструментов, а также готовая FP4-квантизация для ускоренного инференса. Сборка ориентирована на NVIDIA Blackwell, Linux и runtime vLLM; для эффективной работы требуются GPU-ускоренные системы NVIDIA. Данные о полном обучающем наборе, тестировании и некоторых характеристиках модели не раскрыты, поэтому перед промышленным применением необходимы дополнительные проверки на данных конкретного сценария. Использование регулируется NVIDIA Open Model License. README также содержит ссылку на Modified MIT License базовой модели Kimi-K2.6; применимые условия следует проверять по обеим лицензиям и связанным материалам.

Llama-3.1-Nemotron-Nano-4B-v1.1 — компактная плотная авторегрессионная языковая модель на архитектуре Llama, размещённая в репозитории Unsloth и основанная на NVIDIA Llama-3.1-Nemotron-Nano-4B-v1.1. Это дообученный чекпойнт примерно на 3,9 млрд параметров, созданный для диалога, следования инструкциям и рассуждений; в обучении использовались SFT и этапы обучения с подкреплением для математики, кода, работы с инструментами и предпочтений в чате. Модель принимает и генерирует текст, поддерживает контекст до 131 072 токенов и интерфейс вызова инструментов. Модель предназначена для локального запуска на одном GPU и для создания чат-ботов, агентных систем и приложений RAG. README указывает поддержку английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков, а также задач с кодом. Карточка сообщает, что модель готова к коммерческому использованию, однако метаданные обозначают лицензию только как other и не раскрывают её условия, поэтому перед использованием следует проверить лицензионные условия репозитория. В README приведены результаты на отдельных бенчмарках; они получены при контексте до 32 тыс. токенов и не гарантируют аналогичного качества в других сценариях.

NVIDIA MiniMax-M2.5-NVFP4 — квантизированная версия авторегрессионной языковой модели MiniMax-M2.5, разработанной MiniMax и подготовленной NVIDIA с использованием Model Optimizer. NVIDIA не является разработчиком исходной модели. Модель предназначена для коммерческого и некоммерческого применения, включая AI-агентов, чат-ботов, RAG-системы и другие приложения на базе генерации текста. Модель использует архитектуру Transformers с сетевой архитектурой MiniMaxM2ForCausalLM и содержит 229 млрд параметров. Она работает с текстовыми последовательностями на входе и генерирует текст на выходе; поддерживаемый контекст составляет до 196 608 токенов. Языки явно не указаны. Квантизация весов и активаций линейных операторов внутри трансформерных блоков до формата NVFP4 уменьшает число бит на параметр с 8 до 4, а также примерно в 1,65 раза сокращает требования к дисковому пространству и видеопамяти. Модель ориентирована на развёртывание на NVIDIA GPU, прежде всего на системах с микроархитектурой Blackwell, и интегрируется с SGLang и vLLM под Linux. К сильным сторонам относятся большой контекст, поддержка задач рассуждения и программирования, а также сниженные требования к памяти благодаря квантизации. Ограничения включают зависимость от совместимого оборудования NVIDIA и необходимость дополнительного тестирования на данных конкретного сценария; характеристики исходной MiniMax-M2.5, включая детальные языковые возможности, в предоставленных данных не раскрыты. Использование регулируется NVIDIA Open Model License; дополнительно указана Modified MIT License исходной модели MiniMax-M2.5. Версия квантизации создана с использованием NVIDIA Model Optimizer 0.43.0.

Карточка модели Pq234/Nemotron-3-Nano-Omni-30B-A3B-Reasoning-BF16 на Hugging Face совпадает с карточкой lactroiii/Nemotron-3-Nano-Omni-30B-A3B-Reasoning-BF16, поэтому описание составлено по ней. NVIDIA Nemotron 3 Nano Omni — мультимодальная большая языковая модель семейства Nemotron, разработанная NVIDIA и дополнительно обученная на базе нескольких моделей, включая Qwen3-VL-30B-A3B-Instruct, Qwen3.5-122B-A10B, Qwen3.5-397B-A17B, Qwen2.5-VL-72B-Instruct и gpt-oss-120b. Репозиторий содержит веса в формате safetensors для Transformers; модель поддерживает чат и интерфейс вызова инструментов. В README рекомендуют начинать с контекста 131072 токена при развертывании на Spark. Модель предназначена для корпоративного мультимодального анализа видео, аудио, изображений и текста: ответов на вопросы, суммаризации, транскрибирования речи, OCR и анализа документов, а также понимания GUI. Примеры применения — поиск и краткое изложение видео, проверка заказов по видеозаписям, анализ договоров и финансовых документов, автоматизация браузера и почты. Ключевые ограничения и характеристики, включая точное число параметров и перечень поддерживаемых естественных языков, в предоставленных данных не раскрыты. Модель доступна для коммерческого использования; метаданные указывают лицензию other, поэтому перед внедрением следует свериться с условиями лицензии в карточке репозитория.

Карточка модели nuottroisaoduoc/NVIDIA-Nemotron-3-Nano-30B-A3B-BF16-heretic на Hugging Face совпадает с карточкой Ishowbackup/NVIDIA-Nemotron-3-Nano-30B-A3B-BF16-heretic, поэтому описание составлено по ней. Это текстовая модель-чат Ishowbackup/NVIDIA-Nemotron-3-Nano-30B-A3B-BF16-heretic на базе NVIDIA Nemotron-3-Nano-30B-A3B-BF16. Репозиторий представляет версию с abliteration: в карточке указаны параметры изменения слоёв и снижение доли отказов с 99 из 100 у исходной модели до 6 из 100. Архитектура семейства Nemotron-H использует сочетание Mamba-2, MoE и attention; карточка описывает исходную модель как имеющую 30 млрд параметров, из которых активны 3,5 млрд на токен. Метаданные каталога указывают 1,9 млрд параметров, поэтому размер этой версии по источникам расходится. Модель предназначена для диалогов, следования инструкциям, рассуждений, программирования и создания агентных приложений, включая чат-боты и RAG-системы. Поддерживает английский, испанский, французский, немецкий, итальянский и японский языки, интерфейс вызова инструментов и контекст 262 144 токена в конфигурации; README также сообщает о возможности увеличить контекст до 1 млн токенов. Исходная модель разработана NVIDIA, а карточка этой версии сообщает об улучшении с использованием Qwen. В README модель названа пригодной для коммерческого использования, однако метаданные указывают лицензию «other», поэтому перед внедрением следует проверить условия лицензии конкретного репозитория. Снижение числа отказов означает, что модель может чаще отвечать на запросы, которые исходная версия отклоняет; результаты измерения отказов приведены на выборке из 100 запросов и не гарантируют поведение во всех сценариях.

NVIDIA-Nemotron-Nano-9B-v2-NVFP4 — квантованная модель NVIDIA Corporation для диалогов, следования инструкциям и задач с рассуждением. Это вариант NVIDIA-Nemotron-Nano-9B-v2 с NVFP4-квантизацией и восстановлением точности методом дистилляции с учетом квантования. Архитектура Nemotron-Hybrid объединяет слои Mamba-2, MLP и четыре слоя Attention; заявленный контекст — до 128K токенов. Модель принимает текст и генерирует текст. Режим рассуждений можно управлять системным или пользовательским маркером: генерация рассуждений обычно помогает на сложных запросах, а ответ без промежуточных рассуждений может быть менее точным. Модель поддерживает английский, немецкий, испанский, французский, итальянский и японский; README также заявляет поддержку китайского, корейского, португальского и русского, но не описывает её отдельно. Модель предназначена для чат-ботов, AI-агентов, RAG-систем, программирования и общих задач следования инструкциям. Для инференса рекомендуются NVIDIA GPU и поддерживаются Transformers, vLLM и TRT-LLM; в vLLM неверный тип кэша Mamba может снизить точность. В README указано, что модель готова к коммерческому использованию, однако точные условия лицензии в предоставленных данных не раскрыты.

Phi-4-multimodal-instruct — мультимодальная модель Microsoft на 3,8 млрд параметров с плотной авторегрессионной архитектурой Phi4MM. Она принимает текст, изображения и аудио, а отвечает текстом; в метаданных указано контекстное окно 4096 токенов. В карточке README заявлено 128K токенов, поэтому длина контекста в источниках расходится. Модель предназначена для диалоговых и генеративных систем, которым нужны распознавание и перевод речи, ответы на вопросы по аудио и изображениям, понимание диаграмм и таблиц, OCR, суммаризация и вызов инструментов. Она поддерживает текст на арабском, китайском, чешском, датском, нидерландском, английском, финском, французском, немецком, иврите, венгерском, итальянском, японском, корейском, норвежском, польском, португальском, русском, испанском, шведском, тайском, турецком и украинском; аудио — на английском, китайском, немецком, французском, итальянском, японском, испанском и португальском; изображения — на английском. Microsoft сообщает о supervised fine-tuning, direct preference optimization и RLHF для следования инструкциям и повышения безопасности. Модель распространяется по лицензии MIT. Разработчики предупреждают, что качество может различаться между языками, а применимость к конкретным сценариям следует оценивать отдельно, особенно в высокорисковых областях.

Qwen3-1.7B — компактная плотная причинная языковая модель семейства Qwen3, разработанная командой Qwen. Она содержит 1,7 млрд параметров, 28 слоёв и поддерживает контекст до 40 960 токенов по метаданным. Модель дообучена на базе Qwen/Qwen3-1.7B-Base и распространяется в формате safetensors под лицензией Apache-2.0. Модель предназначена для генерации текста и диалогов, следования инструкциям, рассуждений, написания кода, перевода и работы с внешними инструментами через соответствующий интерфейс. Она поддерживает более 100 языков и диалектов. Заявлены режимы рассуждения и обычного диалога; компактный размер подходит для приложений с ограниченными ресурсами по сравнению с более крупными моделями семейства. В README указана длина контекста 32 768 токенов, тогда как метаданные каталога приводят 40 960; для характеристики использовано значение метаданных. В README также отмечен риск бесконечных повторов при некоторых настройках генерации и рекомендована настройка presence_penalty. Качество ответов и точность фактов требуют проверки в целевом сценарии.

NVIDIA Qwen3-235B-A22B-Instruct-2507-NVFP4 — квантизированная версия языковой модели Qwen3-235B-A22B-Instruct-2507 от Alibaba, подготовленная с помощью TensorRT Model Optimizer. NVIDIA указывает, что модель не принадлежит и не разработана NVIDIA, а создана на основе сторонней модели для соответствующих сценариев применения. Модель предназначена для генерации текста и может использоваться в AI Agent системах, чат-ботах, RAG-системах и других приложениях на базе искусственного интеллекта. Это авторегрессионная текстовая модель с архитектурой Transformers и сетевой архитектурой Qwen3MoeForCausalLM. Она принимает текстовые строки и генерирует текст; число параметров не раскрыто. Нативная длина контекста составляет 262 144 токена, с возможностью расширения до 1 010 000 токенов. Ключевое преимущество версии NVFP4 — квантизация весов и активаций линейных операторов внутри transformer-блоков с 16 до 4 бит, что примерно в 3,4 раза снижает требования к дисковому пространству и памяти GPU. Модель оптимизирована для инференса через TensorRT-LLM и систем на базе NVIDIA Blackwell, предпочтительно под Linux. Ограничения включают неизвестное количество параметров, отсутствие раскрытых сведений о тренировочных и тестовых данных, а также необходимость дополнительного тестирования на данных конкретного сценария. Модель распространяется по лицензии Apache 2.0 и допускает коммерческое и некоммерческое использование.

RedHatAI/Qwen3-30B-A3B-Instruct-2507-quantized.w8a8 — текстовая autoregressive-модель класса Qwen3ForCausalLM, разработанная Red Hat совместно с Neural Magic на базе Qwen/Qwen3-30B-A3B-Instruct-2507. Модель принимает текст и генерирует текст, ориентирована на рассуждения, выполнение инструкций на разных языках, перевод, function calling и создание специализированных решений посредством дообучения. Ключевая особенность модели — INT8-квантизация весов и активаций линейных операторов в блоках Transformer. Используются симметричная статическая поканальная квантизация весов и симметричная динамическая потокенная квантизация активаций с применением SmoothQuant и GPTQ через библиотеку llm-compressor. По данным README, это примерно вдвое снижает требования к GPU-памяти и размеру на диске, а также может примерно вдвое повысить пропускную способность матричных умножений. В документации по развертыванию указан максимальный размер контекста 262144 токена, однако другие характеристики архитектуры и языкового покрытия не приведены. Модель предназначена для эффективного инференса, в частности с использованием vLLM и OpenAI-совместимого API. К сильным сторонам относятся сочетание крупной базовой модели с INT8-компрессией, поддержка многоязычного следования инструкциям, рассуждений и интеграции с функциями. Ограничения включают возможные потери качества из-за квантизации и отсутствие в предоставленных данных подробных результатов оценивания, перечня поддерживаемых языков и спецификаций аппаратных требований. Модель распространяется по лицензии Apache-2.0; использование не должно нарушать применимое законодательство и нормативные требования.

Qwen3-30B-A3B-Thinking-2507-AWQ-4bit — это 4-битно квантованная версия модели Qwen3-30B-A3B-Thinking-2507, опубликованная пользователем cyankiwi на Hugging Face и основанная на модели Qwen от команды Qwen. Это каузальная языковая модель для генерации текста, ориентированная на сложные задачи рассуждения, включая логику, математику, естественные науки, программирование, академические задания, следование инструкциям и использование инструментов. Модель построена по архитектуре Mixture-of-Experts: всего 30,5 млрд параметров, из которых при обработке токена активируется около 3,3 млрд; используется 128 экспертов, 8 активных экспертов, 48 слоёв и GQA с 32 головами для Q и 4 для KV. Нативная длина контекста составляет 262 144 токена. Поддерживается только режим размышления, причём шаблон чата автоматически добавляет соответствующий маркер. Модель предназначена для текстовых задач; конкретный набор поддерживаемых языков в README не указан. К сильным сторонам относятся улучшенные результаты в рассуждении, кодировании, работе с инструментами, обобщённых задачах и обработке длинного контекста; в README также приведены высокие показатели на ряде математических, кодовых и агентских бенчмарков. Ограничение — обязательный режим размышления и потенциально большая длина вывода, что может повышать требования к ресурсам и задержку. Для запуска рекомендуется актуальная версия Transformers, а также совместимы SGLang и vLLM. Базовая модель распространяется по лицензии Apache-2.0; отдельная лицензия квантованной версии в README не указана.