I.2Синтез, понимание и проверка знаний

Qwen3-30B-A3B-Thinking-2507-FP8 — языковая модель семейства Qwen, разработанная командой Qwen. Это FP8-версия причинной языковой модели с обучением на этапах pretraining и post-training, предназначенная для генерации текста и решения сложных задач, требующих рассуждений. Модель ориентирована на логическое и математическое рассуждение, научные и академические задачи, программирование, следование инструкциям, использование инструментов и работу с длинным контекстом. Она поддерживает только thinking mode, поэтому рассчитана прежде всего на сложные запросы с увеличенной длиной рассуждений. README не указывает точный список поддерживаемых языков и не заявляет о мультимодальных возможностях, поэтому модель следует считать текстовой. Архитектура — Mixture-of-Experts с 30,5 млрд параметров всего и 3,3 млрд активируемых параметров; модель содержит 48 слоёв, 128 экспертов, из которых активируются 8, и использует Grouped-Query Attention с 32 головами Q и 4 головами KV. Нативная длина контекста составляет 262 144 токена. К сильным сторонам относятся улучшенные результаты в рассуждениях, математике, кодировании, агентных сценариях и обработке длинного контекста. Ограничения включают режим работы только с рассуждениями, высокие требования к вычислительным ресурсам и необходимость актуальной версии Transformers; конкретные аппаратные требования в README не приведены. Модель распространяется по лицензии Apache 2.0.

RedHatAI/Qwen3-32B-FP8-dynamic — языковая модель для генерации текста, разработанная Red Hat совместно с Neural Magic на основе Qwen/Qwen3-32B. Она предназначена для рассуждений, вызова функций, многоязычного следования инструкциям, перевода и адаптации под специализированные предметные области посредством дообучения. Модель работает с текстом на входе и выходе и построена на архитектуре Qwen3ForCausalLM. Модель использует FP8-квантизацию весов и активаций линейных операторов внутри transformer-блоков. Веса квантизуются статически по каналам, активации — динамически по токенам; слой lm_head не квантуется. По заявлению разработчиков, это примерно вдвое снижает требования к памяти GPU и размер на диске, а также может примерно вдвое увеличить пропускную способность матричных умножений по сравнению с представлением FP16. Модель рассчитана на эффективное развертывание с vLLM, включая OpenAI-совместимую подачу. К сильным сторонам относятся сочетание возможностей базовой Qwen3-32B с уменьшенными требованиями к памяти и поддержка рассуждений, многоязычных инструкций и function calling. При этом FP8-квантизация может влиять на точность по сравнению с исходной моделью, а README не содержит подробностей о поддерживаемых языках, длине контекста и количественных результатах оценки. Модель распространяется по лицензии Apache-2.0; использование должно соответствовать применимым законам и нормативным требованиям.

dnotitia/Qwen3-4B-Instruct-2507 — вариант Qwen3-4B, опубликованный Dnotitia с изменённым шаблоном чата; веса совпадают с официальным выпуском Qwen3. Шаблон вынесен в отдельный файл и дополнен тегами для совместимости с обучением через TRL и режимом assistant_only_loss. Модель имеет плотную причинную архитектуру Qwen3ForCausalLM, около 3,7 млрд параметров и нативный контекст до 262 144 токенов. Модель предназначена для диалогов и генерации текста по инструкциям: она помогает отвечать на вопросы, рассуждать, решать математические и научные задачи, писать код и вызывать инструменты. Это режим без пошагового thinking-вывода; в карточке также заявлены улучшенное понимание длинного контекста и многоязычные знания. Для запуска рекомендуется актуальная версия Transformers, а для агентных сценариев — Qwen-Agent. Модель распространяется по лицензии Apache-2.0. Карточка не приводит конкретный список поддерживаемых языков, поэтому нельзя определить основной язык; качество может зависеть от языка, запроса и длины входного текста. Для обычных запросов авторы рекомендуют ограничивать генерацию примерно 16 384 токенами, хотя нативное окно контекста значительно длиннее.

palmfuture/Qwen3.6-27B-GPTQ-Int4 — это GPTQ-квантизованная до Int4 версия открытой модели Qwen3.6-27B, разработанной командой Qwen и подготовленной пользователем palmfuture. Модель представляет собой каузальную языковую модель с визуальным энкодером и предназначена для генерации текста и кода, выполнения инструкций, математического рассуждения, анализа изображений, агентского программирования и работы с большими контекстами. Заявлена поддержка английского, тайского, китайского и других многоязычных сценариев. Исходная модель содержит около 27 млрд параметров, 64 слоя и гибридную архитектуру Gated DeltaNet/Mamba и gated attention, дополненную MTP для многотокенного предсказания и ускорения спекулятивного декодирования. Нативная длина контекста составляет 262 144 токена, с расширением до 1 010 000 токенов. В данной версии основные линейные слои квантизованы в Int4 с uniform group_size=32, тогда как нормализации, эмбеддинги, языковая голова, визуальный энкодер и MTP-слои сохранены в формате bfloat16. Указана совместимость с Transformers, vLLM и SGLang; MTP-параметры проверены на vLLM 0.21.0. К преимуществам относятся существенное снижение требований к памяти по сравнению с полноразмерной версией, заявленная 100%-ная успешность GPTQ-квантизации без RTN fallback и сохранение поддержки мультимодального ввода. Ограничения включают возможное ухудшение качества из-за 4-битной квантизации, а также необходимость совместимого программного окружения и нескольких GPU для практического запуска; точные требования к инференсу в README не указаны. Лицензия — Apache-2.0.

Это квантованная версия NVFP4 модели Qwen3.6-35B-A3B, подготовленная WhiskyAKM в формате GGUF для llama.cpp и других совместимых движков. В основе лежит WhiskyAKM/Qwen3.6-35B-A3B-GGUF, происходящая от Qwen/Qwen3.6-35B-A3B. Исходная мультимодальная модель разработана командой Qwen и использует архитектуру Mixture-of-Experts с гибридным линейным и полным вниманием: всего 35 млрд параметров, из которых на токен активируются 3 млрд. Модель принимает текст, изображения и видео и генерирует текст. Она предназначена для диалога, рассуждений, агентного программирования, анализа изображений и видео, а также вызова инструментов; контекст достигает 262 144 токенов и может расширяться примерно до 1 млн с YaRN. Для мультимодального ввода требуется файл проектора mmproj.gguf. Модель поддерживает более 140 языков. NVFP4 снижает размер весов для инференса, но требует совместимой сборки llama.cpp с поддержкой этого формата. Лицензия репозитория — Apache-2.0.

palmfuture/Qwen3.8-27B-GPTQ-Int4 — это 4-битная GPTQ-квантизованная версия Qwen3.8-27B, опубликованная palmfuture и основанная на модели Qwen/Qwen3.8-27B. Модель предназначена для диалогов, следования инструкциям, генерации кода, математических рассуждений и работы с изображениями. Заявлены английский, китайский и тайский языки, а также сценарии codeswitching. Модель использует гибридную архитектуру с обычным attention и линейным attention на основе Gated DeltaNet/Mamba; визуальный encoder сохранён в формате bf16, как и embeddings, lm_head, нормализации и MTP-компоненты. Основной набор линейных слоёв квантизован в int4 с uniform group_size=32. Указана поддержка контекста до 262144 токенов в конфигурации SGLang; пример для vLLM ограничен 8192 токенами. В комплект входят веса Multi-Token Prediction для speculative decoding, совместимые с SGLang и vLLM. К сильным сторонам относятся существенное снижение требований к памяти, совместимость с популярными inference-системами, поддержка vision-задач и ускорение генерации за счёт speculative decoding. К ограничениям относятся необходимость корректной настройки runtime: для SGLang рекомендуется mamba-ssm-dtype=float32, поскольку float16 может вызывать дрейф состояния и ошибки в тайских диакритических знаках на длинных диалогах. Модель распространяется по лицензии Apache-2.0.

MrFuzzihead/Qwen3.8-35B-A3B-Distill-APEX-GGUF — это набор GGUF-квантизаций модели Qwen3.8-35B-A3B-Distill, разработанной Empero и квантизированной MrFuzzihead методом APEX при участии команды LocalAI. Модель предназначена для локального запуска через llama.cpp и совместимые инструменты, включая сценарии генерации текста, рассуждений, программирования, следования инструкциям, вызова функций и агентного использования. В основе лежит разреженная Mixture-of-Experts-архитектура примерно на 35 млрд параметров, из которых для каждого токена активируются 8 из 256 маршрутизируемых экспертов, а также общий эксперт. Модель использует 40 слоёв с гибридной схемой Gated DeltaNet и Gated Attention; полный attention применяется только в 10 слоях, что снижает нагрузку на KV-кэш. Заявлен нативный контекст до 262 144 токенов. Базовая модель мультимодальная и сохраняет vision tower, однако дистилляция выполнялась только для текста, а визуальные возможности не были проверены. Поддерживаются отдельные vision-проектор и MTP-компоненты для мультимодальности и спекулятивного декодирования. Ключевая особенность — APEX-квантизация с разной точностью для типов тензоров и позиций слоёв, учитывающая разреженность MoE. Доступны варианты размером примерно от 10,9 до 25,3 ГБ, рассчитанные на видеокарты с 12–24 ГБ памяти и различные компромиссы между качеством, размером и скоростью. I-варианты используют importance matrix на разнообразных данных, включая диалоги, код, рассуждения, вызов инструментов и агентные трассы, и ориентированы на более высокую точность. Модель использует постоянно включённое дистиллированное пошаговое рассуждение с блоком <think>, поэтому адаптивного переключателя уровня рассуждений нет. Распространяется по лицензии Apache-2.0.

Карточка модели Mahesh111000/qwen3-8b-hanabi-rl-base-1to1-24k-step_220 на Hugging Face совпадает с карточкой Qwen/Qwen3-8B, поэтому описание составлено по ней. Qwen3-8B — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Версия содержит 7,6 млрд параметров по метаданным и дообучена на базе Qwen/Qwen3-8B-Base; карточка описывает этапы предварительного обучения и последующего обучения. Модель принимает текст и генерирует текст, поддерживает диалог и интерфейс вызова инструментов. Модель предназначена для диалоговых помощников, следования инструкциям, рассуждений, решения математических задач, генерации кода, творческого письма и перевода. Она поддерживает более 100 языков и диалектов и позволяет переключаться между режимами рассуждения и обычного ответа. Метаданные указывают нативный контекст 40 960 токенов; README приводит 32 768 токенов нативно и до 131 072 с YaRN. Лицензия — Apache-2.0. Качество ответов и рассуждений может зависеть от задачи и формулировки запроса; генерация кода и ответы модели требуют проверки. Значение контекстного окна в README отличается от метаданных, а заявленное расширение с YaRN требует соответствующей настройки.

Карточка модели liuw15/qwen3-8b-ziyon-nsfw на Hugging Face совпадает с карточкой unsloth/Qwen3-8B, поэтому описание составлено по ней. unsloth/Qwen3-8B — плотная причинно-авторегрессионная языковая модель семейства Qwen3, основанная на Qwen/Qwen3-8B и опубликованная Unsloth. По карточке модели, она предназначена для генерации текста и диалогов, следования инструкциям, рассуждений, математики и программирования; также поддерживает интерфейс вызова инструментов. Qwen3 позволяет переключаться между режимами рассуждения и обычного ответа. Метаданные указывают 7,6 млрд параметров и контекст до 40 960 токенов; модель распространяется в формате safetensors и рассчитана на использование с Transformers. Карточка базовой модели заявляет поддержку более 100 языков и диалектов, включая многоязычные инструкции и перевод. Модель может быть полезна для чат-ботов, генерации и редактирования текста, помощи с кодом и агентных сценариев с инструментами. Указана лицензия Apache-2.0. Заявленный в README базовой модели размер параметрического набора и длина контекста отличаются от значений метаданных этой записи, поэтому здесь приведены значения метаданных каталога.

Qwen3-VL-32B-Instruct-FP8 — мультимодальная instruction-модель семейства Qwen, представленная как FP8-квантизированная версия Qwen3-VL-32B-Instruct. Модель предназначена для обработки текста, изображений и видео, включая генерацию ответов, визуальное понимание и мультимодальное рассуждение. Квантование выполнено методом fine-grained FP8 с размером блока 128; заявлено, что показатели близки к исходной версии в формате BF16. Модель ориентирована на анализ изображений и видео, OCR, понимание пространственных отношений, STEM- и математическое рассуждение, распознавание объектов и сцен, извлечение структуры из длинных документов, а также задачи визуального агента и генерацию Draw.io, HTML, CSS и JavaScript по изображениям или видео. Она поддерживает контекст длиной 256 тысяч токенов с возможностью расширения до 1 миллиона и рассчитана на работу с длинными документами и многочасовым видео. Для OCR заявлена поддержка 32 языков. Среди архитектурных особенностей указаны Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками. Сильные стороны модели — сочетание текстового и визуального понимания, расширенная работа с видео и пространственными отношениями, улучшенное распознавание текста в сложных условиях и поддержка агентских сценариев с взаимодействием через графический интерфейс и инструменты. Ограничение текущей версии заключается в том, что Transformers пока не поддерживает прямую загрузку этих весов; для развёртывания рекомендуется использовать vLLM или SGLang. Модель распространяется по лицензии Apache-2.0.

Qwen3-VL-32B-Thinking-FP8 — мультимодальная vision-language модель семейства Qwen, разработанная командой Qwen. Это FP8-квантизированная версия Qwen3-VL-32B-Thinking с мелкозернистым квантованием и размером блока 128; согласно описанию, её показатели почти идентичны исходной BF16-модели. Модель распространяется через Hugging Face и предназначена для обработки текста, изображений и видео. Модель ориентирована на визуальное понимание и рассуждение, OCR, анализ документов, STEM- и математические задачи, пространственное восприятие, понимание динамики видео, генерацию кода и взаимодействие с графическими интерфейсами и инструментами. Она поддерживает контекст длиной 256K токенов с возможностью расширения до 1M, а OCR заявлен для 32 языков, однако полный перечень языков не указан. К архитектурным особенностям относятся Interleaved-MRoPE для временных и пространственных представлений, DeepStack для объединения многоуровневых признаков ViT и выравнивание текста с временными метками для анализа видео. К сильным сторонам относятся развитое мультимодальное рассуждение, распознавание текста в сложных условиях, понимание пространственных отношений, длинных документов и продолжительных видеозаписей, а также возможности визуального агента. Ограничение состоит в том, что на момент публикации README библиотека Transformers не поддерживает прямую загрузку этих весов; для развёртывания рекомендуются vLLM или SGLang. Модель распространяется по лицензии Apache-2.0.

Qwen3-VL-4B-Thinking-GGUF — это мультимодальная vision-language модель из серии Qwen, разработанная командой Qwen. Репозиторий содержит веса базовой модели Qwen3-VL-4B-Thinking в формате GGUF, разделённые на языковую модель и vision encoder. Модель предназначена для понимания и генерации текста по текстовым и визуальным данным, включая изображения и видео, а также для локального запуска на пользовательских устройствах. Модель поддерживает сценарии визуального анализа, OCR, пространственного рассуждения, STEM- и математические задачи, понимание документов и видео, генерацию кода и разметки по изображениям, а также взаимодействие с графическими интерфейсами и инструментами. Заявлены улучшенные визуальное восприятие и рассуждение, распознавание текста на 32 языках, работа с объектами, позициями, перекрытиями и временными событиями в видео. Для семейства Qwen3-VL указано нативное контекстное окно 256K токенов с возможностью расширения до 1M. Веса доступны для языковой модели в вариантах FP16, Q8_0 и Q4_K_M, а для vision encoder — в FP16 и Q8_0, что позволяет выбирать баланс качества, скорости и требований к памяти. Формат совместим с llama.cpp, Ollama и другими инструментами GGUF; заявлена поддержка CPU, NVIDIA GPU через CUDA, Apple Silicon через Metal и Intel GPU через SYCL. Для работы требуются совместимые инструменты и отдельный файл vision encoder, а выбор квантования может влиять на качество и производительность. Модель распространяется по лицензии Apache-2.0.

Qwen-7B-Chat — диалоговая языковая модель семейства Qwen, разработанная Alibaba Cloud на основе предварительно обученной Qwen-7B с применением методов выравнивания. Это плотная Transformer-модель с архитектурой QWenLMHeadModel, 32 слоями, RoPE, SwiGLU и RMSNorm. В метаданных указано 11,4 млрд параметров и контекст длиной 32 768 токенов. Модель предназначена для многоходовых диалогов и генерации текста: она отвечает на вопросы, помогает с кодом и математическими задачами, а также может использоваться для длинных последовательностей и вызова внешних инструментов. README описывает токенизатор на основе tiktoken с большим словарём, ориентированным на китайский, английский и код; метаданные также указывают китайский и английский языки. Репозиторий содержит веса safetensors. Модель проверялась на китайском и английском понимании, математике, программировании, длинном контексте и использовании инструментов. Результаты могут колебаться из-за аппаратных и программных различий; при дообучении следует учитывать особенности специальных токенов токенизатора. Лицензия указана как other, поэтому перед использованием нужно проверить условия лицензирования в карточке модели.

BTL-4 Compact — текстовая GGUF-версия модели BTL-4 от Bad Theory Labs, распространяемая для запуска в llama.cpp, Ollama и LM Studio. Это квантованная модель класса Mixture of Experts, предназначенная для генерации текста, программирования, работы с технической документацией, агентных сценариев и использования инструментов. Модель поставляется одним файлом размером 9,96 ГБ и не требует загрузки или восстановления базовой модели. Модель содержит 35,1 млрд параметров, из которых около 2,1 млрд активны для каждого токена. Архитектура включает 40 слоёв: 30 слоёв с линейным вниманием и 10 слоёв с полным вниманием; в каждом слое 256 экспертов, из которых для токена выбираются 8. Нативный контекст составляет 262 144 токена. Сборка является текстовой: vision tower исключён. Слой multi-token prediction отключён, но это не мешает обычной работе модели. Главное преимущество BTL-4 Compact — сочетание большого общего числа параметров с относительно низкими вычислительными затратами и возможностью запуска на пользовательском оборудовании. Квантование выполнено с эффективностью 2,30 бита на вес; заявленное сохранение измеренного поведения полной модели составляет 94,1% на тесте из 118 заданий. Ограничения включают потерю качества из-за сильного квантования, отсутствие обработки изображений и чувствительность агентных сценариев к настройкам шаблона чата и формата рассуждений. Для корректной работы требуется версия llama.cpp с поддержкой qwen3_5_moe и определённые параметры запуска. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели.

cyberneurova-Qwen3.8-27B — диалоговая модель CyberNeurova, дообученная на Qwen/Qwen3.8-27B. Это плотная модель на 27 млрд параметров с поддержкой текста и изображений; автор заявляет контекст до 262 тыс. токенов, многоязычность, рассуждения и интерфейс вызова инструментов. Модель рассчитана на диалоги, ответы на вопросы, анализ изображений и программирование, а стиль ответов можно задавать системным промптом. По заявлению автора, модель сохраняет общие знания и навыки рассуждения и набрала 11 из 12 в небольшом исполняемом тесте на программирование. Она публикуется в BF16 и формате safetensors, работает с Transformers и vLLM. Лицензия — Apache-2.0. Автор отмечает, что встроенные отказы ослаблены; качество и безопасность ответов зависят от конкретного применения и заданного промпта.

Эта версия DeepSeek-R1 размещена Unsloth и основана на модели deepseek-ai/DeepSeek-R1. Это языковая модель семейства DeepSeek V3 с архитектурой DeepseekV3ForCausalLM; в метаданных указано 37,6 млрд параметров и контекст до 163 840 токенов. Карточка исходной модели описывает обучение с контролируемой настройкой и масштабным обучением с подкреплением, направленным на развитие рассуждений и выравнивание с предпочтениями людей. Модель предназначена для генерации текста в диалоге и решения сложных задач на рассуждение, в том числе по математике, программированию и логике. Среди описанных возможностей — самопроверка, рефлексия и построение длинных цепочек рассуждений. Метаданные отмечают поддержку чата и интерфейса вызова инструментов; основной указанный язык — английский. Репозиторий содержит веса safetensors; README также упоминает отдельные варианты DeepSeek-R1 в GGUF и форматах с 4-битной квантизацией. Лицензия — MIT. Размер этой версии и длина контекста по метаданным отличаются от таблицы в README исходной модели, поэтому здесь приведены значения метаданных Hugging Face для данного репозитория.

Dragonboy3940/DeepSeek-V3-0324 — текстовая языковая модель семейства DeepSeek-V3, представленная в формате safetensors FP8. В карточке описаны улучшения рассуждений, генерации кода для веб-интерфейсов и игр, написания текстов на китайском языке, перевода, анализа поисковых результатов и вызова функций. Модель поддерживает диалог и интерфейс вызова инструментов. Модель предназначена для генерации текста в диалоге, решения задач на рассуждение, написания и редактирования текстов, перевода и создания кода. Архитектура — DeepseekV3ForCausalLM; размер и контекстное окно соответствуют метаданным репозитория. Указана лицензия MIT. Карточка рекомендует обратиться к репозиторию DeepSeek-V3 за сведениями о локальном запуске.

Карточка модели omegaT4224/Emulator.exe на Hugging Face совпадает с карточкой zai-org/GLM-5.2, поэтому описание составлено по ней. GLM-5.2 — флагманская языковая модель компании Z.ai для длительных задач и диалогового взаимодействия. Она предназначена для генерации текста, программирования и решения задач, требующих работы с большим объёмом контекста. Модель построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров. Поддерживает контекст до 1 048 576 токенов; в README также отмечены гибкие уровни усилий для задач программирования, механизм IndexShare для снижения вычислений на длинном контексте и улучшение MTP для ускорения спекулятивного декодирования. Заявлены английский и китайский языки. Модель доступна в формате safetensors для Transformers и поддерживается рядом сред локального запуска, включая vLLM и SGLang. Лицензия — MIT. README приводит сравнительные результаты на бенчмарках, но они зависят от настроек и сценариев оценки.

Falcon3-3B-Instruct — языковая модель семейства Falcon3, разработанная Technology Innovation Institute. Она предназначена для диалогов и выполнения инструкций, а также для задач рассуждения, понимания языка, программирования и математики. Модель содержит 2,8 млрд параметров и принимает текст, формируя текстовые ответы; поддерживает интерфейс вызова инструментов. Это трансформерный авторегрессионный декодер с 22 блоками, Grouped Query Attention, SwiGLU и RMSNorm. Контекстное окно — до 32 768 токенов. Модель подготовлена на веб-данных, коде, STEM-материалах и многоязычных данных, а затем дообучена на диалогах, инструкциях, коде, математике, безопасности и вызовах функций. Поддерживаемые языки: английский, французский, испанский и португальский. Для практического применения доступны веса в формате safetensors и библиотека Transformers. Лицензия — TII Falcon-LLM License 2.0; перед использованием следует ознакомиться с её условиями. Качество ответов может различаться в зависимости от языка и задачи; заявленные сильные результаты не гарантируют точности в каждом конкретном случае.

Gemma 4 31B IT QAT Q4_0 Unquantized Uncensored Heretic — мультимодальная диалоговая модель на архитектуре Gemma 4, опубликованная llmfan46 как доработка Google Gemma 4. Она предназначена для общения, генерации и редактирования текста, программирования, рассуждений и агентных сценариев с вызовом инструментов, а также анализа изображений. Модель принимает текст и изображения и выдаёт текст; для семейства заявлена обработка видео через последовательности кадров, но поддержка этого варианта отдельно не подтверждена. В карточке описана гибридная схема внимания с локальными скользящими окнами и глобальными слоями; базовая модель рассчитана на контекст до 256K токенов. Семейство поддерживает более 35 языков, однако конкретный перечень для этой версии не приведён. Вариант заявлен как uncensored/abliterated; файлы репозитория указаны в формате safetensors. Лицензия — Apache-2.0. Модель подходит для ответов на вопросы по изображениям и документам, распознавания текста на изображениях, написания кода и диалоговых приложений. Возможны фактические ошибки, смещения и трудности с тонкими языковыми нюансами и сложными открытыми задачами. В README описание возможностей относится ко всему семейству Gemma 4, поэтому аудио и видео возможности именно этой версии не подтверждены.

unsloth/gemma-4-E2B-it-GGUF — это GGUF-версия инструкционно дообученной мультимодальной модели Gemma 4 E2B, разработанной Google DeepMind и подготовленной сообществом Unsloth. Модель предназначена для локального запуска на ноутбуках и мобильных устройствах, а также для задач генерации и понимания текста, рассуждений, программирования, агентных сценариев и вызова функций. Модель имеет плотную архитектуру с эффективным размером около 2,3 млрд параметров и примерно 5,1 млрд параметров с учётом эмбеддингов, 35 слоями и гибридным механизмом внимания, сочетающим локальное скользящее окно на 512 токенов с глобальным вниманием. Контекстное окно составляет 128K токенов, словарь — 262K токенов. Поддерживаются текст, изображения и аудио на входе с генерацией текста на выходе; заявлена работа более чем со 140 языками. Для обработки изображений используется энкодер примерно на 150 млн параметров, аудио — примерно на 300 млн. К сильным сторонам относятся мультимодальность, большое контекстное окно, режимы настраиваемого рассуждения, улучшенные возможности программирования, нативная поддержка системных промптов и function calling, а также ориентация на эффективное выполнение на локальных устройствах. Ограничения включают меньший размер и, вероятно, более ограниченные возможности по сравнению с крупными моделями семейства Gemma 4; конкретный уровень качества и требования к памяти зависят от используемой GGUF-квантизации, параметры которой в карточке не указаны. Модель распространяется по лицензии Apache 2.0.

NVIDIA GLM-5.3-Flash NVFP4 — квантизированная версия модели GLM-5.3-Flash, разработанной ZAI и подготовленной NVIDIA с использованием Model Optimizer. Это авторегрессионная мультимодальная модель на базе оптимизированной Transformer-архитектуры с Mixture-of-Experts (MoE), гибридным механизмом разреженного и линейного внимания и Manifold-Constrained Hyper-Connections (mHC). Общее число параметров составляет 320 млрд, из них активируется 18 млрд. Модель предназначена для рассуждений, программирования и агентных задач, а также для чат-ботов, RAG-систем и других приложений на базе ИИ. Она принимает текст, изображения и видео, включая RGB-изображения и видео в форматах MP4/WebM, и генерирует текст. Заявлена поддержка контекста длиной до 1 млн токенов, однако сведения о поддерживаемых языках отсутствуют. Модель оптимизирована для инференса на GPU NVIDIA, в частности на архитектуре Blackwell, и поддерживает запуск через vLLM и SGLang в Linux. Квантизация весов и активаций в формат NVFP4 уменьшает вычислительные требования по сравнению с полной версией, но README не содержит количественных оценок качества, скорости или потребления памяти. Данные обучения не раскрыты; для калибровки использовались CNN/Daily Mail и Nemotron-Post-Training-Dataset-v2. Модель распространяется по лицензии MIT и разрешена для коммерческого и некоммерческого использования.

NVIDIA gpt-oss-120b-Eagle3-v3 — вариант модели OpenAI gpt-oss-120b с дообученными Eagle3-модулями для ускорения спекулятивного декодирования. В карточке указана архитектура Transformer с Mixture-of-Experts и 120 млрд параметров; метаданные репозитория сообщают о 739,4 млн параметров в размещённых весах. Модель принимает текстовые последовательности и генерирует текст, поддерживает контекст до 131 072 токенов и предназначена для работы на GPU NVIDIA. Модель рассчитана на чат-ботов и AI-агентов, ответы по документам в RAG-системах, выполнение инструкций, генерацию кода и рассуждения. Eagle3 предсказывает несколько последующих токенов, а базовая модель проверяет предложенные последовательности; доступны режимы инференса TensorRT-LLM и vLLM. В README заявлено улучшение точности относительно других вариантов gpt-oss-120b-Eagle3. В README указана готовность к коммерческому и некоммерческому применению, однако метаданные обозначают лицензию как other, поэтому условия следует сверять с лицензией репозитория. Карточка также сообщает, что меры по снижению нежелательной предвзятости не указаны; для конкретных сценариев рекомендуется проверять качество и безопасность на собственных данных.

cyankiwi/granite-4.1-3b-AWQ-INT4 — квантизированная версия Granite-4.1-3B, разработанная сообществом cyankiwi на основе базовой модели IBM Granite Team. Это инструкционная языковая модель примерно на 3 млрд параметров, дообученная IBM с применением supervised fine-tuning и reinforcement learning alignment для улучшения следования инструкциям, диалогов и вызова инструментов. Представленная сборка использует AWQ INT4-квантизацию и занимает около 2,33 ГБ. Модель предназначена для бизнес-приложений и AI-ассистентов, включая агентские сценарии с вызовом внешних функций и API. Она поддерживает суммаризацию, классификацию и извлечение текста, ответы на вопросы, RAG, программирование, function calling, многоязычный диалог и Fill-In-the-Middle для автодополнения кода. В карточке указана поддержка английского, китайского, хинди, арабского, русского, японского, корейского, нидерландского, французского и испанского языков; исходная Granite-4.1-3B также заявлена как поддерживающая немецкий, португальский, чешский и итальянский. Сильные стороны модели — небольшой размер, сниженные требования к памяти благодаря INT4-квантизации, поддержка длинного контекста, многоязычность и ориентация на инструкции и использование инструментов. README не содержит точного размера контекстного окна, сведений о мультимодальности, подробных результатов тестирования или ограничений качества этой квантизированной сборки, поэтому её возможности следует оценивать на целевых задачах. Лицензия исходной модели и данной сборки указана как Apache 2.0.

Hy4 preview — языковая модель поколения Hy4, разработанная командой Tencent Hy. README описывает её как модель Mixture-of-Experts с 770 млрд параметров в основной части и 49 млрд активируемых параметров на токен; встроенный слой MTP предназначен для ускорения спекулятивного декодирования. Метаданные Hugging Face указывают архитектуру HYV4ForCausalLM, библиотеку Transformers, 33,9 млрд параметров и контекст до 1 048 576 токенов; эти значения расходятся с характеристиками в README. Модель предназначена для диалоговой генерации текста и сложных задач: разработки и отладки программ, работы с документами и таблицами, анализа данных, создания прототипов игр и решения научных задач. В README также заявлены сценарии подготовки презентаций и финансовых моделей. Указанная в карточке лицензия — Apache-2.0. Это ранняя preview-версия. Известные ограничения — избыточно долгие рассуждения на сложных задачах и склонность чрезмерно перепроверять результат.

Llama-3.1-Nemotron-Nano-8B-v1 — языковая модель NVIDIA, дообученная на основе Meta Llama-3.1-8B-Instruct. Это плотный авторегрессионный Transformer с архитектурой Llama и примерно 7,5 млрд параметров; модель принимает текст и генерирует текст, поддерживает контекст до 131 072 токенов и интерфейс вызова инструментов. Модель предназначена для диалогов, следования инструкциям и рассуждений, включая задачи по математике и программированию. Её можно применять в чат-ботах, агентных системах и RAG-сценариях; заявлен баланс качества и вычислительной эффективности, включая запуск на одной RTX GPU. Основной язык — английский; также заявлена поддержка немецкого, французского, итальянского, португальского, хинди, испанского и тайского. В README описано многоэтапное дообучение с SFT и обучением с подкреплением, в том числе для математических задач, кода, рассуждений, диалогов и вызова инструментов. Модель заявлена как готовая к коммерческому использованию, однако в метаданных лицензия обозначена как «other», поэтому перед внедрением следует проверить условия лицензии на странице репозитория. Результаты зависят от режима рассуждений и настроек генерации; приведённые в карточке оценки измерялись при длине последовательности 32K токенов, а не на полном контексте.

Llama-3.3-Nemotron-Super-49B-v1 — языковая модель NVIDIA, созданная на основе Meta Llama-3.3-70B-Instruct и оптимизированная методом Neural Architecture Search. Это плотный decoder-only Transformer с нестандартными блоками: в части блоков пропущено внимание или оно заменено линейным слоем, а соотношение размеров слоёв FFN различается. В метаданных указано 87 млрд параметров; модель принимает текстовый контекст до 131 072 токенов и выдаёт текст. Модель предназначена для рассуждений, диалогов и следования инструкциям, включая задачи с кодом и математикой, работу с RAG и вызов инструментов в агентных системах. Она прошла многоэтапное дообучение с SFT и обучением с подкреплением; итоговый чекпойнт объединяет SFT- и RPO-чекпойнты. Оптимизация архитектуры нацелена на снижение потребления памяти и повышение пропускной способности при небольшом снижении качества; модель рассчитана, в частности, на высокую нагрузку на одном GPU NVIDIA H200. Основной язык — английский; также заявлена поддержка немецкого, французского, итальянского, португальского, хинди, испанского и тайского. Модель предназначена для коммерческого использования, однако в метаданных лицензия обозначена как other, поэтому перед внедрением следует проверить условия лицензии на странице модели. Конкретные показатели качества и ограничения по задачам в предоставленной карточке не приведены.

Meta Llama 3 70B Instruct — разработанная Meta инструкционная языковая модель для диалоговых сценариев. Это плотная авторегрессионная трансформерная модель семейства Llama с 69,5 млрд параметров и механизмом Grouped-Query Attention; версия Instruct настроена с помощью supervised fine-tuning и обучения с обратной связью от людей. Модель принимает текст и генерирует текст, включая код; поддерживает контекст до 8192 токенов. Модель предназначена прежде всего для общения с ассистентом на английском языке и может использоваться в коммерческих и исследовательских приложениях: для ответов на вопросы, написания и объяснения кода, а также генерации текста. Карточка отмечает высокие результаты семейства на распространённых отраслевых тестах, но не приводит их численные значения. Модель статична, обучена на офлайн-данных и может выдавать неточные или небезопасные ответы; для конкретного приложения следует настраивать дополнительные меры безопасности. Использование регулируется пользовательской коммерческой лицензией Meta Llama 3 и политикой допустимого использования.

MiMo-V2.6-Pro-RL — флагманская модель серии MiMo-V2.6 от Xiaomi, обученная с помощью масштабного обучения с подкреплением и последующей дистилляции на основе траекторий учителей и самой модели. Это разреженная MoE-модель с 1,02 трлн параметров, из которых активируются 42 млрд; в метаданных репозитория указано 27,7 млрд параметров. Модель принимает текст, изображения, видео и аудио, а контекстное окно составляет до 1 млн токенов. Модель предназначена для генерации текста в диалоге, агентных сценариев с вызовом инструментов, программирования и анализа мультимодальных данных. В обучении смешивались задачи кодирования, работы агентов, визуальные задачи и кибербезопасность; групповая оценка траекторий направляет модель к более качественным решениям. Архитектура включает MiMo ViT для изображений, аудиокодировщик и пятислойный спекулятивный декодер. Карточка приводит результаты на отдельных бенчмарках, но не гарантирует качество для конкретных задач. Для работы с длинным контекстом и мультимодальными входами требуются ресурсы для крупной модели; опубликованный репозиторий содержит веса в формате safetensors FP8. Лицензия — MIT.

Это модель Sentence Transformers на базе BERT, дообученная автором Stergios-Konstantinidis от sucharush/e5_stem_finetuned. Она преобразует предложения и абзацы в плотные векторы размерности 768, нормализованные для сравнения косинусным сходством. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразирований, кластеризации и получения признаков для классификации. Максимальная длина входа — 512 токенов. В карточке указано обучение на 113 450 примерах; модель использует mean pooling и нормализацию выходных векторов. Лицензия в предоставленных данных не указана.