I.11Классификация, ранжирование и сопоставление

Карточка модели OsGo/gemma-4-E2B на Hugging Face совпадает с карточкой google/gemma-4-E2B, поэтому описание составлено по ней. Gemma 4 E2B — мультимодальная плотная модель с открытыми весами от Google DeepMind, принадлежащая семейству Gemma 4. Она принимает текст и изображения, а также аудио; генерирует текст. Семейство использует гибридное внимание с локальными скользящими окнами и глобальным вниманием. Для малых моделей, включая E2B, заявлено контекстное окно до 128 тысяч токенов. Модель предназначена для диалогов, рассуждений, генерации и исправления кода, суммаризации, понимания изображений и аудио, распознавания речи и перевода речи в текст. Она рассчитана на локальный запуск на мобильных устройствах и ноутбуках; семейство поддерживает многоязычные сценарии, включая более 35 языков в готовом виде. Модельные карточка описывает возможности семейства, поэтому отдельные характеристики E2B следует трактовать в его контексте. Репозиторий распространяется по лицензии Apache 2.0. Возможности включают OCR, разбор документов, анализ видео и вызов функций; описание аудиоподдержки для E2B подтверждает обработку аудио, а не генерацию речи. Качество ответов может зависеть от языка, сложности задачи и доступных вычислительных ресурсов; для критически важных сценариев результаты следует проверять.

Карточка модели Openintelligent123/gemma-4-E2B-it на Hugging Face совпадает с карточкой google/gemma-4-E2B-it, поэтому описание составлено по ней. Gemma 4 E2B IT — мультимодальная модель Google DeepMind, дообученная на основе google/gemma-4-E2B для выполнения инструкций. Она принимает текст, изображения и аудио, а выдаёт текст; подходит для диалогов, рассуждений, написания и исправления кода, распознавания речи и анализа визуального содержимого, включая документы, диаграммы и кадры видео. Модель использует плотную архитектуру Gemma 4 и рассчитана на локальное развёртывание, в том числе на устройствах с ограниченными ресурсами. Для малых моделей семейства заявлено контекстное окно до 128 тысяч токенов; Gemma 4 поддерживает множество языков. Модель поддерживает вызов инструментов и режим рассуждений. Google DeepMind указывает сценарии использования для создания контента, диалоговых помощников, суммаризации, извлечения сведений из изображений и работы с аудио. Репозиторий содержит веса Safetensors, модель использует библиотеку Transformers и распространяется по лицензии Apache 2.0. Качество ответов может зависеть от языка, сложности задачи и входных данных; описание не приводит отдельных оценок для этой версии.

Карточка модели Openintelligent123/gemma-4-E4B-it на Hugging Face совпадает с карточкой google/gemma-4-E4B-it, поэтому описание составлено по ней. Gemma 4 E4B Instruct — мультимодальная модель Google DeepMind, дообученная для следования инструкциям на базе google/gemma-4-E4B. Она использует плотную архитектуру Gemma 4 и принимает текст, изображения и аудио, выдавая текст; аудиовозможности заявлены для варианта E4B. Модель подходит для диалога, рассуждений, генерации и исправления кода, анализа изображений и документов, распознавания речи и перевода речи в текст. Поддерживаются системные инструкции, вызов инструментов и контекст до 128 тысяч токенов; семейство Gemma 4 поддерживает множество языков, включая более 35 языков в практических сценариях. Модель рассчитана в том числе на локальное исполнение на ноутбуках и мобильных устройствах, а гибридное внимание сочетает локальные окна и глобальное внимание для работы с длинным контекстом. Возможности видео описаны для семейства в целом, но README не подтверждает их отдельно для E4B; поэтому видео не включено в модальности этой модели. Лицензия — Apache 2.0.

Карточка модели smplelife12798/gemma-4-E4B-it на Hugging Face совпадает с карточкой google/gemma-4-E4B-it, поэтому описание составлено по ней. Gemma 4 E4B Instruct — мультимодальная модель Google DeepMind, дообученная для следования инструкциям на базе google/gemma-4-E4B. Она использует плотную архитектуру Gemma 4 и принимает текст, изображения и аудио, выдавая текст; аудиовозможности заявлены для варианта E4B. Модель подходит для диалога, рассуждений, генерации и исправления кода, анализа изображений и документов, распознавания речи и перевода речи в текст. Поддерживаются системные инструкции, вызов инструментов и контекст до 128 тысяч токенов; семейство Gemma 4 поддерживает множество языков, включая более 35 языков в практических сценариях. Модель рассчитана в том числе на локальное исполнение на ноутбуках и мобильных устройствах, а гибридное внимание сочетает локальные окна и глобальное внимание для работы с длинным контекстом. Возможности видео описаны для семейства в целом, но README не подтверждает их отдельно для E4B; поэтому видео не включено в модальности этой модели. Лицензия — Apache 2.0.

Granite-4.2-8B (FP8) — квантизированная в формате FP8 версия языковой модели Granite 4.2, разработанной IBM Research и распространяемой через IBM Granite. Это dense reasoning language model примерно на 8 млрд параметров; в репозитории FP8-версии указано около 9 млрд параметров с тензорами BF16 и F8_E4M3. Модель предназначена для генерации текста, диалога, следования инструкциям, программирования, решения математических и многошаговых задач, а также для построения корпоративных AI-агентов с вызовом инструментов. Granite 4.2 поддерживает встроенное пошаговое рассуждение, режимы полного, отключённого и облегчённого reasoning, а также reasoning-augmented tool calling. Заявлено контекстное окно 128K токенов. Модель протестирована для диалога на английском, немецком, испанском, французском, японском, португальском, арабском, чешском, итальянском, корейском, нидерландском и китайском языках. FP8-представление снижает требования к памяти и подходит для развёртывания через Transformers, vLLM и SGLang, но требует совместимой поддержки FP8 и квантизированных тензоров. Сильные стороны модели — сочетание reasoning, кодирования, многошагового планирования и вызова инструментов при относительно компактном размере, а также возможность выбора баланса между качеством рассуждения и задержкой. В доступных первоисточниках не приведены подробные сведения о внутренней конфигурации слоёв именно FP8-варианта, полном наборе ограничений безопасности и численных характеристиках для всех сценариев; поэтому результаты требуют проверки в прикладных задачах. Репозиторий распространяется по лицензии Apache 2.0, допускающей коммерческое и академическое использование.

Llama-3_3-Nemotron-Super-49B-v1_5-GGUF — это GGUF-версия большой языковой модели Llama-3.3-Nemotron-Super-49B-v1.5, разработанной NVIDIA на основе Meta Llama-3.3-70B-Instruct и оптимизированной с применением Neural Architecture Search. Модель предназначена для генерации текста, рассуждений, диалогов, выполнения инструкций и агентских сценариев, включая RAG и вызов инструментов. В репозитории представлены файлы в формате GGUF, созданные с использованием llama.cpp; применён подход с повышением точности отдельных важных слоёв при квантовании, что должно улучшать точность на заданном уровне квантования за счёт увеличения размера файлов. Модель имеет архитектуру плотного decoder-only Transformer, относится к классу примерно 49B параметров и поддерживает контекст до 128K токенов. Она дообучалась для задач математики, программирования, науки, общения, рассуждений и tool calling. В карточке явно указан английский язык. Сильными сторонами заявлены баланс точности и эффективности, уменьшенный объём памяти и пригодность для развёртывания на одной GPU H200 при высоких нагрузках. Ограничения включают зависимость характеристик от выбранного уровня квантования и отсутствие в предоставленных данных подробных результатов тестирования конкретных GGUF-файлов. Использование регулируется NVIDIA Open Model License и дополнительными условиями Llama 3.3 Community License; модель заявлена как доступная для коммерческого использования.

Карточка модели simonycl/qwen3-30b-plateau-6skill-0617-iter271 на Hugging Face совпадает с карточкой Qwen/Qwen3-30B-A3B-Instruct-2507, поэтому описание составлено по ней. Qwen3-30B-A3B-Instruct-2507 — языковая модель компании Qwen на архитектуре причинного MoE-декодера. В модели 30,5 млрд параметров, из которых при генерации активируются 3,3 млрд; она включает 48 слоёв и 128 экспертов, из которых активны восемь. Модель обучена для режима без рассуждений в специальном формате и доступна под лицензией Apache 2.0. Модель предназначена для диалогов и выполнения инструкций, генерации и понимания текста, логических и математических задач, вопросов по науке, программирования и вызова инструментов. Она поддерживает многоязычные сценарии и нативный контекст до 262 144 токенов; в README также описана экспериментальная настройка обработки контекста около миллиона токенов с DCA и разреженным вниманием, требующая примерно 240 ГБ видеопамяти. К сильным сторонам относятся следование инструкциям, работа с длинным контекстом и инструментами. Ограничение: модель работает только в режиме без рассуждений; обработка около миллиона токенов требует дополнительной настройки и значительных ресурсов.

Qwen3-32B — плотная причинно-следственная языковая модель семейства Qwen3, разработанная командой Qwen. Она предназначена для диалога, следования инструкциям, рассуждений, генерации кода, перевода и работы с внешними инструментами. В одной модели можно переключаться между режимом рассуждений для сложных задач и обычным режимом ответа. Модель содержит 29,7 млрд параметров по метаданным каталога; в README указано 32,8 млрд параметров, включая 31,2 млрд без эмбеддингов. Архитектура — Qwen3ForCausalLM, для запуска поддерживается Transformers. Нативный контекст составляет 40 960 токенов по метаданным каталога; README указывает 32 768 токенов нативно и возможность расширения до 131 072 с YaRN. Семейство поддерживает более 100 языков и диалектов. Репозиторий содержит веса Safetensors и распространяется по лицензии Apache-2.0. Модель подходит для многошагового диалога и сценариев с вызовом инструментов, а также для математических и логических рассуждений, творческого письма и программирования. Карточка заявляет сильные способности к следованию инструкциям и многоязычным задачам; качество конкретных ответов зависит от запроса и развертывания. В README не приведены конкретные ограничения или оговорки по безопасности.

Qwen3-32B-f16-GGUF — размещённая Geoff Munn версия модели Qwen/Qwen3-32B в формате GGUF с весами F16 для запуска через llama.cpp и совместимые приложения. Это плотная языковая модель на 32 млрд параметров, предназначенная для диалога, генерации текста, рассуждений, математики, программирования и многоязычных задач; её также можно подключать к RAG-системам и агентным сценариям. Карточка описывает несколько вариантов квантования семейства и приводит результаты сравнения их качества, но репозиторий обозначен как F16. Указанные в README оценки производительности и качества относятся к конкретным вариантам и настройкам квантования, а не гарантируют такие же результаты для каждого файла. Для запуска нужны совместимое ПО и аппаратные ресурсы, соответствующие размеру 32B модели; вариант Q5_K_HIFI требует специальной сборки llama.cpp. Лицензия — Apache-2.0.

unsloth/Qwen3-8B — плотная причинно-авторегрессионная языковая модель семейства Qwen3, основанная на Qwen/Qwen3-8B и опубликованная Unsloth. По карточке модели, она предназначена для генерации текста и диалогов, следования инструкциям, рассуждений, математики и программирования; также поддерживает интерфейс вызова инструментов. Qwen3 позволяет переключаться между режимами рассуждения и обычного ответа. Метаданные указывают 7,6 млрд параметров и контекст до 40 960 токенов; модель распространяется в формате safetensors и рассчитана на использование с Transformers. Карточка базовой модели заявляет поддержку более 100 языков и диалектов, включая многоязычные инструкции и перевод. Модель может быть полезна для чат-ботов, генерации и редактирования текста, помощи с кодом и агентных сценариев с инструментами. Указана лицензия Apache-2.0. Заявленный в README базовой модели размер параметрического набора и длина контекста отличаются от значений метаданных этой записи, поэтому здесь приведены значения метаданных каталога.

nicecurls/gemma-4-12B-it — дообученная instruction-tuned версия Gemma 4 12B Unified, мультимодальной модели Google DeepMind. Она предназначена для диалогов, генерации текста и кода, рассуждений, работы с изображениями, видео и аудио, а также для сценариев с вызовом инструментов. Модель принимает текст, изображения, видео и аудио и генерирует текст. Архитектура — плотная Gemma4UnifiedForConditionalGeneration; веса опубликованы в формате safetensors и доступны через Transformers. Для базовой Gemma 4 12B заявлено контекстное окно до 256 тысяч токенов. Семейство поддерживает более 140 языков при обучении и мультиязычные сценарии; распознавание речи и перевод речи в текст поддерживаются для варианта 12B. Модель подходит для локального развертывания на достаточно мощном оборудовании, анализа документов и визуального содержимого, транскрибации речи и агентных рабочих процессов. Лицензия — Apache 2.0. Конкретные ограничения производительности этой производной версии не описаны; как и другие генеративные модели, она может ошибаться в ответах и интерпретации мультимодальных данных.

trohrbaugh/gemma-4-12b-it-heretic — производная версия Gemma 4 12B от Google DeepMind, опубликованная trohrbaugh. Это плотная мультимодальная модель на архитектуре Gemma4Unified для диалогов, рассуждений, генерации и исправления кода, анализа изображений, видео и аудио. Вариант 12B принимает аудио, изображения и текст; также поддерживает видео через последовательности кадров. README семейства указывает контекст до 256K токенов для моделей 12B, но отдельные характеристики этого варианта подробно не описаны. Модель подходит для создания чат-ботов и помощников, суммаризации, разбора документов и PDF, OCR, анализа экранов и графиков, распознавания речи и перевода речи в текст. Семейство поддерживает более 35 языков «из коробки» и было предварительно обучено на более чем 140 языках; конкретный перечень языков для этой версии не приведён. Заявлены гибридное внимание с локальными и глобальными слоями, режим рассуждений и вызов инструментов. Модель помечена как uncensored/decensored/abliterated, поэтому предполагается ослабление части ограничений исходной модели; конкретное поведение этой версии в README не раскрыто. Как и другие генеративные модели, она может ошибаться в фактах, упускать языковые нюансы и воспроизводить смещения обучающих данных. Лицензия — Apache-2.0.

Карточка модели dannyboy1978/gemma-4-E2B-it на Hugging Face совпадает с карточкой google/gemma-4-E2B-it, поэтому описание составлено по ней. Gemma 4 E2B IT — мультимодальная модель Google DeepMind, дообученная на основе google/gemma-4-E2B для выполнения инструкций. Она принимает текст, изображения и аудио, а выдаёт текст; подходит для диалогов, рассуждений, написания и исправления кода, распознавания речи и анализа визуального содержимого, включая документы, диаграммы и кадры видео. Модель использует плотную архитектуру Gemma 4 и рассчитана на локальное развёртывание, в том числе на устройствах с ограниченными ресурсами. Для малых моделей семейства заявлено контекстное окно до 128 тысяч токенов; Gemma 4 поддерживает множество языков. Модель поддерживает вызов инструментов и режим рассуждений. Google DeepMind указывает сценарии использования для создания контента, диалоговых помощников, суммаризации, извлечения сведений из изображений и работы с аудио. Репозиторий содержит веса Safetensors, модель использует библиотеку Transformers и распространяется по лицензии Apache 2.0. Качество ответов может зависеть от языка, сложности задачи и входных данных; описание не приводит отдельных оценок для этой версии.

Карточка модели mbdk0/gemma-4-E2B-it на Hugging Face совпадает с карточкой google/gemma-4-E2B-it, поэтому описание составлено по ней. Gemma 4 E2B IT — мультимодальная модель Google DeepMind, дообученная на основе google/gemma-4-E2B для выполнения инструкций. Она принимает текст, изображения и аудио, а выдаёт текст; подходит для диалогов, рассуждений, написания и исправления кода, распознавания речи и анализа визуального содержимого, включая документы, диаграммы и кадры видео. Модель использует плотную архитектуру Gemma 4 и рассчитана на локальное развёртывание, в том числе на устройствах с ограниченными ресурсами. Для малых моделей семейства заявлено контекстное окно до 128 тысяч токенов; Gemma 4 поддерживает множество языков. Модель поддерживает вызов инструментов и режим рассуждений. Google DeepMind указывает сценарии использования для создания контента, диалоговых помощников, суммаризации, извлечения сведений из изображений и работы с аудио. Репозиторий содержит веса Safetensors, модель использует библиотеку Transformers и распространяется по лицензии Apache 2.0. Качество ответов может зависеть от языка, сложности задачи и входных данных; описание не приводит отдельных оценок для этой версии.

Карточка модели OsGo/gemma-4-E2B-it на Hugging Face совпадает с карточкой google/gemma-4-E2B-it, поэтому описание составлено по ней. Gemma 4 E2B IT — мультимодальная модель Google DeepMind, дообученная на основе google/gemma-4-E2B для выполнения инструкций. Она принимает текст, изображения и аудио, а выдаёт текст; подходит для диалогов, рассуждений, написания и исправления кода, распознавания речи и анализа визуального содержимого, включая документы, диаграммы и кадры видео. Модель использует плотную архитектуру Gemma 4 и рассчитана на локальное развёртывание, в том числе на устройствах с ограниченными ресурсами. Для малых моделей семейства заявлено контекстное окно до 128 тысяч токенов; Gemma 4 поддерживает множество языков. Модель поддерживает вызов инструментов и режим рассуждений. Google DeepMind указывает сценарии использования для создания контента, диалоговых помощников, суммаризации, извлечения сведений из изображений и работы с аудио. Репозиторий содержит веса Safetensors, модель использует библиотеку Transformers и распространяется по лицензии Apache 2.0. Качество ответов может зависеть от языка, сложности задачи и входных данных; описание не приводит отдельных оценок для этой версии.

Mistral-Nemo-Instruct-2407 — языковая модель с инструктивным дообучением, созданная Mistral AI совместно с NVIDIA на базе Mistral-Nemo-Base-2407. Это плотный трансформер Mistral с 12,1 млрд параметров, группированным запросом внимания и контекстом до 131 072 токенов. Модель предназначена для диалога, следования инструкциям, генерации текста и вызова инструментов; обучалась на многоязычных данных и данных для программирования. Модель поддерживает английский, французский, немецкий, испанский, итальянский, португальский, русский, китайский и японский языки. Заявлена как замена Mistral 7B с увеличенным контекстом. Распространяется по лицензии Apache 2.0. В карточке отмечено, что у модели нет встроенных механизмов модерации, поэтому её ответы могут не соблюдать заданные ограничения.

RedHatAI/Mistral-Small-3.1-24B-Instruct-2503-quantized.w8a8 — это квантизированная версия инструкционной мультимодальной модели Mistral-Small-3.1-24B-Instruct-2503, разработанная Red Hat совместно с Neural Magic на базе модели Mistral AI. Архитектура обозначена как Mistral3ForConditionalGeneration. Модель принимает текст и изображения и генерирует текст; заявлена поддержка языков, включая английский, французский, немецкий, испанский, итальянский, португальский, хинди, арабский, китайский, японский, корейский, русский, украинский и другие языки из указанного перечня. Модель предназначена для быстрых диалоговых агентов, вызова функций с низкой задержкой, программирования, математического рассуждения, анализа длинных документов и визуального понимания. Она также подходит для локального развертывания, включая сценарии обработки чувствительных данных, и для адаптации под предметные области посредством дообучения. Максимальный контекст в README явно не указан, однако в примере развертывания используется ограничение 32768 токенов. Веса и активации линейных операторов в трансформерных блоках квантизированы в INT8. Для весов применяется статическая симметричная поканальная схема, для активаций — динамическая симметричная потокенная схема; используются методы SmoothQuant и GPTQ. По данным README, это примерно вдвое снижает требования к памяти GPU и размер диска, а также может примерно вдвое повысить пропускную способность матричных умножений. Компромиссом являются возможные потери точности по сравнению с исходной моделью, при этом конкретные результаты бенчмарков не приведены. Модель распространяется по лицензии Apache 2.0 и валидирована с RHOAI 2.20, RHAIIS 3.0, RHELAI 1.5 и vLLM 0.8.4.

Карточка модели Darth-Coder/my-model3-30b-it на Hugging Face совпадает с карточкой Qwen/Qwen3-30B-A3B-Instruct-2507, поэтому описание составлено по ней. Qwen3-30B-A3B-Instruct-2507 — языковая модель компании Qwen на архитектуре причинного MoE-декодера. В модели 30,5 млрд параметров, из которых при генерации активируются 3,3 млрд; она включает 48 слоёв и 128 экспертов, из которых активны восемь. Модель обучена для режима без рассуждений в специальном формате и доступна под лицензией Apache 2.0. Модель предназначена для диалогов и выполнения инструкций, генерации и понимания текста, логических и математических задач, вопросов по науке, программирования и вызова инструментов. Она поддерживает многоязычные сценарии и нативный контекст до 262 144 токенов; в README также описана экспериментальная настройка обработки контекста около миллиона токенов с DCA и разреженным вниманием, требующая примерно 240 ГБ видеопамяти. К сильным сторонам относятся следование инструкциям, работа с длинным контекстом и инструментами. Ограничение: модель работает только в режиме без рассуждений; обработка около миллиона токенов требует дополнительной настройки и значительных ресурсов.

Карточка модели SIZWL/NVIDIA-Nemotron-3-Super-120B-A12B-BF16 на Hugging Face совпадает с карточкой nvidia/NVIDIA-Nemotron-3-Super-120B-A12B-BF16, поэтому описание составлено по ней. Nemotron-3-Super-120B-A12B-BF16 — языковая модель NVIDIA для диалога, рассуждений и создания агентных систем. Она предназначена для разработчиков чат-ботов, RAG-систем и совместно работающих ИИ-агентов, а также для автоматизации больших потоков задач, например обработки ИТ-заявок. Модель поддерживает сложное следование инструкциям и работу с длинным контекстом. Архитектура сочетает слои Mamba-2, Mixture-of-Experts и внимания в гибриде LatentMoE; также используются Multi-Token Prediction для ускорения генерации и 12 млрд активных параметров при 120 млрд общих. Карточка указывает контекст до 1 млн токенов, тогда как метаданные Hugging Face — 262 144 токена. Модель принимает текст и генерирует текст; заявлены английский, французский, немецкий, итальянский, японский, испанский и китайский языки. Модель ориентирована на высокую пропускную способность, агентные сценарии, код, рассуждения и мультиязычный диалог. Карточка заявляет коммерческую готовность, но метаданные указывают лицензию «other», поэтому перед использованием следует проверить её условия. В опубликованном репозитории формат весов указан как safetensors; карточка описывает обучение с NVFP4, но это не означает, что репозиторий представляет квантизованную версию.

duyntnet/Qwen2.5-14B-Instruct-imatrix-GGUF — набор GGUF-квантизаций инструкционно дообученной языковой модели Qwen2.5-14B-Instruct, первоначально разработанной командой Qwen компании Alibaba Cloud. Репозиторий предназначен для локального запуска и инференса через llama.cpp, KoboldCPP, text-generation-webui или Ollama. Модель относится к авторегрессионным causal language models и ориентирована на диалог, следование инструкциям, генерацию текста, программирование, математику, работу со структурированными данными и формирование структурированных ответов, включая JSON. Указана поддержка более 29 языков, в том числе английского, китайского, русского, французского, испанского, немецкого, японского и корейского. Архитектура использует RoPE, SwiGLU, RMSNorm, смещения в Attention QKV и GQA; модель содержит около 14,7 млрд параметров, 48 слоёв, 40 голов внимания для Q и 8 для KV. Заявлена длина контекста до 131 072 токенов и генерация до 8192 токенов, однако текущая конфигурация репозитория рассчитана на 32 768 токенов; для более длинных входов требуется настройка YaRN. Сильные стороны модели — улучшенные возможности в кодировании и математике, следование инструкциям, генерация длинных текстов и устойчивость к различным системным промптам. Ограничения включают необходимость совместимого инференс-движка и дополнительной настройки для контекста свыше 32 768 токенов. В метаданных указана лицензия other; конкретные условия лицензии в README не раскрыты.

Карточка модели efathakanafunzi/Qwen3-14B на Hugging Face совпадает с карточкой Qwen/Qwen3-14B, поэтому описание составлено по ней. Qwen3-14B — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Это дообученная версия Qwen3-14B-Base с 14 млрд параметров; метаданные указывают на архитектуру Qwen3ForCausalLM и формат safetensors. Модель предназначена для генерации текста и диалогов, следования инструкциям, рассуждений, написания кода, перевода и работы с инструментами. Она поддерживает режимы рассуждения и обычного ответа, а также более 100 языков и диалектов. Контекстное окно, указанное в метаданных, составляет 40 960 токенов. Карточка описывает 32 768 токенов нативно и возможность расширения до 131 072 с YaRN. Для использования требуется библиотека Transformers; модель распространяется по лицензии Apache 2.0. Она принимает текстовые запросы и генерирует текст, а подключение внешних инструментов реализуется через интерфейс приложения.

warshanks/Qwen3-4B-Instruct-2507-AWQ — квантованная версия Qwen3-4B-Instruct-2507, разработанной командой Qwen и опубликованной пользователем warshanks. Это авторегрессионная causal language model для генерации текста в диалогах, выполнения инструкций, рассуждений, математики, научных и программных задач, понимания текста, вызова инструментов и агентских сценариев. Модель работает только в non-thinking режиме и не формирует блоки <think></think>. Модель содержит около 4 млрд параметров, из них 3,6 млрд без учёта эмбеддингов, имеет 36 слоёв и архитектуру Grouped-Query Attention с 32 головами для запросов и 8 для ключей и значений. Нативная длина контекста составляет 262 144 токена. Заявлены улучшения в многоязычном понимании, покрытии редких знаний, следовании инструкциям, открытой генерации и использовании инструментов. Это текстовая модель без заявленной поддержки изображений или других модальностей; конкретный набор языков в README не указан. Сильные стороны модели — большой контекст, улучшенные показатели в рассуждениях, кодировании, следовании инструкциям, творческом письме, многоязычных задачах и вызове инструментов при сравнительно небольшом размере. Ограничения включают работу только в non-thinking режиме, возможные требования к памяти при использовании длинного контекста и отсутствие в README подробных характеристик самой AWQ-квантизации, точных требований к оборудованию и результатов для всех практических сценариев. Модель распространяется по лицензии Apache-2.0.

unsloth/Qwen3.8-27B-FP8 — FP8-квантизированная версия модели Qwen3.8-27B, разработанной командой Qwen. Это плотная каузальная языковая модель с vision encoder, предназначенная для генерации текста, программирования, профессиональных и исследовательских задач, долгих агентских сценариев, а также понимания изображений и видео, включая документы, STEM-диаграммы и продолжительные видеоматериалы. Модель содержит 27 млрд параметров, 64 слоя и поддерживает контекст длиной 262 144 токена с возможностью расширения до 1 000 000 токенов. Архитектура основана на сочетании Gated DeltaNet, Gated Attention и FFN; также используется Multi-Token Prediction. Доступны режимы с рассуждением и без него: глубину рассуждений можно регулировать параметром reasoning_effort, а контекст рассуждений в диалоге сохранять с помощью preserve_thinking. Указанные материалы совместимы с Hugging Face Transformers, vLLM, SGLang и TokenSpeed. К сильным сторонам относятся развитые возможности для кода, профессиональной работы, исследований, автономного планирования и выполнения многошаговых задач, а также нативная мультимодальность и близкая к исходной модели производительность после квантизации. Ограничения включают зависимость эффективности и пропускной способности от используемого inference-фреймворка, а также дополнительные вычислительные и временные затраты при включённом глубоком рассуждении. В README не указаны поддерживаемые языки. Модель распространяется по лицензии Apache-2.0. Репозиторий содержит веса и конфигурации в формате Hugging Face Transformers; для производственного или высоконагруженного развёртывания рекомендуются специализированные серверные движки, например vLLM или SGLang.

Droplychee разработала Droplychee-2.0-40B — плотную авторегрессионную трансформерную модель семейства Qwen, дообученную на многоязычных инструкциях. Она предназначена для диалогов, рассуждений, программирования, следования инструкциям и работы с длинными документами; поддерживает сценарии с агентами и вызов инструментов. Модель содержит 40 млрд параметров и использует расширение контекста YaRN с заявленной длиной до 1 000 000 токенов. В README заявлена поддержка более 40 языков; основное внимание при обучении и оценке уделено английскому и бенгальскому. Репозиторий распространяет веса в формате safetensors, библиотека — Transformers. Лицензия — Apache-2.0. К сильным сторонам авторы относят многоязычный диалог, программирование, рассуждения и анализ длинного контекста. Качество на предельной длине контекста зависит от движка вывода, оборудования и настроек; опубликованные оценки выполнены командой разработчиков и не проверены независимой стороной. Возможны фактические ошибки и различия качества между языками и областями; результаты следует проверять.

Карточка модели utkarsh2439/gemma-4-12B-it на Hugging Face совпадает с карточкой RedHatAI/gemma-4-12B-it, поэтому описание составлено по ней. Gemma 4 12B IT — мультимодальная модель Google DeepMind на архитектуре Gemma4 Unified, дообученная для следования инструкциям. Она принимает текст, изображения, видео и аудио и генерирует текст; поддерживает диалоги, рассуждения, программирование и вызов инструментов. Модель подходит для локального развёртывания на потребительских устройствах и для задач с длинным контекстом до 256 тыс. токенов. Модель может анализировать изображения и документы, распознавать текст и рукописный ввод, разбирать диаграммы и интерфейсы, а также анализировать видео по кадрам. Для аудио доступны распознавание речи и перевод речи в текст. Семейство Gemma 4 поддерживает более 140 языков в обучении, а карточка сообщает о мультиязычных возможностях; точный список языков для этой версии не приведён. Модель распространяется под лицензией Apache 2.0. Как и другие генеративные модели, она может допускать фактические ошибки; результаты распознавания, перевода и анализа следует проверять. Для видеовхода анализ выполняется по последовательностям кадров.

Gemma 4 E4B IT QAT Unquantized — мультимодальная модель Google DeepMind с открытыми весами, полученная дообучением Gemma 4 E4B Instruct с применением обучения с учётом квантования (QAT). Репозиторий содержит веса safetensors в половинной точности, извлечённые из QAT-конвейера; эта версия предназначена для собственной компиляции и исследований. Лицензия — Apache 2.0. Модель принимает текст и изображения и генерирует текст. Семейство поддерживает контекст до 128 тысяч токенов для E4B и более 140 языков в обучающих данных; в README заявлена поддержка более 35 языков. Возможности включают диалог, рассуждения, программирование, распознавание речи, перевод речи в текст, понимание изображений и видео, OCR, разбор документов и вызов инструментов. Архитектура — плотная Gemma 4 для условной генерации. QAT ориентирован на снижение требований к памяти при сохранении качества, близкого к bfloat16, однако конкретный репозиторий содержит не готовую к обычному запуску квантованную сборку, а веса половинной точности для последующей компиляции. Аудио указано для E4B, но конкретный формат входов зависит от используемого конвейера.

Карточка модели OsGo/gemma-4-E4B-it-qat-q4_0-unquantized на Hugging Face совпадает с карточкой google/gemma-4-E4B-it-qat-q4_0-unquantized, поэтому описание составлено по ней. Gemma 4 E4B IT QAT Unquantized — мультимодальная модель Google DeepMind с открытыми весами, полученная дообучением Gemma 4 E4B Instruct с применением обучения с учётом квантования (QAT). Репозиторий содержит веса safetensors в половинной точности, извлечённые из QAT-конвейера; эта версия предназначена для собственной компиляции и исследований. Лицензия — Apache 2.0. Модель принимает текст и изображения и генерирует текст. Семейство поддерживает контекст до 128 тысяч токенов для E4B и более 140 языков в обучающих данных; в README заявлена поддержка более 35 языков. Возможности включают диалог, рассуждения, программирование, распознавание речи, перевод речи в текст, понимание изображений и видео, OCR, разбор документов и вызов инструментов. Архитектура — плотная Gemma 4 для условной генерации. QAT ориентирован на снижение требований к памяти при сохранении качества, близкого к bfloat16, однако конкретный репозиторий содержит не готовую к обычному запуску квантованную сборку, а веса половинной точности для последующей компиляции. Аудио указано для E4B, но конкретный формат входов зависит от используемого конвейера.

casperhansen/mistral-nemo-instruct-2407-awq — это 4-битная AWQ-квантизированная версия Mistral-Nemo-Instruct-2407, опубликованная пользователем casperhansen на Hugging Face. Исходную модель разработали совместно Mistral AI и NVIDIA; она представляет собой instruction-tuned версию Mistral-Nemo-Base-2407 и предназначена для генерации текста, диалогов, следования инструкциям и вызова функций. Модель содержит около 12 млрд параметров и использует архитектуру Transformer с 40 слоями, размерностью 5120, 32 attention heads и 8 key-value heads в конфигурации GQA, активацией SwiGLU и словарём примерно на 128 тысяч токенов. Исходная модель обучалась с контекстом 128K токенов на многоязычных и программных данных; заявлена поддержка девяти языков, включая русский. AWQ-квантизация до 4 бит уменьшает требования к памяти и подходит для локального инференса через Transformers, vLLM и SGLang, но может немного снижать точность относительно исходной версии. Сильные стороны — большой контекст, многоязычность, работа с кодом, поддержка диалогового режима и function calling, а также более экономичный инференс благодаря квантизации. Ограничение исходной модели — отсутствие встроенных механизмов модерации, поэтому её ответы могут требовать дополнительного контроля. Для базовой Mistral-Nemo-Instruct-2407 указана лицензия Apache 2.0; отдельная карточка AWQ-репозитория не содержит дополнительного лицензионного описания.

RedHatAI/Mistral-Small-24B-Instruct-2501-quantized.w8a8 — квантизированная INT8-версия Mistral-Small-24B-Instruct-2501, разработанная Red Hat совместно с Neural Magic. Модель предназначена для генерации текста и поддерживает текстовые и визуальные входные данные с текстовым выводом. Заявленные сценарии включают диалоговых агентов с быстрым откликом, вызов функций с низкой задержкой, программирование, математическое рассуждение, анализ длинных документов, визуальное понимание, локальный инференс и специализированные решения после дообучения. Модель имеет архитектуру Mistral3ForConditionalGeneration и содержит 24 млрд параметров в базовой версии. Веса и активации линейных операторов в трансформерных блоках квантизированы до INT8: для весов используется статическая симметричная поканальная схема, для активаций — динамическая симметричная потокенная схема. При заявленных характеристиках это примерно вдвое снижает требования к памяти GPU и размер файлов весов, а также может увеличить производительность матричных умножений примерно в два раза. Квантизация выполнена с использованием SmoothQuant и GPTQ через библиотеку llm-compressor. Поддерживаются английский, французский, немецкий, испанский, итальянский, португальский, китайский, японский, русский и корейский языки. Модель валидирована с RHOAI 2.20, RHAIIS 3.0, RHELAI 1.5 и vLLM 0.8.4; в документации приведён контекст до 32768 токенов. Ограничения включают возможное снижение точности из-за квантизации и запрет использования с нарушением применимых законов и в неподдерживаемых языках. Лицензия — Apache 2.0.

Nemotron-3-Ultra-550B-A55B-NVFP4 — большая языковая модель NVIDIA для диалогов, рассуждений и построения агентных систем. Она содержит 550 млрд параметров, из которых 55 млрд активны при вычислении, и использует гибридную архитектуру LatentMoE с чередованием слоёв Mamba-2, Mixture-of-Experts и Attention, а также Multi-Token Prediction. Модель распространяется в формате safetensors и рассчитана на контекст до 1 млн токенов. Модель предназначена для сложных многошаговых сценариев: работы AI-агентов, анализа больших документов и кодовых баз, ответов на вопросы, а также задач по коду, математике и науке. Она поддерживает английский, французский, испанский, итальянский, немецкий, японский, корейский, хинди, португальский и китайский языки; метаданные также указывают арабский и иврит. NVIDIA заявляет о готовности модели к коммерческому и некоммерческому использованию; лицензия обозначена как other, поэтому перед внедрением следует ознакомиться с условиями в карточке модели. Это крупный checkpoint, для которого руководство рекомендует многосерверное развертывание на подходящем оборудовании NVIDIA.