II.8Инженерия данных и аналитика

Карточка модели muhamad-geosurge/invert-polarity-e90e533f-da28-4c2d-a9ff-aef6d003f9f6 на Hugging Face совпадает с карточкой google/gemma-4-E4B-it, поэтому описание составлено по ней. Gemma 4 E4B Instruct — мультимодальная модель Google DeepMind, дообученная для следования инструкциям на базе google/gemma-4-E4B. Она использует плотную архитектуру Gemma 4 и принимает текст, изображения и аудио, выдавая текст; аудиовозможности заявлены для варианта E4B. Модель подходит для диалога, рассуждений, генерации и исправления кода, анализа изображений и документов, распознавания речи и перевода речи в текст. Поддерживаются системные инструкции, вызов инструментов и контекст до 128 тысяч токенов; семейство Gemma 4 поддерживает множество языков, включая более 35 языков в практических сценариях. Модель рассчитана в том числе на локальное исполнение на ноутбуках и мобильных устройствах, а гибридное внимание сочетает локальные окна и глобальное внимание для работы с длинным контекстом. Возможности видео описаны для семейства в целом, но README не подтверждает их отдельно для E4B; поэтому видео не включено в модальности этой модели. Лицензия — Apache 2.0.

RedHatAI/Llama-3.3-70B-Instruct-quantized.w8a8 — квантизированная версия языковой модели Llama-3.3-70B-Instruct, разработанная Neural Magic на базе модели Meta. Это текстовая модель формата «текст на входе — текст на выходе», предназначенная для диалоговых ассистентов, генерации текста, решения задач с открытым ответом, математического рассуждения и программирования. Заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков, а также коммерческого и исследовательского использования. Модель использует архитектуру Llama и имеет 70 млрд параметров в исходной версии. Веса и активации линейных операторов в трансформерных блоках квантизированы в INT8. Для весов применяется статическая симметричная поканальная квантизация, для активаций — динамическая симметричная поточенная квантизация. По данным README, это примерно вдвое снижает требования к видеопамяти и размеру модели, а также может примерно вдвое увеличить пропускную способность матричных умножений. Приведённые примеры развертывания используют vLLM и длину контекста 8192 или 32768 токенов, однако точный нативный размер контекста в README не указан. По результатам внутренней оценки модель сохраняет 99,4% качества исходной версии по OpenLLM v1 и показывает 100% pass@1 на HumanEval и HumanEval+. Она оптимизирована для эффективного инференса, в частности через vLLM и совместимые с OpenAI API серверы, но квантизация может приводить к некоторой потере качества по сравнению с полной точностью. Модель предназначена только для текстовых задач и не поддерживает мультимодальный ввод. Условия использования определяются лицензией Llama 3.3 от Meta; README также исключает применение с нарушением действующих законов и нормативных требований. Модель была валидирована в Red Hat OpenShift AI 2.20, Red Hat AI Inference Server 3.0, Red Hat Enterprise Linux AI 1.5 и vLLM 0.8.4.

Карточка модели Terom/gemma-4-12B-it-qat-q4_0-unquantized на Hugging Face совпадает с карточкой google/gemma-4-12B-it-qat-q4_0-unquantized, поэтому описание составлено по ней. Google DeepMind разработала Gemma 4 12B IT QAT Q4_0 Unquantized — мультимодальную инструкционную модель с плотной архитектурой Gemma4UnifiedForConditionalGeneration, полученную на основе google/gemma-4-12B-it с применением обучения с учётом квантования (QAT). Несмотря на обозначение Q4_0, в этом варианте используются веса половинной точности, извлечённые из QAT-конвейера; он предназначен для последующей компиляции и исследовательской работы. Репозиторий содержит веса в формате safetensors. Модель принимает текст и изображения, а также аудио и видеокадры; генерирует текст. Она подходит для диалога, рассуждений, анализа документов и изображений, распознавания речи, работы с видео, написания и исправления кода и вызова инструментов. Вариант 12B поддерживает контекст до 256 тысяч токенов; семейство Gemma 4 обучено на более чем 140 языках, а карточка заявляет поддержку более 35 языков для мультимодальных задач. Среди заявленных возможностей — понимание документов и PDF, OCR, распознавание рукописного текста, анализ диаграмм и интерфейсов, а также распознавание речи и перевод аудио в текст. Это открытая модель с лицензией Apache 2.0. Указанные в карточке возможности относятся к семейству Gemma 4; отдельные показатели качества для данного чекпойнта не приведены.

Gemma 4 12B IT QAT Q4_0 Unquantized — мультимодальная инструкционная модель семейства Gemma, разработанного Google DeepMind. Это чекпойнт на 12 млрд параметров, полученный из google/gemma-4-12B-it с применением Quantization-Aware Training; в данном репозитории опубликованы веса safetensors, извлечённые из QAT-конвейера в формате половинной точности, а не готовая к запуску квантизованная сборка. Модель предназначена для диалога, генерации и анализа текста, рассуждений, программирования, работы с изображениями, видео и аудио. Модель принимает текст и изображения, может анализировать видео по последовательности кадров; для варианта 12B также заявлена поддержка аудио, включая распознавание речи и перевод речи в текст. Она генерирует текст, поддерживает вызов функций и контекст до 256 тысяч токенов. Семейство рассчитано на многоязычные сценарии: карточка сообщает о поддержке более 35 языков и обучении на более чем 140 языках, но не перечисляет языки отдельно для этого чекпойнта. QAT-обучение призвано сохранить качество, близкое к bfloat16, при снижении требований к памяти в соответствующих квантованных вариантах. Этот репозиторий содержит именно неупакованные QAT-веса, поэтому для непосредственного запуска может потребоваться собственная компиляция или подходящая среда. Лицензия — Apache 2.0.

Карточка модели Terom/gemma-4-12B-it-qat-q4_0-unquantized-assistant на Hugging Face совпадает с карточкой google/gemma-4-12B-it-qat-q4_0-unquantized, поэтому описание составлено по ней. Google DeepMind разработала Gemma 4 12B IT QAT Q4_0 Unquantized — мультимодальную инструкционную модель с плотной архитектурой Gemma4UnifiedForConditionalGeneration, полученную на основе google/gemma-4-12B-it с применением обучения с учётом квантования (QAT). Несмотря на обозначение Q4_0, в этом варианте используются веса половинной точности, извлечённые из QAT-конвейера; он предназначен для последующей компиляции и исследовательской работы. Репозиторий содержит веса в формате safetensors. Модель принимает текст и изображения, а также аудио и видеокадры; генерирует текст. Она подходит для диалога, рассуждений, анализа документов и изображений, распознавания речи, работы с видео, написания и исправления кода и вызова инструментов. Вариант 12B поддерживает контекст до 256 тысяч токенов; семейство Gemma 4 обучено на более чем 140 языках, а карточка заявляет поддержку более 35 языков для мультимодальных задач. Среди заявленных возможностей — понимание документов и PDF, OCR, распознавание рукописного текста, анализ диаграмм и интерфейсов, а также распознавание речи и перевод аудио в текст. Это открытая модель с лицензией Apache 2.0. Указанные в карточке возможности относятся к семейству Gemma 4; отдельные показатели качества для данного чекпойнта не приведены.

Карточка модели jung360crowley/gemma-4-E2B-it на Hugging Face совпадает с карточкой google/gemma-4-E2B-it, поэтому описание составлено по ней. Gemma 4 E2B IT — мультимодальная модель Google DeepMind, дообученная на основе google/gemma-4-E2B для выполнения инструкций. Она принимает текст, изображения и аудио, а выдаёт текст; подходит для диалогов, рассуждений, написания и исправления кода, распознавания речи и анализа визуального содержимого, включая документы, диаграммы и кадры видео. Модель использует плотную архитектуру Gemma 4 и рассчитана на локальное развёртывание, в том числе на устройствах с ограниченными ресурсами. Для малых моделей семейства заявлено контекстное окно до 128 тысяч токенов; Gemma 4 поддерживает множество языков. Модель поддерживает вызов инструментов и режим рассуждений. Google DeepMind указывает сценарии использования для создания контента, диалоговых помощников, суммаризации, извлечения сведений из изображений и работы с аудио. Репозиторий содержит веса Safetensors, модель использует библиотеку Transformers и распространяется по лицензии Apache 2.0. Качество ответов может зависеть от языка, сложности задачи и входных данных; описание не приводит отдельных оценок для этой версии.

Карточка модели muhamad-geosurge/invert-polarity-ecd192a7-0f41-4a16-9478-ebe36160e035 на Hugging Face совпадает с карточкой google/gemma-4-E4B-it, поэтому описание составлено по ней. Gemma 4 E4B Instruct — мультимодальная модель Google DeepMind, дообученная для следования инструкциям на базе google/gemma-4-E4B. Она использует плотную архитектуру Gemma 4 и принимает текст, изображения и аудио, выдавая текст; аудиовозможности заявлены для варианта E4B. Модель подходит для диалога, рассуждений, генерации и исправления кода, анализа изображений и документов, распознавания речи и перевода речи в текст. Поддерживаются системные инструкции, вызов инструментов и контекст до 128 тысяч токенов; семейство Gemma 4 поддерживает множество языков, включая более 35 языков в практических сценариях. Модель рассчитана в том числе на локальное исполнение на ноутбуках и мобильных устройствах, а гибридное внимание сочетает локальные окна и глобальное внимание для работы с длинным контекстом. Возможности видео описаны для семейства в целом, но README не подтверждает их отдельно для E4B; поэтому видео не включено в модальности этой модели. Лицензия — Apache 2.0.

Mistral-Medium-3.5-128B-NVFP4 — квантизированная в формате NVFP4 версия Mistral Medium 3.5 128B, разработанная Mistral AI и оптимизированная NVIDIA с помощью Model Optimizer v0.44.0. NVIDIA не является разработчиком исходной модели. Это плотная Transformer-модель Mistral со 128 млрд параметров и визуальным энкодером, предназначенная для генерации текста, диалогов, программирования, сложных рассуждений, работы с изображениями и агентных сценариев. Модель принимает текст и изображения RGB с переменными размерами и соотношениями сторон, поддерживает контекст до 262 144 токенов и генерирует текст. Заявлена поддержка английского, французского, испанского, немецкого, итальянского, португальского, нидерландского, китайского, японского, корейского и арабского языков. Доступны вызов функций, JSON-вывод, настраиваемая интенсивность рассуждений и следование системным инструкциям. Модель рассчитана на использование с vLLM на NVIDIA GPU архитектуры Blackwell и в Linux. Сильные стороны — единые веса для задач следования инструкциям, рассуждений и кодирования, длинный контекст, мультимодальное понимание изображений и поддержка структурированного и агентного взаимодействия. Ограничения включают отсутствие раскрытых сведений о тренировочных данных и необходимость дополнительного тестирования на данных конкретного применения для оценки качества, безопасности и соответствия требованиям. Модель готова к коммерческому и некоммерческому использованию; применяются условия Modified MIT license Mistral, а для развёртывания и настройки рекомендуется связаться с Mistral.

Qwen3-4B-GGUF — квантизированная версия языковой модели Qwen3-4B, разработанная командой Qwen компании Alibaba Cloud. Это авторегрессионная causal language model для генерации текста, диалогов, следования инструкциям, рассуждений, математических и программных задач, творческого письма, ролевого взаимодействия, перевода и сценариев с использованием внешних инструментов. Модель поддерживает более 100 языков и диалектов, включая мультиязычное следование инструкциям и перевод. Модель содержит 4,0 млрд параметров, из которых 3,6 млрд не относятся к embedding, и включает 36 слоёв. Используется Grouped-Query Attention с 32 головами для Q и 8 для KV. Нативная длина контекста составляет 32 768 токенов; с применением RoPE-масштабирования YaRN заявлена поддержка до 131 072 токенов. Доступны варианты квантизации q4_K_M, q5_0, q5_K_M, q6_K и q8_0 в формате GGUF, ориентированные на локальный запуск, в частности через llama.cpp и Ollama. Ключевая особенность Qwen3 — переключение между режимами thinking для сложных задач рассуждения и non-thinking для более эффективного общего диалога в рамках одной модели. Модель также заявлена как пригодная для агентских задач и интеграции с внешними инструментами. Ограничения включают возможное снижение качества на коротких текстах при использовании статического YaRN, а для квантизированных вариантов рекомендуется настраивать presence penalty для уменьшения повторов. Модель распространяется по лицензии Apache-2.0.

Qwen3-4B-GGUF — квантизированная версия причинной языковой модели Qwen3-4B, разработанная командой Qwen компании Alibaba Cloud. Модель предназначена для генерации текста, диалогов, следования инструкциям, творческого письма, ролевого взаимодействия, программирования, математического и логического рассуждения, перевода, а также сценариев с использованием внешних инструментов и агентных возможностей. Модель содержит 4,0 млрд параметров, из которых 3,6 млрд не относятся к эмбеддингам, и включает 36 слоёв. Она использует Grouped-Query Attention с 32 головами запросов и 8 головами ключей и значений. Поддерживаются режимы thinking для сложных задач рассуждения и non-thinking для более быстрых ответов; между ними можно переключаться в рамках одного диалога. Модель поддерживает более 100 языков и диалектов. Нативная длина контекста составляет 32 768 токенов, а с масштабированием YaRN заявлена поддержка до 131 072 токенов. Основные преимущества — сочетание рассуждения, диалоговых и агентных возможностей, мультиязычность и возможность локального запуска через llama.cpp или Ollama. Доступны варианты квантизации q4_K_M, q5_0, q5_K_M, q6_K и q8_0, что позволяет выбирать компромисс между качеством, размером и скоростью. При использовании YaRN производительность на коротких текстах может снижаться, поэтому масштабирование рекомендуется включать только для длинного контекста; для thinking-режима также не рекомендуется жадное декодирование из-за риска деградации качества и повторов. Модель распространяется по лицензии Apache-2.0.

Qwen3.5-35B-A3B-GPTQ-Int4 — мультимодальная причинная языковая модель с vision encoder, разработанная командой Qwen. Это GPTQ-квантованная до 4 бит версия постобученной модели Qwen3.5-35B-A3B, предназначенная для локального и серверного инференса в Hugging Face Transformers, vLLM, SGLang, KTransformers и совместимых инструментах. Модель ориентирована на генерацию и понимание текста и изображений, рассуждение, программирование, визуальное понимание и агентские сценарии. Она поддерживает 201 язык и диалект. Архитектура сочетает Gated Delta Networks, Gated Attention и разреженную Mixture-of-Experts: всего 35 млрд параметров, из которых активируется около 3 млрд; используется 256 экспертов, 8 маршрутизируемых и 1 общий активный эксперт. Нативная длина контекста составляет 262 144 токена и может быть расширена до 1 010 000 токенов. Ключевые преимущества — мультимодальность, высокая вычислительная эффективность благодаря разреженной архитектуре и 4-битному квантованию, а также широкий языковой охват и поддержка длинного контекста. Ограничения включают возможные потери качества и точности, характерные для низкобитного квантования, а также зависимость производительности от используемого движка и аппаратного обеспечения. Модель распространяется по лицензии Apache-2.0.

cyankiwi/gemma-4-26B-A4B-it-AWQ-8bit — инструкцияно дообученная мультимодальная модель семейства Gemma 4, разработанная Google DeepMind и представленная в формате AWQ 8bit. Она основана на Google Gemma 4 26B A4B и использует архитектуру Mixture-of-Experts с 25,2 млрд параметров, из которых около 3,8 млрд активируются при обработке запроса. Модель предназначена для генерации текста, программирования, рассуждений, мультимодального анализа изображений и построения агентных сценариев с вызовом функций. Модель принимает текст и изображения и генерирует текст. Она поддерживает более 140 языков, контекст до 256 тысяч токенов и использует гибридный механизм внимания с чередованием локального sliding window attention и глобального внимания. В конфигурации MoE предусмотрены 128 экспертов, 8 активных экспертов и один общий эксперт; размер скользящего окна составляет 1024 токена, словарь — 262 тысячи токенов. Поддерживаются настраиваемые режимы рассуждений и системные сообщения. Ключевое преимущество — сочетание возможностей модели класса 26B с вычислительной нагрузкой, близкой к модели примерно на 4 млрд активных параметров, что делает инференс быстрее плотной модели Gemma 4 31B. Большой контекст и поддержка изображений подходят для анализа длинных документов, сложных задач рассуждения, программного кода и визуальных данных. Ограничения включают необходимость совместимого оборудования и программного обеспечения для AWQ 8bit, а также потенциальные ошибки и ограничения, свойственные генеративным мультимодальным моделям; конкретные показатели производительности в предоставленном фрагменте README приведены не полностью. Лицензия — Apache 2.0.

Карточка модели AdXff/gemma-4-E2B-it на Hugging Face совпадает с карточкой google/gemma-4-E2B-it, поэтому описание составлено по ней. Gemma 4 E2B IT — мультимодальная модель Google DeepMind, дообученная на основе google/gemma-4-E2B для выполнения инструкций. Она принимает текст, изображения и аудио, а выдаёт текст; подходит для диалогов, рассуждений, написания и исправления кода, распознавания речи и анализа визуального содержимого, включая документы, диаграммы и кадры видео. Модель использует плотную архитектуру Gemma 4 и рассчитана на локальное развёртывание, в том числе на устройствах с ограниченными ресурсами. Для малых моделей семейства заявлено контекстное окно до 128 тысяч токенов; Gemma 4 поддерживает множество языков. Модель поддерживает вызов инструментов и режим рассуждений. Google DeepMind указывает сценарии использования для создания контента, диалоговых помощников, суммаризации, извлечения сведений из изображений и работы с аудио. Репозиторий содержит веса Safetensors, модель использует библиотеку Transformers и распространяется по лицензии Apache 2.0. Качество ответов может зависеть от языка, сложности задачи и входных данных; описание не приводит отдельных оценок для этой версии.

Qwen3.5-122B-A10B-FP8 — мультимодальная модель семейства Qwen3.5, разработанная командой Qwen. Это постобученная версия с причинной языковой моделью и vision encoder, предназначенная для работы с текстом и изображениями, включая рассуждение, программирование, визуальное понимание и агентские сценарии. Модель содержит 122 млрд параметров, из которых 10 млрд активируются при обработке запроса. Она использует гибридную архитектуру Gated Delta Networks и разреженную Mixture-of-Experts с 256 экспертами, из которых активируются 8 маршрутизируемых и 1 общий эксперт. Нативная длина контекста составляет 262 144 токена и может быть расширена до 1 010 000 токенов. Заявлена поддержка 201 языка и диалекта. Данная версия содержит fine-grained FP8-квантизированные веса с размером блока 128; производительность заявлена близкой к исходной модели. Сильными сторонами являются сочетание мультимодальности, большого контекста, разреженной архитектуры для более эффективного вывода и широкого языкового охвата. Ограничения, зависящие от конкретной задачи, аппаратной конфигурации и используемого программного стека, в README не раскрыты; FP8-формат также требует совместимой поддержки. Модель распространяется по лицензии Apache-2.0 и совместима с Hugging Face Transformers, vLLM, SGLang и KTransformers.

NVIDIA GLM-5.1 NVFP4 — это квантизированная версия языковой модели ZAI GLM-5.1, основанная на авторегрессионной архитектуре оптимизированного Transformer. NVIDIA не является владельцем или разработчиком исходной модели: компания подготовила и выпустила её квантизированную версию с помощью NVIDIA Model Optimizer. Модель предназначена для коммерческого и некоммерческого использования, включая AI-агентов, чат-ботов, RAG-системы и другие приложения на базе искусственного интеллекта. Модель работает с текстом на входе и генерирует текст на выходе, поддерживает контекст длиной до 200 000 токенов. Объём составляет 754 млрд параметров, из которых активируется 40 млрд. Используется формат квантизации NVFP4 с точностью 4 бита; версия модели — NVFP4 1.0, квантизация выполнена с помощью nvidia-modelopt v0.45.0. Калибровка проводилась на наборах данных для диалогов и следования инструкциям, научного и математического рассуждения, программирования, SWE-задач, вызова инструментов и многоязычных сценариев. Языки обучения включают английский, немецкий, французский, японский, итальянский, китайский и испанский, однако полный перечень поддерживаемых языков README не гарантирует. Модель ориентирована на развёртывание с использованием SGLang или vLLM на GPU NVIDIA с архитектурой Blackwell под Linux. Её сильными сторонами являются большой контекст, высокая общая ёмкость модели, поддержка задач рассуждения, программирования и агентного взаимодействия, а также снижение требований к памяти благодаря 4-битной квантизации. Ограничения включают необходимость совместимого оборудования, отсутствие раскрытых сведений о полном обучающем и тестовом наборах, а также необходимость дополнительного тестирования на данных конкретного применения для проверки качества, безопасности и соответствия требованиям. Лицензия — MIT.

Qwen3.8-27B-BF16-INT4-W4A16-G32-AutoRound — мультимодальная языковая модель на базе Qwen3.8 Vision-Language Model, подготовленная goldhub с использованием AutoRound. Базовую архитектуру и мультимодальные возможности разработала команда Qwen. Модель предназначена для генерации и анализа текста, программирования, математических и логических рассуждений, творческих задач, а также обработки изображений и видео. Модель содержит 27 миллиардов параметров и использует квантизацию W4A16: веса представлены в 4 битах, активации — в 16 битах, размер группы — 32, применяется симметричная квантизация. Критические компоненты, включая визуальный энкодер, эмбеддинги и отдельные проекции attention, сохранены в FP16/BF16. Заявлена поддержка контекста до 256K токенов, Multi-Token Prediction, а также входных данных в форматах текст, изображение и видео. Указаны языки: английский, китайский, русский, украинский, греческий и иврит. Сильными сторонами являются сочетание мультимодальности, длинного контекста и сниженных требований к памяти по сравнению с полноразмерной моделью. README приводит результаты внутренних тестов по скорости, математике, рассуждениям, программированию и длинному контексту, однако их независимое подтверждение не представлено. К ограничениям относятся повышенные требования к видеопамяти из-за сохранённых слоёв FP16/BF16, необходимость аккуратной настройки батчинга для длинного контекста и потенциальная зависимость запуска от поддержки AutoRound, vLLM, SGLang или remote code. Модель распространяется по лицензии Apache-2.0.

Gemma 4 E4B IT QAT Unquantized — мультимодальная модель Google DeepMind из семейства Gemma 4, основанная на Gemma 4 E4B Instruct. Это вариант с весами половинной точности, извлечёнными из конвейера обучения с учётом квантования (QAT); он предназначен для последующей компиляции и исследовательской работы. Архитектура — плотная Gemma4ForConditionalGeneration, файлы представлены в safetensors. Модель принимает текст и изображения, а также аудио; генерирует текст. Она подходит для диалога, рассуждений, генерации и исправления кода, анализа изображений и документов, распознавания речи и перевода речи в текст. Семейство поддерживает более 140 языков; для небольших вариантов, включая E4B, заявлено контекстное окно до 128 тысяч токенов. Поддерживаются вызов функций и режим рассуждений. Вариант QAT призван снизить требования к памяти при сохранении качества, близкого к bfloat16, но именно эта публикация содержит не готовый к развёртыванию квантованный формат, а веса для дальнейшей компиляции. Лицензия — Apache 2.0. Возможности аудио, языка и контекстное окно описаны для семейства; в карточке этой конкретной публикации отдельные параметры не уточнены.

Qwen3.5-27B-FP8 — мультимодальная причинная языковая модель семейства Qwen, разработанная командой Qwen. Это FP8-квантизированная версия постобученной модели Qwen3.5-27B с весами и конфигурацией для Hugging Face Transformers; также заявлена совместимость с vLLM, SGLang и KTransformers. Модель предназначена для работы с текстом и изображениями, включая рассуждение, программирование, визуальное понимание и агентские сценарии. Модель использует языковую часть на 27 млрд параметров и vision encoder. Архитектура сочетает Gated Delta Networks, Gated Attention и разреженную Mixture-of-Experts; предусмотрено многократное обучение предсказанию следующих токенов. Нативная длина контекста составляет 262 144 токена с возможностью расширения до 1 010 000 токенов. Заявлена поддержка 201 языка и диалекта. FP8-квантизация выполнена с блочным размером 128, при этом, согласно README, показатели производительности близки к исходной модели. Сильными сторонами являются мультимодальность, большой контекст, широкая языковая поддержка и потенциально более эффективный инференс благодаря гибридной архитектуре и FP8-представлению. Ограничения конкретной версии, включая фактическое качество на отдельных задачах, требования к аппаратному обеспечению и особенности работы с изображениями, в README подробно не указаны. Модель распространяется по лицензии Apache-2.0.

Qwen3.5-27B — мультимодальная модель семейства Qwen, разработанная командой Qwen. Это авторегрессионная языковая модель с vision encoder, предназначенная для работы с текстом и изображениями, включая рассуждения, программирование, визуальное понимание и агентские сценарии. Модель поддерживает интеграцию с Hugging Face Transformers, vLLM, SGLang и KTransformers. Модель содержит 27 млрд параметров, 64 слоя и скрытое измерение 5120. В архитектуре сочетаются Gated Delta Networks и разреженная Mixture-of-Experts; также используются механизмы Gated Attention и multi-step training. Нативная длина контекста составляет 262 144 токена, с возможностью расширения до 1 010 000 токенов. Заявлена поддержка 201 языка и диалекта. Мультимодальное обучение выполнено с ранним объединением визуальных и языковых токенов. К сильным сторонам относятся сочетание языковых и визуальных возможностей, высокая эффективность архитектуры, большой контекст и широкое языковое покрытие. Ограничения README не описывает подробно; фактическая производительность и требования к ресурсам зависят от сценария использования и программного окружения. Модель распространяется по лицензии Apache-2.0.

Qwen3.5-397B-A17B-GPTQ-Int4 — это квантизированная 4-битная версия мультимодальной модели Qwen3.5-397B-A17B, разработанной командой Qwen. Модель представлена в формате Hugging Face Transformers и предназначена для обработки текста и изображений, генерации ответов, рассуждений, программирования, визуального понимания и агентских сценариев. Модель сочетает языковую модель с vision encoder, гибридную архитектуру Gated Delta Networks и Gated Attention со sparse Mixture-of-Experts. Она содержит 397 млрд параметров, из которых 17 млрд активируются при обработке токена, 60 слоёв и 512 экспертов, при этом используются 10 маршрутизируемых и один общий эксперт. Нативная длина контекста составляет 262 144 токена и может быть расширена до 1 010 000 токенов. Заявлена поддержка 201 языка и диалекта. Квантизация GPTQ Int4 снижает требования к памяти и может повысить эффективность инференса, но потенциально ограничивает точность по сравнению с полноразмерными весами. Весовые файлы совместимы с Transformers, vLLM, SGLang и KTransformers. Модель распространяется по лицензии Apache-2.0. README не содержит подробных сведений о требованиях к оборудованию, фактической производительности или ограничениях качества, поэтому эти характеристики следует оценивать отдельно для конкретной инфраструктуры и задач.

Qwen3.5-4B-f32-GGUF — это набор GGUF-файлов с версиями модели Qwen3.5-4B, разработанной командой Alibaba Qwen и представленной в репозитории prithivMLmods. Модель представляет собой плотную мультимодальную causal language model примерно с 4 млрд параметров и встроенным vision-энкодером. Она предназначена для генерации и понимания текста, анализа изображений и видео, OCR, решения математических задач, программирования и агентских сценариев. Архитектура включает 32 слоя с гибридной схемой Gated DeltaNet и Gated Attention, размером скрытого состояния 2560 и словарём на 248 тысяч токенов для 201 языка. Заявлена поддержка контекста до 262 тысяч токенов с возможностью расширения свыше 1 млн токенов, а также переключаемый режим рассуждений для выбора между более глубоким анализом и быстрой генерацией. В комплект входят варианты BF16, F16, F32, Q8_0 и отдельные мультимодальные проекционные файлы mmproj; размеры файлов варьируются примерно от 367 МБ до 16,8 ГБ. К сильным сторонам относятся мультимодальность без необходимости в отдельном VL-компоненте, большой контекст, многоязычность и возможность запуска на ограниченных ресурсах: в README указано около 8 ГБ VRAM для BF16 и примерно 3 ГБ для 4-битной версии. К ограничениям относятся различия в качестве и размере квантованных вариантов, а также компромисс между скоростью и качеством рассуждений. Модель распространяется по лицензии Apache 2.0.

Gemma 4 E4B Instruct QAT Mobile — мультимодальная модель Google DeepMind с плотной архитектурой Gemma 4ForConditionalGeneration, дообученная для следования инструкциям и оптимизированная с помощью Quantization-Aware Training для мобильного оборудования. Эта версия распространяется в формате compressed-tensors и использует схему wNa8o8 с 2-битными слоями декодирования, оптимизированным KV-кэшем и статическими активациями, чтобы снизить требования к памяти при запуске на устройстве. Модель принимает текст и изображения, а для варианта E4B также поддерживает аудио; выдаёт текст. Она предназначена для диалогов, генерации и редактирования кода, рассуждений, извлечения сведений из изображений и документов, OCR, понимания видео и агентных сценариев с вызовом инструментов. Для E4B заявлено контекстное окно 128K токенов; семейство Gemma поддерживает более 140 языков при предварительном обучении. Модель может работать на мобильных устройствах и других локальных системах с ограниченными ресурсами. Модель доступна по лицензии Apache 2.0. Качество и скорость на конкретном устройстве зависят от реализации и аппаратного обеспечения; QAT снижает расход памяти, но отдельные слои используют низкую разрядность. Карточка описывает аудио-возможности семейства, однако не уточняет их точный охват для этой сборки.

tripolskypetr/gemma-4-it-GGUF — GGUF-версия инструкционно настроенной мультимодальной модели Gemma 4 31B-it, основанной на google/gemma-4-31B-it. Семейство Gemma разработано Google DeepMind, а данный вариант опубликован в формате GGUF для удобного локального запуска и квантования, в том числе с использованием инструментов Unsloth. Модель предназначена для генерации и понимания текста, рассуждений, программирования, агентских сценариев и работы с изображениями. Она принимает текстовые и графические данные и генерирует текст; заявлена поддержка более 140 языков. Для управления поведением поддерживаются системные сообщения, режимы рассуждения и нативный function calling. Это плотная архитектура с 30,7 млрд параметров, 60 слоями и словарём размером 262 тысячи токенов. Используется гибридное внимание с чередованием локального скользящего окна размером 1024 токена и глобального внимания; максимальная длина контекста составляет 256 тысяч токенов. В состав входят визуальный энкодер примерно на 550 млн параметров. Большой размер модели и мультимодальность обеспечивают широкие возможности, но требуют значительных вычислительных ресурсов, поэтому локальное развертывание зависит от доступной памяти и выбранного варианта квантования. Модель распространяется по лицензии Apache 2.0.

Inkling-NVFP4 — квантованная версия мультимодальной модели Inkling, разработанная Thinking Machines. Это универсальная авторегрессионная модель для разработчиков, создающих AI-приложения: агентные и инструментальные системы, ассистенты программирования, чат-боты и решения с retrieval-augmented generation. Она также подходит для диалогов общего назначения, следования инструкциям и других текстовых и мультимодальных задач. Модель распространяется с открытыми весами для исследований, дообучения и интеграции в сторонние продукты. Архитектура представляет собой decoder-only transformer из 66 слоёв с разреженным Mixture-of-Experts: для каждого токена выбираются 6 из 256 экспертов, а ещё 2 общих эксперта активны постоянно. Внимание сочетает локальные и глобальные слои. Модель принимает текст, изображения и аудио, объединяя их в общем скрытом пространстве; изображения и видео обрабатываются иерархическим patch-энкодером, аудио — через дискретное токенизирование. Всего заявлено 975 млрд параметров, из них 41 млрд активны для отдельного токена. Версия поддерживает числовой формат NVFP4, а базовая модель также доступна в BF16. На вход подаются UTF-8-текст, изображения в пиксельных форматах и WAV-аудио с частотой 16 кГц; для оптимальной работы рекомендуются изображения размером от 40 до 4096 пикселей по каждой стороне и аудио длительностью менее 20 минут. На выходе модель генерирует UTF-8-текст. Основной язык — английский, при этом заявлены общие мультиязычные возможности и поддержка нескольких языков программирования. К ограничениям относятся отсутствие подробных данных о длине контекста в представленном README и потенциальные требования к вычислительным ресурсам из-за большого общего числа параметров, несмотря на разреженную активацию и квантование. Модель распространяется по лицензии Apache 2.0; также действует отдельная политика допустимого использования Thinking Machines.

MiMo-V2.6-Pro-RL — флагманская модель серии MiMo-V2.6 от Xiaomi, обученная с помощью масштабного обучения с подкреплением и последующей дистилляции на основе траекторий учителей и самой модели. Это разреженная MoE-модель с 1,02 трлн параметров, из которых активируются 42 млрд; в метаданных репозитория указано 27,7 млрд параметров. Модель принимает текст, изображения, видео и аудио, а контекстное окно составляет до 1 млн токенов. Модель предназначена для генерации текста в диалоге, агентных сценариев с вызовом инструментов, программирования и анализа мультимодальных данных. В обучении смешивались задачи кодирования, работы агентов, визуальные задачи и кибербезопасность; групповая оценка траекторий направляет модель к более качественным решениям. Архитектура включает MiMo ViT для изображений, аудиокодировщик и пятислойный спекулятивный декодер. Карточка приводит результаты на отдельных бенчмарках, но не гарантирует качество для конкретных задач. Для работы с длинным контекстом и мультимодальными входами требуются ресурсы для крупной модели; опубликованный репозиторий содержит веса в формате safetensors FP8. Лицензия — MIT.

cyankiwi/Qwen3.5-35B-A3B-AWQ-4bit — 4-битная AWQ-квантизованная версия мультимодальной модели Qwen3.5-35B-A3B, разработанной командой Qwen. Модель предназначена для работы с текстом и изображениями, включая рассуждения, программирование, визуальное понимание, агентские сценарии и другие задачи генерации и анализа контента. Архитектура представляет собой causal language model с vision encoder и гибридной схемой Gated Delta Networks и разреженной Mixture-of-Experts. Всего модель содержит 35 млрд параметров, из которых при обработке активируются около 3 млрд. Используются 40 слоёв, 256 экспертов, из которых выбираются 8 маршрутизируемых и 1 общий эксперт. Нативная длина контекста составляет 262 144 токена, с расширением до 1 010 000 токенов. Заявлена поддержка 201 языка и диалекта. Формат совместим с Transformers, vLLM, SGLang и KTransformers. К сильным сторонам относятся сочетание мультимодальности, большого контекста, высокой вычислительной эффективности разреженной архитектуры и широкой языковой поддержки. AWQ-квантизация снижает требования к памяти и может упростить локальное развертывание, однако потенциально сопровождается компромиссом между качеством и точностью по сравнению с полной версией весов. README не приводит подробностей о требованиях к оборудованию, измерениях производительности именно для этой AWQ-версии и явных ограничениях применения. Лицензия — Apache-2.0.

AxionML/Qwen3.5-35B-A3B-NVFP4 — квантованная версия мультимодальной модели Qwen3.5-35B-A3B, разработанная AxionML для задач открытого размещения и развёртывания. Модель предназначена для обработки текста и изображений, включая рассуждения, программирование, работу с агентами и визуальное понимание. Она реализована как авторегрессионная языковая модель с vision encoder и поддерживает архитектуру с Gated Delta Networks, Gated Attention и разреженным Mixture-of-Experts. Модель содержит 35 млрд параметров, из которых активируется около 3 млрд, имеет 40 слоёв и нативный контекст 262 144 токена с возможностью расширения до 1 010 000 токенов. Заявлена поддержка 201 языка и диалекта. Линейные слои используют квантование NVFP4, выполненное с помощью NVIDIA TensorRT Model Optimizer; это уменьшает размер модели на диске и потребление GPU-памяти примерно в четыре раза по сравнению с BF16. Формат ориентирован на ускоренный inference на оборудовании с поддержкой Blackwell Tensor Cores. К сильным сторонам относятся высокая параметрическая эффективность за счёт MoE, большой контекст, мультимодальность и сниженные требования к памяти благодаря 4-битному квантованию. Ограничения связаны с зависимостью производительности и качества от совместимого оборудования и программного стека, а также с потенциальными потерями точности, свойственными квантованию; конкретные требования к аппаратному обеспечению и подробные результаты оценки в представленном фрагменте не указаны. Модель доступна для коммерческого и некоммерческого использования по лицензии Apache 2.0.

NVIDIA Qwen3.5-397B-A17B NVFP4 V2 — квантизированная версия авторегрессионной мультимодальной модели Qwen3.5-397B-A17B, разработанной Alibaba и оптимизированной NVIDIA с помощью Model Optimizer. Модель предназначена для коммерческого и некоммерческого использования в AI Agent-системах, чат-ботах, RAG-системах и других приложениях на базе искусственного интеллекта. Модель использует архитектуру Transformers и содержит 397 млрд параметров, из которых активируется 17 млрд. Она принимает текст, изображения и видео, а генерирует текст; заявленная длина контекста составляет до 262 тысяч токенов. Поддерживаются входные данные в строковом формате, изображения RGB и видео MP4/WebM. Модель оценивалась на задачах мультимодального рассуждения, научного программирования, работы с длинным контекстом, следования инструкциям и агентского использования инструментов. Вариант NVFP4 2.0 предназначен для ускоренного инференса на GPU NVIDIA, прежде всего на архитектуре Blackwell, с использованием SGLang и Linux. Веса и активации линейных операторов внутри transformer-блоков квантизированы в NVFP4; attention и shared experts используют per-tensor FP8. Ограничения включают нераскрытые данные обучения и отсутствие приведённых численных результатов бенчмарков, поэтому перед развёртыванием необходимы тестирование на целевых данных и проверка безопасности. Модель распространяется по лицензии Apache 2.0.

Qwen3.5-9B Q4_K_M GGUF — это 4-битная квантованная версия языково-мультимодальной модели Qwen3.5-9B, первоначально разработанной Alibaba Cloud. Конвертацию в формат GGUF выполнила Unsloth, а квантование и оптимизацию для локального запуска на устройствах Apple — jc-builds. Модель распространяется под лицензией Apache 2.0. Модель предназначена для генерации текста, рассуждений, программирования, использования инструментов, анализа изображений и работы с документами и видео. Она поддерживает режим рассуждений с блоками <think>...</think>, ChatML-формат запросов и ориентирована прежде всего на приватный автономный запуск через llama.cpp, включая iPhone, iPad и Mac с Apple Silicon. Для iOS она доступна в приложении HaploAI. Архитектура сочетает Gated DeltaNet и полное Gated Attention в соотношении 3:1 и включает 32 слоя, скрытое измерение 4096, GQA с 16 query-heads и 4 KV-heads, а также FFN с промежуточным размером 12288. Модель содержит около 9 млрд параметров, занимает примерно 5,3 ГБ, поддерживает контекст до 262 144 токенов с возможностью расширения свыше 1 млн через YaRN и заявляет поддержку 201 языка и диалекта, включая русский, английский, китайский, японский, корейский и европейские языки. Нативная мультимодальность основана на раннем слиянии визуальных данных. К сильным сторонам относятся высокая заявленная эффективность для модели такого размера, большой контекст, мультимодальность, широкий языковой охват и возможность локального использования без передачи данных в облако. Ограничения включают значительные требования к памяти: для комфортной работы рекомендуется устройство с минимум 8 ГБ RAM, а на старых iPhone с 6 ГБ модель не рекомендуется. Приведённые результаты бенчмарков и скорости зависят от реализации, устройства и настроек запуска.

unsloth/Qwen3-VL-8B-Thinking-unsloth-bnb-4bit — это 4-битная версия мультимодальной vision-language модели Qwen3-VL-8B-Thinking, подготовленная Unsloth на основе модели Qwen/Qwen3-VL-8B-Thinking. Разработчик базовой модели — команда Qwen; Unsloth предоставляет оптимизированное квантование Unsloth Dynamic 2.0. Модель предназначена для понимания и генерации текста с учётом изображений и видео, визуального рассуждения, анализа документов, OCR, STEM- и математических задач, пространственного анализа, а также взаимодействия с графическими интерфейсами и инструментами. Она может использоваться для генерации HTML/CSS/JS и Draw.io по изображениям или видео, распознавания объектов и событий, анализа длинных документов и видео. Архитектура модели — dense, размер — 8B параметров; используется редакция Thinking с усиленным рассуждением. Заявлена поддержка контекста 256K токенов с возможностью расширения до 1M, а также видео с временной индексацией. Среди архитектурных особенностей указаны Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками. OCR поддерживает 32 языка. Квантование в 4 бита снижает требования к памяти, но может влиять на точность по сравнению с полноразмерными весами. Лицензия — Apache-2.0.