II.10Разработка и эксплуатация AI/ML-систем

Карточка модели Juan663/gemma-4-E4B-it на Hugging Face совпадает с карточкой google/gemma-4-E4B-it, поэтому описание составлено по ней. Gemma 4 E4B Instruct — мультимодальная модель Google DeepMind, дообученная для следования инструкциям на базе google/gemma-4-E4B. Она использует плотную архитектуру Gemma 4 и принимает текст, изображения и аудио, выдавая текст; аудиовозможности заявлены для варианта E4B. Модель подходит для диалога, рассуждений, генерации и исправления кода, анализа изображений и документов, распознавания речи и перевода речи в текст. Поддерживаются системные инструкции, вызов инструментов и контекст до 128 тысяч токенов; семейство Gemma 4 поддерживает множество языков, включая более 35 языков в практических сценариях. Модель рассчитана в том числе на локальное исполнение на ноутбуках и мобильных устройствах, а гибридное внимание сочетает локальные окна и глобальное внимание для работы с длинным контекстом. Возможности видео описаны для семейства в целом, но README не подтверждает их отдельно для E4B; поэтому видео не включено в модальности этой модели. Лицензия — Apache 2.0.

Карточка модели muhamad-geosurge/invert-polarity-beb392d1-cbb5-4f3b-b213-f71fba43b481 на Hugging Face совпадает с карточкой google/gemma-4-E4B-it, поэтому описание составлено по ней. Gemma 4 E4B Instruct — мультимодальная модель Google DeepMind, дообученная для следования инструкциям на базе google/gemma-4-E4B. Она использует плотную архитектуру Gemma 4 и принимает текст, изображения и аудио, выдавая текст; аудиовозможности заявлены для варианта E4B. Модель подходит для диалога, рассуждений, генерации и исправления кода, анализа изображений и документов, распознавания речи и перевода речи в текст. Поддерживаются системные инструкции, вызов инструментов и контекст до 128 тысяч токенов; семейство Gemma 4 поддерживает множество языков, включая более 35 языков в практических сценариях. Модель рассчитана в том числе на локальное исполнение на ноутбуках и мобильных устройствах, а гибридное внимание сочетает локальные окна и глобальное внимание для работы с длинным контекстом. Возможности видео описаны для семейства в целом, но README не подтверждает их отдельно для E4B; поэтому видео не включено в модальности этой модели. Лицензия — Apache 2.0.

Карточка модели muhamad-geosurge/invert-polarity-f1cfb5c0-5664-44c6-be26-627fd172b090 на Hugging Face совпадает с карточкой google/gemma-4-E4B-it, поэтому описание составлено по ней. Gemma 4 E4B Instruct — мультимодальная модель Google DeepMind, дообученная для следования инструкциям на базе google/gemma-4-E4B. Она использует плотную архитектуру Gemma 4 и принимает текст, изображения и аудио, выдавая текст; аудиовозможности заявлены для варианта E4B. Модель подходит для диалога, рассуждений, генерации и исправления кода, анализа изображений и документов, распознавания речи и перевода речи в текст. Поддерживаются системные инструкции, вызов инструментов и контекст до 128 тысяч токенов; семейство Gemma 4 поддерживает множество языков, включая более 35 языков в практических сценариях. Модель рассчитана в том числе на локальное исполнение на ноутбуках и мобильных устройствах, а гибридное внимание сочетает локальные окна и глобальное внимание для работы с длинным контекстом. Возможности видео описаны для семейства в целом, но README не подтверждает их отдельно для E4B; поэтому видео не включено в модальности этой модели. Лицензия — Apache 2.0.

jakejb53/Qwen3.8-27B-heretic — производная от Qwen/Qwen3.8-27B модель, дообученная для снижения числа отказов: в приведённом сравнении она отказала в 0 из 100 случаев против 63 из 100 у исходной модели. Это плотная причинная языковая модель с визуальным энкодером на 27 млрд параметров, основанная на архитектуре Qwen3.5 и предназначенная для диалогов с текстом и изображениями; семейство поддерживает также анализ видео. Модель использует формат Transformers и веса safetensors в bf16, совместима с Transformers, vLLM и SGLang. Модель подходит для программирования, профессиональных и исследовательских задач, анализа изображений и документов, а также многошаговых сценариев с планированием. Контекст базовой модели составляет 262 144 токена с возможностью расширения до 1 млн; README указывает, что режим рассуждений включён по умолчанию и может настраиваться. Снижение отказов может приводить к ответам на запросы, которые исходная модель отклоняла. В репозитории указана лицензия Apache-2.0.

Qwen3.8-27B-MXFP6 — квантованный вариант мультимодальной модели Qwen3.8 от команды Qwen. Это плотная причинная языковая модель с визуальным энкодером на 27 млрд параметров, основанная на архитектуре Qwen3.5 и представленная в формате Transformers с квантизацией Quark MXFP6. Модель принимает текст, изображения и видео и выдаёт текстовые ответы; поддерживает диалог, интерфейс вызова инструментов и настраиваемый режим рассуждений. Модель предназначена для анализа изображений и видео, программирования, профессиональных и исследовательских задач, а также многоэтапной работы агентных систем. В README указана длина контекста 262 144 токена с возможностью расширения до 1 000 000 токенов. Модель можно запускать через Transformers и совместимые среды, включая vLLM и SGLang. Лицензия — Apache-2.0. Доступная карточка описывает семейство Qwen3.8, но подробности конкретной сборки MXFP6, включая языковую поддержку и ограничения квантизации, не приведены.

Карточка модели sagnikdas-ml/gemma-4-12B-it на Hugging Face совпадает с карточкой RedHatAI/gemma-4-12B-it, поэтому описание составлено по ней. Gemma 4 12B IT — мультимодальная модель Google DeepMind на архитектуре Gemma4 Unified, дообученная для следования инструкциям. Она принимает текст, изображения, видео и аудио и генерирует текст; поддерживает диалоги, рассуждения, программирование и вызов инструментов. Модель подходит для локального развёртывания на потребительских устройствах и для задач с длинным контекстом до 256 тыс. токенов. Модель может анализировать изображения и документы, распознавать текст и рукописный ввод, разбирать диаграммы и интерфейсы, а также анализировать видео по кадрам. Для аудио доступны распознавание речи и перевод речи в текст. Семейство Gemma 4 поддерживает более 140 языков в обучении, а карточка сообщает о мультиязычных возможностях; точный список языков для этой версии не приведён. Модель распространяется под лицензией Apache 2.0. Как и другие генеративные модели, она может допускать фактические ошибки; результаты распознавания, перевода и анализа следует проверять. Для видеовхода анализ выполняется по последовательностям кадров.

Карточка модели unsloth/gemma-4-31B-it-qat-q4_0-unquantized на Hugging Face совпадает с карточкой unsloth/gemma-4-12B-it-qat-q4_0-unquantized, поэтому описание составлено по ней. Gemma 4 12B IT QAT Q4_0 Unquantized — мультимодальная инструкционная модель семейства Gemma, разработанного Google DeepMind. Это чекпойнт на 12 млрд параметров, полученный из google/gemma-4-12B-it с применением Quantization-Aware Training; в данном репозитории опубликованы веса safetensors, извлечённые из QAT-конвейера в формате половинной точности, а не готовая к запуску квантизованная сборка. Модель предназначена для диалога, генерации и анализа текста, рассуждений, программирования, работы с изображениями, видео и аудио. Модель принимает текст и изображения, может анализировать видео по последовательности кадров; для варианта 12B также заявлена поддержка аудио, включая распознавание речи и перевод речи в текст. Она генерирует текст, поддерживает вызов функций и контекст до 256 тысяч токенов. Семейство рассчитано на многоязычные сценарии: карточка сообщает о поддержке более 35 языков и обучении на более чем 140 языках, но не перечисляет языки отдельно для этого чекпойнта. QAT-обучение призвано сохранить качество, близкое к bfloat16, при снижении требований к памяти в соответствующих квантованных вариантах. Этот репозиторий содержит именно неупакованные QAT-веса, поэтому для непосредственного запуска может потребоваться собственная компиляция или подходящая среда. Лицензия — Apache 2.0.

Карточка модели Iniharith/gemma-4-E2B-it на Hugging Face совпадает с карточкой google/gemma-4-E2B-it, поэтому описание составлено по ней. Gemma 4 E2B IT — мультимодальная модель Google DeepMind, дообученная на основе google/gemma-4-E2B для выполнения инструкций. Она принимает текст, изображения и аудио, а выдаёт текст; подходит для диалогов, рассуждений, написания и исправления кода, распознавания речи и анализа визуального содержимого, включая документы, диаграммы и кадры видео. Модель использует плотную архитектуру Gemma 4 и рассчитана на локальное развёртывание, в том числе на устройствах с ограниченными ресурсами. Для малых моделей семейства заявлено контекстное окно до 128 тысяч токенов; Gemma 4 поддерживает множество языков. Модель поддерживает вызов инструментов и режим рассуждений. Google DeepMind указывает сценарии использования для создания контента, диалоговых помощников, суммаризации, извлечения сведений из изображений и работы с аудио. Репозиторий содержит веса Safetensors, модель использует библиотеку Transformers и распространяется по лицензии Apache 2.0. Качество ответов может зависеть от языка, сложности задачи и входных данных; описание не приводит отдельных оценок для этой версии.

Granite-4.0-Tiny-Preview-GGUF — текстовая instruct-модель семейства Granite, разработанная командой Granite компании IBM. Это конвертированная в формат GGUF версия базовой модели ibm-granite/granite-4.0-tiny-base-preview с различными вариантами квантования. Модель содержит около 7 млрд параметров и использует мелкозернистую гибридную архитектуру mixture-of-experts (MoE). Она дообучалась с применением supervised fine-tuning и методов выравнивания на основе reinforcement learning, включая открытые наборы инструкций и синтетические данные для задач с длинным контекстом. Модель предназначена для общего следования инструкциям и интеграции в AI-ассистентов, в том числе в бизнес-приложениях. Она поддерживает рассуждение, суммаризацию, классификацию и извлечение текста, ответы на вопросы, retrieval-augmented generation (RAG), работу с кодом, function calling, многоязычный диалог и обработку длинных документов и встреч. Заявлена поддержка английского, немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков; модель также можно дообучать для других языков. Сильными сторонами являются сочетание компактного размера, MoE-архитектуры, широкого набора прикладных сценариев, многоязычности и ориентации на длинноконтекстные задачи. README не содержит точного размера контекстного окна, результатов benchmark-тестов, сведений о конкретных квантованиях и подробных ограничениях качества, поэтому эти характеристики требуют дополнительной проверки. Модель распространяется по лицензии Apache 2.0.

granite-4.0-tiny-preview-GGUF — GGUF-квантизированные варианты 7-миллиардной instruct-модели Granite-4.0-Tiny-Preview, разработанной командой Granite компании IBM и преобразованной с помощью llama.cpp. Базовая модель — ibm-granite/granite-4.0-tiny-base-preview. Модель представляет собой гибридную fine-grained Mixture-of-Experts (MoE) архитектуру и дообучена на открытых наборах инструкций с разрешительными лицензиями и синтетических данных для задач с длинным контекстом. Дата выпуска исходной модели — 2 мая 2025 года. Модель предназначена для общего следования инструкциям и интеграции в AI-ассистентов, в том числе для бизнес-приложений. Она поддерживает рассуждения, суммаризацию, классификацию и извлечение текста, ответы на вопросы, Retrieval Augmented Generation (RAG), программирование, function calling, многоязычный диалог, а также обработку длинных документов и совещаний. Заявлены английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Ключевая особенность данного репозитория — применение автором дополнительного повышения точности отдельных важных слоёв при квантовании через параметр --tensor-type в llama.cpp. Это может улучшать точность при низкой битности, особенно для MoE-моделей, но увеличивает размер файлов. Конкретный формат квантования и его характеристики зависят от выбранного варианта GGUF. Для запуска требуется совместимое ПО, например llama.cpp; README указывает генерацию моделей на коммите adef8178. Модель распространяется по лицензии Apache 2.0. В README не указаны точный размер контекстного окна, конкретные уровни квантования и результаты бенчмарков для данного GGUF-варианта.

Карточка модели ArchiveStudio/Qwen2.5-14B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-14B-Instruct, поэтому описание составлено по ней. Qwen/Qwen2.5-14B-Instruct — инструкционно дообученная большая языковая модель семейства Qwen2.5, разработанная командой Qwen. Это плотная авторегрессионная модель с архитектурой Qwen2ForCausalLM, 14,7 млрд параметров, RoPE, SwiGLU, RMSNorm и групповой обработкой запросов внимания. Репозиторий содержит веса в формате Safetensors и предназначен для генерации текста в диалоговом формате. Модель подходит для чат-ботов, следования инструкциям, генерации длинных текстов, работы с таблицами и структурированными ответами, включая JSON. В README заявлена поддержка более 29 языков, в том числе русского и английского. Метаданные указывают контекст в 32 768 токенов; README сообщает о возможности расширения контекста до 131 072 токенов с YaRN и генерации до 8 192 токенов. Модель также заявлена как улучшенная для программирования и математики, но результаты зависят от запроса и не гарантируют точности. Для контекстов длиннее 32 768 токенов требуется настройка YaRN; её статический коэффициент масштабирования в vLLM может снижать качество на коротких входах. Лицензия Apache-2.0 допускает использование на её условиях.

Карточка модели utkarsh2439/gemma-4-12B-it на Hugging Face совпадает с карточкой RedHatAI/gemma-4-12B-it, поэтому описание составлено по ней. Gemma 4 12B IT — мультимодальная модель Google DeepMind на архитектуре Gemma4 Unified, дообученная для следования инструкциям. Она принимает текст, изображения, видео и аудио и генерирует текст; поддерживает диалоги, рассуждения, программирование и вызов инструментов. Модель подходит для локального развёртывания на потребительских устройствах и для задач с длинным контекстом до 256 тыс. токенов. Модель может анализировать изображения и документы, распознавать текст и рукописный ввод, разбирать диаграммы и интерфейсы, а также анализировать видео по кадрам. Для аудио доступны распознавание речи и перевод речи в текст. Семейство Gemma 4 поддерживает более 140 языков в обучении, а карточка сообщает о мультиязычных возможностях; точный список языков для этой версии не приведён. Модель распространяется под лицензией Apache 2.0. Как и другие генеративные модели, она может допускать фактические ошибки; результаты распознавания, перевода и анализа следует проверять. Для видеовхода анализ выполняется по последовательностям кадров.

google/gemma-4-31B-it-qat-q4_0-unquantized — мультимодальная инструкционно-настроенная модель семейства Gemma 4, разработанная Google DeepMind. Это dense-модель с архитектурой Gemma4ForConditionalGeneration, принимающая текст и изображения и генерирующая текст. Вариант QAT Q4_0 содержит веса половинной точности, извлечённые из процесса обучения с учётом квантования; он предназначен для дальнейшей компиляции и исследовательской работы с меньшими требованиями к памяти по сравнению с обычной версией bfloat16. Модель подходит для диалогов, генерации и анализа текста, программирования, рассуждений, понимания изображений, распознавания текста на изображениях и разбора документов. Семейство Gemma 4 поддерживает контекст до 256 тысяч токенов и многоязычную работу; описание карточки заявляет поддержку более 140 языков при предварительном обучении. Для этого варианта доступен формат safetensors и библиотека Transformers. Лицензия — Apache 2.0. Возможности обработки аудио и видео перечислены для отдельных моделей семейства, но не подтверждены для данного чекпойнта. Качество и скорость зависят от аппаратного обеспечения и последующей компиляции; QAT-веса этого варианта не являются готовым GGUF-пакетом для непосредственного развёртывания.

Gemma 4 E2B it qat mobile ct — мультимодальная модель Google DeepMind с инструкционной настройкой, основанная на Gemma 4 E2B и подготовленная с применением QAT для мобильного исполнения. Репозиторий содержит веса в формате compressed-tensors; модель использует плотную архитектуру Gemma4ForConditionalGeneration и рассчитана на более эффективный вывод при ограниченной памяти. Лицензия — Apache 2.0. Модель принимает текст и изображения, а также поддерживает аудио; выдаёт текст. Она предназначена для диалога, рассуждений, генерации и исправления кода, анализа изображений и документов, распознавания речи и перевода речи в текст. Вариант E2B оптимизирован для локального запуска на мобильных устройствах; для семейства заявлены контекст до 128 тысяч токенов и многоязычная поддержка, но отдельные значения для этого чекпойнта в метаданных не приведены. Среди поддерживаемых сценариев — OCR, разбор PDF, понимание экранов и диаграмм, распознавание рукописного текста, использование инструментов и анализ видеокадров. Качество QAT описано разработчиками как близкое к bfloat16 при меньших требованиях к памяти. Возможности конкретной мобильной версии могут зависеть от среды исполнения и аппаратного обеспечения.

Карточка модели Terom/gemma-4-E2B-it-qat-q4_0-unquantized на Hugging Face совпадает с карточкой google/gemma-4-E2B-it-qat-q4_0-unquantized, поэтому описание составлено по ней. google/gemma-4-E2B-it-qat-q4_0-unquantized — мультимодальная инструктивная модель Google DeepMind из семейства Gemma 4, основанная на Gemma 4 E2B IT и подготовленная с использованием Quantization-Aware Training. Репозиторий содержит извлечённые из QAT-процесса веса половинной точности в формате safetensors, предназначенные для собственной компиляции и исследовательских экспериментов; это не готовый к запуску сжатый GGUF-чекпойнт. Модель принимает текст и изображения, а вариант E2B также поддерживает аудио; генерирует текст. Она предназначена для диалогов, рассуждений, программирования, понимания изображений и документов, распознавания речи и многоязычной работы. Для семейства Gemma 4 заявлены контекст до 128 тысяч токенов для малых моделей, включая E2B, гибридное локальное и глобальное внимание, вызов инструментов и поддержка более 140 языков при предобучении. К сильным сторонам относятся компактный размер семейства E2B, мультимодальный ввод и QAT-обучение, направленное на сохранение качества bf16 при снижении требований к памяти в соответствующих QAT-вариантах. Данный репозиторий содержит unquantized QAT-веса, поэтому описанное преимущество снижения памяти нельзя автоматически считать характеристикой этих файлов. Лицензия — Apache 2.0.

Карточка модели google/gemma-4-E2B-it-qat-q4_0-unquantized-assistant на Hugging Face совпадает с карточкой google/gemma-4-E2B-it-qat-q4_0-unquantized, поэтому описание составлено по ней. google/gemma-4-E2B-it-qat-q4_0-unquantized — мультимодальная инструктивная модель Google DeepMind из семейства Gemma 4, основанная на Gemma 4 E2B IT и подготовленная с использованием Quantization-Aware Training. Репозиторий содержит извлечённые из QAT-процесса веса половинной точности в формате safetensors, предназначенные для собственной компиляции и исследовательских экспериментов; это не готовый к запуску сжатый GGUF-чекпойнт. Модель принимает текст и изображения, а вариант E2B также поддерживает аудио; генерирует текст. Она предназначена для диалогов, рассуждений, программирования, понимания изображений и документов, распознавания речи и многоязычной работы. Для семейства Gemma 4 заявлены контекст до 128 тысяч токенов для малых моделей, включая E2B, гибридное локальное и глобальное внимание, вызов инструментов и поддержка более 140 языков при предобучении. К сильным сторонам относятся компактный размер семейства E2B, мультимодальный ввод и QAT-обучение, направленное на сохранение качества bf16 при снижении требований к памяти в соответствующих QAT-вариантах. Данный репозиторий содержит unquantized QAT-веса, поэтому описанное преимущество снижения памяти нельзя автоматически считать характеристикой этих файлов. Лицензия — Apache 2.0.

Карточка модели scottc2u/gemma-4-E4B-x на Hugging Face совпадает с карточкой google/gemma-4-E4B, поэтому описание составлено по ней. Gemma 4 E4B — мультимодальная плотная модель семейства Gemma, разработанная Google DeepMind и представленная в виде весов с лицензией Apache 2.0. Она принимает текст, изображения и аудио и генерирует текст; аудиовозможности включают распознавание речи и перевод речи в текст. Модель рассчитана на запуск на мобильных устройствах и ноутбуках, а также на диалоговые сценарии, рассуждения, программирование и работу с инструментами. Архитектура реализует гибридное внимание: чередует локальные окна внимания с глобальным вниманием. Для E4B заявлено контекстное окно до 128 тысяч токенов. Модель понимает изображения, в том числе документы, графики и интерфейсы, а также аудио; семейство Gemma 4 поддерживает более 140 языков при обучении и более 35 языков при использовании. Карточка описывает семейство в целом, поэтому отдельные языковые возможности E4B могут зависеть от задачи и конфигурации.

Карточка модели prince-canuma/WizardLM-2-8x22B на Hugging Face совпадает с карточкой dreamgen/WizardLM-2-8x22B, поэтому описание составлено по ней. WizardLM-2 8x22B — многоязычная языковая модель с архитектурой Mixture of Experts, разработанная WizardLM в Microsoft AI. Это версия для генерации текста и диалогов; в карточке указаны сценарии сложного общения, рассуждений, работы с кодом, математикой и агентных задач. По README модель основана на mistral-community/Mixtral-8x22B-v0.1 и содержит 141 млрд параметров; метаданные классифицируют её как Mixtral MoE с 22B параметров и контекстом до 65 536 токенов. Модель обучалась с использованием синтетической системы подготовки данных и поддерживает многоязычное применение. В репозитории указаны веса safetensors и лицензия Apache-2.0. Заявления о сравнительном качестве приведены разработчиками по их оценкам и не гарантируют результат на иных задачах.

Apertus-70B-Instruct-2509-GGUF — GGUF-версия 70-миллиардной языковой модели Apertus-70B-Instruct-2509, разработанной Swiss National AI Institute (SNAI) при участии ETH Zurich и EPFL. Это авторегрессионный decoder-only Transformer для генерации и обработки текста, диалоговых сценариев и агентского использования с поддержкой инструментов. Модель обучена с нуля на 15 триллионах токенов, включая веб-данные, код и математические материалы. Она поддерживает длинный контекст до 65 536 токенов и 1811 языков, ориентирована на полностью открытые, прозрачные и многоязычные применения. В архитектуре используются функция активации xIELU, оптимизатор AdEMAMix, а последующее дообучение включало supervised fine-tuning и выравнивание методом QRPO. Формат GGUF предназначен для совместимого локального запуска, однако конкретный уровень квантования в представленных данных не указан. Сильными сторонами модели являются широкий языковой охват, длинный контекст, открытость весов, обучающих данных и сведений о процессе обучения, а также заявленное соблюдение требований к согласию владельцев данных. Ограничения включают высокие требования к вычислительным ресурсам, типичные для модели такого размера, возможные ошибки и неточности при генерации, а также отсутствие данных о характеристиках конкретной GGUF-квантизации. Модель распространяется по лицензии Apache-2.0, но её использование также связано с отдельной политикой допустимого использования Apertus; разработчики рекомендуют применять регулярно обновляемый фильтр для удаления персональных данных из результатов.

Карточка модели RedHatAI/diffusiongemma-26B-A4B-it на Hugging Face совпадает с карточкой google/diffusiongemma-26B-A4B-it, поэтому описание составлено по ней. DiffusionGemma — мультимодальная генеративная модель Google DeepMind на архитектуре Gemma 4 с 26B общих параметров и разреженной схемой Mixture-of-Experts, в которой активны 8 из 128 экспертов. Вместо последовательной генерации по одному токену модель использует дискретную диффузию и итеративно уточняет блоки текста; архитектура сочетает авторегрессионный энкодер с декодером, использующим двунаправленное внимание. Модель принимает текст, изображения и видео, а выдаёт текст. Она предназначена для диалогов, рассуждений и генерации текста, а также для анализа изображений и видеокадров. Поддерживает режим рассуждений, вызов инструментов и контекст до 256K токенов. Заявлена поддержка более 35 языков на уровне использования и предобучение более чем на 140 языках. Разработчики ориентировали её на быструю генерацию при малом размере пакета, в том числе на одном ускорителе. Модель может применяться для ответов по изображениям и видео, OCR, разбора документов, понимания графиков и интерфейсов, написания кода, суммаризации и разговорных приложений. Карточка сообщает о возможностях, но не приводит независимых оценок качества; скорость зависит от оборудования и сложности запроса. Распространяется по лицензии Apache 2.0.

unsloth/diffusiongemma-26B-A4B-it — мультимодальная модель диалогового взаимодействия на архитектуре DiffusionGemma, опубликованная Unsloth на основе google/diffusiongemma-26B-A4B-it. Она использует схему блочной авторегрессии: кодирует контекст в KV-кеш, затем параллельно уточняет блоки токенов диффузионным методом. В репозитории указаны веса safetensors и лицензия Apache-2.0. Модель предназначена для чата, генерации и дополнения текста и кода, пошаговых рассуждений, вызова инструментов, а также анализа изображений и видео. Для визуальных задач README перечисляет OCR, чтение документов и PDF, понимание графиков и интерфейсов, распознавание рукописного текста и описание видеокадров. Заявлены контекст до 256 тысяч токенов и поддержка более 35 языков; базовая модель описана как основанная на Gemma 4. README заявляет ускоренную генерацию за счёт параллельного денойзинга блоков токенов и адаптации числа шагов инференса к сложности задачи. Ограничения включают возможные фактические ошибки, предвзятость данных и трудности с неоднозначными или сложными запросами. Эти заявленные характеристики относятся к карточке модели; лицензия репозитория — Apache-2.0.

Карточка модели OsGo/gemma-4-E2B-it-qat-q4_0-unquantized-assistant на Hugging Face совпадает с карточкой google/gemma-4-E2B-it-qat-q4_0-unquantized, поэтому описание составлено по ней. google/gemma-4-E2B-it-qat-q4_0-unquantized — мультимодальная инструктивная модель Google DeepMind из семейства Gemma 4, основанная на Gemma 4 E2B IT и подготовленная с использованием Quantization-Aware Training. Репозиторий содержит извлечённые из QAT-процесса веса половинной точности в формате safetensors, предназначенные для собственной компиляции и исследовательских экспериментов; это не готовый к запуску сжатый GGUF-чекпойнт. Модель принимает текст и изображения, а вариант E2B также поддерживает аудио; генерирует текст. Она предназначена для диалогов, рассуждений, программирования, понимания изображений и документов, распознавания речи и многоязычной работы. Для семейства Gemma 4 заявлены контекст до 128 тысяч токенов для малых моделей, включая E2B, гибридное локальное и глобальное внимание, вызов инструментов и поддержка более 140 языков при предобучении. К сильным сторонам относятся компактный размер семейства E2B, мультимодальный ввод и QAT-обучение, направленное на сохранение качества bf16 при снижении требований к памяти в соответствующих QAT-вариантах. Данный репозиторий содержит unquantized QAT-веса, поэтому описанное преимущество снижения памяти нельзя автоматически считать характеристикой этих файлов. Лицензия — Apache 2.0.

coder3101/gemma-4-E4B-it-heretic — производная мультимодальная модель на базе Google Gemma 4 E4B Instruct, размещённая пользователем coder3101. Это плотная модель семейства Gemma 4 для диалогов, рассуждений, программирования и анализа мультимодальных данных. Архитектура Gemma4ForConditionalGeneration сочетает локальное скользящее внимание с глобальным; модель распространяется в формате safetensors и использует библиотеку Transformers. Базовая версия E4B поддерживает контекст до 128K токенов. Модель принимает текст и изображения, а для аудиовозможностей E4B также может обрабатывать речь: распознавать её и переводить речь в текст другого языка. Заявлены анализ видео по последовательности кадров, OCR, разбор документов и экранов, понимание графиков, вызов инструментов и генерация кода. Семейство Gemma 4 поддерживает более 35 языков; карточка не уточняет отдельный список языков этой производной модели. Метки heretic, uncensored, decensored и abliterated указывают на изменение поведения в отношении отказов, но README не описывает конкретную методику или результаты такого изменения. Лицензия — Apache-2.0. Как и другие языковые модели, она может выдавать фактические ошибки, хуже справляться с неоднозначными или сложными запросами и отражать смещения обучающих данных. Заявленные возможности базового семейства не являются отдельной оценкой качества именно этой производной модели.

p-e-w/Qwen3-4B-Instruct-2507-heretic-v4 — разговорная языковая модель на архитектуре Qwen3, созданная на основе Qwen3-4B-Instruct-2507. Модель с примерно 3,7 млрд параметров предназначена для генерации текста и диалогов, следования инструкциям, рассуждений, математики, программирования, ответов на вопросы и работы с инструментами. Вариант heretic получен методом abliteration: в README указано, что в тесте отказов он отказал в 9 случаях из 100, тогда как исходная модель отказала во всех 100. Модель работает только в non-thinking mode и поддерживает контекст до 262 144 токенов. README заявляет улучшения исходной Qwen3-4B-Instruct-2507 в многоязычных задачах, понимании длинного контекста и использовании инструментов; эти характеристики относятся к описанной в карточке базовой модели. Модель принимает текст и генерирует текст. Лицензия — Apache-2.0.

Qwen3-VL-8B-Instruct-FP8 — мультимодальная instruction-модель семейства Qwen, разработанная командой Qwen. Это FP8-квантизированная версия Qwen3-VL-8B-Instruct с мелкозернистой квантизацией и размером блока 128; согласно README, её показатели почти идентичны исходной версии BF16. Модель предназначена для обработки текста, изображений и видео, генерации ответов по визуальному и текстовому контексту, OCR, анализа документов, пространственного рассуждения, понимания длительных видеоматериалов, визуального программирования и взаимодействия с графическими интерфейсами через инструменты. Заявлены возможности работы с контекстом до 256K токенов с расширением до 1M, временная привязка событий в видео, улучшенное распознавание текста на 32 языках и поддержка задач STEM и математики. Ключевые архитектурные особенности включают Interleaved-MRoPE для позиционного кодирования времени, ширины и высоты, DeepStack для объединения многоуровневых признаков ViT и механизм выравнивания текста с временными метками. Ограничение текущей версии заключается в том, что Transformers пока не поддерживает прямую загрузку этих весов; для развёртывания рекомендуются vLLM или SGLang. Модель распространяется по лицензии Apache 2.0.

Athena-1-7B — инструктивная языковая модель на архитектуре Qwen2, созданная дообучением Qwen/Qwen2.5-7B-Instruct. Разработчик позиционирует её как модель для диалогов, генерации контента и структурированной обработки данных. Веса представлены в формате PyTorch; модель содержит около 7,1 млрд параметров по метаданным. Метаданные указывают контекст до 32 768 токенов, тогда как README заявляет до 131 072 токенов; фактический контекст может зависеть от конфигурации репозитория и используемого ПО. Модель предназначена для следования инструкциям, написания и объяснения кода, математических задач, анализа и суммаризации документов, а также создания JSON и других структурированных ответов. README заявляет поддержку более 29 языков, включая русский, однако в метаданных отмечен английский язык. Модель принимает текст и генерирует текст; в метаданных также указана возможность интерфейса вызова инструментов. Модель распространяется по лицензии Apache-2.0. README заявляет генерацию до 8 000 токенов за ответ; качество на конкретных задачах и фактическая языковая поддержка требуют проверки в целевом сценарии.

gemma-4-E4B-it-qat-GGUF — мультимодальная instruction-tuned модель семейства Gemma 4, разработанная Google DeepMind и представленная в формате GGUF пользователем prithivMLmods. Она предназначена для локального запуска на ноутбуках и производительных мобильных устройствах, а также для исследовательских и прикладных сценариев с использованием llama.cpp. Модель поддерживает работу с текстом, изображениями и аудио, включая генерацию текста, распознавание речи, перевод речи, OCR, анализ изображений и видеокадров, function calling и настраиваемый режим рассуждений. Модель имеет около 4,5 млрд эффективных параметров и 8 млрд параметров с учётом embeddings, использует Quantization-Aware Training, Per-Layer Embeddings и гибридное внимание с 512-токенным скользящим окном в 42 слоях. В состав входят vision encoder примерно на 150 млн параметров и audio encoder примерно на 300 млн параметров. Заявлены контекст до 128 тысяч токенов, словарь на 262 тысячи токенов и поддержка более 140 языков, включая английский. Доступны версии GGUF с точностью от Q2_K до Q8_0, а также BF16, F16 и F32; размер файлов зависит от варианта и составляет примерно от 4,38 до 29,9 ГБ, не считая multimodal-проектора. Сильными сторонами являются сочетание мультимодальности, большого контекста, локального исполнения и сниженных требований к памяти благодаря QAT при сохранении качества, близкого к bfloat16. Ограничения включают значительные аппаратные требования для высокоточных вариантов и зависимость мультимодальных возможностей от совместимого программного обеспечения и projector-файла. Модель распространяется по лицензии Apache-2.0.

GigaChat3-10B-A1.8B — диалоговая языковая модель семейства GigaChat, опубликованная под идентификатором ai-sage/GigaChat3-10B-A1.8B. Она предназначена для генерации и обработки текста, включая диалоговые сценарии, ответы на вопросы, работу с математическими и академическими задачами, программированием и структурированием информации. Модель дообучена на высококачественных SFT-данных поверх базовой версии GigaChat3-10B-A1.8B-base. Модель использует архитектуру Mixture-of-Experts с 10 миллиардами общих и 1,8 миллиарда активных параметров. В архитектуре применяются Multi-head Latent Attention (MLA), снижающая требования к памяти за счёт сжатия KV-кэша, и Multi-Token Prediction (MTP), поддерживающая ускоренную спекулятивную или параллельную генерацию. Модель ориентирована на высокопроизводительный инференс в формате fp8; также доступна версия bf16. В README указана поддержка русского и английского языков, а обучающие данные охватывают всего 10 языков, включая китайский, арабский, узбекский и казахский. Размер контекста в доступных данных не указан. К сильным сторонам относятся высокая пропускная способность, сниженные требования к памяти благодаря MLA и потенциальное ускорение генерации до 40% при использовании MTP. Приведённые бенчмарки показывают конкурентные результаты в русскоязычных и англоязычных задачах, математике и программировании, однако показатели зависят от методики оценки и конфигурации инференса. Ограничения модели, включая возможные ошибки, галлюцинации и неравномерное качество по языкам и задачам, отдельно не описаны. Лицензия модели — MIT.

Карточка модели TreezzZ/opd-teacher-search-7b на Hugging Face совпадает с карточкой Qwen/Qwen2.5-7B-Instruct, поэтому описание составлено по ней. Qwen2.5-7B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Это плотная авторегрессионная модель на 7,1 млрд параметров для диалога и генерации текста; репозиторий использует библиотеку Transformers и формат safetensors. Архитектура включает RoPE, SwiGLU, RMSNorm и смещение в проекциях QKV внимания. Модель предназначена для чат-ботов и ассистентов, следования инструкциям, генерации длинных текстов, работы с таблицами и структурированными ответами, включая JSON. Также подходит для задач программирования и математики. Поддерживает более 29 языков, включая русский и английский. Контекст репозитория настроен на 32 768 токенов; в README указано расширение до 131 072 токенов с YaRN, а максимальная длина генерации — 8 192 токена. Модель предлагает широкую многоязычную поддержку и улучшенные возможности следования инструкциям, однако качество зависит от задачи и языка, а длинный контекст с YaRN может повлиять на производительность при коротких запросах. Лицензия — Apache-2.0.

Карточка модели TreezzZ/opd-teacher-webshop-7b на Hugging Face совпадает с карточкой Qwen/Qwen2.5-7B-Instruct, поэтому описание составлено по ней. Qwen2.5-7B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Это плотная авторегрессионная модель на 7,1 млрд параметров для диалога и генерации текста; репозиторий использует библиотеку Transformers и формат safetensors. Архитектура включает RoPE, SwiGLU, RMSNorm и смещение в проекциях QKV внимания. Модель предназначена для чат-ботов и ассистентов, следования инструкциям, генерации длинных текстов, работы с таблицами и структурированными ответами, включая JSON. Также подходит для задач программирования и математики. Поддерживает более 29 языков, включая русский и английский. Контекст репозитория настроен на 32 768 токенов; в README указано расширение до 131 072 токенов с YaRN, а максимальная длина генерации — 8 192 токена. Модель предлагает широкую многоязычную поддержку и улучшенные возможности следования инструкциям, однако качество зависит от задачи и языка, а длинный контекст с YaRN может повлиять на производительность при коротких запросах. Лицензия — Apache-2.0.