I.5Создание и редактирование текста

Gemma 2 27B — текстовая авторегрессионная языковая модель семейства Gemma, разработанного Google с использованием исследований и технологий, применявшихся при создании Gemini. Модель доступна с открытыми весами и предназначена для генерации текста; семейство Gemma включает предварительно обученные и настроенные для следования инструкциям варианты. В репозитории указаны формат safetensors и библиотека Transformers. Модель подходит для ответов на вопросы, суммаризации, диалоговых интерфейсов, создания текстов и рассуждений по чётко сформулированным запросам. В README заявлена поддержка английского языка; конкретные размер контекстного окна и число параметров здесь не приведены. Открытые веса позволяют запускать модель на собственном оборудовании или в облачной инфраструктуре. Ограничения включают возможные фактические ошибки, предвзятость, трудности с неоднозначностью, тонкими языковыми нюансами и сложными открытыми задачами. Лицензия — Gemma; перед использованием следует соблюдать условия лицензии и политику допустимого использования Gemma.

axolotl-ai-co/gemma-2-9b — текстовая генеративная модель семейства Gemma 2, разработанного Google. Это плотная decoder-only языковая модель с 9 млрд параметров, предназначенная для генерации текста по запросу; карточка указывает библиотеку Transformers, формат safetensors и контекст до 8192 токенов. В README описаны англоязычные варианты Gemma и сценарии генерации, ответов на вопросы, суммаризации и диалогов. Модель подходит для создания черновиков и творческих текстов, чат-ботов, суммаризации документов и ответов на вопросы. Относительно компактный размер позволяет запускать её на локальных компьютерах или собственной облачной инфраструктуре; README также описывает применение квантования через bitsandbytes. Лицензия — gemma. Ответы могут содержать фактические ошибки или отражать предвзятость данных; модель может испытывать трудности с неоднозначностью, сложными инструкциями и рассуждениями. Для прикладных систем рекомендуется проверять результаты и применять меры безопасности.

Gemma 2 9B Instruct — языковая модель Google с открытыми весами, построенная на архитектуре decoder-only и адаптированная для следования инструкциям и диалога. Она принимает текст и генерирует текст; семейство Gemma описано как ориентированное на английский язык. Репозиторий содержит производную версию базовой модели google/gemma-2-9b и файлы safetensors для использования с Transformers. Модель подходит для ответов на вопросы, суммаризации, диалоговых интерфейсов, создания текстов и рассуждений по заданному контексту. Относительно компактный размер семейства позволяет запускать модели Gemma на локальных компьютерах или собственной облачной инфраструктуре, хотя фактические требования зависят от конфигурации запуска. Модель может ошибаться в фактах, хуже справляться со сложными или неоднозначными запросами и отражать предвзятость обучающих данных. Использование регулируется лицензией Gemma.

Gemma 3 — серия мультимодальных моделей, разработанная и выпущенная Google на основе исследований и технологий, использованных при создании Gemini. Модели предназначены для генерации текста по текстовым и изображениям входным данным и подходят для ответов на вопросы, суммаризации, рассуждений и других прикладных сценариев. Они ориентированы на эффективное развертывание на ноутбуках, настольных компьютерах и в пользовательской облачной инфраструктуре. В линейку входят варианты объёмом 1B, 4B, 12B и 27B параметров, включая предварительно обученные и instruction-tuned версии. Заявлены поддержка контекста до 128K токенов, более 140 языков и обработка текстовых и визуальных входов с генерацией текста. Для каждой ветки доступна версия с квантованием по умолчанию. Конкретная модальность или набор возможностей может зависеть от выбранного варианта. Сильные стороны серии — широкий выбор размеров, мультимодальность, большой контекст, многоязычность и открытые веса, что упрощает адаптацию и локальное развёртывание. Более крупные варианты потенциально требуют больше вычислительных ресурсов, а квантованные версии могут иметь компромисс между качеством и эффективностью. Модель распространяется по лицензии Gemma License; условия использования определяются её текстом.

unsloth/gemma-3-12b-it-bnb-4bit — это 4-битная версия instruction-tuned модели Gemma 3 12B, подготовленная Unsloth на базе google/gemma-3-12b-it. Семейство Gemma разработано Google DeepMind на основе технологий, использованных при создании Gemini. Модель предназначена для генерации текста и понимания изображений: она принимает текстовые запросы, документы и изображения, а на выходе формирует текстовые ответы, summaries, анализ содержимого изображений и результаты рассуждений. Модель мультимодальная, поддерживает более 140 языков и имеет контекстное окно до 128K токенов для версии 12B; максимальный объём генерируемого ответа составляет 8192 токена. Изображения нормализуются до разрешения 896×896 и кодируются в 256 токенов каждое. Квантование в формате bnb-4bit снижает требования к памяти и делает модель более подходящей для локального запуска и дообучения на ограниченных ресурсах, включая ноутбуки, настольные компьютеры и собственную облачную инфраструктуру. Сильные стороны модели — сочетание относительно компактного размера, мультимодальности, большого контекстного окна, многоязычности и пригодности для задач вопросно-ответного взаимодействия, суммаризации, генерации текста и анализа изображений. Ограничения включают возможное снижение точности из-за 4-битного квантования, а также то, что модель генерирует только текст и не предназначена для вывода изображений. Использование регулируется лицензией и условиями Gemma; в карточке указана лицензия gemma.

socrate-tech/gemma-3-12b-it-GGUF — это GGUF-версия инструкционно дообученной модели Google Gemma 3 12B, разработанной Google DeepMind и опубликованной в экосистеме Unsloth. Модель построена на базе google/gemma-3-12b-it и предназначена для локального и облачного развертывания, включая использование на ноутбуках, настольных компьютерах и собственной инфраструктуре. Модель принимает текст и изображения, а генерирует текст. Она подходит для ответов на вопросы, суммаризации документов, рассуждений, анализа изображений и других задач генерации текста. Для варианта 12B заявлено контекстное окно до 128K токенов и максимальный объём генерируемого ответа до 8192 токенов; изображения нормализуются до разрешения 896 × 896 и кодируются в 256 токенов. Поддерживается более 140 языков, включая английский, указанный для этой публикации. К сильным сторонам относятся мультимодальность, большое контекстное окно, сравнительно компактный размер по меркам современных моделей и возможность запуска в средах с ограниченными ресурсами. Ограничения включают зависимость качества от доступных вычислительных ресурсов и особенностей GGUF-инференса; конкретный уровень квантования в предоставленных данных не указан. Модель распространяется по лицензии Gemma; применяются условия использования Google.

unsloth/gemma-3-12b-it-GGUF — это GGUF-версия инструкционно дообученной модели Google Gemma 3 12B, опубликованная Unsloth. Модель создана Google DeepMind и относится к семейству компактных открытых моделей, разработанных на основе технологий Gemini. Модель предназначена для генерации текста, ответов на вопросы, суммаризации документов, рассуждений и анализа изображений. Она мультимодальная: принимает текст и изображения, но генерирует текст. Для версии 12B заявлено контекстное окно до 128 000 токенов, максимальный объём генерируемого ответа — до 8192 токенов. Изображения нормализуются до разрешения 896×896 и кодируются в 256 токенов каждое. Gemma 3 поддерживает более 140 языков, однако для данной карточки явно указан английский язык. Сильными сторонами модели являются сочетание относительно компактного размера, мультимодальности, большого контекстного окна и пригодности для локального развёртывания на ноутбуках, настольных компьютерах или собственной облачной инфраструктуре. Ограничения включают зависимость качества от выбранного GGUF-квантизованного варианта и аппаратных ресурсов, а также возможное снижение точности по сравнению с более крупными моделями; конкретные параметры квантизации в README не указаны. Модель распространяется по лицензии Gemma; условия использования определяются официальными Terms of Use Google.

Карточка модели unsloth/gemma-3-12b-it-qat на Hugging Face совпадает с карточкой Lightricks/gemma-3-12b-it-qat-q4_0-unquantized, поэтому описание составлено по ней. Lightricks публикует эту версию Gemma 3 — мультимодальную модель Google Gemma 3 12B IT с инструкционной настройкой, представленную в формате safetensors. Она принимает текст и изображения и генерирует текст; подходит для диалога, ответов на вопросы по изображениям, извлечения визуальной информации, суммаризации и других задач по текстовым инструкциям. Модель относится к семейству Gemma 3 с плотной архитектурой Gemma3ForConditionalGeneration и основана на google/gemma-3-12b-it. В карточке семейства указаны контекстное окно до 128 тысяч токенов и поддержка более 140 языков. Модель рассчитана на применение в чат-ботах, виртуальных помощниках, создании и редактировании текстов, а также для понимания изображений; её размер допускает локальное развёртывание на подходящем оборудовании. Качество ответов зависит от данных и формулировки запроса: возможны ошибки в фактах, предвзятость и трудности с нюансами языка и сложными задачами. Модель распространяется по лицензии Gemma. Для использования следует соблюдать условия этой лицензии и политику допустимого использования Gemma.

Lightricks публикует эту версию Gemma 3 — мультимодальную модель Google Gemma 3 12B IT с инструкционной настройкой, представленную в формате safetensors. Она принимает текст и изображения и генерирует текст; подходит для диалога, ответов на вопросы по изображениям, извлечения визуальной информации, суммаризации и других задач по текстовым инструкциям. Модель относится к семейству Gemma 3 с плотной архитектурой Gemma3ForConditionalGeneration и основана на google/gemma-3-12b-it. В карточке семейства указаны контекстное окно до 128 тысяч токенов и поддержка более 140 языков. Модель рассчитана на применение в чат-ботах, виртуальных помощниках, создании и редактировании текстов, а также для понимания изображений; её размер допускает локальное развёртывание на подходящем оборудовании. Качество ответов зависит от данных и формулировки запроса: возможны ошибки в фактах, предвзятость и трудности с нюансами языка и сложными задачами. Модель распространяется по лицензии Gemma. Для использования следует соблюдать условия этой лицензии и политику допустимого использования Gemma.

google/gemma-3-4b-it-qat-int4-unquantized — мультимодальная диалоговая модель Google из семейства Gemma 3, основанная на Gemma 3 4B IT. Она принимает текст и изображения и генерирует текст; поддерживает чат, ответы на вопросы по изображениям, суммаризацию и другие задачи генерации текста. Семейство Gemma 3 рассчитано на контекст до 128 тыс. токенов и поддерживает более 140 языков. В репозитории указаны веса safetensors и лицензия Gemma. Модель подходит для чат-ботов, виртуальных помощников, создания и редактирования текстов, извлечения сведений из изображений и изучения больших текстовых материалов. Компактный размер семейства позволяет развёртывание на локальных компьютерах и собственной облачной инфраструктуре. Ответы могут содержать фактические ошибки, отражать предвзятость обучающих данных и хуже справляться с неоднозначными формулировками и сложными открытыми задачами; для приложений с пользовательским контентом необходимы подходящие меры безопасности.

unsloth/gemma-3n-E4B-it — инструкция-настроенная версия Gemma 3n E4B от Google, опубликованная Unsloth. Это плотная модель класса Gemma3n с архитектурой Gemma3nForConditionalGeneration и поддержкой диалога и изображений. Репозиторий содержит веса safetensors; в README для этой сборки заявлена работа только с текстом, поэтому описанные для семейства возможности обработки изображений, видео и аудио здесь не подтверждены. Модель предназначена для генерации текста и диалоговых сценариев: создания черновиков и кода, суммаризации, ответов на вопросы и работы чат-ботов. README указывает контекст до 32 тысяч токенов. Семейство Gemma 3n рассчитано на эффективный запуск на устройствах с ограниченными ресурсами благодаря выборочной активации параметров; для этой конкретной сборки общее число параметров в предоставленных метаданных не указано. Ожидаемые ограничения включают возможные фактические ошибки, смещения обучающих данных и затруднения с неоднозначными или сложными запросами. Лицензия — Gemma; перед использованием следует учитывать её условия.

Gemma 4 12B Unified — мультимодальная плотная модель семейства Gemma 4, разработанная Google DeepMind и распространяемая под лицензией Apache 2.0. Она принимает текст, изображения, видео и аудио, а генерирует текст; унифицированная архитектура обрабатывает аудио и визуальные данные без отдельных энкодеров. Модель предназначена для локального запуска на потребительских устройствах, а также для серверов и рабочих станций. Модель подходит для диалога, генерации и анализа текста, программирования, рассуждений и сценариев с вызовом инструментов. Она может разбирать документы и PDF, распознавать текст и объекты на изображениях, понимать интерфейсы и диаграммы, анализировать видеокадры, распознавать речь и переводить речь в текст на другом языке. Для семейства заявлена поддержка контекста до 256 тыс. токенов и многоязычность; карточка указывает обучение более чем на 140 языках. Ограничения конкретной версии в предоставленных материалах подробно не описаны.

mlx-community/gemma-4-12B-it-8bit — 8-битная MLX-версия instruction-tuned модели Gemma 4 12B Unified, опубликованная сообществом mlx-community на основе модели Google DeepMind. Это открытая мультимодальная модель с генерацией текста и поддержкой текстовых, изображений, видео и аудио входов; вариант 12B поддерживает аудио непосредственно. Модель предназначена для диалогов, генерации и анализа текста, рассуждений, программирования, обработки документов и изображений, OCR, понимания видео, распознавания речи и агентских сценариев с function calling. Она использует encoder-free unified-архитектуру, содержит около 12 млрд параметров и распространяется в 8-битном представлении MLX. Для Gemma 4 12B заявлены контекст до 256K токенов, мультиязычная поддержка более 140 языков при обучении и готовая поддержка более 35 языков. Сильные стороны — сочетание текстовых, визуальных и аудиовозможностей, длинный контекст, режим рассуждений и локальное выполнение; ограничение данного варианта — зависимость от совместимого стека MLX и снижение точности представления по сравнению с полноразмерной версией из-за 8-битной квантизации. Карточка исходной модели указывает разработчика Google DeepMind и лицензию Apache 2.0; для Gemma также следует учитывать применимые условия использования Google. Репозиторий mlx-community содержит веса в формате Safetensors и инструкции для запуска через MLX.

cyankiwi/gemma-4-26B-A4B-it-AWQ-8bit — инструкцияно дообученная мультимодальная модель семейства Gemma 4, разработанная Google DeepMind и представленная в формате AWQ 8bit. Она основана на Google Gemma 4 26B A4B и использует архитектуру Mixture-of-Experts с 25,2 млрд параметров, из которых около 3,8 млрд активируются при обработке запроса. Модель предназначена для генерации текста, программирования, рассуждений, мультимодального анализа изображений и построения агентных сценариев с вызовом функций. Модель принимает текст и изображения и генерирует текст. Она поддерживает более 140 языков, контекст до 256 тысяч токенов и использует гибридный механизм внимания с чередованием локального sliding window attention и глобального внимания. В конфигурации MoE предусмотрены 128 экспертов, 8 активных экспертов и один общий эксперт; размер скользящего окна составляет 1024 токена, словарь — 262 тысячи токенов. Поддерживаются настраиваемые режимы рассуждений и системные сообщения. Ключевое преимущество — сочетание возможностей модели класса 26B с вычислительной нагрузкой, близкой к модели примерно на 4 млрд активных параметров, что делает инференс быстрее плотной модели Gemma 4 31B. Большой контекст и поддержка изображений подходят для анализа длинных документов, сложных задач рассуждения, программного кода и визуальных данных. Ограничения включают необходимость совместимого оборудования и программного обеспечения для AWQ 8bit, а также потенциальные ошибки и ограничения, свойственные генеративным мультимодальным моделям; конкретные показатели производительности в предоставленном фрагменте README приведены не полностью. Лицензия — Apache 2.0.

google/gemma-4-26B-A4B-it-qat-q4_0-gguf — мультимодальная instruction-tuned модель семейства Gemma 4, разработанная Google DeepMind. Она принимает текстовые и графические данные и генерирует текст; аудио для этой версии не заявлено. Модель предназначена для диалогов, генерации текста, программирования, рассуждений, мультимодального анализа и агентских сценариев с поддержкой вызова функций. Модель относится к варианту Gemma 4 26B A4B и поставляется в формате GGUF с квантизацией Q4_0, выполненной с применением Quantization-Aware Training. Такой подход рассчитан на снижение требований к памяти при сохранении качества, близкого к версии bfloat16. Семейство поддерживает контекст до 256K токенов, более 140 языков, настраиваемые режимы рассуждений, системные промпты и гибридный механизм внимания с локальным скользящим и глобальным вниманием. Формат GGUF ориентирован на совместимость с широким кругом инструментов локального запуска. Сильными сторонами являются сочетание мультимодальности, длинного контекста, возможностей рассуждения и программирования с уменьшенными требованиями к памяти благодаря QAT-квантизации. Ограничения связаны с тем, что это квантизированная версия, поэтому результаты могут отличаться от полноточных вариантов, а для эффективного запуска всё равно требуется значительный объём памяти. Модель распространяется по лицензии Apache 2.0.

Карточка модели katiyardinesh/gemma-4-31B-it-custom на Hugging Face совпадает с карточкой google/gemma-4-31B-it, поэтому описание составлено по ней. Gemma 4 31B IT — мультимодальная инструкционно-настроенная модель Google DeepMind на плотной архитектуре Gemma 4, предназначенная для диалогов и генерации текста по текстовым и визуальным запросам. Она принимает текст и изображения и выдаёт текст; поддерживает анализ изображений, рассуждения, программирование и работу с инструментами. Для этой версии заявлено контекстное окно до 256 тыс. токенов. Семейство Gemma 4 обучено на более чем 140 языках, однако для этой карточки отдельный перечень поддерживаемых языков не приведён. Модель подходит для ответов по изображениям и документам, распознавания текста на изображениях, анализа диаграмм и интерфейсов, а также для создания и редактирования текста и кода. Семейство Gemma 4 использует гибридное внимание с локальными и глобальными слоями, рассчитанное на работу с длинным контекстом. Аудиовход в README указан только для вариантов E2B, E4B и 12B, поэтому его не следует приписывать версии 31B. Лицензия — Apache 2.0.

vs199507/gemma-4-31B-it-GGUF — GGUF-версия мультимодальной instruction-tuned модели Gemma 4 31B, разработанной Google DeepMind и подготовленной сообществом Unsloth. Модель предназначена для генерации и понимания текста, программирования, рассуждений, работы с изображениями и агентских сценариев с вызовом функций. Это плотная модель примерно с 30,7 млрд параметров, 60 слоями и гибридным механизмом внимания, сочетающим локальное скользящее окно размером 1024 токена с глобальным вниманием. Она принимает текст и изображения и генерирует текст, поддерживает контекст до 256 тысяч токенов и мультиязычную работу более чем со 140 языками. Для модели заявлены настраиваемые режимы рассуждений, улучшенные возможности программирования, native function calling и поддержка системных промптов. К сильным сторонам относятся большой контекст, мультимодальное понимание, развитые возможности рассуждений и широкий спектр прикладных сценариев — от диалогов и анализа документов до coding и автономных агентов. Конкретные характеристики квантования, требования к памяти и производительность этой GGUF-сборки в README не указаны; из-за размера модель ориентирована преимущественно на мощные рабочие станции и серверы. Распространение осуществляется по лицензии Apache 2.0.

google/gemma-4-31B-it-qat-q4_0-gguf — мультимодальная instruction-tuned модель семейства Gemma 4, разработанная Google DeepMind. Она предназначена для генерации текста, рассуждений, программирования, агентских сценариев и анализа изображений с формированием текстового ответа. Модель поддерживает текстовые и графические входы, но аудио для версии 31B не заявлено. Модель использует плотную архитектуру с примерно 30,7 млрд параметров, 60 слоями и гибридным механизмом внимания, сочетающим локальное sliding window attention с глобальным вниманием. Контекстное окно составляет до 256K токенов, размер словаря — 262K. Семейство Gemma 4 заявляет мультиязычную поддержку более 140 языков, нативную поддержку system role, configurable thinking modes и function calling. Эта версия представлена в формате GGUF с Q4_0 и прошла Quantization-Aware Training, что ориентировано на снижение требований к памяти при сохранении качества, близкого к bfloat16. К сильным сторонам относятся большое контекстное окно, мультимодальное понимание текста и изображений, возможности рассуждения, кодирования и локального развёртывания в экосистемах, совместимых с GGUF. Ограничениями являются отсутствие заявленной поддержки аудио у 31B, а также потенциальные компромиссы качества и точности, характерные для квантованного формата. Модель распространяется по лицензии Apache 2.0.

unsloth/gemma-4-31B-it-qat-w4a16 — инструктивно дообученная мультимодальная модель семейства Gemma 4, разработанная Google DeepMind. Это вариант с Quantization-Aware Training (QAT), представленный в формате compressed-tensors w4a16 для оптимизированного инференса через vLLM. Модель принимает текст и изображения и генерирует текст; поддерживает более 140 языков и контекст до 256K токенов. Аудиовход для версии 31B не заявлен. Модель предназначена для генерации текста, программирования, рассуждений, мультимодального анализа, агентских сценариев и вызова функций. Она использует плотную (Dense) архитектуру с 30,7 млрд параметров, 60 слоями, размером скользящего окна внимания 1024 токена и словарём из 262 тысяч токенов. Гибридный механизм внимания сочетает локальное скользящее и глобальное внимание, что помогает снижать затраты памяти при работе с длинным контекстом. Поддерживаются настраиваемые режимы рассуждений и системные промпты. Ключевое преимущество версии QAT — существенно сниженные требования к памяти при сохранении качества, близкого к bfloat16, а формат w4a16 ориентирован на эффективное развёртывание. Ограничение модели — отсутствие заявленной поддержки аудио, а также необходимость совместимой инфраструктуры для работы с форматом compressed-tensors и vLLM. Модель распространяется по лицензии Apache 2.0.

google/gemma-4-31B-it-qat-w4a16-ct — инструкционная мультимодальная модель семейства Gemma 4, разработанная Google DeepMind. Она принимает текст и изображения и генерирует текст; предназначена для рассуждений, генерации текста, программирования, мультимодального анализа и агентских сценариев с поддержкой вызова функций. Модель имеет плотную архитектуру с 30,7 млрд параметров, 60 слоями и гибридным механизмом внимания, сочетающим локальное скользящее и глобальное внимание. Контекстное окно составляет до 256 тысяч токенов, размер словаря — 262 тысячи токенов. Gemma 4 поддерживает более 140 языков, режимы настраиваемого рассуждения и системные промпты. Для версии 31B заявлены текстовая и визуальная модальности; аудио для этой конфигурации не поддерживается. Суффикс qat-w4a16-ct указывает на чекпойнт, обученный с учётом квантизации и сохранённый в формате compressed-tensors с 4-битными весами и 16-битными активациями. Такой вариант ориентирован на эффективный инференс, включая нативное использование с vLLM, и должен требовать существенно меньше памяти при сохранении качества, близкого к bfloat16. Ограничениями являются повышенные требования к ресурсам по сравнению с меньшими моделями Gemma 4 и отсутствие аудиовхода. Лицензия — Apache 2.0.

unsloth/gemma-4-31B-it-unsloth-bnb-4bit — это 4-битная квантизированная версия instruction-tuned модели Gemma 4 31B, подготовленная Unsloth на базе google/gemma-4-31B-it и разработанная Google DeepMind. Модель относится к семейству открытых мультимодальных моделей Gemma 4 и предназначена для генерации текста, рассуждений, программирования, агентских сценариев и анализа изображений с выдачей текстового ответа. Модель использует плотную архитектуру с 30,7 млрд параметров, 60 слоями, словарём размером 262 тыс. токенов и гибридным механизмом внимания, сочетающим локальное скользящее окно на 1024 токена с глобальным вниманием. Контекстное окно составляет до 256 тыс. токенов. Поддерживаются текст и изображения; аудио для версии 31B не заявлено. Gemma 4 также поддерживает более 140 языков, режимы настраиваемого рассуждения, системные инструкции и нативный function calling. Ключевые преимущества — большой контекст, мультимодальное понимание, возможности рассуждения и кодирования, а также сниженные требования к памяти благодаря 4-битной квантизации. Ограничения включают возможную потерю точности по сравнению с полноразмерной версией и зависимость качества от совместимого программного обеспечения и оборудования для BNB 4-bit. Модель распространяется по лицензии Apache 2.0.

cosmicproc/gemma-4-E4B-it-NVFP4 — квантизированный вариант instruction-tuned модели google/gemma-4-E4B-it из семейства Gemma 4, разработанного Google DeepMind. Модель предназначена для генерации текста, рассуждений, программирования, агентских сценариев и мультимодального анализа изображений и аудио с выдачей текста. Она поддерживает более 140 языков, нативные системные промпты и вызов функций. Контекстное окно составляет до 128K токенов. Модель использует плотную архитектуру с 42 слоями, примерно 4,5 млрд эффективных параметров и около 8 млрд параметров с учётом Per-Layer Embeddings. Гибридный механизм внимания сочетает локальное скользящее окно размером 512 токенов с глобальным вниманием. Основные линейные слои трансформера квантизированы в формате NVFP4 W4A4 с помощью NVIDIA Model Optimizer, тогда как Per-Layer Embeddings, зрительный и аудиобашни, а также мультимодальный проектор сохранены в BF16 для поддержания качества. Ключевое преимущество версии — сниженные требования к памяти и потенциально высокая производительность при инференсе на GPU NVIDIA Blackwell. Для полноценного W4A4-инференса требуются GPU Blackwell, CUDA 12.9 или новее и vLLM 0.19.0 или новее. На GPU поколений Ada, Hopper и Ampere модель может загрузиться, но оптимизированные FP4-ядра активаций не будут использоваться, поэтому преимущество по скорости квантизации будет утрачено. Модель распространяется по лицензии Apache 2.0.

Gemopus-4-31B-it — дообученная Jackrong версия инструкционной модели Google Gemma 4 31B-it. Это плотная текстовая генеративная модель для диалогов и следования инструкциям; при настройке автор стремился сохранить исходный стиль рассуждений Gemma 4 и улучшить качество, структуру, ясность и последовательность ответов. Модель обучалась с использованием исправленного стека Unsloth и Transformers. Модель рассчитана на повседневную работу с текстом: подготовку структурированных ответов и сводок, редактирование текста и интерактивное программирование. В README автор отдельно отмечает улучшения в организации длинных ответов, объяснении технических тем и естественности диалога. В метаданных указаны английский, китайский, корейский и японский языки; мультимодальные возможности базовой модели не следует автоматически считать возможностями этой текстовой версии. Автор предупреждает, что модель может уступать более крупным облачным моделям в объёме знаний и сложных математических или логических рассуждениях; в узкоспециализированных темах возможны ошибки и галлюцинации. Автор называет веса экспериментальными. Лицензия — Apache-2.0.

GLM-4.6-Flash-text — текстовая версия модели GLM-4.6V-Flash от zai-org, опубликованная в репозитории sartajbhuvaji. Из исходной мультимодальной модели удалена система обработки изображений; дообучение, дистилляция и переобучение не выполнялись. Текстовый путь сохранён побитово идентичным исходной модели, что подтверждено сравнением логитов на коротких и длинных последовательностях. Модель предназначена для генерации и обработки текста, включая ответы на вопросы, программирование, объяснение понятий, перевод и работу с длинным контекстом. Поддерживаются английский и китайский языки. Архитектура представляет собой декодер GLM-4: 40 слоёв, скрытое представление размерностью 4096, 32 головы внимания и 2 KV-головы с GQA, словарь на 151 552 токена и максимальная длина позиций 131 072 токена. Количество параметров составляет около 9,4 млрд, размер BF16-весов — около 18,8 ГБ. Доступны также варианты GGUF с квантованием Q8_0, Q6_K, Q5_K_M и Q4_K_M. Главное преимущество — сохранение качества текстовой части исходной модели при уменьшении размера весов и снижении требований к памяти при серверном запуске. В описанном сценарии vLLM на A100-SXM4-40GB модель обеспечивала больше доступной KV-кэш-памяти, более высокую максимальную параллельность и существенно более быструю инициализацию по сравнению с исходной мультимодальной конфигурацией. Ограничение модели — отсутствие поддержки изображений и других мультимодальных входов; она предназначена только для текста. Лицензия — MIT.

GLM-5.3-Prime — высокоскоростной вариант модели GLM-5.3 от Z.ai. По описанию, ускорение инференса повышает пропускную способность генерации в 1,5–2 раза при сохранении возможностей GLM-5.3. Модель принимает и выдаёт текст; заявлен контекст длиной до 1 млн токенов. Модель предназначена для сценариев генерации текста, где важны высокая скорость ответа и работа с длинным контекстом. Сведения о лицензии и конкретных ограничениях в доступных данных отсутствуют.

GPT-3.5 Turbo 16k — вариант модели GPT-3.5 Turbo с увеличенным контекстным окном, разработанный OpenAI. Он предназначен для генерации текста и диалогов, в том числе для запросов, в которых нужно передать большой объём текста за один раз. По карточке модель обрабатывает примерно 20 страниц текста в одном запросе; использование обходится дороже, чем у стандартной версии GPT-3.5 Turbo.

GPT-4 — крупная мультимодальная языковая модель OpenAI. В карточке она описана как флагманская модель, способная решать сложные задачи с большей точностью, чем предыдущие модели, благодаря широким общим знаниям и развитым способностям к рассуждению. Модель предназначена для генерации текста и решения разнообразных сложных задач. Карточка указывает на мультимодальность, но не уточняет поддерживаемые типы входных и выходных данных, языки, размер модели или длину контекста. Сведения о лицензии также отсутствуют.

Карточка модели GorgiasML/gpt-oss-20b на Hugging Face совпадает с карточкой Sprinter-Spb/gpt-oss-20b, поэтому описание составлено по ней. Sprinter-Spb/gpt-oss-20b — размещённая пользователем версия открытой модели gpt-oss-20b от OpenAI. Это языковая модель с архитектурой Mixture of Experts и классом GptOssForCausalLM; в README для исходной модели указаны 21 млрд параметров и 3,6 млрд активных параметров, а метаданные этой карточки сообщают 1,6 млрд параметров. Модель ориентирована на диалог, рассуждения, агентные сценарии и задачи разработчиков. Она принимает текст в формате Harmony, поддерживает вызов функций и настройку уровня рассуждений; заявленная длина контекста — 131 072 токена. Модель рассчитана на более низкую задержку и локальное использование; README указывает, что вариант gpt-oss-20b с MXFP4 может работать в пределах 16 ГБ памяти. Среди сценариев — ответы на вопросы, генерация текста и кода, использование инструментов и структурированный вывод. Карточка описывает семейство как тонко настраиваемое, но не сообщает о специальном дообучении этой версии Sprinter-Spb. Модель распространяется по лицензии Apache-2.0. Для корректной работы требуется формат Harmony; README также предупреждает, что цепочку рассуждений не следует показывать конечным пользователям.

unsloth/granite-3.3-8b-instruct-GGUF — GGUF-версия Granite-3.3-8B-Instruct, разработанная командой Granite компании IBM и доработанная для распространения Unsloth. Это языковая модель с 8 миллиардами параметров и контекстом до 128K токенов, предназначенная для генерации текста, следования инструкциям и задач, требующих рассуждений. Модель подходит для создания AI-ассистентов, обобщения длинных документов и встреч, вопросов и ответов, классификации и извлечения текста, Retrieval Augmented Generation (RAG), программирования, function calling и многоязычного диалога. Поддерживаются английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Модель поддерживает структурированное рассуждение с разделением внутренних рассуждений и итогового ответа с помощью тегов <think> и <response>. К сильным сторонам относятся улучшенные показатели в instruction following, математике, программировании и общих тестах, включая AlpacaEval-2.0 и Arena-Hard, а также возможность работы с длинным контекстом. README не содержит подробностей о конкретном формате квантования GGUF, требованиях к аппаратному обеспечению или известных ограничениях качества. Модель распространяется по лицензии Apache 2.0.

GRMR-2B-Instruct — модель на базе Gemma 2 2B, дообученная пользователем qingy2024 для исправления грамматики и повышения ясности текста. Она переписывает входной текст, сохраняя его смысл и улучшая читаемость; в карточке приведён пример редактирования текста о музыкальном спектакле. Для работы используется шаблон чата, в котором текст помещается между инструкцией и секцией исходного текста, а результат выдаётся в секции исправленного текста. Модель имеет плотную архитектуру Gemma2ForCausalLM, содержит 2,7 млрд параметров и поддерживает контекст до 8192 токенов. В метаданных указан английский язык; модель распространяется под лицензией Apache-2.0. Карточка рекомендует температуру 0.0 и repeat penalty 1.0 для получения оптимальных результатов.