I.5Создание и редактирование текста

AvoCahDoe/gemma-2-9b-rlmpq-balanced — вариант Google Gemma 2 9B, подготовленный методом RL-MPQ для сбалансированного сценария смешанной точности. Это плотная авторегрессионная модель семейства Gemma 2 с 9 млрд параметров, предназначенная для генерации текста; README описывает назначение метода как распределение разрядности по слоям с помощью PPO и проверку качества по perplexity на WikiText-2. Средняя разрядность составляет 4,2857 бита на вес. Веса экспортированы в fake-quantized FP16 и рассчитаны на использование с Transformers; модель принимает текст и генерирует текст, с контекстом до 8192 токенов. Метаданные указывают английский язык. Модель основана на google/gemma-2-9b и распространяется по лицензии Gemma. Проверка на WikiText-2 не заменяет оценку на прикладных данных, а результаты сценария Balanced в карточке приведены не полностью.

HoangCuongNguyen/gemma-2-9b-safetysft — разговорная модель генерации текста на базе архитектуры Gemma 2, дообученная с помощью TRL методом supervised fine-tuning (SFT). Она предназначена для диалоговых сценариев и выдачи ответов на текстовые запросы. Модель содержит 9 млрд параметров, принимает текст и генерирует текст; максимальный контекст — 8192 токена. Карточка не описывает конкретные меры безопасности или их эффективность. Модель опубликована в формате safetensors и используется через библиотеку Transformers. Сведения о лицензии в предоставленных данных отсутствуют.

bunnycore/Gemma2-9B-TitanFusion — диалоговая языковая модель на архитектуре Gemma 2, созданная объединением нескольких предварительно обученных моделей с помощью mergekit и метода DARE TIES. В качестве базовой модели использована nbeerbower/gemma2-gutenberg-9B; в объединение также вошли модели для диалога и предпочтений, включая варианты с данными о психическом здоровье и обучением на текстах. Размер модели — 9 млрд параметров, формат весов — safetensors, библиотека — Transformers, контекст — до 8192 токенов. Модель предназначена для генерации текста и диалоговых сценариев: ответов на вопросы, ведения беседы и подготовки связного текста. Сочетание нескольких моделей может дать смешанные свойства их обучающих наборов, однако карточка не приводит отдельных измерений качества или подробных рекомендаций по применению. Лицензия в предоставленных данных не указана.

unsloth/gemma-2b — текстовая генеративная модель семейства Gemma с плотной архитектурой GemmaForCausalLM и 2,5 млрд параметров. Репозиторий подготовлен Unsloth и содержит веса в формате safetensors; README Unsloth описывает инструменты для дообучения моделей Gemma и других семейств, в том числе разговорные и текстовые сценарии. Модель предназначена для генерации текста и может служить основой для диалоговых и текстовых приложений или дальнейшего дообучения. Она поддерживает английский язык, имеет контекстное окно 8192 токена и распространяется по лицензии Apache-2.0. Карточка не приводит отдельных оценок качества или подробных ограничений применения.

philipp-zettl/gemma-2b-it — текстовая инструктивная модель семейства Gemma, разработанного Google; репозиторий содержит модель с архитектурой decoder-only GemmaForCausalLM и примерно 2,5 млрд параметров. Она принимает текстовые запросы и генерирует текст, поддерживает диалоговый режим и рассчитана на английский язык. Контекст модели — до 8192 токенов; доступны файлы в форматах Safetensors и GGUF. Модель подходит для диалоговых приложений, черновиков текстов, суммаризации, ответов на вопросы и исследовательских экспериментов. Компактный размер позволяет запускать её на компьютерах с ограниченными ресурсами. Как и другие языковые модели, она может выдавать фактические ошибки, отражать смещения обучающих данных и хуже справляться со сложными задачами, неоднозначными формулировками и нюансами языка. Лицензия в метаданных указана как other; конкретные условия следует проверять в карточке и документах репозитория.

Карточка модели QueryloopAI/gemma-2b-openhermes на Hugging Face совпадает с карточкой abideen/gemma-2b-openhermes, поэтому описание составлено по ней. abideen/gemma-2b-openhermes — компактная языковая модель для генерации текста, созданная дообучением Google Gemma 2B Instruct с помощью QLoRA на предпочтениях OpenHermes-2.5. Модель использует плотную архитектуру GemmaForCausalLM, содержит 2,5 млрд параметров и рассчитана на контекст до 8192 токенов. Модель принимает текстовые запросы и документы, а в ответ генерирует текст. Она предназначена для диалогов, ответов на вопросы и суммаризации; для разговорного режима следует применять встроенный шаблон чата токенизатора. В README заявлена генерация на английском языке. Карточка приводит результаты нескольких бенчмарков, но сама по себе не гарантирует качество на конкретных прикладных задачах. Модель доступна в формате Safetensors для библиотеки Transformers. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

MaziyarPanahi/gemma-3-12b-it-GGUF — это набор файлов модели в формате GGUF для Google Gemma 3 12B IT. Исходную модель разработала Google, а квантованные варианты подготовил MaziyarPanahi. Модель предназначена для генерации текста и использования в сценариях взаимодействия с инструкциями. Главная особенность репозитория — представление модели в формате GGUF, совместимом с llama.cpp и рядом локальных приложений и библиотек, включая llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и другие. Доступны варианты с квантованием от 2 до 8 бит, что позволяет выбирать между меньшим потреблением памяти и сохранением качества, однако конкретные характеристики каждого варианта в README не приведены. К сильным сторонам относятся поддержка распространённого формата для локального запуска, возможность GPU-ускорения и широкий выбор уровней квантования. Ограничения связаны с потерями качества, возможными при агрессивном квантовании, а также с отсутствием в предоставленных данных сведений о поддерживаемых языках, размере контекста, модальностях и точных требованиях к оборудованию. Лицензия в README не указана.

DavidAU разработал эту плотную мультимодальную модель на 12 млрд параметров как дообучение DreamFast/gemma-3-12b-it-heretic на наборе Polaris Alpha с помощью Unsloth. Она предназначена для диалогов, генерации текста с рассуждениями и анализа изображений; заявленная длина контекста — 128 тыс. токенов. Модель принимает текст и изображения и выдаёт текст. В карточке указана поддержка английского языка. Автор сообщает о компактных, но подробных рассуждениях, применимых также к обработке изображений, и приводит результаты нескольких бенчмарков. По описанию, модель реже отказывает в запросах, включая запросы на откровенный контент; для желаемой степени эксплицитности иногда требуется прямое указание. Качество зависит от промпта, шаблона чата и параметров генерации. Модель распространяется по лицензии Apache-2.0.

Модель akhadangi/gemma-3-1b-it-0.01-L — дообученная Афшином Хаданги с помощью Blueprint Mirage версия инструктивной Gemma 3 1B от Google. Это плотная текстовая модель для диалога и генерации текста; она принимает текст и выдаёт текст. Размер модели — 1 млрд параметров, нативная длина контекста — 32 768 токенов. В репозитории указаны веса в формате safetensors. Модель подходит для диалоговых сценариев и генерации текста. README не описывает специализацию дообучения или его влияние на качество, поэтому её возможности следует считать общими для текстовой генерации. Язык и лицензия унаследованы от исходной модели Google Gemma 3 1B Instruct; метаданные указывают лицензию Gemma.

Это версия Gemma 3 от сообщества mlx-community, преобразованная из инструктивной модели Google gemma-3-1b-it в формат MLX для запуска с mlx-lm. Модель с плотной архитектурой Gemma3ForCausalLM содержит 1 млрд параметров и предназначена для диалогов и генерации текста; поддерживает контекст до 32 768 токенов. Модель подходит для чат-ботов, ответов на вопросы и генерации текста на устройствах, совместимых с MLX. Карточка указывает лицензию Gemma; перед использованием следует учитывать её условия. Описание не сообщает о дополнительном дообучении, поэтому происхождение здесь — преобразование формата.

unsloth/gemma-3-1b-it-bnb-4bit — квантизированная 4-битная версия instruction-tuned модели google/gemma-3-1b-it, основанной на семействе Gemma 3. Разработчик исходной модели — Google DeepMind; сборка и публикация варианта выполнены Unsloth. Модель предназначена для генерации текста по инструкциям, ответов на вопросы, суммаризации документов, рассуждений и понимания изображений. Модель мультимодальная: принимает текст и изображения, а генерирует текст. Для версии 1B заявлено контекстное окно до 32K токенов; изображения нормализуются до 896×896 пикселей и кодируются в 256 токенов, максимальный объём генерируемого ответа составляет 8192 токена. Поддерживается более 140 языков, включая английский; в метаданных этой карточки явно указан язык en. Небольшой размер и 4-битное представление упрощают локальное развёртывание на ноутбуках, настольных компьютерах и в облачной инфраструктуре с ограниченными ресурсами, однако квантизация может снижать точность по сравнению с полноразмерной версией. Модель распространяется по лицензии Gemma; применяются соответствующие условия использования Google. В README не приведены точные требования к аппаратному обеспечению, результаты тестирования или подробные сведения об архитектуре, поэтому производительность в конкретных задачах по этой карточке оценить нельзя.

Gemma 3 1B PT — предварительно обученная модель генерации текста из семейства Gemma, разработанного Google на основе исследований и технологий, использованных для Gemini. Версия PT предназначена для дальнейшей адаптации и экспериментов с генерацией текста; семейство также рассчитано на диалог, суммаризацию, ответы на вопросы и рассуждения. Компактный размер семейства позволяет запускать модели на ноутбуках и настольных компьютерах или в собственной облачной инфраструктуре. В README для Gemma 3 заявлены контекстное окно до 128 тыс. токенов, поддержка более 140 языков и обработка изображений с выдачей текста; для конкретной версии 1B PT эти характеристики отдельно не подтверждены метаданными. Модель распространяется в формате safetensors и предназначена для использования через Transformers. Лицензия — Gemma. Ответы могут содержать фактические ошибки и отражать смещения обучающих данных; модели также могут испытывать трудности с неоднозначными формулировками и сложными задачами.

Sci-fi-vy/gemma-3-270m-it-GGUF — модель Gemma 3 270M от Google DeepMind, представленная в формате GGUF. Это instruction-tuned вариант базовой модели google/gemma-3-270m-it, предназначенный для генерации текста по инструкциям и запросам. Модель подходит для ответов на вопросы, суммаризации документов, рассуждений, работы с кодом и других задач генерации текста. Семейство Gemma 3 поддерживает текстовые и графические входы с генерацией текста, однако для вариантов 270M в карточке явно указан контекст до 32K токенов, а параметры обработки изображений для этой размерности не описаны. Заявлена поддержка более 140 языков; обучающие данные включали веб-тексты, код, математические материалы и изображения. Дата отсечения знаний — август 2024 года, размер модели — 270 млн параметров. Небольшой размер облегчает локальное развёртывание на компьютерах с ограниченными ресурсами и в собственной облачной инфраструктуре, но по возможностям и качеству модель может уступать более крупным вариантам Gemma. Для работы рекомендуется использовать temperature 1.0, top_k 64, top_p 0.95 и min_p 0.0. Модель распространяется на условиях лицензии Gemma; точные условия следует уточнять в официальных Terms of Use.

Это конвертированная версия инструкционной текстовой модели Gemma 3 270M IT от Google, подготовленная сообществом LM Studio. Весовая точность bf16 сохранена, а формат MLX оптимизирован для запуска на компьютерах Apple Silicon; архитектура — плотная авторегрессионная Gemma3ForCausalLM с примерно 257 млн параметров. Модель предназначена для диалогов и генерации текста по инструкциям, включая ответы на вопросы и суммаризацию. Она принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов. В карточке не перечислены поддерживаемые естественные языки. Для распространения базовой модели указана лицензия Gemma; перед использованием следует учитывать её условия. MLX-версию предоставила команда LM Studio, разработчиком исходной модели является Google.

unsloth/gemma-3-270m-it-qat-GGUF — GGUF-версия инструкционно дообученной модели Gemma 3 с 270 млн параметров, разработанной Google DeepMind и подготовленной Unsloth. Модель предназначена для генерации текста, ответов на вопросы, суммаризации, рассуждений и других диалоговых сценариев, а также может анализировать изображения и выдавать текстовый результат. Модель поддерживает текстовые и графические входные данные, более 140 языков и контекст до 32 тысяч токенов для моделей размером 270M. Вариант основан на google/gemma-3-270m-it-qat-q4_0-unquantized и использует квантизацию QAT в формате GGUF, что ориентировано на запуск с пониженными требованиями к ресурсам, в том числе на локальных устройствах. Конкретные сведения об архитектуре и языковых характеристиках отдельных языков в карточке не приведены. К сильным сторонам относятся малый размер, поддержка длинного контекста, мультимодальность и возможность локального развертывания. Ограничением является существенно меньшая ёмкость модели по сравнению с крупными вариантами Gemma 3, поэтому сложные задачи и требовательные сценарии могут выполняться менее качественно. Модель распространяется по лицензии Gemma; её использование регулируется условиями Google.

Карточка модели Srishtik/gemma-3-270m-linear-merged-trained-on-responses на Hugging Face совпадает с карточкой Srishtik/gemma-3-270m-slerp-merged-trained-on-responses, поэтому описание составлено по ней. Srishtik дообучил текстовую модель Gemma 3 на 257 млн параметров на основе unsloth/gemma-3-270m-it. Она предназначена для диалогов и генерации текста; метаданные также указывают на поддержку чата. Модель использует плотную архитектуру Gemma3ForCausalLM, принимает текст и выдаёт текст, поддерживает английский язык и контекст до 32 768 токенов. В репозитории указаны веса Safetensors и лицензия Apache 2.0. README сообщает, что обучение выполнялось с Unsloth.

Карточка модели Srishtik/gemma-3-270m-ties-merged-trained-on-responses на Hugging Face совпадает с карточкой Srishtik/gemma-3-270m-slerp-merged-trained-on-responses, поэтому описание составлено по ней. Srishtik дообучил текстовую модель Gemma 3 на 257 млн параметров на основе unsloth/gemma-3-270m-it. Она предназначена для диалогов и генерации текста; метаданные также указывают на поддержку чата. Модель использует плотную архитектуру Gemma3ForCausalLM, принимает текст и выдаёт текст, поддерживает английский язык и контекст до 32 768 токенов. В репозитории указаны веса Safetensors и лицензия Apache 2.0. README сообщает, что обучение выполнялось с Unsloth.

Gemma-3-27b-it-GGUF — квантизированная GGUF-версия мультимодальной инструкционной модели Gemma 3 27B IT, разработанной Google и квантизированной Second State Inc. Модель предназначена для диалоговых приложений и сценариев image-text-to-text: обработки текстовых запросов, а при использовании файла mmproj — анализа изображений вместе с текстом. Для запуска в LlamaEdge требуется версия v0.18.5 или новее и шаблон prompt gemma-3. Модель содержит 27 млрд параметров и поддерживает контекст до 128 000 токенов. Доступны варианты квантования от Q2_K до Q8_0, а также F16; размеры файлов составляют примерно от 10,5 до 30 ГБ, не считая разбиения F16 на два файла. Рекомендуемыми вариантами названы Q4_K_M, Q5_K_M и Q5_K_S, поскольку они обеспечивают баланс размера и качества или небольшие потери качества. Для обработки изображений требуется отдельный mmproj-файл; изображения должны быть нормализованы до 896×896 пикселей и представлены как 256 токенов каждое. Основные сильные стороны — большой контекст, поддержка текста и изображений, широкий выбор уровней квантования и возможность локального запуска через LlamaEdge. Ограничения включают значительные требования к дисковому пространству и вычислительным ресурсам, а при низких уровнях квантования — существенное снижение качества. README не указывает поддерживаемые языки и конкретную архитектуру. Модель распространяется по лицензии Gemma.

ZeroXClem/Gemma3-4B-Arceus-Servant — мультимодальная модель для диалогов, созданная ZeroXClem путём слияния нескольких моделей семейства Gemma 3 методом MODEL STOCK. В состав вошли Gemma3-Callous-Calla-4B, Meteor_4B_V.1, scout-4b, gemma-3-4b-it-claude, Gemma3-Code-Reasoning-4B и gemma-3-4b-it-abliterated. Модель основана на архитектуре Gemma 3 4B с 34 слоями и использует формат safetensors; README также указывает точность bfloat16. Модель предназначена для диалогов, ответов на вопросы по изображениям, генерации текста, программирования и творческого письма. В карточке заявлены рассуждения с учётом ограничений и высокая точность следования инструкциям. Эти качества описаны разработчиком, но независимые результаты оценки не приведены. Лицензия — Apache-2.0. Среди ограничений: заявленная в README ослабленная система отказов означает, что модель может охотнее отвечать на запросы, от которых другие модели отказываются; перед применением в чувствительных сценариях ответы следует проверять.

MaziyarPanahi/gemma-3-4b-it-GGUF — набор файлов модели в формате GGUF для Google Gemma 3 4B Instruct, разработанной Google и квантизированной MaziyarPanahi. Модель предназначена для генерации текста и локального запуска через совместимые приложения и библиотеки, включая llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp и другие инструменты экосистемы GGUF. Известно, что доступны варианты квантизации с разрядностью от 2 до 8 бит. Формат GGUF разработан командой llama.cpp как замена устаревшему GGML и поддерживает запуск с ускорением на GPU, а в некоторых инструментах — совместимые API и интеграцию с фреймворками. Эти варианты позволяют выбирать компромисс между размером файлов, требованиями к памяти и качеством, однако README не содержит точных сведений об архитектуре, контекстном окне, языках, модальностях и характеристиках производительности модели. Основные преимущества — возможность локального развертывания, широкий выбор уровней квантизации и поддержка несколькими популярными клиентами. Ограничения связаны с потерями качества, возможными при квантизации, а также зависимостью от конкретного рантайма и аппаратной конфигурации. Лицензия в README не указана.

Goader/gemma-3-4b-it-uk-matt — дообученная версия Gemma 3 4B IT от Google с перенесённым на украинский язык токенизатором Lapa, подготовленная Goader. Модель предназначена для диалогов и генерации текста, особенно на украинском: добавленные украинские токены сокращают длину последовательностей примерно на 35% по сравнению с исходным токенизатором. Число параметров — около 4 млрд; архитектура плотная Gemma 3, формат весов — bfloat16 в safetensors. В README указано, что изменены только входные эмбеддинги, а шаблон чата и параметры генерации сохранены. Модель поддерживает украинский и английский языки и принимает текст. Хотя базовая Gemma 3 мультимодальна и у этой версии сохранена часть для обработки изображений, путь изображений не оценивался, поэтому заявленный сценарий использования — текстовый. На приведённых тестах генерация украинского текста почти восстановила уровень базовой модели, тогда как понимание украинского уступает ей: восстановлено примерно 82–91% результатов. Лицензия — Gemma License; применяются её условия использования.

Gemma-3-4B-VL-it-Gemini-Pro-Heretic-Uncensored-Thinking-GGUF — мультимодальная instruction-tuned модель на архитектуре Gemma 3 с примерно 4 млрд параметров. Она основана на модели DavidAU/Gemma-3-4B-VL-it-Gemini-Pro-Heretic-Uncensored-Thinking, опубликована в формате GGUF и предназначена для эффективного локального запуска; в README издателем указан mradermacher. Модель поддерживает работу с текстом и изображениями, ориентирована на английский язык и используется для диалогов, рассуждений, анализа, творческого письма, суммаризации, перефразирования, описания изображений, визуальных вопросов и понимания сцен и объектов. Длина контекста в представленном описании не указана. Ключевая особенность модели — сниженный уровень контентной фильтрации и ограничений выравнивания, что может быть полезно для экспериментов, исследований и специализированных локальных сценариев, но повышает вероятность чувствительных или нежелательных ответов. Модель совместима с GGUF-совместимыми средствами инференса, включая llama.cpp и сборки Ollama, однако фактическая производительность и поддержка мультимодальных функций зависят от используемого рантайма и оборудования. Для публичных и критически важных применений необходимы дополнительные фильтры и проверка результатов. Указана лицензия Apache 2.0, унаследованная от базовой модели.

Это мультимодальная чат-модель DavidAU на архитектуре Gemma 3: исходную Gemma 3 27B IT-VL расширили до плотной модели на 40 млрд параметров, а затем дообучили с помощью Unsloth на наборе Gemini reasoning. По описанию автора, дообучение добавляет пошаговое рассуждение; модель также рассчитана на творческое письмо, ролевые сценарии, генерацию кода и работу с изображениями. Карточка заявляет контекст до 128K токенов и проверку обработки изображений и генерации кода. Модель принимает текст и изображения, отвечает текстом и ориентирована прежде всего на английский и китайский языки. Автор позиционирует её как модель с ослабленными ограничениями на генерируемый контент; ответы могут быть резкими, содержать ненормативную лексику или графические описания. В отдельных случаях модель может переключаться в режим инструкций; автор рекомендует явно просить её рассуждать, если это происходит. Распространяется по лицензии Apache-2.0.

Карточка модели Mimoniske/gemma-3-it-vl-40B-Gemini-Heretic-Uncensored-Thinking на Hugging Face совпадает с карточкой DavidAU/gemma-3-it-vl-40B-Gemini-Heretic-Uncensored-Thinking, поэтому описание составлено по ней. Это мультимодальная чат-модель DavidAU на архитектуре Gemma 3: исходную Gemma 3 27B IT-VL расширили до плотной модели на 40 млрд параметров, а затем дообучили с помощью Unsloth на наборе Gemini reasoning. По описанию автора, дообучение добавляет пошаговое рассуждение; модель также рассчитана на творческое письмо, ролевые сценарии, генерацию кода и работу с изображениями. Карточка заявляет контекст до 128K токенов и проверку обработки изображений и генерации кода. Модель принимает текст и изображения, отвечает текстом и ориентирована прежде всего на английский и китайский языки. Автор позиционирует её как модель с ослабленными ограничениями на генерируемый контент; ответы могут быть резкими, содержать ненормативную лексику или графические описания. В отдельных случаях модель может переключаться в режим инструкций; автор рекомендует явно просить её рассуждать, если это происходит. Распространяется по лицензии Apache-2.0.

unsloth/gemma-3n-E2B-it — дообученная Unsloth версия диалоговой модели Google Gemma 3n E2B-it. Это плотная мультимодальная архитектура Gemma3n, однако карточка этой версии сообщает о поддержке только текстового ввода. Модель предназначена для диалога и генерации текста; её можно использовать для ответов на вопросы и ведения беседы. Заявленная длина контекста Gemma 3n — до 32 тыс. токенов. В метаданных указаны английский язык и библиотека Transformers. Модель распространяется по лицензии Gemma; перед использованием следует учитывать её условия. Карточка не приводит отдельные сведения о качестве этой версии.

onnx-community/gemma-3n-E2B-it-ONNX — ONNX-версия инструкционной мультимодальной модели Gemma 3n E2B IT, разработанной Google DeepMind и подготовленной для использования с Transformers.js. Модель предназначена для эффективного запуска на устройствах с ограниченными ресурсами и принимает текстовые, графические, видео- и аудиовходы, генерируя текстовые ответы. Она подходит для вопросов и ответов, суммаризации, анализа изображений и видео, распознавания речи и автоматического перевода речи. Модель использует архитектуру MatFormer и технологию выборочной активации параметров. При общем размере около 6 млрд параметров её эффективный размер соответствует примерно 2 млрд параметров, поскольку матрицы с низкой частотой использования могут выгружаться с ускорителя. Изображения обрабатываются в разрешениях 256×256, 512×512 или 768×768 и кодируются в 256 токенов каждое; аудио представляется со скоростью 6,25 токена в секунду для одного канала. Максимальный входной контекст составляет 32 тысячи токенов, а суммарная длина генерации — до 32 тысяч токенов за вычетом входа. Обучение проводилось на данных более чем 140 разговорных языков. К сильным сторонам относятся сочетание мультимодальности, компактного эффективного размера и возможности локального выполнения через Transformers.js, включая сценарии с WebGPU. Ограничения включают зависимость от поддерживаемого окружения ONNX и Transformers.js, а также отсутствие в предоставленной карточке подробных результатов бенчмарков, точного перечня языков и количественной оценки качества по отдельным задачам. Модель распространяется на условиях лицензии Gemma; применяются соответствующие Terms of Use Google.

Карточка модели unsloth/gemma-3n-E4B на Hugging Face совпадает с карточкой unsloth/gemma-3n-E2B-it, поэтому описание составлено по ней. unsloth/gemma-3n-E2B-it — дообученная Unsloth версия диалоговой модели Google Gemma 3n E2B-it. Это плотная мультимодальная архитектура Gemma3n, однако карточка этой версии сообщает о поддержке только текстового ввода. Модель предназначена для диалога и генерации текста; её можно использовать для ответов на вопросы и ведения беседы. Заявленная длина контекста Gemma 3n — до 32 тыс. токенов. В метаданных указаны английский язык и библиотека Transformers. Модель распространяется по лицензии Gemma; перед использованием следует учитывать её условия. Карточка не приводит отдельные сведения о качестве этой версии.

AxionML Gemma-4-12B-FP8 — квантизированная версия мультимодальной модели Google Gemma-4-12B-it, разработанная AxionML для открытого использования и производительного развертывания. Модель поддерживает сценарии image-text-to-text и рассчитана на применение в задачах обработки текста, изображений и аудио, включая диалоговые приложения, рассуждения и вызовы инструментов. Точный список языков и размер контекстного окна в карточке не указаны. Модель содержит около 11,95 млрд параметров. Веса линейных слоёв преобразователя квантизированы в FP8 E4M3 по блокам 128×128 с MSE-калибровкой, активации сохраняются в BF16, а KV-кэш хранится в FP8. Мультимодальные эмбеддеры и lm_head оставлены в BF16. Размер чекпойнта составляет около 13 ГБ вместо примерно 24 ГБ у версии BF16. По данным README, такая схема сохраняет качество на GSM8K и поддерживает запуск на GPU NVIDIA Hopper и Blackwell, включая H100 и H200. Сильными сторонами являются уменьшенное потребление памяти, сохранение активаций в BF16 для защиты от потери качества и совместимость с оптимизированными средствами обслуживания SGLang и TensorRT Model Optimizer. Ограничение состоит в том, что для работы требуются совместимые версии программного обеспечения и поддерживаемое оборудование; стандартная квантизация активаций W8A8 для этой модели, согласно README, заметно ухудшает качество. Указана лицензия Apache-2.0.

zeromodels/gemma-4-12b-it — конверсия Gemma 4 12B Instruct в формате Keras 3 от zeromodels. Модель содержит около 11,95 млрд параметров и представлена в bfloat16; реализация запускается на TensorFlow, PyTorch и JAX. Вариант предназначен для генерации ответов по тексту, изображениям и аудио: принимает эти типы входных данных и выдаёт текст. Доступен также текстовый режим. В README указано окно скользящего внимания 1024 токена; это не следует трактовать как полный размер контекста. Модель унаследована от google/gemma-4-12B-it и распространяется по лицензии Apache 2.0.

Danny-Dasilva/gemma-4-12B-it-W4A16-GPTQ-g32-DSpark — квантизированная версия инструкционной модели Google Gemma 4 12B-it, подготовленная для ускоренного speculative decoding с использованием DSpark. Модель предназначена для генерации текста и диалоговых сценариев, включая работу через vLLM; рекомендуется применять чат-шаблон Gemma 4 и draft-модель deepseek-ai/dspark_gemma4_12b_block7. Модель использует посттренировочную GPTQ-квантизацию int4 в формате W4A16 с group_size=32, симметричными весами и weights-only quantization. Размер весов составляет около 7,8 ГБ; заявлена поддержка контекста до 8192 токенов в конфигурации vLLM. Указан английский язык. Модель основана на нетронутых bf16-весах google/gemma-4-12B-it и сохраняет совместимость с DSpark: заявлены скорость до 198,2 токена в секунду и ускорение 1,73 раза на одной RTX 5090 при использовании рекомендованной конфигурации. Сильные стороны модели — существенно сниженное потребление памяти, возможность запуска на видеокарте с 32 ГБ памяти и высокая эффективность совместно с DSpark. Ограничения включают зависимость максимальной производительности от конкретной аппаратной и программной конфигурации, необходимости совместимой версии vLLM, FlashInfer и отдельной draft-модели. Для корректной работы требуется использовать чат-шаблон; без него генерация может быть некорректной. Модель распространяется на условиях Gemma Terms of Use.