I.5Создание и редактирование текста

AALF/gemma-2-27b-it-SimPO-37K-100steps — чекпойнт Gemma 2 от AALF, обученный по методу SimPO для улучшения ответов в диалоге. Модель основана на Google Gemma 2 Instruct с 27,6 млрд параметров; это плотная авторегрессионная языковая модель для генерации текста и общения по инструкциям. Контекстное окно — 8192 токена. Для обучения использовали 37 040 примеров предпочтений, отобранных из HuggingFaceH4/ultrafeedback_binarized с помощью модели вознаграждения RLHFlow/ArmoRM-Llama3-8B-v0.1. В карточке приведён результат оценки AlpacaEval 2.0: win rate 77,09% и length-controlled win rate 79,16%. Модель подходит для чат-ботов, ответов на инструкции и сравнительных экспериментов по выравниванию языковых моделей. Лицензия — Gemma; применяются условия лицензии Google Gemma.

Это набор квантованных моделей в формате GGUF для Gemma 2 2B IT, разработанной Google. Репозиторий подготовлен MaziyarPanahi и содержит варианты квантования от 2 до 8 бит на основе исходной модели google/gemma-2-2b-it. Модель предназначена для генерации текста и локального использования в приложениях, поддерживающих GGUF. Она может применяться через llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и другие совместимые инструменты, включая серверы с OpenAI-совместимым API. Формат GGUF и квантование позволяют выбирать компромисс между размером файлов, требованиями к ресурсам и качеством вывода. Из README известны архитектура семейства Gemma 2 и размер исходной модели — 2 млрд параметров. Сведения о поддерживаемых языках, размере контекста, конкретных характеристиках отдельных квантованных вариантов, результатах тестирования и ограничениях исходной модели не указаны. Лицензия в README также не указана; условия использования следует уточнять в документации Google для Gemma.

kykim0/gemma-2-2b-tulu-v2-mix — дообученная модель семейства Gemma 2, созданная на основе google/gemma-2-2b. Это плотная языковая модель с 2,7 млрд параметров и контекстом до 8192 токенов, предназначенная для генерации текста и диалоговых сценариев. Модель подходит для продолжения текста и создания чат-приложений на базе компактной языковой модели. README не содержит подробностей о данных дообучения и заявленных сценариях, кроме результата оценки Loss 0.5420. Модель распространяется в формате safetensors по лицензии Gemma.

Gemma2 9B CPT Sahabat-AI v1 — базовая языковая модель, разработанная PT GoTo Gojek Tokopedia Tbk и AI Singapore при поддержке GoTo Group и Indosat Ooredoo Hutchison. Это плотная decoder-модель Gemma 2 с 9 млрд параметров, полученная продолжением предобучения Gemma2 9B CPT SEA-Lionv3 на примерно 50 млрд токенов. Модель предназначена для генерации текста и общих языковых задач с акцентом на индонезийский язык и региональные языки Индонезии. Она поддерживает английский, индонезийский, яванский и сунданский языки, использует токенизатор Gemma 2 и имеет контекст до 8192 токенов. В карточке приведены оценки на языковых тестах, включая ответы на вопросы, анализ тональности, обнаружение токсичности, перевод, суммаризацию, рассуждения и понимание естественного языка. Это базовая модель, а не готовая модель для инструкционного диалога; качество ответов зависит от задачи и формулировки запроса. Распространяется по Gemma Community License.

Gemma-2-9b-it-abliterated-GGUF — это набор GGUF-квантизаций инструкционно дообученной модели Gemma 2 с 9 млрд параметров. Исходную модель разработал IlyaGusev, а квантизации подготовил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и локального запуска, в том числе через LM Studio; в карточке указан английский язык. Доступны варианты от полноточного F32 до компактных Q3 и IQ3, а также более качественные Q4–Q8. Размер файлов составляет примерно от 4,49 до 36,97 ГБ. Варианты различаются компромиссом между качеством, требованиями к памяти и скоростью инференса; Q5 и Q6 отмечены как высококачественные, а Q4 — как сбалансированные для большинства сценариев. Отдельные варианты оптимизированы для ARM и требуют соответствующих аппаратных возможностей. Модель подходит для локального текстового общения и других задач генерации текста, но README не содержит сведений о контекстном окне, полной поддержке языков, результатах оценки или конкретных ограничениях abliterated-версии. Используется лицензия Gemma; перед применением необходимо учитывать её условия.

MCZK/Gemma-2-9B-It-SPPO-Iter3-GGUF — это версия модели Gemma-2-9B-It-SPPO-Iter3, разработанной UCLA-AGI, преобразованная в формат GGUF. Модель предназначена для генерации текста и диалоговых сценариев с использованием instruction-tuned версии Gemma 2. В метаданных указан английский язык и набор данных openbmb/UltraFeedback. Модель имеет около 9 млрд параметров; исходная архитектура относится к семейству Gemma 2, а вариант SPPO-Iter3, согласно идентификатору, получен на третьей итерации оптимизации методом SPPO. Для K-квантизованных вариантов применена iMatrix-квантизация. Текст iMatrix подготовлен на основе c4_en_ja_imatrix.txt из набора TFMC/imatrix-dataset-for-japanese-llm. Формат GGUF подходит для локального запуска в совместимых инструментах, однако конкретные требования к памяти, размер контекста, поддерживаемые модальности и результаты бенчмарков в README не указаны. Лицензия обозначена как gemma. README не содержит подробностей о сильных сторонах, ограничениях, допустимых сценариях коммерческого использования или точных параметрах отдельных вариантов квантизации, поэтому эти характеристики требуют дополнительной проверки.

Gemma2-9b-it-train3 — плотная авторегрессионная языковая модель семейства Gemma 2, опубликованная ehristoforu. Это дообученная версия ehristoforu/Gemma2-9b-it-train2, обученная с использованием Unsloth и библиотеки TRL; в карточке также указан датасет HuggingFaceH4/CodeAlpaca_20K. Модель содержит 9 млрд параметров, работает с текстом и поддерживает контекст до 8192 токенов. Модель предназначена для генерации текста и диалогового взаимодействия; связь с CodeAlpaca указывает на примеры задач по генерации кода, но карточка не приводит отдельной оценки качества. Опубликована в формате PyTorch под лицензией Apache-2.0.

Gemma2-9b-it-train4 — разговорная модель генерации текста, разработанная ehristoforu и дообученная на ehristoforu/Gemma2-9b-it-train3. Она основана на плотной архитектуре Gemma 2 с 9 млрд параметров и рассчитана на диалоговые сценарии. В метаданных указан английский язык, контекст составляет 8192 токена; для обучения использовался датасет cognitivecomputations/dolphin и инструменты Unsloth и Hugging Face TRL. Модель подходит для ответов на вопросы и генерации текста в чате. Репозиторий содержит веса PyTorch. Лицензия — Apache-2.0. Карточка не приводит результатов оценивания качества или подробных сведений об ограничениях.

AvoCahDoe/gemma-2-9b-rlmpq-high-fidelity — вариант Google Gemma 2 9B, подготовленный методом RL-MPQ (Reinforcement Learning Mixed-Precision Quantization) для сценария High Fidelity. Это плотная авторегрессионная модель класса Gemma2ForCausalLM с 9 млрд параметров и контекстом до 8192 токенов; она принимает текст и генерирует текст. В метаданных указан английский язык, а базовая модель предназначена для генерации текста, диалогов, суммаризации и ответов на вопросы. Веса имеют среднюю точность 7,0476 бита на параметр и описаны как fake-quantized FP16, совместимые с Hugging Face Transformers. README сообщает, что ширины битов для слоёв назначает PPO-агент, а качество проверяется по perplexity на WikiText-2; это не гарантирует качество на других задачах. Модель распространяется по лицензии Gemma.

Gemma-2-Ataraxy-v2-9B-GGUF — набор GGUF-квантизаций модели Gemma-2-Ataraxy-v2-9B, разработанной lemon07r и квантизированной bartowski. Модель предназначена для генерации текста и запуска локально через llama.cpp, в том числе в LM Studio. В README указано использование mergekit, однако подробности исходного объединения моделей не приведены. Это текстовая модель размером 9B параметров в форматах от F16 до различных вариантов 2–8-битной квантизации. Доступны варианты с разным балансом между качеством, размером файла и требованиями к памяти; наиболее качественными названы F16, Q8_0 и Q6_K/Q6_K_L, а Q4-варианты предлагают более экономичный запуск. Отдельные форматы оптимизированы для ARM-процессоров и требуют поддержки соответствующих инструкций. Языки, размер контекста, мультимодальность и специализированные сценарии применения в README не указаны. Сильной стороной является широкий выбор квантизаций для локального инференса и совместимость с llama.cpp и LM Studio. При уменьшении разрядности снижаются требования к памяти, но может ухудшаться качество генерации; самые низкоразрядные варианты обозначены как низкокачественные или нежелательные. Лицензия модели в предоставленных данных не указана. Для работы следует использовать рекомендованный шаблон prompt format Gemma с маркерами ролей и начала/окончания хода.

Gemma-2-Ataraxy-v4a-Advanced-9B — объединённая текстовая языковая модель, созданная lemon07r методом SLERP с помощью mergekit на основе lemon07r/Gemma-2-Ataraxy-v3-Advanced-9B и zelk12/recoilme-gemma-2-Ataraxy-9B-v0.1-t0.25. Модель построена на архитектуре Gemma 2, содержит 9 млрд параметров и рассчитана на генерацию текста в диалоговых сценариях. Она принимает текст и выдаёт текст; родной контекст составляет 8192 токена. В README приведены результаты оценивания на IFEval и BBH, но их недостаточно, чтобы делать выводы о качестве в иных задачах. В доступных материалах лицензия и поддерживаемые естественные языки не указаны.

google/gemma-2b-AWQ — AWQ-квантизированная версия базовой модели Gemma-2B, разработанной Google. Это компактная decoder-only большая языковая модель с открытыми весами, обученная на основе технологий, использованных при создании Gemini. Модель работает с текстом и ориентирована преимущественно на английский язык. Модель предназначена для генерации текста, ответов на вопросы, суммаризации, рассуждений, работы с программным кодом и математическими запросами. Она принимает текстовые строки, включая вопросы, инструкции и документы, а возвращает сгенерированный английский текст. Небольшой размер делает её подходящей для запуска на ноутбуках, настольных компьютерах и собственной облачной инфраструктуре с ограниченными ресурсами; также предусмотрено последующее дообучение. При обучении использовалось около 6 триллионов токенов из веб-документов, кода и математических материалов с применением фильтрации вредоносного и чувствительного контента. README не указывает размер контекстного окна и конкретные характеристики архитектуры помимо класса decoder-only. Это базовая, а не instruction-tuned версия, поэтому для диалоговых сценариев и точного следования инструкциям могут потребоваться дополнительное дообучение или специальное форматирование запросов. Квантизация AWQ снижает требования к ресурсам, но её влияние на качество зависит от задачи и среды запуска. Использование регулируется лицензией Google Gemma Terms of Use; для доступа на Hugging Face требуется принять условия лицензии. Лицензия указана как gemma-terms-of-use.

Gemma-2b-it-GGUF — квантизированная GGUF-версия инструкционной языковой модели Gemma 2B, разработанной Google и подготовленной компанией Second State Inc. Модель предназначена для диалоговых приложений и генерации текста по инструкциям; запуск поддерживается через LlamaEdge и совместимые инструменты. Это текстовая модель с размером около 2 млрд параметров и контекстом 2048 токенов. Доступны варианты квантизации от 2 до 8 бит размером примерно от 900 МБ до 2,67 ГБ. Более компактные варианты экономят память, но заметно снижают качество; Q4_K_M, Q5_K_M и Q5_K_S обозначены как сбалансированные или рекомендуемые варианты с меньшей потерей качества. Модель удобна для локального развёртывания на ограниченных ресурсах и работы через шаблон запросов gemma-instruct. Ограничения включают небольшой контекст, потерю качества при низкой точности квантизации и отсутствие в README сведений о поддерживаемых языках, результатах тестирования и конкретных возможностях мультимодальности; по представленным данным модель является текстовой. Используется лицензия Gemma Terms of Use, указанная Google.

Gemma2-gutenberg-27B-GGUF — это квантованные версии текстовой генеративной модели gemma2-gutenberg-27B, опубликованной nbeerbower и подготовленной в формате GGUF пользователем bartowski. Модель основана на Gemma 2 с 27 млрд параметров и дополнительно обучена на датасете jondurbin/gutenberg-dpo-v0.1. Квантование выполнено с помощью llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска локального вывода, в том числе через llama.cpp и LM Studio. Доступны варианты от F16 до низкобитных квантований Q8, Q6, Q5, Q4, Q3 и Q2, что позволяет выбирать между качеством и требованиями к памяти. Для большинства сценариев README рекомендует варианты Q6_K_L, Q6_K, Q5_K и Q4_K; низкобитные версии экономят память, но могут заметно терять в качестве. Используется специальный формат промпта Gemma 2. Системные сообщения не поддерживаются. README не указывает языки, размер контекста и мультимодальные возможности, поэтому модель следует рассматривать как текстовую. Лицензия указана как Gemma; конкретные условия её применения следует проверять в документации лицензии базовой модели.

TouchNight/gemma-2-Ifable-abliterated-9B-untied — 9-миллиардная плотная языковая модель семейства Gemma 2 для генерации текста и диалогов. По карточке это объединение TouchNight/gemma-2-Ifable-9B-untied и TouchNight/gemma-2-9b-it-abliterated-LoRA-untied; каталог связывает её с первой моделью как с базовой. Модель принимает текст и генерирует текст, поддерживает контекст до 8192 токенов и опубликована в формате safetensors. Модель подойдёт для диалоговых приложений и генерации ответов на текстовые запросы. В названии и описании указано abliterated, но README не поясняет, какие ограничения поведения были изменены и каковы результаты такого изменения. Языки и специализированные области применения в предоставленных данных не обозначены. Лицензия в метаданных и карточке не указана.

Gemma 2 Inko 9B — объединённая диалоговая языковая модель на архитектуре Gemma 2 с 9 млрд параметров, созданная AELLM методом DARE TIES с помощью Mergekit. В основу объединения вошли BAAI/Gemma2-9B-IT-Simpo-Infinity-Preference и rtzr/ko-gemma-2-9b-it. Модель предназначена для генерации текста в диалоге и ответов на инструкции. Она поддерживает корейский и английский языки, принимает текст и выдаёт текст. Контекстное окно составляет 8192 токена. Репозиторий содержит веса в формате safetensors. Карточка не приводит сравнительных оценок качества или подробных ограничений применимости. Лицензия в предоставленных данных не указана.

unsloth/gemma-2-it-GGUF — это набор GGUF-квантованных вариантов инструкционной модели Gemma 2, подготовленный Unsloth на основе модели Google. README указывает, что доступны популярные варианты квантования, а исходная модель относится к семейству Gemma 2 и представлена как минимум в версиях на 2B и 9B параметров. Модель предназначена для диалоговых сценариев, генерации и завершения текста, а также для последующего дообучения на пользовательских датасетах и экспорта в GGUF или vLLM. Заявлен английский язык; другие языки и мультимодальные возможности не указаны. Ключевая особенность — 4-битное квантование с использованием bitsandbytes, снижающее требования к памяти и позволяющее запускать и дообучать модель на более доступном оборудовании. Для Gemma 2 README приводит ориентиры дообучения на GPU Tesla T4: для версии 9B заявлены примерно двукратное ускорение и снижение потребления памяти на 63%, однако эти показатели относятся к описанным сценариям и не гарантируют аналогичную производительность при инференсе. Архитектура, размер контекста, точные параметры GGUF-вариантов и системные требования не приведены. Лицензия указана как gemma. Ограничения, связанные с качеством ответов, безопасностью, поддерживаемыми языками и конкретными режимами квантования, в README подробно не описаны; перед использованием следует проверить условия лицензии Google Gemma и характеристики выбранного файла.

Это квантизированная версия Gemma 3 12B IT, разработанная Google и преобразованная пользователем nocturne23 в формат GGUF с помощью llama.cpp и инструмента GGUF-my-repo. Модель предназначена для запуска через llama.cpp в CLI-режиме или как сервер для генерации ответов и выполнения задач, поддерживаемых исходной инструкционной моделью. Известно, что модель основана на google/gemma-3-12b-it и имеет размер 12 миллиардов параметров. Вариант Q4_K_M использует 4-битную квантизацию, что уменьшает требования к памяти по сравнению с полной версией, но может снижать точность. В метаданных указана мультимодальная задача image-text-to-text, однако подробные сведения о поддерживаемых языках, длине контекста, архитектуре и возможностях работы с изображениями в README отсутствуют. В качестве ограничения также следует учитывать зависимость от llama.cpp и необходимость настройки под используемое оборудование. Для доступа и использования модели требуется принять лицензию Google Gemma на Hugging Face; в README лицензия обозначена как gemma. Условия коммерческого и иного применения следует проверять в исходной лицензии Google и оригинальной карточке модели.

unsloth/gemma-3-270m-it-GGUF — GGUF-версия инструкционно дообученной модели google/gemma-3-270m-it, разработанной Google DeepMind и подготовленной Unsloth. Модель предназначена для генерации текста, ответов на вопросы, суммаризации документов и задач рассуждения, а также может использоваться локально на ноутбуках, настольных компьютерах и собственной облачной инфраструктуре. Это компактная модель семейства Gemma 3 с размером 270M параметров и поддержкой текстовых и, согласно общей карточке Gemma 3, визуальных входных данных при генерации текста. Для вариантов 270M заявлено контекстное окно до 32K токенов на запрос, включая вход и доступный объём вывода. Семейство поддерживает более 140 языков, однако конкретные языки и возможности именно этой версии отдельно не уточнены. Данные обучения имеют отсечку знаний августом 2024 года. К сильным сторонам относятся небольшой размер, возможность локального развёртывания и открытые веса; компактность может быть полезна при ограниченных ресурсах. Ограничения связаны с меньшей ёмкостью модели по сравнению с крупными вариантами Gemma 3, а также с тем, что README не содержит отдельных оценок качества для данной GGUF-квантизации и не уточняет её параметры квантизации. Использование регулируется лицензией Gemma и соответствующими Terms of Use.

unsloth/gemma-3-270m-it-unsloth-bnb-4bit — квантованная 4-битная версия instruction-tuned модели google/gemma-3-270m-it, подготовленная проектом Unsloth. Исходная модель разработана Google DeepMind как часть семейства Gemma — открытых моделей, созданных на основе исследований и технологий Gemini. Модель предназначена для генерации текста по инструкциям, ответов на вопросы, суммаризации документов, рассуждений и работы с программным кодом. Для версии с размером 270M заявлен контекст до 32K токенов на запрос. Обучение проводилось на данных более чем из 140 языков, включавших веб-тексты, код, математические материалы и изображения; дата отсечения знаний — август 2024 года. В данном репозитории модель представлена как text-generation-модель для Transformers, а 4-битное представление снижает требования к памяти и упрощает локальный запуск. К сильным сторонам относятся небольшой размер, экономичность и пригодность для развёртывания на устройствах с ограниченными ресурсами. Ограничениями являются существенно меньшая ёмкость по сравнению с крупными вариантами Gemma, возможные потери качества из-за квантования и отсутствие в README отдельных результатов оценки именно этой квантованной версии. Модель распространяется по лицензии Gemma; перед использованием необходимо учитывать соответствующие условия Google.

mlx-community/gemma-3-27b-it-qat-bf16 — преобразованная в формат MLX модель сообщества mlx-community на основе мультимодальной Gemma 3 27B IT от Google. Она предназначена для диалогов, генерации текста и ответов на вопросы по изображениям. Архитектура — плотная Gemma 3 для условной генерации; модель принимает текст и изображения и выдаёт текст. README указывает, что преобразование выполнено с помощью mlx-vlm версии 0.1.23 из google/gemma-3-27b-it-qat-q4_0-unquantized; метаданные связывают модель с google/gemma-3-27b-it. Лицензия — Gemma.

DavidAU/Gemma3-27B-it-vl-Polaris-HI16-Heretic-Uncensored-INSTRUCT — мультимодальная инструктивная модель на архитектуре Gemma 3, дообученная автором DavidAU с помощью Unsloth на наборе Polaris Alpha для улучшения общих способностей и генерации текста. Она принимает текст и изображения и предназначена для диалогов, анализа изображений, творческого письма, продолжения сцен и историй, ролевых игр и других инструктивных задач. В карточке заявлены контекст до 128k токенов и сохранённая обработка изображений; модель распространяется в формате Safetensors и имеет теги языков en, fr, de, es, it, pt, ru, zh и ja. Автор описывает модель как uncensored и приводит результаты бенчмарков ARC, BoolQ, HellaSwag, OpenBookQA, PIQA и WinoGrande, но эти заявления представлены без подробностей методики проверки. Модель создана на основе coder3101/gemma-3-27b-it-heretic и дообучена на TeichAI/polaris-alpha-1000x. Условия лицензии в предоставленных сведениях не приведены.

Модель callgg/gemma-3-4b-it-bf16 основана на Gemma 3 4B IT от Google и предназначена для диалогов, генерации текста и ответов на вопросы по изображениям. Она принимает текст и изображения и выдаёт текст; в метаданных указана архитектура Gemma 3 для условной генерации с плотной сетью и поддержка чата и зрения. Репозиторий содержит веса в формате safetensors; README также сообщает о возможности конвертации в GGUF. Модель подходит для мультимодальных ассистентов, которым нужно описывать изображения или отвечать на вопросы о них, а также для обычного текстового общения. Используется лицензия Gemma. Сведения о размере контекста и поддерживаемых языках в предоставленных данных отсутствуют.

gemma-3-4B-T1-it — текстовая инструкционная модель Twinkle AI, разработанная Liang Hsun Huang, Min Yi Chen, Wen Bin Lin и Dave Sung на базе google/gemma-3-4b-pt. Это плотная модель семейства Gemma 3 с 4 млрд параметров; карточка указывает контекст до 131 072 токенов. Модель дообучена для традиционного китайского языка и тайваньского культурного контекста, также поддерживает английский. Это текстовая версия без обработки изображений. Модель предназначена для диалогов и генерации ответов, учитывающих тайваньскую лексику и общественно-культурные реалии. Её можно применять для базового толкования законов Тайваня, подготовки учебных материалов, повседневных запросов, а также для вызова функций и построения агентных сценариев с внешними инструментами. Разработчики сообщают об обучении на наборах данных по рассуждениям, инструкциям, договорам и длинным документам и приводят результаты собственных оценок, в том числе BFCL. Модель распространяется по лицензии Gemma, доступ к репозиторию Hugging Face ограничен условиями Google. Ответы по праву следует использовать только как вспомогательные: модель не заменяет профессиональную юридическую консультацию. Вызов инструментов требует заданных приложением описаний инструментов и логики управления; опубликованные показатели получены в оценках разработчиков и не гарантируют качество в конкретной задаче.

Goader/gemma-3-4b-uk-matt — плотная модель семейства Gemma 3 на 4 млрд параметров, созданная Goader на основе предварительно обученной google/gemma-3-4b-pt. Это базовая, не настроенная на следование инструкциям модель; в ней сохранены исходные веса, кроме входных эмбеддингов, перенесённых на украинско-ориентированный токенизатор MATT. Токенизатор сохраняет исходный словарь Gemma и добавляет украинские токены, благодаря чему украинский текст занимает примерно на треть меньше токенов. Модель предназначена для генерации текста, в том числе на украинском и английском, а также для задач понимания и перевода, проверенных в карточке. На приведённых тестах украинского языка она сохраняет 94–98% результатов исходной модели и показывает сопоставимые результаты перевода с английского на украинский. Веса сохранены в формате bfloat16; карточка указывает библиотеку Transformers и лицензию Gemma. Это базовая модель, поэтому для диалогового использования и следования инструкциям может потребоваться дополнительная настройка.

ark4004/gemma3.8-fn-jh — модель, опубликованная пользователем ark4004 на Hugging Face для генерации текста. В метаданных указаны библиотека Transformers, conversational-режим и теги text-generation и image-text-to-text, поэтому модель может применяться для диалогового взаимодействия и задач генерации текста с учётом визуального ввода, если это поддерживается самим checkpoint и конфигурацией.

Gemma 3n E4B It LM 4bit — версия модели Google Gemma 3n E4B-it, конвертированная сообществом mlx-community в формат MLX с использованием mlx-lm 0.25.2. Модель предназначена для запуска и генерации текста на устройствах и в окружениях, совместимых с MLX, через библиотеку mlx-lm. Модель ориентирована на диалоговую генерацию текста и, судя по заявленным тегам исходной модели, поддерживает сценарии работы с текстом, аудио и видео, включая автоматическое распознавание речи, автоматический перевод речи и преобразование аудио или видео в текст. Обозначение E4B указывает на класс модели примерно в 4 миллиарда параметров, а суффикс 4bit — на 4-битное квантование, уменьшающее требования к памяти. Точные сведения о языках и размере контекста в README не указаны. К сильным сторонам относятся адаптация к MLX, компактное 4-битное представление и поддержка мультимодальных сценариев, заявленная для базовой модели. Ограничения включают возможное снижение точности из-за квантования и отсутствие в README подробных данных о производительности, поддерживаемых языках и фактических требованиях к оборудованию. Для использования требуется принять лицензию Google Gemma на Hugging Face; конкретные условия лицензии gemma следует учитывать отдельно.

Gemma-4-12B-it-abliterated-uncensored — дообученная версия Gemma 4 12B Unified от автора OpenYourMind, созданная на основе google/gemma-4-12B-it. Веса BF16 содержат около 11,95 млрд параметров; архитектура — плотный decoder-only трансформер из 48 слоёв с единой мультимодальной обработкой без отдельных энкодеров для изображений и аудио. Модель предназначена для диалогов и генерации текста, а также для обработки изображений и аудио в мультимодальных запросах; в README также описана поддержка видеовхода. Вариант прошёл абляцию отказов, направленную на снижение стандартных отказов, при этом автор заявляет о сохранении рассуждений и мультимодальных возможностей исходной модели. Для запуска используются класс Gemma 4 в библиотеке Transformers и мультимодальный процессор; полные веса занимают около 24 ГБ. Модель распространяется по лицензии Gemma, унаследованной от базовой модели; перед использованием необходимо соблюдать её условия. Снижение отказов может влиять на безопасное поведение, а качество и надёжность ответов для этой модификации в карточке не подтверждены независимой оценкой.

AEON-7/Gemma-4-12B-it-AEON-Abliterated-MLX-8bit — это 8-битная MLX-квантизованная версия модели AEON-7/Gemma-4-12B-it-AEON-Abliterated-K4-BF16, созданная сообществом AEON-7 на базе Gemma 4. Модель предназначена для локального запуска на компьютерах с Apple Silicon через mlx-vlm и поддерживает диалоговые, агентские, программные и рассуждающие сценарии, а также вызов функций и инструментов. Модель содержит около 12 млрд параметров и использует формат mxfp8 с группами по 32 элемента для линейных слоёв языкового декодера; связанная выходная голова и проекторы для vision и audio сохранены в bf16. Поддерживаются текст, изображения и аудио, включая описание изображений и транскрибацию речи. В README явно указан английский язык. Для сервера MLX заявлен размер KV-кэша до 32768 токенов, однако точное максимальное контекстное окно модели не указано. Ключевое преимущество — высокая близость к исходной BF16-версии при существенно меньших требованиях к памяти: заявлены near-lossless качество, 0,924 совпадения top-1 токенов и медианный KL около 0,002 ната на собственной выборке. Модель рассчитана на Apple Silicon, оптимально с 24 ГБ и более unified memory; размер на диске около 13,4 ГБ, рекомендуемый объём памяти — от 32 ГБ, поэтому для Mac с 16 ГБ она может быть непрактична. Это abliterated-версия с удалёнными или ослабленными механизмами отказа, что может расширять диапазон ответов, но также снижать предсказуемость защитного поведения. Указана лицензия Gemma.

DealignAI выпустила Gemma-4-12B-it-MXFP4-CRACK — дообученную и квантизированную 4-битную версию Gemma 4 12B-it от Google. Модель рассчитана на запуск через MLX на компьютерах Apple Silicon; файлы занимают около 7,5 ГБ. Архитектура объединяет текст, изображения, аудио и видео, использует 48 слоёв и гибридное внимание со скользящим окном и полным вниманием. Заявленная длина контекста — 128 тысяч токенов. Модель предназначена для диалогов, мультимодального анализа и генерации текста. По описанию автора, CRACK удаляет поведение отказа на уровне весов, сохраняя рассуждения, знания и мультимодальные возможности. В README приведены результаты HarmBench и MMLU, полученные на конкретной конфигурации; они не гарантируют такое же качество на других запросах и средах. Для запуска автор рекомендует Osaurus, поддерживающий архитектуру Gemma 4 Unified. Лицензия — Gemma. Модель не рассчитана на естественный язык отказа при потенциально вредоносных запросах, поэтому ответы требуют самостоятельной проверки.