I.5Создание и редактирование текста

bartowski/gemma-2-27b-chatml-GGUF — это набор GGUF-квантизаций 27-миллиардной текстовой модели IntervitensInc/gemma-2-27b-chatml. Квантизации подготовлены bartowski с использованием llama.cpp версии b3615 и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев, а запускать её рекомендуется в совместимых приложениях, включая LM Studio. Доступны варианты от исходных весов F16 размером 54,46 ГБ до более компактных Q3-, Q4-, Q5-, Q6- и Q8-квантизаций размером примерно от 11,55 до 28,94 ГБ. Более высокие уровни квантования обычно обеспечивают лучшее качество, тогда как компактные варианты снижают требования к оперативной памяти; отдельные Q4_0_8_8, Q4_0_4_8 и Q4_0_4_4 оптимизированы для ARM и CPU-инференса. Точные сведения об архитектуре, поддерживаемых языках, модальностях и размере контекста в README не указаны. Сильная сторона набора — широкий выбор квантизаций для разных ограничений по памяти и производительности, включая варианты высокого качества и версии для малоресурсного запуска. Ограничения включают неизвестный формат промптов, отсутствие в README подробностей о возможностях базовой модели и потенциальное снижение качества у низкоразрядных вариантов. Для доступа требуется принять лицензию Google на использование Gemma на Hugging Face; конкретные условия лицензии следует проверить перед применением.

gemma-2-27b-it-IMat-GGUF — это GGUF-квантизированная версия модели Gemma 2 27B Instruction Tuned, разработанной Google. Версия подготовлена пользователем legraphista с помощью llama.cpp и предназначена для локального запуска задач генерации текста и диалогового взаимодействия в совместимых средах, включая llama.cpp. Модель основана на исходной версии google/gemma-2-27b-it с исходным форматом BF16. Доступны варианты от BF16 и FP16 до квантизаций Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и ряда IQ-вариантов размером примерно от 10,45 до 54,46 ГБ. Для ряда вариантов применена IMatrix-квантизация, призванная улучшить сохранение качества при уменьшении размера. README не содержит достоверных сведений о поддерживаемых языках, длине контекста, модальностях помимо текста или конкретных результатах тестирования. Основное преимущество сборки — широкий выбор уровней квантизации для подбора компромисса между качеством, требованиями к памяти и скоростью локального вывода. Ограничения связаны с большими требованиями к ресурсам даже у компактных вариантов, а качество низкобитных версий может отличаться от исходной модели. Для доступа и использования действует лицензия Gemma от Google; на Hugging Face требуется принять условия лицензии.

duyntnet/gemma-2-27b-it-imatrix-GGUF — набор квантизированных версий instruction-tuned языковой модели Gemma 2 27B IT, опубликованный пользователем duyntnet на базе модели Google gemma-2-27b-it. Формат GGUF предназначен для запуска через llama.cpp и совместимые клиенты, включая KoboldCPP, text-generation-webui и Ollama. Модель относится к задачам генерации текста и поддерживает диалоговое взаимодействие с использованием специального chat template. Известно, что исходные веса модели имеют размер 27 миллиардов параметров и представлены в bfloat16; в данном репозитории опубликованы варианты с квантизацией imatrix. Модель ориентирована прежде всего на англоязычную генерацию, поскольку в карточке указан язык en. Она может применяться для ответов на инструкции, написания текстов, программного кода и других задач text generation. Точный набор квантизаций, размер контекста и архитектурные характеристики в README не указаны. Для запуска подходят llama.cpp и перечисленные совместимые интерфейсы. В README отмечены возможные проблемы Gemma 2 с SDPA и Flash Attention 2, поэтому рекомендуется использовать eager attention; это ограничение относится к исходной модели и способам запуска. Лицензия указана как other, без дополнительных условий в предоставленных данных.

Это квантизированная GGUF-версия текстовой генеративной модели gemma-2-27b-it-SimPO-37K, созданная пользователем bartowski на основе AALF/gemma-2-27b-it-SimPO-37K. Квантизация выполнена с помощью llama.cpp b3615 и метода imatrix; модель предназначена для запуска локально, в том числе через LM Studio. Модель относится к семейству Gemma 2 и имеет размер 27B параметров. Она работает с текстом и предназначена для генерации ответов в диалоговом формате с использованием специального шаблона prompt format Gemma. В README не указаны поддерживаемые языки, размер контекстного окна и точные сведения об архитектуре или исходном обучении, поэтому эти характеристики нельзя надежно определить. Доступно множество вариантов квантизации от F16 до Q2_K и IQ2_M, что позволяет выбирать между качеством, размером файла и требованиями к памяти. Варианты Q6_K и Q6_K_L описаны как близкие к исходному качеству, а Q4_K_M — как компромиссный вариант. Более сильная квантизация экономит память, но снижает качество; самые компактные варианты характеризуются как низкокачественные. Модель распространяется по лицензии Gemma.

unsloth/gemma-2-2b — версия Gemma 2 от Unsloth, подготовленная для дообучения и текстовой генерации. Модель имеет плотную архитектуру Gemma2ForCausalLM и содержит 2,7 млрд параметров; репозиторий использует формат safetensors. В README также указано, что модель квантизирована до 4 бит с помощью bitsandbytes. Модель предназначена для генерации текста, включая диалоговые сценарии и продолжение произвольного текста, а также для дальнейшего дообучения. Она принимает текст и выдаёт текст, поддерживает английский язык и имеет контекстное окно 8192 токена. README описывает ноутбуки Unsloth для дообучения Gemma 2, в том числе на Google Colab. Unsloth позиционирует свои инструменты как способ ускорить дообучение и снизить расход памяти; эти показатели относятся к процессу обучения и не гарантируют качество конкретного результата генерации. Модель распространяется по лицензии Gemma; применяйте её с учётом условий этой лицензии.

Gemma-2-2b-All-in-One — объединённая разговорная языковая модель семейства Gemma 2, созданная bunnycore с помощью mergekit и метода Model Stock. В основе объединения лежит IlyaGusev/gemma-2-2b-it-abliterated; также включены модели и адаптеры для смешанных задач, кода и диалогов. Модель содержит 2,7 млрд параметров, использует плотную архитектуру Gemma2ForCausalLM и работает с контекстом до 8192 токенов. Модель предназначена для генерации текста в диалоге, ответов на вопросы и помощи с кодом. В метаданных указана поддержка чата и текстовой генерации; дополнительных входных модальностей не заявлено. Карточка не перечисляет языки, поэтому нельзя определить приоритетный язык. Веса опубликованы в формате safetensors и имеют тип bfloat16. Результат слияния объединяет несколько моделей с разными настройками и возможностями, поэтому качество может различаться в зависимости от задачи. Лицензия в предоставленных данных не указана.

Gemma-2-2B-it-IMat-GGUF — это квантизированная GGUF-версия языковой модели Gemma 2 2B IT, разработанной Google и преобразованной с помощью llama.cpp пользователем legraphista. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через совместимые инструменты, например llama.cpp. README не указывает поддерживаемые языки и размер контекстного окна. В репозитории доступны варианты от BF16 и FP16 до Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и IQ-квантизаций размером примерно от 1,18 до 5,24 ГБ. Для ряда вариантов применена IMatrix-квантизация, предназначенная для улучшения сохранения качества при уменьшении размера модели; варианты BF16, FP16, Q8_0 и Q6_K используют статическую квантизацию. Снижение точности уменьшает требования к памяти, но может ограничивать качество по сравнению с исходной моделью BF16. Исходная модель имеет тип данных BF16. Модель относится к текстовым, а не мультимодальным системам. Для использования требуется принять лицензию Google Gemma на Hugging Face; конкретные условия лицензии в README не раскрыты, поэтому перед применением необходимо ознакомиться с официальной лицензией.

bunnycore/Gemma-2-2B-TitanFusion-v2 — разговорная языковая модель, созданная слиянием предварительно обученных моделей Gemma 2 с помощью mergekit и метода Model Stock. В качестве базовой использована bunnycore/Gemma-2-2b-TitanFusion; в слияние также вошли варианты All-in-One, Gemma2-2B-mixed и Mixer-Lora. Модель предназначена для генерации текста в диалогах и ответов на инструкции. Каталог также указывает помощь с рассуждениями и кодом как возможности базовых моделей. Архитектура — плотная Gemma 2 для авторегрессионной генерации, размер — 2,7 млрд параметров, контекст — до 8192 токенов. Модель распространяется в формате Safetensors для Transformers. Сведения о лицензии в доступных данных отсутствуют.

unsloth/gemma-2-9b-bnb-4bit — это квантизированная 4-битная версия языковой модели Gemma 2 с 9 млрд параметров, разработанная на базе google/gemma-2-9b и подготовленная Unsloth с использованием bitsandbytes. Модель предназначена для задач генерации и дополнения текста, диалоговых приложений, а также дообучения на собственных наборах данных с помощью Transformers и инструментов Unsloth. Из доступных данных известно, что модель работает с текстом и поддерживает английский язык. Она распространяется в формате 4-bit и ориентирована на снижение требований к памяти при запуске и дообучении; для Gemma 2 (9B) заявлены экономия памяти до 58% и ускорение до 2,4 раза в соответствующем сценарии Unsloth. README не содержит сведений о длине контекста, точной архитектуре, качестве на конкретных бенчмарках или поддержке других языков и модальностей. К сильным сторонам относятся уменьшенный объём памяти и совместимость с экосистемой Transformers, а также возможность последующего экспорта в GGUF и vLLM. Ограничения связаны с 4-битной квантизацией, которая может влиять на точность и не обязательно подходит для всех задач. Модель распространяется по лицензии Gemma; условия её использования следует уточнять в документации Google.

QuantFactory/gemma-2-9b-it-DPO-GGUF — квантизированная версия модели princeton-nlp/gemma-2-9b-it-DPO, созданная с использованием llama.cpp. Исходная модель разработана Yu Meng, Mengzhou Xia и Danqi Chen на базе google/gemma-2-9b-it и дообучена на наборе предпочтений princeton-nlp/gemma2-ultrafeedback-armorm с целевой функцией DPO. Это каузальная языковая модель для генерации текста и диалоговых сценариев, включая ответы на пользовательские запросы и задачи, где важны качество и соответствие человеческим предпочтениям. Архитектура, размер и контекст у квантизированной версии в README не указаны отдельно; известно, что она основана на Gemma 2 9B Instruct. Модель является текстовой и поддерживает генерацию текста; перечень языков не приведён. Обучение на предпочтениях улучшило показатели исходной модели в ряде оценок, включая AE2 и AH, при сопоставимых результатах на GSM и MMLU, однако отдельные метрики, такие как MMLU, не выросли. Квантизация может снизить требования к памяти и упростить локальный запуск, но её влияние на качество и характеристики не раскрыто. Лицензия указана как gemma. Для обучения использовались 8 GPU H100; параметры запуска и совместимость зависят от конкретного GGUF-файла и среды llama.cpp.

qwp4w3hyb/gemma-2-9b-it-iMat-GGUF — набор GGUF-квантизованных вариантов модели Google Gemma 2 9B IT, подготовленных на основе google/gemma-2-9b-it. Модель предназначена для генерации текста и локального запуска через llama.cpp; доступно множество уровней квантизации от Q8_0 до IQ1_S, включая экспериментальные варианты с суффиксом _L. Для квантизации использовалась importance matrix (imatrix), призванная снизить потери качества по сравнению с обычной квантизацией. Модель имеет размер около 9 миллиардов параметров, поддерживает текстовый ввод и вывод и ориентирована на английский язык. В сборке учтены исправления llama.cpp, связанные с final logit soft capping, sliding window и токенизатором; конкретный размер контекстного окна в данных не указан. Разные уровни квантизации позволяют выбирать компромисс между качеством, потреблением памяти и скоростью, однако более компактные варианты могут заметнее терять качество. Лицензия указана как gemma; дополнительные условия использования в README не приведены.

Gemma-2-9B-It-SPPO-Iter3-GGUF — квантизированная версия языковой модели Gemma-2-9B-It-SPPO-Iter3, опубликованная UCLA-AGI и подготовленная в формате GGUF пользователем bartowski. Модель предназначена для генерации текста и запуска локально через llama.cpp, включая диалоговые и другие сценарии применения текстовых LLM. Обучение или дообучение связано с датасетом openbmb/UltraFeedback. Модель содержит около 9 миллиардов параметров и поддерживает английский язык. Доступны варианты от F32 до низкобитных квантований Q2 и IQ2, размером примерно от 3,43 до 36,97 ГБ. Квантизация выполнена с использованием imatrix и llama.cpp b3389; варианты Q6 и Q5 позиционируются как обеспечивающие очень высокое качество, а Q4 — как компромисс между качеством и требованиями к памяти. README не указывает размер контекста и модальности, поэтому эти характеристики неизвестны. Для работы требуется соблюдать формат prompt, основанный на специальной разметке ролей Gemma. Модель не поддерживает system prompt. Качество и требования к памяти зависят от выбранного варианта квантования: более компактные файлы экономят ресурсы, но могут заметно снижать качество. Лицензия указана как gemma; конкретные условия её применения следует уточнять в документации Gemma.

ehristoforu создал эту модель как слияние через passthrough в mergekit на основе ehristoforu/Gemma2-9b-it-train6. Это плотная языковая модель семейства Gemma 2 с архитектурой Gemma2ForCausalLM и примерно 7,3 млрд параметров. Она предназначена для генерации текста в диалоговом режиме и подходит для создания ответов и продолжения текста по запросу. Модель принимает текст и выдаёт текст. В метаданных указан контекст до 8192 токенов; веса опубликованы в формате safetensors. README описывает повторное включение последнего слоя базовой модели при сборке, но не приводит сравнений качества или подробностей обучения. Лицензия в предоставленных данных не указана.

Gemma 2 Aeria Infinity 9B — диалоговая модель для генерации текста, созданная объединением моделей ifable/gemma-2-Ifable-9B и BAAI/Gemma2-9B-IT-Simpo-Infinity-Preference с помощью Mergekit. Она основана на плотной архитектуре Gemma 2 с 9 млрд параметров и рассчитана на текстовый ввод и генерацию ответов в диалоге; контекст составляет до 8192 токенов. В конфигурации слияния указан метод dare_ties, маска int8 и формат вычислений bfloat16. Модель подходит для чат-ботов, ответов на инструкции и генерации текста на английском языке. В метаданных указана библиотека Transformers и формат весов safetensors. Лицензия в предоставленных данных не указана.

Gemma 2 Ataraxy v2 9B — диалоговая языковая модель, созданная lemon07r на основе слияния моделей ifable/gemma-2-Ifable-9B и jsgreenawalt/gemma-2-9B-it-advanced-v2.1. Веса объединены методом SLERP с помощью mergekit; модель использует архитектуру Gemma 2 и формат Gemma 2. Модель предназначена для диалоговой генерации текста, ответов на инструкции и творческого письма. Разработчик отмечает, что версия v2 немного лучше пишет, чем первая Ataraxy 9B, но может чаще выдавать лишний или неудачный текст и имеет другие проблемы; это скорее альтернативная версия, чем однозначное улучшение. Модель содержит 9 млрд параметров, принимает текст и выдаёт текст, работает с контекстом до 8192 токенов. Данные README не указывают лицензию или поддерживаемые языки.

SzilviaB/Gemma2_Magnum_abliterated_27b — разговорная языковая модель на архитектуре Gemma 2, созданная слиянием SLERP двух моделей: byroneverson/gemma-2-27b-it-abliterated и anthracite-org/magnum-v4-27b. Модель содержит 27,6 млрд параметров, использует формат safetensors и поддерживает контекст до 8192 токенов. Модель предназначена для генерации текста в диалогах, ответов на запросы и создания прозы. В метаданных указана возможность чата; модель доступна через библиотеку Transformers. README описывает слияние весов в формате bfloat16 с помощью mergekit. В карточке не указаны лицензия и конкретный набор поддерживаемых языков. Поскольку в состав входит abliterated-модель, поведение в отношении отказов и ограничений безопасности может отличаться от исходных моделей.

Gemma2-Snowflakes-9B — плотная языковая модель на архитектуре Gemma 2 с 9 млрд параметров, созданная автором репозитория с помощью слияния моделей методом TIES через mergekit. Базой слияния послужила mergekit-community/Tigers-Abliterated-9B; также использованы модели EZO-Common, EZO-Humanities, G2-9B-Aletheia, gemma2-9B-sunfall, SahabatAI-Lion и Gemma-2-Ataraxy. Модель предназначена для генерации текста и диалоговых ответов; заявленное контекстное окно — 8192 токена. В метаданных указаны английский и японский языки, а также возможность чата. Репозиторий использует формат safetensors и библиотеку Transformers. Сведений о лицензии в предоставленных данных нет.

pytorch/gemma-3-12b-it-AWQ-INT4 — это квантизированная версия instruction-tuned языковой модели google/gemma-3-12b-it, разработанная pytorch. Модель предназначена для диалогового взаимодействия, генерации и обработки текста, включая ответы на вопросы, краткие объяснения и другие сценарии использования через chat completions или библиотеку Transformers. В README явно указан английский язык; сведения о поддерживаемых модальностях и размере контекстного окна отсутствуют. Модель содержит 12 миллиардов параметров и использует квантизацию AWQ-INT4 с группой размера 128 для весов линейных слоёв. Квантизация снижает требования к памяти по сравнению с исходной версией bfloat16 и рассчитана на запуск с PyTorch, torchao, Transformers и vLLM. В примере генерации поддерживается режим рассуждений, который можно включать или отключать через chat template. Для работы с vLLM требуется nightly-версия vLLM и torchao; из-за известных проблем совместимости рекомендуется отключать compile cache. По данным README, на ограниченной калибровке из 30 примеров задачи mmlu_philosophy модель показала точность 76,85% против 75,56% у gemma-3-12b-it-INT4 и 79,10% у базовой версии bfloat16. Эти результаты нельзя считать полноценной оценкой общих возможностей модели. В рецепте квантизации указано, что AWQ на данный момент работает только на H100 INT4, поэтому аппаратная совместимость может быть ограничена. Модель распространяется по лицензии Apache-2.0.

gemma-3-12b-it-heretic — модифицированная версия Google Gemma 3 12B Instruct, опубликованная пользователем saidutta69 и созданная с помощью Heretic 1.4.0. Модель предназначена для локальных агентов, диалоговых приложений, генерации текста, ответов на вопросы по изображениям и исследований механизмов выравнивания и отказов моделей. Она сохраняет мультимодальность базовой модели: работает с текстом и изображениями; заявлен английский язык. Модель рассчитана на запуск через Transformers, llama.cpp, Ollama, LM Studio, Jan, vLLM и SGLang. Это модель примерно на 12,2 млрд параметров с архитектурой Gemma 3 и поддержкой инструкций. Вариант heretic получен не дообучением, а направленным редактированием весов attention output-проекций и MLP down-проекций методом abliteration. Цель изменения — подавить поведение, связанное с отказами, сохранив знания и следование инструкциям базовой модели. Для запуска рекомендуются GPU с 16–24 ГБ памяти; доступны полновесные BF16-файлы и GGUF-квантизации Q4_K_M и Q5_K_M. Точный размер контекстного окна в README не указан. По заявленным тестам, модель отказала в 40 из 100 проверочных adversarial-запросов против 99 отказов у базовой Gemma 3 12B Instruct; KL-дивергенция относительно базы составила 0,1006. Сильной стороной является сочетание мультимодальных возможностей Gemma 3 с существенно сниженным количеством отказов. Ограничения включают неполное устранение отказов, более широкое изменение поведения по сравнению с некоторыми другими abliteration-моделями, унаследованные от базовой модели фактические ограничения и смещения, а также отсутствие дополнительной фильтрации безопасности. README предупреждает о рисках неограниченного публичного развертывания. Лицензия — Gemma, унаследованная от базовой модели; условия приведены в связанной лицензии Google.

Это квантизированная instruction-tuned модель Gemma 3 12B, разработанная Google и представленная сообществом abhishekchohan в формате для размещения на Hugging Face. Модель предназначена для диалоговых сценариев и задач генерации текста, а также заявлена как image-text-to-text модель, то есть может обрабатывать текстовые и визуальные данные. В репозитории предусмотрены chat template и средства разбора tool calls для использования с vLLM. Модель использует архитектуру Gemma 3 с 12 миллиардами параметров и квантизацию W4A16, выполненную с помощью LLM Compressor: веса представлены в 4-битной точности, а активации — в 16-битной. Это существенно снижает требования к памяти и делает модель более подходящей для развёртывания на потребительском оборудовании при сохранении хорошего качества работы, однако квантизация может влиять на точность по сравнению с полной версией. Языки и размер контекстного окна в README не указаны. Для запуска рекомендуется vLLM с соответствующими chat template, parser для Gemma и поддержкой автоматического выбора инструментов. Модель распространяется на условиях Gemma license; перед использованием необходимо ознакомиться с условиями и принять лицензию Google на Hugging Face.

DavidAU разработал эту модель как дообученную версию DreamFast/gemma-3-12b-it-heretic на наборах данных GLM 4.7 Flash и Polaris. Это плотная модель семейства Gemma 3 с 12 млрд параметров для диалога, генерации текста и работы с изображениями. По карточке, контекстное окно составляет 128 тысяч токенов; модель принимает текст и изображения, а выдаёт текст. Переключаемый режим позволяет получать обычные инструкции или более подробные рассуждения, которые можно активировать фразой «think deeply:» или системным промптом. Модель рассчитана на творческое письмо, продолжение сюжетов и разговорные сценарии; в карточке также приведены результаты ряда тестов на общие знания и рассуждение. Автор описывает её как uncensored: она реже отказывает и может создавать взрослый контент, но для явной стилистики может потребоваться дополнительное направление в запросе. Карточка сообщает о лицензии Apache-2.0. Заявления о качестве и бенчмарках приведены автором и не являются независимой оценкой.

Модель alnnahwi/gemma-3-1b-arabic-gec-v1 разработана Bahjat Al Mostafa (Alnnahwi) и дообучена на базе Gemma 3 от Google для исправления грамматических ошибок в арабском тексте. Она принимает предложения на арабском языке и генерирует исправленный вариант. Модель содержит 1 млрд параметров, использует плотную архитектуру Gemma 3 для авторегрессионной генерации текста, работает через библиотеку Transformers и поддерживает контекст до 32 768 токенов. Модель предназначена прежде всего для современного литературного арабского языка (MSA): она исправляет согласование рода и числительных, падежные формы, орфографию и пунктуацию. Её можно применять в учебных инструментах, корректуре текстов и предварительной обработке данных для последующих NLP-задач. Карточка сообщает о дообучении на пользовательском наборе данных арабской коррекции ошибок в течение семи эпох. Качество на диалектном арабском может быть ниже, а контекстно-зависимые исправления — несовершенными. README отмечает возможное снижение качества на очень длинных текстах свыше 512 токенов. Лицензия — Gemma; при использовании следует учитывать условия лицензии Gemma от Google.

unsloth/gemma-3-1b-it-GGUF — GGUF-версия инструкционно дообученной модели Gemma 3 1B, разработанной Google DeepMind и опубликованной в формате GGUF командой Unsloth. Модель предназначена для генерации текста, ответов на вопросы, суммаризации, рассуждений и понимания изображений, поэтому подходит для локального развёртывания на ноутбуках, настольных компьютерах и собственной облачной инфраструктуре с ограниченными ресурсами. Это мультимодальная модель: она принимает текст и изображения, а генерирует текст. Для версии 1B заявлено контекстное окно до 32K токенов; максимальный объём генерируемого ответа составляет 8192 токена. Семейство Gemma 3 поддерживает более 140 языков, однако в карточке этой версии явно указан английский язык. Меньший размер упрощает локальный запуск и снижает требования к ресурсам, но по возможностям и качеству модель может уступать более крупным вариантам Gemma 3. Изображения обрабатываются после нормализации до 896×896 пикселей и кодируются в 256 токенов каждое. Модель распространяется по лицензии Gemma; применимые условия использования определяются официальными Terms of Use Google. README не содержит подробностей о конкретной квантовке GGUF, требованиях к памяти или измеренных показателях качества.

Карточка модели unsloth/gemma-3-1b-it-qat на Hugging Face совпадает с карточкой google/gemma-3-4b-it-qat-q4_0-unquantized, поэтому описание составлено по ней. Google Gemma 3 4B IT QAT Q4_0 Unquantized — мультимодальная модель для диалогов с текстом и изображениями, основанная на Gemma 3 4B IT. Несмотря на обозначение QAT Q4_0 в названии, метаданные указывают формат файлов safetensors; отдельная квантизация в них не подтверждена. Модель принимает текст и изображения и генерирует текст, поддерживает чат и предназначена для ответов на вопросы по изображениям, суммаризации и другим задачам генерации и понимания текста. В README семейство Gemma 3 описано как компактное, подходящее для локального запуска на ноутбуках и настольных компьютерах. Для семейства заявлены контекст до 128 тысяч токенов и поддержка более 140 языков; README не уточняет, подтверждены ли эти характеристики именно для данной сборки. Лицензия — Gemma. Возможны фактические ошибки, предвзятые ответы и трудности с неоднозначными формулировками и сложными задачами; для развёртывания следует учитывать эти ограничения и проверять результаты.

Это дообученная Петро Феррацци модель Google Gemma 3 1B IT, созданная на основе google/gemma-3-1b-it. Она предназначена для диалогов и генерации текста; метаданные отмечают поддержку чата. Модель использует плотную архитектуру Gemma 3 с причинно-языковой головой, содержит 1 млрд параметров и поддерживает контекст до 32 768 токенов. Данные дообучения и специализированные сценарии применения не описаны. Модель опубликована в формате Safetensors и распространяется по лицензии Gemma.

unsloth/gemma-3-270m-it — компактная текстовая инструкционная модель из семейства Gemma 3, опубликованная Unsloth на основе google/gemma-3-270m-it. Это плотная авторегрессионная модель с 257 млн параметров, предназначенная для диалогов и генерации текста: она может отвечать на вопросы, создавать черновики и кратко пересказывать материалы. В карточке базового семейства описаны также мультимодальные возможности Gemma 3, однако этот репозиторий обозначен как текстовая модель и поддерживает задачу text-generation. Модель работает с библиотекой Transformers, использует формат safetensors и имеет контекст до 32 768 токенов. В README указана лицензия Gemma; применение регулируется её условиями. Возможности небольшого чекпойнта могут быть ограничены сложными задачами и нюансами языка, а ответы могут содержать фактические ошибки или отражать смещения обучающих данных.

Srishtik дообучил текстовую модель Gemma 3 на 257 млн параметров на основе unsloth/gemma-3-270m-it. Она предназначена для диалогов и генерации текста; метаданные также указывают на поддержку чата. Модель использует плотную архитектуру Gemma3ForCausalLM, принимает текст и выдаёт текст, поддерживает английский язык и контекст до 32 768 токенов. В репозитории указаны веса Safetensors и лицензия Apache 2.0. README сообщает, что обучение выполнялось с Unsloth.

Gemma-3-27B-Derestricted-i1-GGUF — квантизированная версия модели Nabbers1999/Gemma-3-27B-it-NP-Abliterated, подготовленная и опубликованная mradermacher. Модель предназначена для генерации текста и диалоговых сценариев; в README она также обозначена как vision-модель, поэтому может обрабатывать изображения при наличии совместимого mmproj-файла. Указан английский язык. Модель основана на Gemma 3 с 27 млрд параметров и поставляется в формате GGUF, включая варианты квантизации i1 и imatrix. Доступны уровни от IQ1_S до Q6_K размером примерно от 6,4 до 22,3 ГБ. Квантизации различаются компромиссом между размером, скоростью и качеством: низкие уровни требуют меньше памяти, но могут заметно снижать качество, тогда как i1-Q4_K_S отмечен как оптимальный по соотношению размера, скорости и качества, а i1-Q4_K_M — как быстрый и рекомендуемый вариант. Сильными сторонами являются большой размер базовой модели, поддержка текстовых и визуальных сценариев и широкий выбор квантизаций для локального запуска. Ограничения включают возможное снижение качества при агрессивной квантизации, необходимость совместимого программного обеспечения для GGUF и mmproj-файла для обработки изображений. Лицензия указана как gemma; конкретные условия следует проверять в лицензии Gemma.

pytorch/gemma-3-27b-it-FP8 — модель, разработанная PyTorch и полученная квантованием google/gemma-3-27b-it. Это instruction-tuned модель для генерации текста в формате диалога, ответов на вопросы и общего языкового взаимодействия. README также указывает возможность мультимодальной оценки на задаче ChartQA, однако подробные сведения о поддерживаемых типах входных данных не приведены. Модель использует квантование FP8 с динамическими активациями и весами FP8; размер базовой модели составляет 27B параметров. Указан английский язык. Доступны режимы с рассуждением и без него, а для запуска предусмотрена интеграция с vLLM и Transformers. В приведённых проверках версия FP8 показала близкие к исходной модели результаты: 76,20 против 76,48 на MMLU и 51,32 против 51,80 на мультимодальном ChartQA. Для работы требуются актуальные версии vLLM, torchao или Transformers, а также GPU-окружение; README отмечает необходимость отключения compile cache в vLLM из-за проблем совместимости. Модель распространяется по лицензии Apache-2.0.

Jkatdare/gemma-3-4b-it-finetome — дообученная модель на базе Google Gemma 3 4B IT, созданная методом supervised fine-tuning на высококачественной выборке из 12 000 примеров датасета FineTome-100k. Для обучения применялась QLoRA, после чего адаптер был объединён с базовой моделью; репозиторий содержит веса Safetensors. Модель предназначена для диалогов и генерации ответов на текстовые запросы, а также поддерживает работу с изображениями через интерфейс Gemma 3. Модель использует плотную архитектуру Gemma 3 и доступна через Transformers. В метаданных указан английский язык. Лицензия — Gemma. Карточка не приводит оценок качества или подробных результатов тестирования; способность работать с изображениями унаследована от базовой модели и отдельно для этого дообучения не оценивается.