I.5Создание и редактирование текста

gemma-2-2b-dolly-sft — языковая модель, разработанная Адитьей Анилом Раутом на основе Gemma 2 от Google. Это плотный трансформер-декодер для генерации текста, дообученный методом supervised fine-tuning на датасете databricks/databricks-dolly-15k, чтобы лучше следовать инструкциям и вести диалог. Модель содержит 2,7 млрд параметров и поддерживает контекст до 8192 токенов. Модель предназначена для англоязычных задач общего назначения: ответов на открытые вопросы, суммаризации, творческого письма и диалогового общения. Она может выдавать неточные или вымышленные сведения и унаследовать смещения базовой модели и обучающих данных. Не следует полагаться на неё при принятии критически важных медицинских, юридических или финансовых решений без проверки человеком; при публичном развёртывании рекомендуется использовать фильтры безопасности. Лицензия — Apache 2.0, с условиями базовой модели.

Gemma 2 2B IT — компактная текстовая модель Google, дообученная для следования инструкциям и диалогового взаимодействия на базе google/gemma-2-2b. Это декодерная языковая модель семейства Gemma, работающая по схеме «текст на входе — текст на выходе»; она поддерживается библиотекой Transformers и распространяется в формате Safetensors с открытыми весами по лицензии Gemma. Модель предназначена для генерации текста, ответов на вопросы, суммаризации и диалоговых интерфейсов. Её небольшой размер позволяет запускать её на ноутбуке, настольном компьютере или собственной облачной инфраструктуре с ограниченными ресурсами. В README семейство описано как англоязычное. Ответы могут содержать фактические ошибки и отражать смещения обучающих данных; качество зависит от формулировки запроса и предоставленного контекста. Модель может испытывать трудности со сложными задачами, языковыми нюансами и здравым смыслом. Для приложений, где важны точность и безопасность, необходима проверка результатов и защитные меры.

Модель artificialguybr — дообученная версия Gemma 2 2B, созданная на наборе OpenHermes-2.5. Это плотная причинная языковая модель с 2,7 млрд параметров и контекстом до 8192 токенов, предназначенная для следования инструкциям и общих языковых задач. Она принимает текстовые запросы и генерирует текст; карточка указывает английский язык и формат safetensors. Модель подходит для генерации текста, ответов на вопросы и диалоговых сценариев с инструкциями. Она распространяется по лицензии Apache-2.0. Карточка предупреждает о возможных смещениях в обучающих данных и риске генерации вредного или предвзятого содержания.

martimfasantos/gemma-2-2b-Sum-SFT — дообученная модель Google Gemma 2, подготовленная для суммаризации на наборе martimfasantos/openai-summarize-tldr. Она предназначена для создания кратких изложений текста и может использоваться в сценариях, где нужно сжать длинный материал до более компактного пересказа. Это плотная авторегрессионная языковая модель архитектуры Gemma2ForCausalLM с 2,7 млрд параметров и контекстом до 8192 токенов; формат весов — safetensors. Базовая Gemma 2 ориентирована на английский язык, поэтому модель подходит прежде всего для англоязычных текстов. Указанная лицензия — Gemma; применяйте модель на условиях этой лицензии.

Gemma-2-9B-Chinese-Chat — языковая модель для диалоговой генерации текста, разработанная Shenzhi Wang, Yaowei Zheng, Guoyin Wang, Shiji Song и Gao Huang. Она создана на базе google/gemma-2-9b-it и дообучена для китайско- и англоязычных пользователей с использованием алгоритма ORPO и более чем 100 тысяч пар предпочтений. Обучение проводилось с помощью LLaMA-Factory. Модель предназначена для общения, ролевых сценариев, использования инструментов, решения математических задач, написания текстов и кода. По сравнению с исходной моделью заявлено уменьшение случаев, когда на китайские запросы модель отвечает по-английски, а также снижение смешения китайского и английского языков в ответах. Модель поддерживает китайский и английский языки, содержит около 9,24 млрд параметров и имеет контекстное окно до 8K токенов. Доступны версии BF16 и GGUF, включая варианты q4_k_m, q8_0 и f16. Сильными сторонами модели являются ориентация на китайско-английские диалоги, улучшенные ролевые ответы, работа с инструментами и математикой, а также наличие форматов для локального запуска через совместимые приложения. Ограничения включают контекст длиной 8K токенов и возможную неточность или непредсказуемость ответов в ролевых сценариях; разработчики отдельно предупреждают, что ответы о личности и происхождении модели могут быть случайными. Модель распространяется по Gemma License.

m8than/gemma-2-9b-it — разговорная языковая модель семейства Gemma 2, размещённая пользователем m8than. Репозиторий содержит модель на 9 млрд параметров в формате safetensors; в метаданных указана архитектура Gemma2ForCausalLM и библиотека Transformers. Модель принимает текст и предназначена для генерации текста в диалоге; карточка также описывает сценарии дообучения Gemma 2 с помощью Unsloth и содержит ссылки на ноутбук для Colab. Заявленная длина контекста — 8192 токена. Метаданные указывают английский язык. В README сказано, что модель напрямую квантизирована в 4 бита с bitsandbytes; репозиторий помечен лицензией Gemma. Данных о сравнительных качествах и конкретных ограничениях модели в карточке нет.

Карточка модели KR-X-AI/gemma-2-9b-it-0.2 на Hugging Face совпадает с карточкой KR-X-AI/krx-gemma-2-9b-4-8-8-tb-3, поэтому описание составлено по ней. KR-X-AI выпустила разговорную модель генерации текста на базе Gemma 2. Это дообучение unsloth/gemma-2-9b-it-bnb-4bit с использованием Unsloth и библиотеки TRL; модель содержит 9 млрд параметров, использует плотную архитектуру Gemma2 и поддерживает контекст до 8192 токенов. Она предназначена для диалогов и генерации текста по запросу. Модель принимает текст и выдаёт текст; в метаданных указан английский язык. Репозиторий распространяется по лицензии Apache-2.0.

Gemma-2-9b-it-4bit — языковая модель семейства Gemma 2, разработанная Google и доработанная сообществом mlx-community для формата MLX. Модель преобразована из google/gemma-2-9b-it с использованием mlx-lm версии 0.15.0 и предназначена для запуска в экосистеме MLX. Это instruction-tuned модель для генерации текста и диалоговых сценариев: она может использоваться для ответов на запросы, ведения беседы и других задач, связанных с обработкой и созданием текста. В карточке указано обозначение размера 9B, а также 4-битное квантование, которое снижает требования к памяти по сравнению с полноточным представлением. Поддерживаются библиотека transformers как метаданные и библиотека mlx-lm для загрузки и генерации. README не содержит сведений о поддерживаемых языках, длине контекста, результатах тестирования, точных архитектурных характеристиках, сильных сторонах или ограничениях качества. Для доступа к исходной модели на Hugging Face требуется принять лицензию Google Gemma; конкретные условия следует проверять в тексте этой лицензии.

gemma-2-9b-it-IMat-GGUF — это квантизированная версия текстовой instruction-tuned модели Google Gemma 2 9B IT, подготовленная legraphista в формате GGUF для использования с llama.cpp и совместимыми инструментами. Модель предназначена для генерации текста и диалоговых сценариев, включая локальные чат-приложения и задачи, где важны сниженные требования к памяти. В основе лежит модель google/gemma-2-9b-it с исходным форматом BF16 и примерно 9 миллиардами параметров. Доступны варианты от BF16 и FP16 до Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и Q2_K; размеры файлов составляют примерно от 3,8 до 18,5 ГБ. Для ряда вариантов с низкой разрядностью применена IMatrix-квантизация, предназначенная для улучшения сохранения качества при уменьшении размера. README не содержит сведений о поддерживаемых языках, длине контекста и мультимодальности; по указанным данным модель является текстовой. Основные преимущества — широкий выбор уровней квантизации, возможность локального запуска и наличие IMatrix-вариантов, позволяющих выбирать компромисс между качеством и потреблением памяти. Ограничения связаны с возможной потерей качества при сильной квантизации и с тем, что характеристики базовой модели, включая языковое покрытие и контекст, в карточке не раскрыты. Использование регулируется лицензией Gemma от Google; для доступа на Hugging Face требуется ознакомиться с условиями и принять лицензию.

Gemma2-9b-it-train6 — диалоговая модель генерации текста на архитектуре Gemma 2, разработанная ehristoforu как дообучение ehristoforu/Gemma2-9b-it-train5 с использованием Unsloth и библиотеки TRL. Модель содержит 9 млрд параметров, принимает текст и рассчитана на контекст до 8192 токенов. В метаданных указан английский язык и набор данных HuggingFaceTB/cosmopedia-20k. Модель предназначена для генерации ответов в диалоге и других текстовых продолжений. Доступна в форматах PyTorch и safetensors. Лицензия — Apache-2.0. Карточка не сообщает результатов оценки качества или подробностей ограничений, поэтому пригодность для конкретных сценариев следует проверять на собственных данных.

testmoto/gemma-2-9b-lora-aozora — текстовая генеративная модель на основе Google Gemma 2 9B, представленная в формате MLX. README сообщает о конвертации из google/gemma-2-9b с помощью mlx-lm 0.20.2; метаданные классифицируют связь с базовой моделью как дообучение, поэтому происхождение по источникам противоречиво. Модель принимает текст и генерирует текст. Базовая Gemma 2 9B предназначена для генерации текста, диалогов, суммаризации и ответов на вопросы; контекст модели составляет 8192 токена. Для работы с MLX README указывает пакет mlx-lm. Лицензия — Gemma.

TouchNight/gemma-2-abliterated-Ifable-9B-untied — производная чат-модель на базе Gemma 2, созданная объединением TouchNight/gemma-2-9b-it-abliterated-untied и LoRA-адаптера TouchNight/gemma-2-Ifable-9B-LoRA-untied. Она предназначена для генерации текста в диалоговом формате. Модель содержит 9 млрд параметров, использует плотную архитектуру Gemma2ForCausalLM и поддерживает контекст длиной до 8192 токенов. Репозиторий содержит веса в формате safetensors. Лицензия в предоставленных данных не указана.

Gemma-2-Ataraxy-v4c-9B — диалоговая языковая модель на базе Gemma 2, созданная lemon07r слиянием предварительно обученных моделей через SLERP с помощью mergekit. В объединении использованы lemon07r/Gemma-2-Ataraxy-v3b-9B и zelk12/recoilme-gemma-2-Ataraxy-9B-v0.1-t0.25. Модель с плотной архитектурой Gemma2ForCausalLM содержит 9 млрд параметров и имеет контекстное окно 8192 токена. Она предназначена для генерации текста в диалоге, выполнения инструкций и творческих текстовых задач. В README приведены результаты Open LLM Leaderboard, включая IFEval и BBH; эти показатели сами по себе не гарантируют качество в конкретном сценарии. В репозитории указана лицензия Gemma. Использование регулируется условиями лицензии Google Gemma.

mhenrichsen/gemma-2b — текстовая авторегрессионная модель семейства Gemma, разработанного Google на основе исследований и технологий, использованных при создании Gemini. Это плотная decoder-only модель с 2,5 млрд параметров; репозиторий содержит веса в формате safetensors и рассчитан на использование с Transformers. Модель принимает текст и генерирует текст, поддерживает контекст до 8192 токенов и предназначена прежде всего для английского языка. Модель подходит для генерации текста, диалоговых интерфейсов, суммаризации, ответов на вопросы и исследовательских NLP-сценариев. Компактный размер облегчает запуск на ноутбуке, настольном компьютере или собственной облачной инфраструктуре. Карточка не уточняет, является ли именно эта копия предварительно обученной или настроенной для инструкций; лицензия в предоставленных данных также не указана. Качество ответов зависит от обучающих данных и формулировки запроса: модель может ошибаться в фактах, упускать языковые нюансы и демонстрировать смещения. Для использования в приложениях, генерирующих контент, следует учитывать возможность вредных или вводящих в заблуждение ответов.

mhenrichsen/gemma-2b-it — текстовая генеративная модель на базе семейства Gemma, разработанного Google с использованием исследований и технологий, применённых для Gemini. Это плотная decoder-only языковая модель с 2,5 млрд параметров, настроенная следовать инструкциям и вести диалог; она принимает текст и генерирует текст. Модель работает через Transformers и имеет контекст длиной до 8192 токенов. Модель подходит для диалоговых помощников, ответов на вопросы, краткого пересказа текстов и создания черновиков. Небольшой размер позволяет запускать её на компьютере или в собственной облачной инфраструктуре с ограниченными ресурсами. В карточке заявлена поддержка английского языка; результаты могут быть менее надёжными при сложных или неоднозначных запросах. Возможны фактические ошибки, предвзятость и генерация вредного содержания, поэтому ответы следует проверять и при необходимости применять меры безопасности. Карточка репозитория не сообщает лицензию этой копии.

djuna/Gemma-2-gemmama-9b — объединённая диалоговая языковая модель на архитектуре Gemma 2, созданная методом DARE TIES с помощью mergekit. В объединение вошли IlyaGusev/gemma-2-9b-it-abliterated, crestf411/gemstone-9b, BAAI/Gemma2-9B-IT-Simpo-Infinity-Preference и lemon07r/Gemma-2-Ataraxy-9B; базой указана IlyaGusev/gemma-2-9b-it-abliterated. Модель содержит 9 млрд параметров, работает через Transformers и принимает текст для генерации текста в диалоге. Контекст — до 8192 токенов. Карточка приводит результаты оценки на Open LLM Leaderboard, в том числе IFEval и BBH. Языки модели в доступных данных не обозначены, поэтому их нельзя надёжно перечислить. Модель подходит для диалоговой генерации и выполнения инструкций. Известные ограничения: результатов тестирования недостаточно, чтобы судить о качестве во всех задачах и языках; объединение включает abliteration-модель, поэтому ответы могут быть менее ограничены. Лицензия в доступных данных не указана.

TouchNight/gemma-2-Ifable-9B-untied — версия языковой модели Gemma 2 с 9 млрд параметров, созданная на основе ifable/gemma-2-Ifable-9B. Репозиторий содержит веса модели в формате safetensors; в README указано, что веса lm_head и embed_tokens сохранены раздельно, а модель приведена к bf16. Контекст модели составляет 8192 токена. Модель предназначена для генерации текста и творческого письма. Для запуска требуется отдельно получить токенизатор исходной модели: в репозитории он отсутствует. Условия лицензии в предоставленных данных не указаны.

Gemma-3-12b-it-GGUF — квантизированная GGUF-версия мультимодальной модели Gemma 3 12B Instruct, разработанной Google и квантизированной Second State Inc. Модель предназначена для диалогов, генерации и анализа текста, а также обработки изображений с использованием соответствующего мультимодального проектора. Модель содержит 12 миллиардов параметров и поддерживает контекст до 128 000 токенов. Доступны варианты квантизации от Q2_K до Q8_0, а также версия f16; размеры файлов составляют примерно от 4,77 до 23,5 ГБ. Для обработки изображений требуется файл gemma-3-12b-it-mmproj-f16.gguf, изображения необходимо нормализовать до разрешения 896×896, при этом каждое изображение кодируется в 256 токенов. README не указывает поддерживаемые языки. Основные преимущества — большой контекст, поддержка текста и изображений и возможность локального запуска через LlamaEdge. Качество и требования к ресурсам зависят от выбранной квантизации: малые варианты экономичнее, но могут заметно терять в качестве, тогда как Q4_K_M, Q5_K_M и Q5_K_S обозначены как рекомендуемые. Для запуска через LlamaEdge требуется версия 0.18.5 или новее. Модель распространяется по лицензии Gemma.

m8than/gemma-3-12b-it-lenientchatfix — мультимодальная разговорная модель сообщества на архитектуре Gemma 3, дообученная на предобученной модели Google google/gemma-3-12b-pt. Она принимает текст и изображения и генерирует текст; объём модели — 12 млрд параметров. Карточка описывает возможности семейства Gemma 3: контекст до 128 тыс. токенов и поддержку более 140 языков. Модель предназначена для диалогов, ответов на вопросы по изображениям и тексту, суммаризации и генерации текста. Её можно использовать для извлечения сведений из изображений, создания черновиков и разговорных интерфейсов. Название указывает на вариант с более lenient-настройкой поведения, но README не уточняет, как она реализована и оценивалась. К ограничениям относятся возможные фактические ошибки, смещения в ответах и трудности с неоднозначными запросами и сложными задачами. В метаданных указана лицензия Gemma; использование регулируется её условиями и политикой запрещённого использования Gemma.

Google Gemma 3 1B IT QAT Q4_0 Unquantized — компактная диалоговая модель на базе Gemma 3 1B IT. Репозиторий указан как дообучение google/gemma-3-1b-it; метаданные описывают чат-возможности и формат safetensors. Несмотря на название QAT Q4_0 Unquantized, доступные сведения не подтверждают, что в репозитории размещены квантизованные веса. Модель предназначена для диалоговой генерации текста, ответов на вопросы и суммаризации. README семейства Gemma 3 также описывает мультимодальный ввод изображений, однако метаданные этой конкретной модели подтверждают только задачу text-generation, поэтому поддержку изображений нельзя считать установленной для данного репозитория. В README для семейства заявлены контекст до 128K токенов и поддержка более 140 языков; эти характеристики не подтверждены отдельно для данного варианта. Модель может давать неточные или устаревшие сведения, испытывать трудности с неоднозначными и сложными запросами, а также воспроизводить смещения из обучающих данных. Лицензия — Gemma; использование регулируется условиями лицензии Google Gemma и соответствующей политикой допустимого использования.

ferrazzipietro/gemma-3-1b-it-reas-int-065-3-epochs-it — дообученная Петро Феррацци модель Google Gemma 3 1B Instruct для диалогов и генерации текста. Она использует плотную архитектуру Gemma 3 и формат safetensors; базовая модель — google/gemma-3-1b-it. Контекст составляет до 32 768 токенов. Модель принимает текст и выдаёт текст. Подходит для генерации ответов в диалоге и других задач текстовой генерации. Данные обучения, результаты оценки и специфические ограничения в карточке не описаны. Лицензия — Gemma.

unsloth/gemma-3-1b-pt — текстовая версия Gemma 3, подготовленная Unsloth на основе предварительно обученной google/gemma-3-1b-pt. Это плотная авторегрессионная модель с 1 млрд параметров, предназначенная для генерации текста. По метаданным репозитория она принимает текст и имеет контекстное окно до 32 768 токенов. В карточке также описаны возможности семейства Gemma 3 в целом, включая изображения и поддержку более 140 языков; эти характеристики нельзя уверенно приписать данной текстовой версии. Модель подходит для генерации черновиков, диалоговых интерфейсов, суммаризации и ответов на вопросы по предоставленному контексту. Компактный размер упрощает запуск на ограниченных ресурсах. Как базовая, предварительно обученная версия, она не заявлена как готовая инструкционная модель; качество зависит от формулировки запроса и предметной области, а ответы могут содержать фактические ошибки или отражать смещения обучающих данных. Лицензия — Gemma; условия использования следует сверять с лицензией Gemma от Google.

unsloth/gemma-3-270m-it-qat — облегчённая инструктивная модель семейства Gemma 3, опубликованная Unsloth и основанная на google/gemma-3-270m-it-qat-q4_0-unquantized. Это плотная авторегрессионная языковая модель с 257 млн параметров, предназначенная для генерации текста и диалоговых сценариев. В метаданных указаны библиотека Transformers и контекст до 32 768 токенов. Модель подходит для чат-ботов, черновиков текстов, кратких пересказов и ответов на вопросы. README семейства Gemma 3 описывает поддержку более 140 языков и приём изображений, однако метаданные этой конкретной репозитории указывают текстовую архитектуру Gemma3ForCausalLM и задачу text-generation; поэтому визуальные возможности семейства нельзя уверенно приписать этой версии. Карточка заявляет, что Unsloth Dynamic 2.0 обеспечивает высокую точность квантования, но формат файлов репозитория указан как safetensors. Модель может ошибаться в фактах, хуже справляться со сложными или неоднозначными запросами и наследовать смещения обучающих данных. Лицензия — Gemma; перед использованием следует учитывать её условия.

google/gemma-3-270m-it-qat-q4_0-unquantized — текстовая диалоговая модель семейства Gemma 3 от Google, созданная на основе google/gemma-3-270m-it. Репозиторий содержит вариант с QAT Q4_0; метаданные указывают формат safetensors. Модель предназначена для генерации текста и диалогов, ответов на вопросы, суммаризации и других задач, выполняемых по текстовым инструкциям. В общей карточке семейства Gemma 3 также описаны приём изображений, контекст до 128K токенов и поддержка более 140 языков, но эти свойства отдельно для данного компактного текстового чекпойнта не подтверждены. Модель может применяться в чат-ботах, виртуальных помощниках, подготовке черновиков и кратких изложений. Небольшой размер семейства позволяет рассматривать запуск на устройствах с ограниченными ресурсами. Ограничения включают возможные фактические ошибки, смещения и трудности с неоднозначными или сложными запросами. Лицензия — Gemma; использование регулируется условиями лицензии и политикой допустимого использования Google.

google/gemma-3-270m-qat-q4_0-unquantized — текстовая модель Google из семейства Gemma 3, основанная на google/gemma-3-270m. Метаданные классифицируют её как дообученную модель для генерации текста; веса размещены в формате safetensors. Суффикс имени указывает на QAT Q4_0, однако README и метаданные не объясняют, что именно означает «unquantized» для опубликованных весов. Модель предназначена для генерации текста и диалогов, ответов на вопросы и суммаризации. README семейства Gemma 3 описывает также ввод изображений и контекст до 128K токенов, но эти характеристики не подтверждены отдельно для данной компактной текстовой модели. В карточке заявлена поддержка более 140 языков; сведения о её основной языковой специализации отсутствуют. Возможные ограничения включают фактические ошибки, отражение предвзятости обучающих данных и трудности с неоднозначными формулировками и сложными задачами. Лицензия — Gemma; её условия использования следует учитывать при развёртывании.

Gemma 3 27B IT GGUF — квантизированная версия инструкционной модели Gemma 3 27B IT, разработанной Google. Модель подготовлена сообществом LM Studio, а GGUF-квантизацию выполнил bartowski на основе llama.cpp. Она предназначена для локального запуска и генерации текста, включая ответы на вопросы, суммаризацию и задачи рассуждения. Модель поддерживает мультимодальный ввод с изображениями, нормализованными до разрешения 896 × 896, а также текстовые сценарии. Заявленная длина контекста составляет до 128 000 токенов, максимальная длина вывода — 8 192 токена. В README не указаны полный перечень поддерживаемых языков, конкретный метод и уровень квантизации, а также требования к аппаратным ресурсам. К сильным сторонам относятся большой контекст, поддержка понимания изображений и пригодность для локального использования через формат GGUF. Ограничения связаны с зависимостью от совместимого llama.cpp runtime версии 1.19.0 или новее, причём актуальная версия runtime на момент публикации обозначена как beta. Как квантизированная сборка, модель может отличаться по качеству и потреблению ресурсов от оригинальной версии. Доступ и использование регулируются лицензией Gemma от Google.

Gemma 3 27B PT — предварительно обученная мультимодальная модель Google из семейства Gemma 3 с открытыми весами. Она принимает текст и изображения и генерирует текст; размер модели — 27 млрд параметров. Модель предназначена для понимания изображений и генерации текста: ответов на вопросы, суммаризации, рассуждений, диалогов и создания контента. Контекстное окно — до 128 тыс. токенов, заявлена поддержка более 140 языков. Вариант PT является базовой предварительно обученной моделью, а не версией, настроенной для следования инструкциям. Модель можно применять для описания изображений и извлечения из них данных, создания текстовых ассистентов, составления кратких пересказов и исследовательских экспериментов с VLM и NLP. Google отмечает, что ответы могут содержать фактические ошибки, отражать смещения обучающих данных и хуже справляться со сложными запросами, неоднозначностями и тонкими языковыми нюансами. Лицензия — Gemma; перед использованием следует учитывать условия лицензии и политику запрещённого использования Gemma.

gemma-3-4b-it-GGUF — квантизированная версия мультимодальной модели Gemma 3 4B IT, разработанной Google. Файл в формате GGUF подготовлен пользователем bartowski на основе модели google/gemma-3-4b-it и предназначен для запуска через llama.cpp, в том числе локально в LM Studio. Модель подходит для генерации текста, ответов на вопросы, суммаризации, рассуждений и понимания изображений. Она поддерживает текстовый и визуальный ввод; изображения нормализуются до разрешения 896 × 896 пикселей. Заявленная длина контекста составляет до 128 000 токенов, максимальная длина вывода — 8192 токена. Другие характеристики, включая поддерживаемые языки и точную архитектуру, в README не указаны. Для работы требуется runtime llama.cpp версии 1.19.0 или более новой, причём рекомендуется актуальная beta-версия. К ограничениям относятся зависимость от совместимого runtime, возможные ошибки и неточности генерации, а также отсутствие в предоставленных данных сведений о конкретном типе квантизации и её влиянии на качество. Модель распространяется по лицензии Gemma; для доступа на Hugging Face требуется принять условия лицензии Google.

Карточка модели unsloth/gemma-3-4b-it-qat на Hugging Face совпадает с карточкой google/gemma-3-4b-it-qat-q4_0-unquantized, поэтому описание составлено по ней. Google Gemma 3 4B IT QAT Q4_0 Unquantized — мультимодальная модель для диалогов с текстом и изображениями, основанная на Gemma 3 4B IT. Несмотря на обозначение QAT Q4_0 в названии, метаданные указывают формат файлов safetensors; отдельная квантизация в них не подтверждена. Модель принимает текст и изображения и генерирует текст, поддерживает чат и предназначена для ответов на вопросы по изображениям, суммаризации и другим задачам генерации и понимания текста. В README семейство Gemma 3 описано как компактное, подходящее для локального запуска на ноутбуках и настольных компьютерах. Для семейства заявлены контекст до 128 тысяч токенов и поддержка более 140 языков; README не уточняет, подтверждены ли эти характеристики именно для данной сборки. Лицензия — Gemma. Возможны фактические ошибки, предвзятые ответы и трудности с неоднозначными формулировками и сложными задачами; для развёртывания следует учитывать эти ограничения и проверять результаты.

Gemma 3 4B IT QAT GGUF — квантизированная GGUF-версия инструкционно дообученной модели Gemma 3 с 4 млрд параметров. Модель разработана Google DeepMind, а данный вариант опубликован Unsloth. Она относится к семейству лёгких открытых моделей Gemma и предназначена для локального развёртывания и генерации текста. Модель поддерживает мультимодальный ввод: текст и изображения, при этом генерирует текст. Она подходит для ответов на вопросы, суммаризации, рассуждений и анализа изображений. Для версий 4B заявлено контекстное окно до 128K токенов, изображения нормализуются до 896×896 и кодируются в 256 токенов, максимальный объём генерируемого ответа составляет 8192 токена. Заявлена поддержка более 140 языков, однако в карточке отдельно указан английский язык. К сильным сторонам относятся сравнительно небольшой размер, возможность работы на ноутбуках, настольных компьютерах и собственной облачной инфраструктуре, а также поддержка длинного контекста и изображений. Ограничения конкретного GGUF-файла, включая точный уровень квантизации, требования к памяти и производительность, в README не указаны. Модель распространяется по лицензии Gemma; применимые условия использования определяются соответствующими Terms of Use Google.