I.5Создание и редактирование текста

Galactic-Qwen-14B-Exp2 — языковая модель PrithivMLmods для генерации текста, диалогов и решения задач на рассуждение. Это плотная модель семейства Qwen2, содержащая 14 млрд параметров и дообученная на базе prithivMLmods/Lacerta-Opus-14B-Elite8 с использованием модели, обученной на длинных цепочках рассуждений, и специализированных наборов данных. В метаданных указаны библиотека Transformers и формат safetensors. Модель предназначена для ответов на вопросы, логических выводов, многошагового решения задач, следования инструкциям, объяснений, суммаризации и генерации структурированного текста, включая JSON. Она поддерживает контекст до 131 072 токенов; в карточке также заявлена генерация до 8 000 токенов за один ответ и поддержка более 29 языков, включая английский, китайский и русский. Заявленные сценарии включают образовательную помощь, чат-ботов, многоязычную коммуникацию и создание длинных текстов. Карточка приводит результаты IFEval (66,20%) и BBH (59,92%), но не содержит подробностей методики оценки. Среди ограничений указаны высокие требования к памяти при работе с длинным контекстом, возможная предвзятость и ошибки, чувствительность к формулировке запроса и отсутствие доступа к актуальным событиям. Лицензия — Apache-2.0.

Gemma 2 27B Instruct — большая языковая модель Google из семейства Gemma, представленная в формате GGUF для запуска через llama.cpp и LM Studio. Квантование подготовлено bartowski на основе оригинальной модели google/gemma-2-27b-it. Модель предназначена для диалогового взаимодействия и универсальной генерации текста, включая работу с веб-текстами, программным кодом и математическими задачами. Модель содержит 27 миллиардов параметров и занимает промежуточное положение между моделями классов 8B и 70B, поэтому рассчитана на системы с умеренным объёмом видеопамяти. Она обучена на 13 триллионах токенов; обучающие данные включали преимущественно англоязычные веб-документы, код и математические материалы. Большой словарь способствует многоязычным возможностям и работе с кодом, однако точный перечень поддерживаемых языков и размер контекстного окна в README не указаны. Модель работает по шаблону Google Gemma Instruct и не поддерживает системный промпт. Для запуска рекомендуется LM Studio версии 0.2.27 или новее с пресетом Google Gemma Instruct. Модель является текстовой и не поддерживает мультимодальные входы или выходы. Использование регулируется лицензией Gemma; для доступа на Hugging Face необходимо принять условия лицензии Google. README также предупреждает, что модель может генерировать неточный, вредный или неприемлемый контент.

Columbidae/gemma-2-4b-it-upscaled — разговорная языковая модель семейства Gemma 2, созданная слиянием предобученных моделей через mergekit методом Passthrough. В состав слияния вошла unsloth/gemma-2-2b-it; метаданные также указывают на неё как на базовую модель. Модель содержит 3,9 млрд параметров, использует плотную архитектуру Gemma2ForCausalLM и рассчитана на контекст до 8192 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Её можно использовать для ответов на запросы, ведения беседы и создания текстовых черновиков. В карточке указана лицензия, однако доступные сведения её не раскрывают.

hugging-quants/gemma-2-9b-it-AWQ-INT4 — общественная квантованная версия Google Gemma 2 9B Instruct, подготовленная сообществом с использованием AutoAWQ. Это текстовая decoder-only языковая модель с открытыми весами, ориентированная на генерацию текста на английском языке. Модель предназначена для диалоговых приложений, ответов на вопросы, суммирования, рассуждений и других задач генерации текста. Она использует 4-битное представление INT4 с GEMM-ядрами, zero-point-квантованием и размером группы 128, что уменьшает требования к памяти и упрощает локальное или облачное развёртывание. Для загрузки контрольной точки требуется около 6 ГиБ видеопамяти без учёта KV-кэша и CUDA-графов; рекомендуется иметь немного больше доступной памяти. Модель поддерживается через transformers, AutoAWQ и Text Generation Inference. Для работы требуется transformers версии 4.45.0 или выше; токенизатор из репозитория несовместим с более старыми версиями. Квантование может снизить точность по сравнению с исходной версией Gemma 2 9B Instruct в BF16, однако README не содержит количественной оценки этого эффекта. Лицензия указана как gemma.

Gemma 2 9B Instruct — языковая instruction-tuned модель Google из семейства Gemma, распространяемая в формате GGUF для локального запуска. Квантизация выполнена bartowski на основе llama.cpp; исходная модель — google/gemma-2-9b-it. Модель предназначена для диалогов, генерации и анализа текста, работы с кодом, математическими задачами и сценариев общего назначения. Модель содержит около 9 миллиардов параметров и обучалась на 8 триллионах токенов, включая преимущественно англоязычные веб-документы, код и математические материалы. Большой словарный запас способствует работе с многоязычным текстом и программированием, однако README не указывает точный набор поддерживаемых языков и размер контекстного окна. Формат GGUF и относительно небольшой размер делают модель подходящей для систем с ограниченными ресурсами, но качество и скорость зависят от выбранного уровня квантизации и оборудования. Для корректной работы в LM Studio 0.2.27 или новее рекомендуется выбрать шаблон «Google Gemma Instruct». Системные сообщения не поддерживаются. Модель может создавать неточные, вредные или неподходящие ответы, поэтому результаты требуют проверки. Использование регулируется лицензией Google Gemma; для доступа на Hugging Face необходимо принять условия этой лицензии.

SanctumAI/gemma-2-9b-it-GGUF — квантизированная GGUF-версия Gemma 2 9B IT, разработанной Google и подготовленной SanctumAI. Это текстовая decoder-only языковая модель с instruction tuning, предназначенная для генерации текста, диалогов, ответов на вопросы, суммирования и задач, требующих рассуждений. Модель работает с текстом и, согласно README, доступна на английском языке. Модель содержит около 9 млрд параметров. Доступны варианты квантизации Q2_K–Q8_0, а также f16; размер файлов составляет примерно от 3,81 до 18,49 ГБ, а оценочная потребность в RAM или VRAM — от 15,14 до 28,82 ГБ в зависимости от варианта. Квантизация позволяет запускать модель на ноутбуке, настольном компьютере или собственной облачной инфраструктуре при выборе подходящего формата, но более компактные варианты могут уступать по качеству менее квантизированным. Модель распространяется по лицензии Gemma. Для корректного диалога следует использовать шаблон Gemma с маркерами начала и конца хода пользователя и модели. README не указывает размер контекстного окна, мультимодальные возможности или поддержку языков помимо английского; также конкретные ограничения качества не описаны. Как и другие языковые модели, она может генерировать неточный, вредный или неподходящий контент, поэтому результаты требуют проверки.

princeton-nlp/gemma-2-9b-it-SimPO — диалоговая причинно-языковая модель, разработанная Yu Meng, Mengzhou Xia и Danqi Chen. Авторы дообучили Google Gemma 2 9B Instruct на наборе предпочтений princeton-nlp/gemma2-ultrafeedback-armorm с помощью SimPO — метода оптимизации предпочтений, который не требует отдельной эталонной модели и задаёт целевой отрыв вознаграждения. Модель предназначена для диалога, ответов на вопросы и генерации текста с учётом человеческих предпочтений. Это плотная архитектура Gemma 2 с 9 млрд параметров и контекстом до 8192 токенов; репозиторий содержит веса Safetensors. В карточке приведены результаты оценки на нескольких бенчмарках, но они не гарантируют качество в конкретном сценарии. Лицензия в метаданных Hugging Face указана как MIT, тогда как README называет лицензию Gemma; условия использования следует сверить с лицензией базовой модели Google Gemma 2 9B Instruct.

Gemma2-9B-TitanFusion-v2 — текстовая языковая модель на архитектуре Gemma 2, созданная объединением моделей с помощью mergekit и метода DARE TIES. В слияние вошли bunnycore/Gemma2-9B-TitanFusion, anthracite-org/magnum-v3-9b-customgemma2 и flammenai/Mahou-1.3-gemma2-9B; базовой моделью указана bunnycore/Gemma2-9B-TitanFusion. Модель содержит 9 млрд параметров, работает с текстом и рассчитана на контекст до 8192 токенов. Модель предназначена для генерации текста и диалогового общения. Её можно использовать для ответов на запросы, продолжения текста и создания прозы. Данные не указывают специальные отраслевые области применения или перечень поддерживаемых естественных языков. Модель опубликована в формате safetensors для библиотеки Transformers. Информация о лицензии в предоставленных данных отсутствует.

Gemma-2-Ataraxy-v4-Advanced-9B — слитая автором lemon07r диалоговая языковая модель на архитектуре Gemma 2 с 9 млрд параметров. Она объединяет модели lemon07r/Gemma-2-Ataraxy-v3-Advanced-9B и zelk12/recoilme-gemma-2-Ataraxy-9B-v0.1-t0.25 методом SLERP с помощью mergekit; веса сохранены в формате safetensors, тип данных — bfloat16. Модель предназначена для генерации текста и ответов на текстовые запросы в диалоговом режиме. Заявленная длина контекста — 8192 токена. В карточке приведены результаты Open LLM Leaderboard, включая IFEval и BBH; они дают ориентир по оцениванию следования инструкциям и рассуждений, но не гарантируют качество в конкретном сценарии. Лицензия в предоставленных данных не указана.

Gemma 2B — компактная плотная авторегрессионная языковая модель семейства Gemma, разработанная Google. Она содержит 2,5 млрд параметров, принимает и генерирует текст и поддерживает контекст до 8192 токенов. Репозиторий содержит веса в формате safetensors и предназначен для работы с библиотекой Transformers. Модель подходит для генерации текста, ответов на вопросы, суммаризации и диалоговых интерфейсов, а компактный размер позволяет запускать её на персональных компьютерах и собственной облачной инфраструктуре. В карточке указана поддержка английского языка. Условия лицензии в предоставленных данных не описаны. Качество ответов зависит от формулировки запроса и охвата обучающих данных. Модель может ошибаться в фактах, упускать нюансы и воспроизводить предвзятость; для сложных задач и пользовательских приложений нужны проверка результатов и меры безопасности.

alpindale/gemma-2b-it — диалоговая языковая модель семейства Gemma, основанная на открытых моделях Google. Это плотная авторегрессионная модель с архитектурой GemmaForCausalLM и 2,5 млрд параметров; она принимает текст и генерирует текст, поддерживает контекст до 8192 токенов и предназначена прежде всего для английского языка. Модель подходит для диалоговых интерфейсов, генерации и редактирования текстов, краткого пересказа, ответов на вопросы и исследовательских экспериментов. Компактный размер позволяет запускать её на персональных компьютерах и в облачной инфраструктуре с ограниченными ресурсами. Как и другие языковые модели, она может выдавать фактически неверные ответы, отражать предвзятость данных обучения и испытывать трудности со сложными инструкциями, нюансами языка и задачами, требующими надёжного здравого смысла. Для использования модели применяются условия лицензии Gemma; README ссылается на политику запрещённого использования Gemma.

Gemma 2B IT — компактная инструкционная языковая модель Google из семейства Gemma, созданного с использованием исследований и технологий, применявшихся при разработке Gemini. Это текстовая авторегрессионная модель с архитектурой decoder-only; версия IT настроена на выполнение инструкций и диалог. Веса открыты, модель доступна в формате Safetensors и GGUF и запускается через Transformers. Модель предназначена для генерации текста, ответов на вопросы, суммаризации и диалоговых приложений. Небольшой размер упрощает развёртывание на ноутбуке, настольном компьютере или собственной облачной инфраструктуре. В карточке семейства заявлена поддержка английского языка; конкретный размер контекста не указан в предоставленных данных. К ограничениям относятся возможные фактические ошибки, устаревшие сведения, смещения в ответах и трудности со сложными задачами, нюансами языка и сарказмом. Модель не является базой знаний; для пользовательских приложений рекомендуется проверять ответы и применять меры безопасности. Использование регулируется лицензией Gemma.

p-e-w/gemma-3-12b-it-heretic-v2 — мультимодальная модель семейства Gemma 3 на 12 млрд параметров, основанная на google/gemma-3-12b-pt и представленная как conversational, uncensored/decensored и abliterated вариант. Она принимает текст и изображения и генерирует текст; подходит для диалога, ответов на вопросы об изображениях, суммаризации и других задач генерации и понимания текста. В README базовой модели указаны контекст до 128K токенов и поддержка более 140 языков. Модель может применяться для извлечения сведений из изображений, составления текстов и исследовательских экспериментов; размер позволяет запускать её на локальных компьютерах и собственной инфраструктуре при достаточных ресурсах. README предупреждает о возможных фактических ошибках, смещениях и трудностях с неоднозначными или сложными запросами. Лицензия — Gemma; применяются условия лицензии и правила допустимого использования Gemma.

unsloth/gemma-3-12b-it-qat-GGUF — мультимодальная instruction-tuned модель Gemma 3 на 12 млрд параметров, разработанная Google DeepMind. Она построена на базе google/gemma-3-12b-it-qat-q4_0-unquantized и использует Quantization Aware Training (QAT), что помогает сохранять качество на уровне, близком к bfloat16, при снижении требований к памяти после квантования. Модель принимает текст и изображения, а генерирует текст. Она предназначена для ответов на вопросы, суммаризации документов, рассуждений, анализа изображений, извлечения визуальной информации, работы с кодом и математическими запросами. Поддерживается более 140 языков. Для версии 12B заявлено контекстное окно до 128K токенов, максимальный объём генерируемого ответа — 8192 токена; изображения нормализуются до 896×896 и кодируются в 256 токенов каждое. К сильным сторонам относятся мультимодальность, широкая языковая поддержка, большое контекстное окно и возможность развертывания на ноутбуках, настольных компьютерах или собственной облачной инфраструктуре при использовании квантования. Репозиторий содержит не直接 квантованный файл: контрольную точку необходимо самостоятельно квантовать в Q4_0 совместимым инструментом. README не приводит детальных сведений об архитектуре, результатах бенчмарков и конкретных ограничениях качества, поэтому их оценку по этим данным дать нельзя. Использование регулируется лицензией Gemma и условиями Google. Доступ к модели на Hugging Face требует входа в аккаунт и подтверждения лицензионных условий.

Это GGUF-квантизированная версия gemma-3-12b-it-ultra-uncensored-heretic, разработанная независимым автором LLMfan46 на базе Google Gemma 3 12B Instruct. Модель создана с использованием Heretic v1.2.0 и метода Arbitrary-Rank Ablation (ARA) для снижения встроенных ограничений на ответы при сохранении исходных возможностей. По приведённому сравнению, частота отказов снизилась с 97 до 4 из 100, а KL-дивергенция составляет 0,0131 относительно оригинальной модели. Модель предназначена для генерации текста, ответов на вопросы, анализа, суммаризации, рассуждений и понимания изображений. Gemma 3 поддерживает текстовые и графические входные данные с генерацией текста, контекст до 128K токенов, выход до 8192 токенов и более 140 языков. Для мультимодальной работы требуется отдельный vision projector. Доступны варианты GGUF с квантованием от BF16 и Q8_0 до IQ3_XXS; версии с более низкой разрядностью занимают меньше места, но могут сильнее терять в качестве. Модель совместима с llama.cpp, LM Studio, Ollama и другими инструментами для GGUF. Сильной стороной является сочетание относительно компактного размера 12B, мультимодальности, длинного контекста и уменьшенного числа отказов. Ограничения включают возможное снижение качества при агрессивном квантовании, необходимость vision projector для работы с изображениями и потенциальные риски, связанные с ослаблением механизмов отказа. Модель распространяется по лицензии Gemma; условия использования определяются соответствующими Terms of Use Google. Базовые модели Gemma разработаны Google DeepMind.

Andycurrent/gemma-3-12b-it-uncensored-GGUF — производная instruction-tuned модель Gemma 3 с 12 млрд параметров, разработанная на базе Google Gemma 3 12B IT. Базовую архитектуру разработала Google, а кураторство и выпуск этой версии указаны за BrainDAO. Репозиторий также содержит вариант Vision-Language Model (VLM), поддерживающий работу с изображениями и текстом. Модель предназначена для общего ассистирования, диалогов, следования инструкциям, логического и аналитического рассуждения, написания и отладки кода, исследовательского анализа, агентных сценариев с инструментами, а для VLM-варианта — для описания изображений, визуальных вопросов и ответов и мультимодального общения. Заявлена поддержка английского языка. Модель ориентирована на локальное и приватное развертывание; для работы следует использовать формат инструкций Gemma, а VLM-вариант требует мультимодального формата входных данных, поддерживаемого конкретным inference-фреймворком. Ключевая особенность версии — минимальные дополнительные ограничения выравнивания: заявлено отсутствие специально добавленных слоёв безопасности, отказов и alignment-ограничений сверх базовой модели. Это может дать больше контроля над системными промптами и меньше искусственных отказов, но одновременно означает необходимость самостоятельной оценки рисков, фильтрации и безопасного применения. Ограничения включают отсутствие дополнительных гарантий безопасности, а также потенциальную зависимость возможностей и производительности от используемого варианта, GGUF-квантизации и среды инференса; подробности о размере контекста и конкретных параметрах квантизации в README не указаны. Модель распространяется по пользовательской Gemma License, унаследованной от базовой модели Google. Это не Apache-2.0, MIT или другая стандартная open-source-лицензия; перед использованием, распространением или встраиванием необходимо ознакомиться с условиями Gemma License и соблюдать применимое законодательство.

Карточка модели Aliados/gemma-3-1b-it на Hugging Face совпадает с карточкой unsloth/gemma-3-1b-it, поэтому описание составлено по ней. unsloth/gemma-3-1b-it — диалоговая версия Gemma 3, размещённая Unsloth и основанная на Google/gemma-3-1b-it. Это плотная языковая модель Gemma3ForCausalLM примерно с 1 млрд параметров, предназначенная для генерации текста и общения по инструкциям. Репозиторий содержит веса в формате Safetensors; модель работает через Transformers и рассчитана на контекст до 32 768 токенов. Модель подходит для диалоговых помощников, черновиков текстов и писем, суммаризации и ответов на вопросы. В README описаны возможности семейства Gemma 3, включая мультимодальный ввод изображений, но этот конкретный чекпойнт имеет текстовую архитектуру и базовую модель Gemma 3 на 1 млрд параметров; поэтому поддержку изображений ему не приписываю. Метаданные указывают английский язык. Лицензия — Gemma. Как и другие генеративные модели, она может ошибаться в фактах, отражать смещения обучающих данных и хуже справляться с неоднозначными или сложными запросами. Качество зависит от промпта и контекста.

Карточка модели jordimas/gemma-3-1b-it на Hugging Face совпадает с карточкой google/gemma-3-1b-it, поэтому описание составлено по ней. Gemma 3 1B IT — компактная инструктивно дообученная модель Google из семейства Gemma 3. Она создана на основе google/gemma-3-1b-pt и предназначена для генерации текста и диалогового взаимодействия; небольшой размер позволяет запускать её на устройствах и инфраструктуре с ограниченными ресурсами. Семейство Gemma 3 поддерживает ввод изображений и текста с генерацией текста, контекст до 128 тыс. токенов и более 140 языков. Модель подходит для ответов на вопросы, суммаризации, рассуждений, создания текстов и интерпретации изображений. В предоставленных метаданных для этого репозитория подтверждены задача text-generation и чат-возможность; отдельные численные характеристики именно варианта 1B и языковой список не указаны. Возможны фактические ошибки, смещения и затруднения с неоднозначными формулировками и сложными задачами. Для снижения рисков в приложениях следует проверять ответы и применять подходящие меры безопасности. Лицензия — Gemma; использование регулируется условиями лицензии и политикой запрещённого использования Gemma.

unsloth/gemma-3-1b-it — диалоговая версия Gemma 3, размещённая Unsloth и основанная на Google/gemma-3-1b-it. Это плотная языковая модель Gemma3ForCausalLM примерно с 1 млрд параметров, предназначенная для генерации текста и общения по инструкциям. Репозиторий содержит веса в формате Safetensors; модель работает через Transformers и рассчитана на контекст до 32 768 токенов. Модель подходит для диалоговых помощников, черновиков текстов и писем, суммаризации и ответов на вопросы. В README описаны возможности семейства Gemma 3, включая мультимодальный ввод изображений, но этот конкретный чекпойнт имеет текстовую архитектуру и базовую модель Gemma 3 на 1 млрд параметров; поэтому поддержку изображений ему не приписываю. Метаданные указывают английский язык. Лицензия — Gemma. Как и другие генеративные модели, она может ошибаться в фактах, отражать смещения обучающих данных и хуже справляться с неоднозначными или сложными запросами. Качество зависит от промпта и контекста.

Gemma 3 270M IT — компактная текстовая модель Google, полученная дообучением Gemma 3 270M для следования инструкциям и диалогов. Она предназначена для генерации текста, общения с пользователем, ответов на вопросы и суммаризации, а небольшой размер подходит для запуска на персональных компьютерах и в облачной инфраструктуре с ограниченными ресурсами. Модель принимает текст и выдаёт текст. В карточке семейства Gemma 3 заявлены поддержка более 140 языков и контекст до 128 тысяч токенов; эти характеристики приведены для семейства и отдельно для версии 270M IT не подтверждены. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Лицензия — Gemma. Модель может ошибаться в фактах, отражать предвзятости обучающих данных и испытывать трудности с неоднозначными формулировками, сложными задачами и тонкими языковыми нюансами. Для ответственных приложений рекомендуется проверять результаты и применять подходящие меры контроля контента.

brittlewis12/gemma-3-27b-it-GGUF — это квантизированная в формате GGUF версия Gemma 3 27B IT, разработанной Google DeepMind и преобразованной пользователем brittlewis12 с помощью llama.cpp. Модель предназначена для генерации текста в режиме instruction tuning: ответов на вопросы, суммаризации, рассуждений и других диалоговых и текстовых сценариев. Формат GGUF ориентирован на локальный запуск через совместимые инструменты, включая llama.cpp, на компьютерах и мобильных устройствах. Модель содержит 27 миллиардов параметров, поддерживает контекст до 128K токенов и, согласно README исходной модели, более 140 языков; в метаданных этого репозитория явно указан английский язык. Gemma 3 также заявлена как способная к пониманию изображений, однако данный репозиторий описывает pipeline для генерации текста, поэтому возможности именно этой GGUF-сборки в мультимодальных сценариях не уточнены. К сильным сторонам относятся большой контекст, широкий языковой охват и пригодность для локального развертывания, но размер модели может предъявлять значительные требования к памяти и вычислительным ресурсам, зависящие от конкретного уровня квантизации. Модель распространяется по лицензии Gemma. Для корректного использования необходимо применять шаблон запросов Gemma Instruct, приведённый в README. Точные параметры квантизации, требования к оборудованию и дополнительные ограничения лицензии в предоставленных данных не указаны.

gaunernst/gemma-3-27b-it-int4-awq — конвертированная в формат Hugging Face и AWQ модель Gemma 3 27B Instruction-tuned, разработанная Google DeepMind. Это QAT INT4-чекпойнт из Flax, первоначально полученный из Kaggle; в репозитории указано, что AWQ не применялся для самой квантизации. Модель предназначена для генерации текста и понимания изображений по текстовым и визуальным запросам, включая ответы на вопросы, суммаризацию, рассуждения и описание содержимого изображений. Модель имеет 27 млрд параметров, поддерживает текстовый и графический ввод и генерирует текст. Для изображений используется нормализация до 896×896 пикселей с кодированием в 256 токенов на изображение. Контекстное окно составляет 128 000 токенов, максимальный заявленный объём вывода — 8192 токена. Gemma 3 поддерживает более 140 языков и рассчитана на развёртывание на ноутбуках, настольных компьютерах и собственной облачной инфраструктуре, хотя 27B-модель и мультимодальный режим требуют значительных вычислительных ресурсов. К сильным сторонам относятся мультимодальность, большое контекстное окно, многоязычность и снижение требований к памяти благодаря INT4-квантизации. Ограничения включают возможные потери качества по сравнению с полноразмерной моделью из-за квантизации, а также необходимость совместимого программного окружения и достаточных аппаратных ресурсов. Для использования требуется принять условия лицензии Google Gemma на Hugging Face; в карточке указана лицензия gemma.

Это GGUF-квантизации модели gemma-3-27b-it-ultra-uncensored-heretic, созданной независимым разработчиком LLMfan46 на основе Google Gemma 3 27B Instruct от Google DeepMind. Модель модифицирована с помощью Heretic v1.2.0 и метода Arbitrary-Rank Ablation (ARA), чтобы уменьшить склонность исходной модели к отказам и ограничениям при сохранении её исходных возможностей. Модель предназначена для генерации текста, ответов на вопросы, суммаризации, рассуждений и анализа изображений. Это мультимодальная модель с текстовым и графическим вводом и текстовым выводом; заявлена поддержка более 140 языков. Контекстное окно составляет 128K токенов, максимальный объём вывода — 8192 токена. Для работы с изображениями требуется отдельный vision projector, совместимый с выбранной квантизацией. Доступны варианты BF16, Q8_0, Q6_K, Q5_K_M, Q5_K_S, Q4_K_M и Q4_K_S, что позволяет выбирать между качеством, размером и требованиями к памяти. По данным README, модифицированная версия показала 5 отказов из 100 против 98 из 100 у исходной модели, а KL divergence составила 0,0616; это указывает на значительно меньшее число отказов при относительно близком поведении к оригиналу. Модель совместима с llama.cpp, LM Studio, Ollama и другими инструментами, поддерживающими GGUF. Используется лицензия Gemma; применяются условия использования Google.

Gemma 3 27B PT — мультимодальная модель Google, представленная на Hugging Face в версии, опубликованной Unsloth. Это дообучение предварительно обученной модели google/gemma-3-27b-pt; архитектура Gemma 3 — плотная, с 27 млрд параметров. Модель принимает текст и изображения и генерирует текст. В карточке семейства указаны контекст до 128 тыс. токенов и поддержка более 140 языков. Модель подходит для ответов на вопросы по изображениям и тексту, извлечения и суммирования визуальной информации, генерации текста, диалоговых интерфейсов и суммаризации документов. Карточка также описывает применение в исследованиях и образовательных инструментах. Это предварительно обученная версия, а не вариант, специально настроенный для следования инструкциям. Доступны веса в формате Safetensors; лицензия — Gemma. Качество ответов зависит от обучающих данных и формулировки запроса: возможны предвзятые, ошибочные или устаревшие утверждения, а также трудности с нюансами языка и сложными открытыми задачами. Для надёжных результатов ответы следует проверять.

unsloth/gemma-3-4b-it — мультимодальная модель семейства Gemma 3, опубликованная Unsloth на базе Google Gemma 3 4B IT. Она принимает текст и изображения и генерирует текст; подходит для диалогов, ответов на вопросы по изображениям, суммаризации и других задач генерации и понимания текста. Модель использует плотную архитектуру Gemma 3 и доступна в формате safetensors для Transformers. В README семейство Gemma 3 описано как поддерживающее контекст до 128 тысяч токенов и более 140 языков. Модель можно применять в чат-ботах и виртуальных помощниках, для извлечения сведений из изображений, составления кратких сводок и создания текстов. К компактному размеру относится заявленная возможность развёртывания на ноутбуках, настольных компьютерах и собственной облачной инфраструктуре; точный объём памяти для этой версии не указан. Ответы могут содержать фактические ошибки, отражать смещения обучающих данных и неверно трактовать тонкие языковые нюансы. Лицензия — Gemma; перед использованием следует учитывать условия лицензии и политику запрещённого использования Gemma.

Gemma-3-4b-it-MAX-NEO-Imatrix-GGUF — GGUF-квантизированная версия инструкционной модели Google Gemma 3 4B, опубликованная DavidAU. Модель предназначена для генерации текста, диалогов, выполнения пользовательских инструкций, творческого письма и других общих сценариев использования языковых моделей. Заявлен контекст до 128 000 токенов. Ключевая особенность версии — сочетание квантизации с сохранением embedding- и output-тензоров в формате BF16 («MAXED») и специализированного imatrix-набора «NEO IMATRIX», разработанного DavidAU. По заявлению автора, это должно улучшать следование инструкциям, качество ответов и связность идей по сравнению с обычными квантами. Доступны варианты от IQ1_S до Q8_0; для творческих задач рекомендуются IQ3S, IQ4XS, IQ4NL и Q4, для общего использования — Q5, Q6 и Q8, а для портативных устройств — Q4_0 и Q5_0. Разные варианты квантов могут заметно различаться по качеству и характеру вывода. Модель ориентирована на локальный запуск и позволяет выбирать компромисс между качеством, скоростью и требованиями к памяти. README приводит пример производительности около 56 токенов в секунду для IQ4XS на видеокарте среднего уровня, но фактические показатели зависят от оборудования и настроек. Ограничения включают снижение качества у наиболее компактных квантов, различия в результатах между Q- и IQ-вариантами, а также необходимость подбора параметров генерации. Лицензия — Apache 2.0.

unsloth/gemma-3-4b-it-unsloth-bnb-4bit — 4B-параметричная instruction-tuned модель семейства Gemma 3, разработанная Google DeepMind и представленная в 4-битном формате BNB благодаря Unsloth. Модель основана на google/gemma-3-4b-it и предназначена для запуска и дообучения с использованием библиотеки Transformers, в том числе на устройствах с ограниченными ресурсами. Модель поддерживает мультимодальный ввод: текст и изображения, при этом генерирует текст. Она подходит для ответов на вопросы, суммаризации документов, рассуждений, генерации текста и анализа изображений. Заявлены контекст до 128K токенов для версии 4B и максимальный объём генерируемого ответа до 8192 токенов. Поддерживается более 140 языков, однако в метаданных этой конкретной карточки явно указан английский язык. Ключевое преимущество — уменьшенный размер и 4-битное квантование, упрощающие локальное развертывание и снижающие требования к памяти; Unsloth также заявляет о selectively quantized Dynamic Quants с улучшенной точностью по сравнению со стандартным 4-битным квантованием. Ограничения включают возможные потери качества из-за квантования, а также отсутствие в представленном README подробных данных о точной архитектуре, показателях качества и поддерживаемом наборе языков именно для этой сборки. Использование регулируется лицензией Gemma и соответствующими условиями Google.

axolotl-mirrors/gemma-3-4b-pt — это предварительно обученная модель семейства Gemma 3, разработанного Google на основе технологий и исследований, использованных для Gemini. Это плотная мультимодальная модель с архитектурой Gemma3ForConditionalGeneration: она принимает текст и изображения и генерирует текст. Вариант 4B предназначен для понимания изображений, ответов на вопросы, суммаризации и других задач работы с языком и визуальными данными. Модель подходит для извлечения сведений из изображений, диалоговых интерфейсов, создания и редактирования текстов, а также экспериментов с vision-language-моделями. В README семейство Gemma 3 описано как многоязычное, с поддержкой более 140 языков и контекстом до 128 тысяч токенов; конкретные параметры этого варианта в метаданных не приведены. Для репозитория указан формат safetensors и лицензия Gemma. Качество ответов зависит от обучающих данных и формулировки запроса; возможны предвзятые, неточные или устаревшие ответы. Модель может затрудняться с неоднозначностью, тонкими языковыми нюансами и сложными открытыми задачами.

Gemma 3 4B PT — предварительно обученная мультимодальная модель Google из семейства Gemma, созданного на основе исследований и технологий Gemini. Она принимает текст и изображения и генерирует текст; открытые веса позволяют запускать её на ноутбуках, настольных компьютерах и собственной облачной инфраструктуре. Модель подходит для ответов на вопросы по тексту и изображениям, суммаризации, генерации текстов, диалоговых интерфейсов и извлечения сведений из изображений. Семейство Gemma 3 поддерживает контекст до 128 тысяч токенов и более 140 языков. Карточка описывает как предварительно обученные, так и настроенные на инструкции варианты семейства; этот репозиторий — вариант PT. Ответы могут содержать фактические ошибки и отражать смещения обучающих данных; модель может испытывать трудности с неоднозначностью, нюансами языка и сложными открытыми задачами. Лицензия — Gemma, с условиями использования Google Gemma.

silvainrichou/gemma-3b-002 — текстовая генеративная модель на архитектуре Gemma, опубликованная пользователем silvainrichou. Карточка описывает семейство Gemma от Google: компактные декодерные языковые модели, созданные на основе технологий, использованных для Gemini. В репозитории указаны 3,2 млрд параметров, формат Safetensors и контекст до 8192 токенов; модель предназначена для общения и генерации текста. Модель подходит для ответов на вопросы, суммаризации, диалоговых интерфейсов, черновиков текстов и языковых учебных инструментов. README указывает английский как язык семейства. Компактный размер позволяет запускать такие модели на локальных компьютерах или в облачной инфраструктуре с ограниченными ресурсами. Как и другие языковые модели, Gemma может ошибаться в фактах, испытывать трудности со сложными инструкциями, нюансами языка и здравым смыслом, а также воспроизводить смещения из обучающих данных. В метаданных лицензия обозначена как other; конкретные условия следует проверять в лицензии репозитория и правилах использования Gemma.