I.5Создание и редактирование текста

Mungert/gemma-4-31B-it-GGUF — это GGUF-версия instruction-tuned модели Gemma 4 31B, разработанной Google DeepMind и преобразованной автором Mungert с использованием llama.cpp. Модель предназначена для локального запуска задач генерации и понимания текста, программирования, рассуждений, агентных сценариев и мультимодального анализа изображений с выдачей текста. Модель имеет плотную архитектуру с примерно 30,7 млрд параметров, 60 слоями и контекстным окном до 256 тысяч токенов. Она поддерживает текст и изображения, но не аудио в варианте 31B. Gemma 4 заявлена как мультиязычная модель с поддержкой более 140 языков. В архитектуре используется гибридное внимание: локальное скользящее окно чередуется с глобальным вниманием; размер скользящего окна для 31B составляет 1024 токена. Модель поддерживает режимы рассуждений, системные инструкции и встроенный вызов функций. Главная особенность этой публикации — GGUF-квантизация, подготовленная на основе llama.cpp с выборочным повышением точности важных слоёв сверх стандартной конфигурации IMatrix. Это может улучшать точность при заданном уровне квантизации, особенно у моделей с большим числом параметров, но увеличивает размер файлов. В README нет результатов бенчмарков, конкретных вариантов квантизации или требований к оборудованию, поэтому фактические скорость, качество и потребление памяти зависят от выбранного файла и среды запуска. Лицензия — Apache 2.0.

RedHatAI/gemma-4-31B-it-NVFP4 — мультимодальная instruction-tuned модель, разработанная RedHatAI на основе google/gemma-4-31B-it от Google. Она принимает текст и изображения, а генерирует текст; предназначена для диалоговых приложений, генерации текста, рассуждений, следования инструкциям и вызова инструментов. Модель использует архитектуру Gemma4ForConditionalGeneration и поддерживает режим thinking, function calling и tool calling. Доступна для инференса через vLLM; в README указана максимальная длина контекста 32 768 токенов. Вариант NVFP4 применяет 4-битное квантование весов и активаций линейных слоёв трансформерных блоков с group_size=16 и локальным масштабированием по группам. Vision tower, embeddings и output head сохраняются в исходной точности, что снижает требования к дисковому пространству и памяти GPU примерно на 75% по сравнению с 16-битным представлением. К сильным сторонам относятся поддержка текстово-визуальных сценариев, вызова инструментов, режима рассуждений и эффективный инференс на совместимом оборудовании. К ограничениям относятся зависимость от NVFP4-совместимого окружения и vLLM, а также возможная небольшая потеря качества из-за квантования; в приведённых оценках результаты сопоставлялись с исходной моделью, но полный набор таблиц в представленном README обрезан. Модель распространяется по лицензии Apache-2.0.

unsloth/gemma-4-31B-it-qat-GGUF — инструкцияно дообученная мультимодальная модель из семейства Gemma 4, разработанного Google DeepMind и подготовленная в GGUF-формате компанией Unsloth. Модель принимает текст и изображения и генерирует текст; её назначение включает генерацию текста, программирование, рассуждения и работу с мультимодальными запросами. Модель основана на Gemma 4 31B и использует Quantization-Aware Training (QAT) с квантизацией Q4_0, что снижает требования к памяти при сохранении качества, близкого к bfloat16. Доступна в формате GGUF для совместимого локального и серверного развёртывания, включая llama.cpp. Для ускорения генерации в поставку входит Multi-Token Prediction drafter, поддерживающий speculative decoding без изменения итогового результата. Семейство Gemma 4 поддерживает контекст до 256K токенов и более 140 языков; конкретная языковая специализация этой версии отдельно не указана. Сильные стороны модели — сочетание инструкционного режима, мультимодальности, расширенного контекста и сниженных требований к памяти благодаря QAT. Ограничения связаны с тем, что квантизированная версия может требовать совместимого программного обеспечения и аппаратных ресурсов для эффективной работы, а точные характеристики архитектуры 31B и перечень поддерживаемых языков для этого репозитория не раскрыты. Модель распространяется по лицензии Apache 2.0 с дополнительными условиями лицензии Gemma 4.

mlx-community/gemma-4-31B-it-qat-OptiQ-4bit — квантизированная модель семейства Gemma-4, разработанная сообществом mlx-community с использованием инструментария mlx-optiq и построенная на базе Google Gemma-4 31B IT QAT. Это плотная модель примерно на 31 млрд параметров для генерации текста, рассуждений, программирования, следования инструкциям, вызова инструментов и задач с длинным контекстом. Поддерживает сценарии image-text-to-text: зрительный модуль поставляется отдельно в формате bf16. Языки и максимальный размер контекста в README не указаны. Модель использует смешанную квантизацию: преимущественно 4-битную, с 186 чувствительными компонентами в 8-битном формате и 224 компонентами в 4-битном; достигнутая точность составляет 5,20 бит на вес, размер группы — 64. По заявленным тестам она особенно выигрывает у равномерной 4-битной квантизации в извлечении информации из длинного контекста, а также показывает высокие результаты в MMLU, GSM8K, IFEval, BFCL и HumanEval. Ограничения включают больший размер по сравнению с обычной 4-битной версией — около 20,8 ГБ на диске — и необходимость использования Apple Silicon, актуальной версии mlx-lm из репозитория и mlx-optiq; стандартного выпуска mlx-lm 0.31.3 недостаточно. Доступна по лицензии Apache 2.0.

coder3101/gemma-4-31B-it-qat-q4_0-unquantized-heretic — производная мультимодальная модель семейства Gemma 4, дообученная на google/gemma-4-31B-it-qat-q4_0-unquantized. Она предназначена для диалогов и анализа изображений: может отвечать на вопросы по визуальному содержимому, разбирать документы и PDF, распознавать текст и объекты на изображениях, понимать графики и интерфейсы, а также помогать с кодом и текстовыми задачами. Архитектура — плотная Gemma4ForConditionalGeneration с гибридным вниманием; исходная модель поддерживает контекст до 256K токенов. Модель рассчитана на ввод текста и изображений и генерацию текста; аудиовозможности README относит к другим размерам Gemma 4. Вариант помечен как uncensored, decensored и abliterated, поэтому его поведение в ответах может отличаться от базовой модели. Карточка также предупреждает о возможных ошибках и устаревших фактах, трудностях с нюансами языка и сложными открытыми задачами, а также о смещениях из обучающих данных. Репозиторий использует safetensors и библиотеку Transformers; лицензия — Apache-2.0.

gemma-4-E2B-it-qat-GGUF — мультимодальная instruction-tuned модель семейства Gemma 4, разработанная Google DeepMind и представленная в формате GGUF пользователем или организацией prithivMLmods. Модель предназначена для локального запуска на ноутбуках и мобильных устройствах, а также для исследований и приложений на базе llama.cpp. Она поддерживает работу с текстом, изображениями и аудио, включая генерацию текста, распознавание речи, перевод речи, анализ изображений, OCR, анализ кадров видео и native function calling. Доступен настраиваемый режим рассуждений. Модель имеет 2,3 млрд эффективных параметров и 5,1 млрд параметров вместе с embedding-слоями, использует Per-Layer Embeddings и Quantization-Aware Training (QAT). Архитектура включает 35 слоёв с чередованием локального sliding window attention на 512 токенов и глобального внимания, а также отдельные vision- и audio-энкодеры примерно на 150 млн и 300 млн параметров соответственно. Контекстное окно составляет 128K токенов, словарь — 262 тысячи токенов, заявлена поддержка более 140 языков; в README явно указан английский язык. Доступны варианты GGUF от Q2_K до Q8_0, а также BF16, F16 и F32, с размером основных файлов примерно от 2,98 до 18,5 ГБ. К сильным сторонам относятся мультимодальность, большое контекстное окно, оптимизация QAT для снижения требований к памяти и локального инференса, а также широкий выбор уровней квантования. Ограничения — заметные требования к памяти для старших вариантов, а также отсутствие подробных данных о производительности на конкретном оборудовании и практических ограничениях мультимодальных возможностей. Лицензия — Apache-2.0.

Это текстовая версия Gemma 4 E2B-it, подготовленная bRadu на основе google/gemma-4-E2B-it. Из исходной мультимодальной модели удалены кодировщики изображений и аудио; оставлены языковая модель Gemma4ForCausalLM и текстовый токенизатор. Модель содержит 1,6 млрд параметров, использует архитектуру Gemma 4 с плотными слоями, работает через Transformers и распространяется в формате safetensors. Модель предназначена для текстовых задач и диалогов, а также для стандартного дообучения SFT, DPO и KTO. Указанное в метаданных контекстное окно — 131 072 токена. Она сохраняет текстовую часть исходной Gemma 4 E2B-it, но не принимает изображения или аудио. Лицензия — Apache-2.0.

unsloth/gemma-4-E2B-it-unsloth-bnb-4bit — 4-битно квантованная версия инструкционно настроенной модели Google Gemma 4 E2B, подготовленная Unsloth. Модель предназначена для генерации текста, рассуждений, программирования, агентных сценариев и мультимодального понимания входных данных на локальных устройствах, включая ноутбуки и мобильные устройства. Модель использует плотную архитектуру Gemma 4 с 2,3 млрд эффективных параметров и 5,1 млрд параметров с учётом эмбеддингов, 35 слоями, гибридным механизмом внимания и контекстом до 128 тысяч токенов. Она принимает текст, изображения и аудио и генерирует текст; поддерживается более 140 языков. Доступны настраиваемые режимы рассуждения, нативная поддержка системных инструкций и вызова функций. Квантование BNB в формате 4-bit снижает требования к памяти и облегчает локальный запуск, однако может уменьшать точность по сравнению с полноразмерной версией. Модель распространяется по лицензии Apache 2.0. В README не приведены подробные результаты бенчмарков, требования к аппаратному обеспечению или количественная оценка влияния квантования на качество, поэтому её производительность в конкретных задачах требует практической проверки.

Arabic250/gemma-4-E4B-it-GGUF — это 4-битная GGUF-версия instruction-tuned модели Gemma 4 E4B, разработанной Google DeepMind и подготовленной в формате GGUF командой Unsloth. Модель предназначена для локального запуска и дообучения, включая работу на ноутбуках и мобильных устройствах, а также для использования в Unsloth Studio и средах на базе llama.cpp. Модель принимает текст и изображения, поддерживает аудио на нативном уровне и генерирует текст. Вариант E4B имеет около 4,5 млрд эффективных параметров, 42 слоя, контекстное окно до 128K токенов и словарь размером 262K токенов. Архитектура использует гибридное внимание: локальные скользящие окна чередуются с глобальным вниманием. Gemma 4 поддерживает более 140 языков, режимы рассуждения, генерацию текста, программирование, мультимодальное понимание, tool calling и агентские сценарии. К сильным сторонам относятся компактный размер, возможность эффективного локального развертывания, длинный контекст, мультимодальность и поддержка структурированных диалогов с системными инструкциями. Ограничением являются возможные потери точности из-за 4-битной квантизации, а также требования к совместимому программному обеспечению и оборудованию; конкретные показатели производительности для данной сборки в README не приведены. Модель распространяется по лицензии Apache 2.0.

Gemma-4-e4b-it-OptiQ-4bit — это локальная квантизированная версия языковой модели google/gemma-4-e4b-it, подготовленная сообществом mlx-community с помощью инструментария mlx-optiq для Apple Silicon. Модель предназначена для генерации текста, включая объяснения, рассуждения, программирование, выполнение инструкций, работу с агентскими сценариями и вызовами инструментов. Она запускается локально через MLX и не требует PyTorch или облачной инфраструктуры. Модель использует смешанную точность: 224 слоя представлены в 4-битном формате, а 155 наиболее чувствительных слоя — в 8-битном; всего квантизировано 379 слоёв, размер группы — 64. Калибровка выполнялась на данных из шести областей: обычный текст, рассуждения, код, агенты, вызовы инструментов и инструкции с ограничениями. Размер модели на диске составляет около 6,1 ГБ. Для ускорения декодирования поддерживается speculative decoding с отдельной моделью-драфтером gemma-4-e4b-it-assistant-bf16. По заявленным оценкам, версия OptiQ превосходит равномерную 4-битную квантизацию на тестах MMLU, GSM8K, IFEval, BFCL, HumanEval и HashHop; средний Capability Score составляет 68,92 против 55,20. Ограничения включают привязку к экосистеме MLX и Apple Silicon, а также увеличение размера примерно на 1,2 ГБ по сравнению с равномерной 4-битной версией. Языки, максимальный контекст и точная архитектура в README не указаны. Модель распространяется по лицензии Gemma, унаследованной от базовой модели; применяются условия Google Gemma.

gemma-4-E4B-it-qat-GGUF — мультимодальная instruction-tuned модель семейства Gemma 4, разработанная Google DeepMind и представленная в формате GGUF пользователем prithivMLmods. Она предназначена для локального запуска на ноутбуках и производительных мобильных устройствах, а также для исследовательских и прикладных сценариев с использованием llama.cpp. Модель поддерживает работу с текстом, изображениями и аудио, включая генерацию текста, распознавание речи, перевод речи, OCR, анализ изображений и видеокадров, function calling и настраиваемый режим рассуждений. Модель имеет около 4,5 млрд эффективных параметров и 8 млрд параметров с учётом embeddings, использует Quantization-Aware Training, Per-Layer Embeddings и гибридное внимание с 512-токенным скользящим окном в 42 слоях. В состав входят vision encoder примерно на 150 млн параметров и audio encoder примерно на 300 млн параметров. Заявлены контекст до 128 тысяч токенов, словарь на 262 тысячи токенов и поддержка более 140 языков, включая английский. Доступны версии GGUF с точностью от Q2_K до Q8_0, а также BF16, F16 и F32; размер файлов зависит от варианта и составляет примерно от 4,38 до 29,9 ГБ, не считая multimodal-проектора. Сильными сторонами являются сочетание мультимодальности, большого контекста, локального исполнения и сниженных требований к памяти благодаря QAT при сохранении качества, близкого к bfloat16. Ограничения включают значительные аппаратные требования для высокоточных вариантов и зависимость мультимодальных возможностей от совместимого программного обеспечения и projector-файла. Модель распространяется по лицензии Apache-2.0.

Gemma 4 E4B Instruct QAT Mobile — мультимодальная модель Google DeepMind с плотной архитектурой Gemma 4ForConditionalGeneration, дообученная для следования инструкциям и оптимизированная с помощью Quantization-Aware Training для мобильного оборудования. Эта версия распространяется в формате compressed-tensors и использует схему wNa8o8 с 2-битными слоями декодирования, оптимизированным KV-кэшем и статическими активациями, чтобы снизить требования к памяти при запуске на устройстве. Модель принимает текст и изображения, а для варианта E4B также поддерживает аудио; выдаёт текст. Она предназначена для диалогов, генерации и редактирования кода, рассуждений, извлечения сведений из изображений и документов, OCR, понимания видео и агентных сценариев с вызовом инструментов. Для E4B заявлено контекстное окно 128K токенов; семейство Gemma поддерживает более 140 языков при предварительном обучении. Модель может работать на мобильных устройствах и других локальных системах с ограниченными ресурсами. Модель доступна по лицензии Apache 2.0. Качество и скорость на конкретном устройстве зависят от реализации и аппаратного обеспечения; QAT снижает расход памяти, но отдельные слои используют низкую разрядность. Карточка описывает аудио-возможности семейства, однако не уточняет их точный охват для этой сборки.

mlx-community/gemma-4-e4b-it-qat-OptiQ-4bit — это квантизированная MLX-модель, созданная сообществом mlx-community с использованием инструментария mlx-optiq на базе Google Gemma-4 E4B IT QAT. Она предназначена для локального запуска на устройствах с Apple Silicon без PyTorch и облачных сервисов. Модель поддерживает генерацию текста, а через mlx-optiq — работу с изображениями и текстом, а также ускорение генерации с помощью speculative decoding. В основе лежит quantization-aware-trained модель google/gemma-4-E4B-it-qat-q4_0-unquantized, обученная с учетом последующей низкобитной квантизации. Используется чувствительная к слоям mixed-precision схема: 221 компонент работает в 8-битном формате, 122 — в 4-битном. Достигнутая точность составляет 5,17 бит на вес, размер модели на диске — около 7 ГБ, размер группы — 64. Для vision-компонента используется отдельный bf16-файл. Калибровка проводилась на данных шести типов: обычный текст, рассуждения, код, агентские сценарии, вызовы инструментов и инструкции с ограничениями. По заявленным тестам модель показывает Capability Score 68,67, что на 1,19 пункта выше равномерной 4-битной квантизации той же базы; наиболее заметный прирост отмечен в HumanEval и задаче длинного контекста HashHop. Она подходит для текстовых задач, программирования, рассуждений, следования инструкциям, вызова инструментов и мультимодального анализа изображений. Ограничения включают зависимость от экосистемы MLX и Apple Silicon, больший размер по сравнению с равномерной 4-битной версией и необходимость mlx-optiq для image-text режима и speculative decoding. Лицензия указана как Apache-2.0, при этом базовая Gemma распространяется по Gemma Terms of Use.

Карточка модели OsGo/gemma-4-E4B-it-qat-q4_0-unquantized-assistant на Hugging Face совпадает с карточкой google/gemma-4-E4B-it-qat-q4_0-unquantized, поэтому описание составлено по ней. Gemma 4 E4B IT QAT Unquantized — мультимодальная модель Google DeepMind с открытыми весами, полученная дообучением Gemma 4 E4B Instruct с применением обучения с учётом квантования (QAT). Репозиторий содержит веса safetensors в половинной точности, извлечённые из QAT-конвейера; эта версия предназначена для собственной компиляции и исследований. Лицензия — Apache 2.0. Модель принимает текст и изображения и генерирует текст. Семейство поддерживает контекст до 128 тысяч токенов для E4B и более 140 языков в обучающих данных; в README заявлена поддержка более 35 языков. Возможности включают диалог, рассуждения, программирование, распознавание речи, перевод речи в текст, понимание изображений и видео, OCR, разбор документов и вызов инструментов. Архитектура — плотная Gemma 4 для условной генерации. QAT ориентирован на снижение требований к памяти при сохранении качества, близкого к bfloat16, однако конкретный репозиторий содержит не готовую к обычному запуску квантованную сборку, а веса половинной точности для последующей компиляции. Аудио указано для E4B, но конкретный формат входов зависит от используемого конвейера.

Карточка модели Cup3/gemma-4-E4B-it-uncensored-heretic на Hugging Face совпадает с карточкой llmfan46/gemma-4-E4B-it-uncensored-heretic, поэтому описание составлено по ней. llmfan46/gemma-4-E4B-it-uncensored-heretic — производная модель на основе Google Gemma 4 E4B Instruct, опубликованная независимым автором. Это плотная мультимодальная модель для диалога и генерации текста, понимания изображений и аудио, рассуждений, программирования и вызова инструментов. В карточке заявлены гибридное внимание с локальными скользящими окнами и глобальными слоями, а для базовой модели E4B — контекст до 128 тысяч токенов и поддержка более 35 языков. Модель подходит для чат-ботов, суммаризации и создания текстов, извлечения данных из изображений и документов, распознавания речи и голосовых сценариев. В названии и тегах указано uncensored/abliterated, однако README не описывает конкретные изменения и не приводит отдельные оценки качества именно этой производной версии. Возможны фактические ошибки, смещения и трудности с неоднозначными или сложными запросами. Лицензия — Apache-2.0.

Карточка модели Cup4/gemma-4-E4B-it-uncensored-heretic на Hugging Face совпадает с карточкой llmfan46/gemma-4-E4B-it-uncensored-heretic, поэтому описание составлено по ней. llmfan46/gemma-4-E4B-it-uncensored-heretic — производная модель на основе Google Gemma 4 E4B Instruct, опубликованная независимым автором. Это плотная мультимодальная модель для диалога и генерации текста, понимания изображений и аудио, рассуждений, программирования и вызова инструментов. В карточке заявлены гибридное внимание с локальными скользящими окнами и глобальными слоями, а для базовой модели E4B — контекст до 128 тысяч токенов и поддержка более 35 языков. Модель подходит для чат-ботов, суммаризации и создания текстов, извлечения данных из изображений и документов, распознавания речи и голосовых сценариев. В названии и тегах указано uncensored/abliterated, однако README не описывает конкретные изменения и не приводит отдельные оценки качества именно этой производной версии. Возможны фактические ошибки, смещения и трудности с неоднозначными или сложными запросами. Лицензия — Apache-2.0.

Карточка модели Cup5/gemma-4-E4B-it-uncensored-heretic на Hugging Face совпадает с карточкой llmfan46/gemma-4-E4B-it-uncensored-heretic, поэтому описание составлено по ней. llmfan46/gemma-4-E4B-it-uncensored-heretic — производная модель на основе Google Gemma 4 E4B Instruct, опубликованная независимым автором. Это плотная мультимодальная модель для диалога и генерации текста, понимания изображений и аудио, рассуждений, программирования и вызова инструментов. В карточке заявлены гибридное внимание с локальными скользящими окнами и глобальными слоями, а для базовой модели E4B — контекст до 128 тысяч токенов и поддержка более 35 языков. Модель подходит для чат-ботов, суммаризации и создания текстов, извлечения данных из изображений и документов, распознавания речи и голосовых сценариев. В названии и тегах указано uncensored/abliterated, однако README не описывает конкретные изменения и не приводит отдельные оценки качества именно этой производной версии. Возможны фактические ошибки, смещения и трудности с неоднозначными или сложными запросами. Лицензия — Apache-2.0.

Карточка модели Pound1320/gemma-4-E4B-it-uncensored-heretic на Hugging Face совпадает с карточкой llmfan46/gemma-4-E4B-it-uncensored-heretic, поэтому описание составлено по ней. llmfan46/gemma-4-E4B-it-uncensored-heretic — производная модель на основе Google Gemma 4 E4B Instruct, опубликованная независимым автором. Это плотная мультимодальная модель для диалога и генерации текста, понимания изображений и аудио, рассуждений, программирования и вызова инструментов. В карточке заявлены гибридное внимание с локальными скользящими окнами и глобальными слоями, а для базовой модели E4B — контекст до 128 тысяч токенов и поддержка более 35 языков. Модель подходит для чат-ботов, суммаризации и создания текстов, извлечения данных из изображений и документов, распознавания речи и голосовых сценариев. В названии и тегах указано uncensored/abliterated, однако README не описывает конкретные изменения и не приводит отдельные оценки качества именно этой производной версии. Возможны фактические ошибки, смещения и трудности с неоднозначными или сложными запросами. Лицензия — Apache-2.0.

mhenrichsen/gemma-7b — текстовая языковая модель семейства Gemma, разработанного Google на основе исследований и технологий, использованных для Gemini. Это плотная авторегрессионная модель архитектуры decoder-only с 8,2 млрд параметров, предназначенная для генерации текста; заявленный контекст — до 8192 токенов. Репозиторий содержит веса в формате safetensors и рассчитан на использование с библиотекой Transformers. Модель подходит для ответов на вопросы, суммаризации, диалоговых интерфейсов, создания текстов и исследовательских NLP-сценариев. В карточке описана англоязычная версия Gemma; размер модели позволяет развёртывание на локальных компьютерах и собственной инфраструктуре, если хватает ресурсов. Карточка не уточняет, является ли именно этот чекпойнт предварительно обученным или настроенным на инструкции. Возможности зависят от обучающих данных и формулировки запроса: модель может испытывать трудности со сложными задачами, языковыми нюансами и здравым смыслом, а также выдавать неточные или устаревшие факты и воспроизводить предвзятость. Условия лицензии в предоставленных данных не указаны.

lewtun/gemma-7b-sft-full-openhermes-v0 — текстовая языковая модель, дообученная на базе google/gemma-7b на наборе диалоговых данных HuggingFaceH4/OpenHermes-2.5. Это плотная авторегрессионная архитектура GemmaForCausalLM примерно на 8,2 млрд параметров, рассчитанная на генерацию текста и диалоговое взаимодействие; заявленная длина контекста — 8192 токена. Модель подходит для ответов на вопросы, ведения диалога и других задач генерации текста. Данные не уточняют поддерживаемые языки и специальные области применения. Репозиторий содержит веса в формате safetensors; лицензия указана как other, поэтому условия использования следует сверить с лицензией базовой модели и карточкой репозитория.

beomi/gemma-ko-7b — базовая текстовая модель Gemma-Ko, выпущенная автором beomi на основе Gemma-7B от Google. Это плотная авторегрессионная архитектура-декодер Gemma с 8,2 млрд параметров и контекстом до 8192 токенов; модель распространяется в формате safetensors и рассчитана прежде всего на корейский и английский языки. Модель предназначена для генерации текста, ответов на вопросы, суммаризации и рассуждений, а также для черновиков писем, творческих текстов и языковых упражнений. Её можно запускать на локальном компьютере или в облачной инфраструктуре; для работы используется Transformers. В карточке приведены общие сценарии семейства Gemma, однако результаты бенчмарков этой версии не указаны. Качество ответов зависит от данных и формулировки запроса: модель может ошибаться в фактах, упускать нюансы и воспроизводить смещения. Указана лицензия other; использование регулируется условиями Gemma, на которые ссылается карточка.

Gemma-SEA-LION-v3-9B — языковая модель, разработанная Products Pillar команды AI Singapore при финансировании Национального исследовательского фонда Сингапура. Это плотная авторегрессионная модель-декодер на архитектуре Gemma 2 с 9 млрд параметров, созданная продолжением предобучения Google Gemma 2 9B примерно на 200 млрд токенов. Она предназначена для генерации текста на английском и языках Юго-Восточной Азии: бирманском, китайском, филиппинском, индонезийском, кхмерском, лаосском, малайском, тамильском, тайском и вьетнамском. Контекст модели составляет 8192 токена. Модель подходит для генерации ответов и текстов, вопросов и ответов, анализа тональности и токсичности, перевода, суммаризации, причинных рассуждений и естественно-языкового вывода. Карточка сообщает об оценке на SEA-HELM, но не приводит в предоставленном тексте конкретные результаты. Модель не прошла выравнивание по безопасности, поэтому при использовании нужны собственные проверки и меры безопасности. Веса доступны в формате safetensors; лицензия — Gemma Community License.

Gemma-The-Writer-9B — текстовая генеративная модель DavidAU на архитектуре Gemma 2 с 9 млрд параметров, созданная на основе дообученной инструктивной модели google/gemma-2-9b-it. Она предназначена для генерации текста и диалогового взаимодействия; её можно использовать для написания и продолжения текстов, а также для чата. Модель принимает текст и выдаёт текст, поддерживает контекст до 8192 токенов и распространяется в формате Safetensors для запуска напрямую или подготовки квантованных вариантов. Автор рекомендует подбирать параметры генерации и сэмплеры с учётом модели и приложения. В README отсутствуют подробности о целевом стиле письма, обучающих данных и измерениях качества, поэтому эти свойства нельзя надёжно уточнить. Лицензия в предоставленных данных не указана.

Gemopus-4-E4B-it — инструкционно дообученная модель, разработанная автором репозитория Jackrong на базе google/gemma4-E4B-it. Модель ориентирована на локальный запуск на периферийных устройствах, включая iPhone, планшеты и тонкие ноутбуки Apple, чтобы обеспечивать низкую задержку и повышенную конфиденциальность данных без обращения к облачным API. Вариант представлен в формате GGUF. Модель предназначена для повседневных текстовых задач: перевода, перефразирования, суммаризации, исправления ошибок, генерации коротких текстов, простых вопросов и ответов, а также многошагового диалога. Автор заявляет улучшение естественности тона, контекстного понимания, теплоты ответов и структурирования результатов по сравнению с исходной Gemma 4 E4B it. В метаданных указана мультимодальная специализация image-text-to-text, а заявленные языки включают английский, китайский, корейский и японский. Ключевые характеристики включают базовую модель Gemma 4 E4B-it, размер класса E4B, инструкционное дообучение и настройку на основе человеческих предпочтений. Контекстное окно в README не указано. Среди сильных сторон — возможность локального использования, потенциально высокая скорость инференса на устройствах Apple и ориентация на приватную обработку данных. При этом приведённые показатели скорости основаны на публичных бенчмарках и сообщениях сообщества, а результаты могут существенно зависеть от оборудования, среды выполнения и версии модели; независимые оценки производительности обозначены как TBD. Модель распространяется по лицензии Apache-2.0.

Geneva 12B GammaCorpus v2-10k — многоязычная чат-модель Ruben Roy, дообученная на Mistral Nemo Instruct 2407 с использованием набора GammaCorpus v2-10k, содержащего структурированные многоходовые диалоги. Она предназначена для генерации текста, общения по инструкциям и диалоговых сценариев; метаданные также указывают интерфейс вызова инструментов. Модель построена на архитектуре MistralForCausalLM с плотной архитектурой и насчитывает 12,1 млрд параметров. В README указаны 40 слоёв, SwiGLU и групповое скользящее внимание GQA. Модель заявлена для английского, французского, немецкого, испанского, итальянского, португальского, русского, китайского и японского языков. Метаданные указывают контекст до 1 024 000 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. Автор предупреждает о возможной предвзятости ответов.

Mungert/GigaChat3-10B-A1.8B-GGUF — GGUF-квантизированная версия диалоговой модели GigaChat3-10B-A1.8B, созданная на основе ai-sage/GigaChat3-10B-A1.8B-bf16 с использованием llama.cpp. Модель предназначена для генерации текста и диалоговых сценариев, включая работу с русским и английским языками, а также другими языками, добавленными в обучающий корпус. Модель использует архитектуру Mixture-of-Experts (MoE) с 10 млрд общих и 1,8 млрд активных параметров, Multi-head Latent Attention (MLA) для снижения требований к памяти и Multi-Token Prediction (MTP) для ускорения генерации. Обучение проводилось на 20 трлн токенов, включая данные по книгам, академическим материалам, программированию и математике, а также около 5,5 трлн токенов синтетических данных. Длина контекста в представленном описании не указана. GGUF-версия ориентирована на эффективный локальный инференс в экосистеме llama.cpp. В сборке применяется квантизация с выборочным повышением точности отдельных важных слоёв, что может улучшать качество при заданном уровне квантизации, но увеличивает размер файла. Ограничениями являются возможная потеря точности по сравнению с исходной bf16-версией и отсутствие в карточке подробностей о конкретных вариантах квантизации, размере файлов и измерениях качества именно этой GGUF-сборки. Лицензия — MIT.

Delta-Vector/GLM-4-32B-Tulu-Instruct — плотная языковая модель семейства GLM-4, дообученная автором на смеси Tulu-SFT. Она предназначена для диалогов, следования инструкциям и генерации текста; в метаданных также отмечены сценарии работы с кодом. Модель содержит 31,6 млрд параметров, принимает контекст до 32 768 токенов и использует формат диалога ChatML. Автор сообщает, что при обучении были удалены примеры выравнивания безопасности. Модель рассматривается как ассистент и основа для дальнейшего дообучения; оценка качества на длинном контексте не проводилась, а дополнительного обучения с подкреплением после SFT не было. Репозиторий распространяется по лицензии Apache-2.0.

cyankiwi/GLM-4.5-Air-AWQ-4bit — это 4-битная AWQ-квантизованная версия модели GLM-4.5-Air, разработанной Zhipu AI (zai-org). Модель относится к семейству фундаментальных моделей для интеллектуальных агентов и предназначена для генерации текста, рассуждений, программирования и взаимодействия с инструментами. GLM-4.5-Air использует гибридный режим рассуждений: thinking mode подходит для сложных задач и работы с инструментами, а non-thinking mode — для быстрых ответов. Модель имеет 106 млрд общих параметров и 12 млрд активных параметров, что указывает на разреженную архитектуру с активацией части параметров при обработке запроса. Заявлены поддерживаемые языки English и Chinese; модель относится к текстовым моделям и используется через библиотеку Transformers. Размер контекста в предоставленных данных не указан. 4-битная AWQ-квантизация снижает требования к памяти и может упростить локальный запуск, однако README не содержит количественной оценки влияния квантизации на качество или полного перечня совместимых аппаратных платформ. Ограничения по производительности, точности и применению в отдельных сценариях также не раскрыты. Модель распространяется по лицензии MIT, допускающей коммерческое использование и вторичную разработку.

INCModel2/GLM-5.2-MXFP4-CT-AutoRound — квантизированная версия языковой модели zai-org/GLM-5.2, созданная с помощью intel/auto-round в режиме RTN. Квантизация MXFP4 применена только к компоненту MoE; веса представлены в формате Compressed Tensor и совместимы с vLLM. Модель предназначена для генерации текста и диалогового использования, а базовая GLM-5.2 рассчитана также на программирование и длительные задачи с контекстом до одного миллиона токенов. Для запуска README приводит пример с vLLM, параллелизмом по четырём устройствам и ограничением контекста в 4096 токенов для конкретной конфигурации. Модель может выдавать фактически неверные, предвзятые, оскорбительные или непристойные ответы, поэтому перед внедрением требуется проверка безопасности и качества. В метаданных указана лицензия «other»; для коммерческого использования условия следует уточнить у правообладателей.

PhalaCloud/GLM-5.2-W4AFP8 — это квантизированная версия GLM-5.2, разработанного zai-org. Модель предназначена для генерации текста, рассуждений, точного следования инструкциям, работы с длинным контекстом и вызова инструментов. Указаны поддерживаемые языки English и Chinese; модель работает в текстовом режиме. Модель сохраняет полный объём 753 млрд параметров и использует архитектуру Mixture-of-Experts. Маршрутизируемые экспертные веса квантизированы до 4 бит с group size 128 и FP8-активациями, а отдельные компоненты, включая attention и MTP-слой, остаются в FP8 или BF16. На одном узле с 8 GPU H200 поддерживается контекст до 1 млн токенов. Квантизация рассчитана на снижение потребления памяти без измеримой потери качества относительно FP8-версии; заявлена поддержка EAGLE speculative decoding. По приведённым тестам модель показывает высокие результаты в reasoning, instruction following, long-context reasoning и tool calling, а также извлекает данные из контекста длиной около 983 тысяч токенов. Основные ограничения — необходимость GPU Hopper с SM90, проверенная совместимость только с SGLang версии 0.5.13.post1 или новее и непроверенная работа с vLLM и другими движками. Модель распространяется по лицензии MIT, унаследованной от GLM-5.2.