I.5Создание и редактирование текста

cyankiwi/gemma-4-31B-it-AWQ-4bit — 4-битная AWQ-квантованная версия инструкционно дообученной модели google/gemma-4-31B-it. Базовую модель разработала Google DeepMind, а данную квантованную сборку опубликовал cyankiwi. Модель относится к семейству Gemma 4 и предназначена для генерации текста, рассуждений, программирования, агентских сценариев и мультимодального анализа изображений. Модель использует плотную архитектуру с примерно 30,7 млрд параметров, гибридным вниманием с локальными скользящими окнами и глобальными слоями, контекстом до 256 тысяч токенов и поддержкой текстовых и графических входных данных с генерацией текста. В карточке указана поддержка английского, китайского, хинди, арабского, русского, японского, корейского, нидерландского, французского и испанского языков. Квантование AWQ снижает требования к памяти и упрощает локальное развертывание, однако может немного ухудшать качество по сравнению с полноразмерной версией; конкретные системные требования и результаты бенчмарков для этой сборки не указаны. Модель распространяется по лицензии Apache 2.0 с учетом условий лицензии Gemma 4.

RedHatAI/gemma-4-31B-it-FP8-dynamic — квантизированная FP8-версия мультимодальной модели google/gemma-4-31B-it, подготовленная RedHatAI. Модель построена на архитектуре Gemma4ForConditionalGeneration, принимает текст и изображения и генерирует текст. Она предназначена для генерации текста, диалоговых сценариев, следования инструкциям, рассуждений и вызова инструментов. Веса модели статически квантизированы в FP8 с масштабированием по каналам, а активации динамически квантизируются во время инференса с масштабированием по токенам. Квантизация применяется к линейным операторам трансформерных блоков; vision tower, embedding-слои и выходная голова сохраняют исходную точность. Это примерно вдвое уменьшает число бит на параметр, размер модели на диске и требования к памяти GPU по сравнению с 16-битной версией. Заявлены поддержка tool calling и режим reasoning/thinking. Модель оптимизирована для инференса через vLLM; в предоставленной конфигурации используется максимальная длина контекста 32768 токенов, а также специальные reasoning- и tool-call-парсеры Gemma 4. Оценки на GSM8K Platinum, MMLU-Pro, IFEval, MATH-500, AIME 2025, GPQA Diamond, LiveCodeBench v6 и BFCLv4 показывают близкие к исходной модели результаты, однако конкретные значения зависят от режима thinking. Модель распространяется по лицензии Apache 2.0.

AtomicChat/gemma-4-31B-it-GGUF — это квантизированная GGUF-версия мультимодальной модели Google Gemma 4 31B Instruct, подготовленная командой Atomic Chat на основе оригинальных весов google/gemma-4-31B-it. Модель предназначена для локального и полностью автономного применения в чат-ботах, генерации и анализе текста, задачах рассуждения, а также обработки изображений совместно с текстом. Для работы с изображениями в репозитории поставляется vision-проектор mmproj. Модель содержит 30,7 млрд параметров и 60 слоёв. Она использует плотную decoder-архитектуру Gemma4ForConditionalGeneration с гибридным вниманием: sliding-window с окном 1024 токена и глобальным вниманием; предусмотрены 32 attention heads и 16 KV heads. Заявленная длина контекста — 256 тысяч токенов, размер словаря — 262 тысячи. Поддерживаются текстовая и визуальная модальности. Доступны варианты квантования от Q2_K до Q8_0; кванты откалиброваны с importance matrix, что должно помогать сохранять качество при уменьшении размера. Рекомендуемым компромиссом между размером, скоростью и качеством указан Q4_K_M. Сильные стороны модели — большой контекст, мультимодальность, возможности рассуждения, автономная работа и широкий выбор вариантов квантования для разных объёмов памяти. Ограничения связаны с высокими требованиями к памяти: размер файлов варьируется примерно от 11,9 до 32,6 ГБ, а низкобитные варианты могут заметно терять качество. Для корректной работы в llama.cpp требуется применять chat template Gemma 4 через параметр --jinja; для изображений необходим vision-проектор и поддержка соответствующих инструментов. Репозиторий распространяется по лицензии Apache-2.0.

unsloth/gemma-4-31B-it-GGUF — квантизированная GGUF-версия инструкционно дообученной модели Google DeepMind Gemma 4 31B, подготовленная Unsloth. Модель предназначена для локального запуска и использования в приложениях, где необходимы генерация текста, программирование, рассуждения, агентские сценарии и мультимодальное понимание изображений. Она поддерживает нативный system prompt, function calling и настраиваемые режимы рассуждений. Модель имеет плотную архитектуру с 30,7 млрд параметров, 60 слоями, размером скользящего окна 1024 токена и контекстом до 256K токенов. Она принимает текст и изображения, генерирует текст, поддерживает более 140 языков и использует гибридное внимание, объединяющее локальное скользящее и глобальное внимание. Формат GGUF ориентирован на эффективный запуск через совместимые инструменты, включая llama.cpp, однако конкретный уровень квантизации в представленном README не указан. Сильными сторонами являются большой контекст, мультимодальность, возможности рассуждения и программирования, а также поддержка локального развертывания. Ограничения связаны с высокой вычислительной и оперативной нагрузкой, характерной для модели такого размера, и с тем, что аудиовход для версии 31B не заявлен. Модель распространяется по лицензии Apache 2.0; авторами семейства Gemma 4 указаны Google DeepMind.

Gemma-4-31B-IT-NVFP4-GGUF — квантизированная версия мультимодальной модели Google Gemma-4-31B-it, подготовленная LibertAI для запуска через llama.cpp. Модель предназначена для генерации и понимания текста, а с дополнительным файлом mmproj — также для обработки изображений и аудио. Указан английский язык поддержки. Это плотная decoder-модель примерно на 30,7 млрд параметров с гибридной схемой локального скользящего и глобального внимания, unified KV в глобальных слоях и Proportional RoPE для длинного контекста. Тензоры dense FFN квантизированы в NVFP4, а остальные компоненты используют варианты GGUF-квантизации Q4_K_M, Q8_0 или BF16. Доступны файлы размером примерно от 17 до 30 ГБ; для мультимодального ввода требуется отдельный mmproj-файл размером около 1,2 ГБ. В README приведены примеры запуска с контекстом до 32768 токенов и результаты тестов на NVIDIA RTX 5090. Главное преимущество NVFP4-варианта — уменьшенный объём видеопамяти и высокая производительность на NVIDIA Blackwell, включая RTX 50-й серии, B100 и B200; вариант Q4_K_M рекомендован для наиболее эффективной работы. На старых GPU модель запускается, но преимуществ в производительности NVFP4 может не быть. Большой KV-кэш Gemma-4 ограничивает высокую конкурентную нагрузку, а более точные варианты требуют больше памяти. Модель распространяется по лицензии Gemma, унаследованной от исходной модели Google.

LilaRest/gemma-4-31B-it-NVFP4-turbo — репакованная и оптимизированная версия Gemma 4 31B IT, основанная на моделях Google gemma-4-31B-it и NVIDIA Gemma-4-31B-IT-NVFP4. Модель предназначена для генерации текста, диалоговых приложений, ответов на вопросы и других задач, поддерживаемых text-generation. Это текстовая версия: веса и энкодеры для обработки видео и аудио удалены. Модель использует квантизацию NVFP4 и рассчитана на GPU NVIDIA с архитектурой Blackwell, включая RTX 5090, RTX PRO 6000 и B200, с объёмом видеопамяти не менее 20 ГБ. По заявленным данным, она занимает около 18,5 GiB памяти, примерно в 2,5 раза быстрее базовой модели и обеспечивает более высокую производительность при параллельной обработке запросов. Заявлен контекст до 16K токенов. В бенчмарках модель получила 72,73% на GPQA Diamond и 83,93% на MMLU Pro, сохранив близкое к исходной модели качество, но с потерей примерно 1–3%. Основные ограничения — зависимость от совместимого оборудования NVIDIA Blackwell, необходимость соответствующих версий Transformers, vLLM и CUDA, а также отсутствие мультимодальной поддержки аудио и видео. По README, модель распространяется по лицензии Apache 2.0.

unsloth/gemma-4-E2B — вариант Gemma 4 E2B от Unsloth, основанный на дообученной Google Gemma 4 E2B от Google DeepMind. Это плотная мультимодальная модель генерации текста по текстовым и визуальным входам; для семейства Gemma 4 заявлены гибридное внимание с локальными и глобальными слоями, режим пошагового рассуждения и контекст до 128 тысяч токенов для E2B. В репозитории указаны веса safetensors и лицензия Apache 2.0. Модель подходит для диалогов, генерации и исправления кода, суммаризации, ответов по изображениям, OCR, распознавания объектов, разбора документов, графиков и интерфейсов, а также агентных сценариев с вызовом инструментов. Семейство поддерживает более 35 языков; README также сообщает о возможностях аудио для E2B, но метаданные данного репозитория подтверждают только зрительную модальность и задачу image-text-to-text. Среди ограничений — возможные фактические ошибки, смещения и трудности с неоднозначностью, сложными открытыми задачами и тонкими языковыми нюансами.

Gemma 4 E4B — мультимодальная плотная модель семейства Gemma, разработанная Google DeepMind и представленная в виде весов с лицензией Apache 2.0. Она принимает текст, изображения и аудио и генерирует текст; аудиовозможности включают распознавание речи и перевод речи в текст. Модель рассчитана на запуск на мобильных устройствах и ноутбуках, а также на диалоговые сценарии, рассуждения, программирование и работу с инструментами. Архитектура реализует гибридное внимание: чередует локальные окна внимания с глобальным вниманием. Для E4B заявлено контекстное окно до 128 тысяч токенов. Модель понимает изображения, в том числе документы, графики и интерфейсы, а также аудио; семейство Gemma 4 поддерживает более 140 языков при обучении и более 35 языков при использовании. Карточка описывает семейство в целом, поэтому отдельные языковые возможности E4B могут зависеть от задачи и конфигурации.

Карточка модели ArchiveStudio/gemma-4-E4B-it на Hugging Face совпадает с карточкой google/gemma-4-E4B-it, поэтому описание составлено по ней. Gemma 4 E4B Instruct — мультимодальная модель Google DeepMind, дообученная для следования инструкциям на базе google/gemma-4-E4B. Она использует плотную архитектуру Gemma 4 и принимает текст, изображения и аудио, выдавая текст; аудиовозможности заявлены для варианта E4B. Модель подходит для диалога, рассуждений, генерации и исправления кода, анализа изображений и документов, распознавания речи и перевода речи в текст. Поддерживаются системные инструкции, вызов инструментов и контекст до 128 тысяч токенов; семейство Gemma 4 поддерживает множество языков, включая более 35 языков в практических сценариях. Модель рассчитана в том числе на локальное исполнение на ноутбуках и мобильных устройствах, а гибридное внимание сочетает локальные окна и глобальное внимание для работы с длинным контекстом. Возможности видео описаны для семейства в целом, но README не подтверждает их отдельно для E4B; поэтому видео не включено в модальности этой модели. Лицензия — Apache 2.0.

Карточка модели Iambackup/gemma-4-E4B-it на Hugging Face совпадает с карточкой AtharvOG/Atharvs_Model, поэтому описание составлено по ней. Atharvs_Model — дообученная мультимодальная модель на базе Google Gemma 4 E4B, опубликованная под лицензией Apache 2.0. Она использует архитектуру Gemma4ForConditionalGeneration и формат safetensors, принимает текст и изображения и формирует текстовые ответы. Семейство Gemma 4 поддерживает контекст до 128 тысяч токенов для малых моделей, включая E4B, и многоязычную работу; карточка этой конкретной модели не уточняет языки дообучения. Модель подходит для диалога, генерации и суммаризации текста, программирования, рассуждений, а также анализа изображений и документов, включая OCR. В README Gemma 4 также заявлены видеопонимание и аудиозадачи для E2B и E4B, однако метаданные конкретного репозитория не подтверждают эти возможности отдельно. Возможности исходной модели не обязательно полностью сохранены или улучшены после дообучения; перед использованием ответы следует проверять.

Карточка модели Juan663/gemma-4-E4B-it на Hugging Face совпадает с карточкой google/gemma-4-E4B-it, поэтому описание составлено по ней. Gemma 4 E4B Instruct — мультимодальная модель Google DeepMind, дообученная для следования инструкциям на базе google/gemma-4-E4B. Она использует плотную архитектуру Gemma 4 и принимает текст, изображения и аудио, выдавая текст; аудиовозможности заявлены для варианта E4B. Модель подходит для диалога, рассуждений, генерации и исправления кода, анализа изображений и документов, распознавания речи и перевода речи в текст. Поддерживаются системные инструкции, вызов инструментов и контекст до 128 тысяч токенов; семейство Gemma 4 поддерживает множество языков, включая более 35 языков в практических сценариях. Модель рассчитана в том числе на локальное исполнение на ноутбуках и мобильных устройствах, а гибридное внимание сочетает локальные окна и глобальное внимание для работы с длинным контекстом. Возможности видео описаны для семейства в целом, но README не подтверждает их отдельно для E4B; поэтому видео не включено в модальности этой модели. Лицензия — Apache 2.0.

Карточка модели kiiro14/gemma-4-E4B-it на Hugging Face совпадает с карточкой google/gemma-4-E4B-it, поэтому описание составлено по ней. Gemma 4 E4B Instruct — мультимодальная модель Google DeepMind, дообученная для следования инструкциям на базе google/gemma-4-E4B. Она использует плотную архитектуру Gemma 4 и принимает текст, изображения и аудио, выдавая текст; аудиовозможности заявлены для варианта E4B. Модель подходит для диалога, рассуждений, генерации и исправления кода, анализа изображений и документов, распознавания речи и перевода речи в текст. Поддерживаются системные инструкции, вызов инструментов и контекст до 128 тысяч токенов; семейство Gemma 4 поддерживает множество языков, включая более 35 языков в практических сценариях. Модель рассчитана в том числе на локальное исполнение на ноутбуках и мобильных устройствах, а гибридное внимание сочетает локальные окна и глобальное внимание для работы с длинным контекстом. Возможности видео описаны для семейства в целом, но README не подтверждает их отдельно для E4B; поэтому видео не включено в модальности этой модели. Лицензия — Apache 2.0.

Карточка модели smplelife12798/gemma-4-E4B-it на Hugging Face совпадает с карточкой google/gemma-4-E4B-it, поэтому описание составлено по ней. Gemma 4 E4B Instruct — мультимодальная модель Google DeepMind, дообученная для следования инструкциям на базе google/gemma-4-E4B. Она использует плотную архитектуру Gemma 4 и принимает текст, изображения и аудио, выдавая текст; аудиовозможности заявлены для варианта E4B. Модель подходит для диалога, рассуждений, генерации и исправления кода, анализа изображений и документов, распознавания речи и перевода речи в текст. Поддерживаются системные инструкции, вызов инструментов и контекст до 128 тысяч токенов; семейство Gemma 4 поддерживает множество языков, включая более 35 языков в практических сценариях. Модель рассчитана в том числе на локальное исполнение на ноутбуках и мобильных устройствах, а гибридное внимание сочетает локальные окна и глобальное внимание для работы с длинным контекстом. Возможности видео описаны для семейства в целом, но README не подтверждает их отдельно для E4B; поэтому видео не включено в модальности этой модели. Лицензия — Apache 2.0.

ente-ai/gemma-4-E4B-it-GGUF — квантизированная в формате GGUF instruction-tuned версия модели Gemma 4 E4B, разработанной Google DeepMind и опубликованной в виде сборки Unsloth. Модель относится к семейству открытых мультимодальных моделей Gemma 4 и предназначена для локального запуска, в том числе на ноутбуках и мобильных устройствах, а также для использования в Unsloth Studio и совместимых инструментах. Модель поддерживает обработку текста, изображений и аудио с генерацией текста, ориентирована на рассуждения, генерацию текста, программирование, мультимодальный анализ, агентские сценарии и вызов функций. Для E4B указаны около 4,5 млрд эффективных параметров и 8 млрд параметров с учётом эмбеддингов, 42 слоя, размер контекстного окна до 128K токенов и локальное окно внимания 512 токенов. Архитектура Gemma 4 использует гибридное внимание с чередованием локального sliding window attention и глобального внимания; заявлена поддержка более 140 языков, настраиваемых режимов рассуждения и системных промптов. К сильным сторонам относятся мультимодальность, большое контекстное окно, поддержка native function calling, возможности для кодирования и эффективного локального развертывания благодаря 4-битному GGUF-представлению. Ограничения включают зависимость качества и скорости от выбранного квантизированного варианта и аппаратного обеспечения; конкретные требования к памяти и производительности в README не указаны. Модель распространяется по лицензии Apache 2.0, при этом для Gemma 4 также следует учитывать условия лицензии Google, доступные по указанной ссылке.

unsloth/gemma-4-E4B-it-MLX-8bit — это 8-битная MLX-версия instruction-tuned модели Gemma 4 E4B, разработанной Google DeepMind и подготовленной Unsloth для локального запуска. Модель относится к семейству открытых мультимодальных моделей Gemma 4 и предназначена для выполнения инструкций, генерации текста, рассуждений, программирования и агентских сценариев с поддержкой function calling. Модель использует плотную архитектуру с примерно 4,5 млрд эффективных параметров и 8 млрд параметров с учётом embedding-слоёв, 42 слоями и словарём размером 262 тысячи токенов. Она принимает текстовые и визуальные данные, а также аудио; генерирует текст. Для обработки контекста применяется гибридный механизм внимания с локальным sliding window размером 512 токенов и глобальным вниманием. Контекстное окно E4B составляет до 128 тысяч токенов, а мультиязычная поддержка охватывает более 140 языков. К сильным сторонам относятся мультимодальность, развитые возможности рассуждения и программирования, поддержка системных промптов и эффективное локальное выполнение на устройствах с ограниченными ресурсами. 8-битное представление снижает требования к памяти, но может сопровождаться некоторой потерей точности по сравнению с полноточными версиями. README не приводит подробных результатов бенчмарков, требований к оборудованию или перечня поддерживаемых аудио- и видеоформатов. Модель распространяется по лицензии Apache 2.0.

Gemma-7B-slerp — текстовая языковая модель, созданная Arcee AI слиянием Google Gemma 7B и Gemma 7B Instruct методом SLERP с помощью mergekit. Она предназначена для генерации текста, диалога и ответов на вопросы; объединение базовой и инструктивной версий нацелено на сочетание их свойств. Модель построена на плотной архитектуре GemmaForCausalLM, содержит 8,2 млрд параметров и поддерживает контекст до 8192 токенов. Модель принимает текст и выдаёт текст. В карточке приведены результаты оценки на наборах AGIEval, GPT4All, TruthfulQA и Bigbench. Репозиторий содержит веса Safetensors; лицензия — Apache-2.0. Показатели из карточки не гарантируют качество на конкретных задачах, поэтому перед применением модель стоит оценить на своих данных.

Gemopus-4-26B-A4B-it — экспериментальная версия Gemma 4, дообученная методом SFT автором Jackrong на базе google/gemma4-26B-it. Это плотная модель семейства Gemma 4 с архитектурой Gemma4ForConditionalGeneration; репозиторий содержит веса в формате Safetensors. Модель предназначена для диалогов и следования инструкциям, с улучшениями естественности ответов, их ясности, структуры и полноты. Модель подходит для повседневного текстового помощника, структурирования длинных ответов, суммаризации, подготовки текстов и интерактивной помощи с кодом. В карточке указана поддержка английского, китайского, корейского и японского языков. Разработчик отмечает, что знания и математические способности уступают крупным передовым моделям; возможны ошибки в узкоспециализированных вопросах и сложных многошаговых вычислениях. Лицензия — Apache-2.0.

Ghost 7B Alpha — языковая модель на 7,1 млрд параметров, разработанная Ghost X (Hieu Lam) и дообученная на основе Mistral 7B. Она предназначена для генерации текста, диалоговых помощников и задач, включая рассуждения, ответы на вопросы, написание документов, перевод и программирование. Модель поддерживает взаимодействие с инструментами через описанный в карточке формат ролей и имеет контекст до 32 768 токенов по метаданным; README указывает 8 192 токена. Основные языки модели — английский и вьетнамский. Репозиторий содержит веса в формате safetensors; в карточке также описаны варианты распространения BF16, GGUF и AWQ. Указана лицензия Ghost 7B License Agreement, а метаданные классифицируют лицензию как other. README отмечает склонность модели занимать эмоционально окрашенную позицию, в том числе в задачах рассуждения; перед использованием следует оценить качество ответов и условия лицензии.

GigaChat-20B-A3B-instruct-v1.5-bf16 — диалоговая модель семейства GigaChat, основанная на ai-sage/GigaChat-20B-A3B-instruct-v1.5. В репозитории указана архитектура DeepseekForCausalLM, формат весов PyTorch bf16 и размер 3,1 млрд параметров. Модель рассчитана на диалог и генерацию текста, поддерживает контекст до 131 072 токенов и русский и английский языки. В этой версии улучшен alignment: в README сообщается о росте результатов Arena Hard RU с 20,8 до 29,6 и Arena General с 41,1 до 49,1; остальные приведённые метрики остались на прежнем уровне. Подходит для ведения диалога и генерации ответов на запросы. Для запуска README приводит пример использования с Transformers, PyTorch и Accelerate; также доступны варианты весов fp32 и int8, а отдельно — сборки GGUF и Ollama. Модель дообучена на базовой версии GigaChat-20B-A3B-instruct-v1.5 и распространяется по лицензии MIT. Результаты метрик отражают сведения из карточки модели; независимые оценки качества и ограничения в предоставленном README не описаны.

GigaChat3-10B-A1.8B-GGUF — квантованный формат модели семейства GigaChat, разработанный командой ai-sage. Это диалоговая текстовая модель для генерации ответов, работы с вопросами и ответами, программированием, математическими и академическими задачами. Модель поддерживает русский и английский языки; в обучающих данных также использовались ещё 10 языков, включая китайский, арабский, узбекский и казахский. Модель основана на архитектуре Mixture-of-Experts с 10 млрд общих и 1,8 млрд активных параметров. Она использует Multi-head Latent Attention для снижения требований к памяти за счёт сжатия KV-кэша и Multi-Token Prediction, ускоряющую генерацию при спекулятивной или параллельной генерации. Заявлен размер контекста до 32 768 токенов. Обучение проводилось на 20 трлн токенов, включая синтетические данные, код, математику, книги и академические источники. К сильным сторонам относятся высокая скорость инференса, сравнительно небольшое число активных параметров и результаты на русскоязычных и англоязычных тестах, включая MMLU, RUBQ, MATH и задачи программирования. Ограничения включают зависимость производительности от режима инференса и аппаратной конфигурации, а также возможное снижение качества при некорректной настройке llama.cpp для обработки tool calling. Модель распространяется по лицензии MIT и предназначена для запуска в формате GGUF, в частности через llama.cpp.

Gigi-Llama3-8B-Chinese-zh — плотная авторегрессионная языковая модель семейства Llama 3, разработанная как дообучение Llama-3-8B-Instruct. Она обучена на более чем 1,3 млн отобранных китайско-английских примеров, включая данные OpenHermes-2.5, Hermes, glaive-function-calling и китайские наборы COIG-CQIA и alpaca-gpt4-data-zh. Модель рассчитана на диалог и генерацию текста, особенно на задачи в китайско-английском контексте, с усиленной поддержкой китайского языка. Модель содержит 7,5 млрд параметров, использует библиотеку Transformers и формат safetensors; заявленная длина контекста — 8192 токена. Карточка описывает поддержку шаблона диалога Llama-3-8B-Instruct и приводит результаты на отдельных бенчмарках, но не раскрывает подробностей методики оценки. Лицензия — Apache-2.0.

GLM-4.6-FP8 — языковая модель для генерации текста, разработанная командой zai-org, связанной с Zhipu AI. Модель предназначена для работы с агентами, рассуждениями, программированием, поиском и использованием инструментов, а также для задач, где важны качество текста и естественность ролевого взаимодействия. Модель поддерживает английский и китайский языки, работает через библиотеку Transformers и имеет контекстное окно до 200 000 токенов. По сравнению с GLM-4.5 заявлены улучшения в кодировании, рассуждениях, использовании инструментов и поисковых агентах, а также более качественная генерация визуально оформленных интерфейсов. В README не указаны архитектура, количество параметров и точные сведения о поддерживаемых модальностях; по заявленному pipeline_tag модель относится к генерации текста. К сильным сторонам относятся увеличенный контекст, улучшенная работа с кодом и агентскими сценариями, поддержка tool use во время вывода и более естественный стиль написания. Ограничения и результаты конкретных тестов в README подробно не приведены. Для общих оценок рекомендуется temperature 1.0, а для задач программирования дополнительно top_p 0.95 и top_k 40. Модель распространяется по лицензии MIT.

NVIDIA GLM-4.7 NVFP4 — это квантизированная версия авторегрессионной языковой модели GLM-4.7, разработанной ZAI и оптимизированной с помощью NVIDIA Model Optimizer. Модель не принадлежит и не разработана NVIDIA; NVIDIA подготовила её под требования соответствующего сценария применения. Модель предназначена для коммерческого и некоммерческого использования, включая AI-агентов, чат-ботов, RAG-системы и другие приложения на основе искусственного интеллекта. Модель построена на архитектуре Transformer и имеет 358 млрд параметров. Она работает только с текстом: принимает строковые последовательности и генерирует текст. Максимальная длина контекста составляет до 200 000 токенов. Версия NVFP4 1.0 квантизирована до формата NVFP4 с использованием nvidia-modelopt v0.41.0; квантизации подвергнуты веса и активации линейных операторов в Transformer-блоках MoE. Данные о полном составе обучающей выборки и поддерживаемых языках не раскрыты, однако калибровка включает англоязычный cnn_dailymail и набор Nemotron с данными на испанском, французском, немецком, итальянском и японском языках. Модель ориентирована на инференс на NVIDIA GPU, особенно на архитектуре Blackwell, с использованием SGLang и Linux. Квантизация NVFP4 может снизить требования к ресурсам и ускорить развертывание, однако для работы требуется совместимая NVIDIA-инфраструктура и дополнительное тестирование в конкретном сценарии. В README приведены результаты на MMLU-PRO, GPQA Diamond, ns_livecodebench, SCICODE и AIME 2025, но они не описывают все практические ограничения модели. Лицензия — MIT.

GLM-4-9B-Chat-1M — открытая чат-модель семейства GLM-4, разработанная Zhipu AI. Это плотная архитектура ChatGLM примерно на 10,7 млрд параметров, рассчитанная на диалог и генерацию текста; модель поддерживает контекст до 1 048 576 токенов и интерфейс вызова инструментов. README также упоминает возможности веб-браузинга, выполнения кода и рассуждений по длинным текстам. Модель предназначена для многошаговых диалогов, анализа длинных документов, ответов на вопросы по большому контексту, рассуждений, работы с кодом и вызова пользовательских инструментов. В README заявлена поддержка 26 языков, включая японский, корейский и немецкий; метаданные карточки отмечают китайский и английский. Для весов действует лицензия, указанная в LICENSE; в метаданных она обозначена как other.

GLM-4-9B-Chat-1M — диалоговая языковая модель семейства GLM-4, разработанная Zhipu AI. Этот репозиторий содержит версию весов для Transformers; модель имеет плотную архитектуру GLM с примерно 8,9 млрд параметров и поддерживает контекст до 1 048 576 токенов. Для работы требуется Transformers версии 4.46.0 или новее. Модель предназначена для многошагового диалога и генерации текста, включая рассуждения по длинным документам. Карточка семейства GLM-4-9B-Chat описывает вызов инструментов, веб-поиск и выполнение кода; метаданные также отмечают интерфейс вызова инструментов. GLM-4 поддерживает 26 языков, а в метаданных этой модели указаны английский и китайский. В README сообщается о результатах на задачах семантики, математики, рассуждений, программирования и знаний, превосходящих Llama-3-8B в приведённых оценках; данных о независимой проверке этих сравнений нет. Указанная в метаданных лицензия — other, поэтому конкретные условия использования следует сверить с лицензией репозитория. Модель является дообученной версией THUDM/glm-4-9b-chat-1m.

GLM-4-9B-Chat imatrix GGUF — это квантизированные версии диалоговой языковой модели GLM-4-9B-Chat, разработанной Zhipu AI. Данный репозиторий содержит сборки в формате GGUF с использованием imatrix, предназначенные для локального запуска через llama.cpp и совместимые с рядом клиентских приложений, включая JanAI, KoboldCPP, text-generation-webui, Ollama и GPT4All. Модель предназначена для многораундовых диалогов, генерации и понимания текста, рассуждений, работы с математическими и программными задачами, а также вызова пользовательских инструментов и выполнения кода в поддерживаемых средах. GLM-4-9B-Chat имеет около 9 миллиардов параметров, поддерживает контекст до 128K токенов и многоязычность, включая английский, китайский, японский, корейский и немецкий языки; всего заявлена поддержка 26 языков. Это текстовая модель, соответствующая задаче text-generation. К сильным сторонам относятся заявленная производительность, превосходящая Llama-3-8B на ряде оценок, поддержка длинного контекста и диалоговых функций. Ограничения связаны с необходимостью использовать совместимое программное обеспечение и включить Flash Attention при запуске через llama.cpp, иначе возможен сбой. В карточке указана лицензия other; подробные условия лицензии не приведены.

NVIDIA GLM-5.1 NVFP4 — это квантизированная версия языковой модели ZAI GLM-5.1, основанная на авторегрессионной архитектуре оптимизированного Transformer. NVIDIA не является владельцем или разработчиком исходной модели: компания подготовила и выпустила её квантизированную версию с помощью NVIDIA Model Optimizer. Модель предназначена для коммерческого и некоммерческого использования, включая AI-агентов, чат-ботов, RAG-системы и другие приложения на базе искусственного интеллекта. Модель работает с текстом на входе и генерирует текст на выходе, поддерживает контекст длиной до 200 000 токенов. Объём составляет 754 млрд параметров, из которых активируется 40 млрд. Используется формат квантизации NVFP4 с точностью 4 бита; версия модели — NVFP4 1.0, квантизация выполнена с помощью nvidia-modelopt v0.45.0. Калибровка проводилась на наборах данных для диалогов и следования инструкциям, научного и математического рассуждения, программирования, SWE-задач, вызова инструментов и многоязычных сценариев. Языки обучения включают английский, немецкий, французский, японский, итальянский, китайский и испанский, однако полный перечень поддерживаемых языков README не гарантирует. Модель ориентирована на развёртывание с использованием SGLang или vLLM на GPU NVIDIA с архитектурой Blackwell под Linux. Её сильными сторонами являются большой контекст, высокая общая ёмкость модели, поддержка задач рассуждения, программирования и агентного взаимодействия, а также снижение требований к памяти благодаря 4-битной квантизации. Ограничения включают необходимость совместимого оборудования, отсутствие раскрытых сведений о полном обучающем и тестовом наборах, а также необходимость дополнительного тестирования на данных конкретного применения для проверки качества, безопасности и соответствия требованиям. Лицензия — MIT.

GLM-5.3-Flash-FP8 — это FP8-квантизированная версия мультимодальной модели GLM-5.3-Flash, разработанная командой GLM-5; базовая модель опубликована организацией zai-org. Модель предназначена для генерации текста, программирования, агентских сценариев, работы с инструментами и задач, требующих обработки текста и изображений. В карточке указаны поддержка английского и китайского языков, интеграция с Transformers и лицензия MIT. Модель имеет 320 млрд общих параметров, из которых 18 млрд активируются при обработке запроса. Она использует гибридную архитектуру со sparse attention и linear attention, рассчитанную на снижение стоимости обслуживания длинного контекста при сохранении точности, а также Manifold-Constrained Hyper-Connections. Обучение проводилось на мультимодальном корпусе объёмом 30 трлн токенов. В оценках использовались контексты до 300 000 токенов, а для отдельных тестов — до 1 млн токенов; это параметры конкретных оценочных конфигураций, а не обязательно гарантированный лимит модели. К сильным сторонам относятся высокая эффективность за счёт малого числа активных параметров, мультимодальность, возможности в программировании и агентских задачах, а также поддержка локального развёртывания через SGLang, vLLM, TokenSpeed и KTransformers. Ограничения именно FP8-версии, включая требования к аппаратному обеспечению, точность чисел и возможные отличия от базовой модели, в README не описаны.

rwitz2/go-bruins-v2.1.1 — текстовая генеративная модель семейства Mistral с плотной архитектурой MistralForCausalLM и 7,1 млрд параметров. Репозиторий содержит веса в формате Safetensors; заявленное окно контекста составляет 32 768 токенов. README сообщает, что модель основана на jan-hq/trinity-v1, дообученной методом DPO на Intel/orca_dpo_pairs, и содержит следы Cybertron-2. Модель предназначена для генерации текста и диалоговых сценариев на основе текстового запроса. README заявлял о первом месте в таблице лидеров 16 декабря 2023 года, но не уточняет саму таблицу или условия оценки. Автор также предупреждает о возможном загрязнении некоторых обучающих данных и сообщает о планах устранить его в будущих версиях. Лицензия репозитория — CC; конкретный вариант лицензии не указан в предоставленных метаданных.

GoGPT2-13B — 13-миллиардная плотная языковая модель семейства Llama, основанная на Llama 2 и представленная разработчиком Golaxy. Она предназначена для генерации текста на китайском и английском языках: ответов на вопросы, написания и редактирования текстов, объяснения понятий и создания кода. Архитектура — LlamaForCausalLM; модель рассчитана на контекст до 4096 токенов и доступна в формате PyTorch. В примерах карточки показаны ответы на общие вопросы, создание рецензий и реализация алгоритма. Модель дообучена на китайском наборе Alpaca-GPT4; лицензия — Apache-2.0. Карточка также говорит о версиях GoGPT на 7B и 13B параметров, но не приводит подробностей их сравнительной производительности.