II.2Создание и понимание программного кода

TeichAI Gemma 4 31B it Claude Opus Distill — мультимодальная модель диалогового семейства Gemma 4, созданная дообучением unsloth/gemma-4-31B-it с помощью Unsloth на наборах траекторий рассуждений Claude Opus и Sonnet. Она предназначена для диалогов и задач, требующих многошагового анализа: генерации и отладки кода, научных рассуждений, синтеза исследовательских материалов и выполнения инструкций. Архитектура — плотная Gemma4ForConditionalGeneration; модель работает с текстом и изображениями, поддерживает режим рассуждений и использует формат safetensors. В метаданных основная задача указана как image-text-to-text. README описывает вариант с высоким уровнем усилий рассуждения и рекомендует более новую версию v2, отмечая улучшения качества данных и шаблона чата в v2. Модель рассчитана на применение с Transformers и поддерживает переменное разрешение изображений. Карточка не сообщает размер контекстного окна и перечень поддерживаемых естественных языков, поэтому эти характеристики здесь не уточняются. Лицензия — Apache-2.0. Качество и стабильность текущей версии могут уступать v2; заявленные возможности в коде, науке и исследованиях в README не сопровождаются приведёнными здесь количественными результатами оценки.

TeichAI Gemma 4 31B IT Claude Opus Distill v2 — мультимодальная модель для диалогов, дообученная методом SFT на базе unsloth/gemma-4-31B-it с использованием наборов рассуждений, созданных на основе взаимодействий с Claude Opus. Модель семейства Gemma 4 имеет плотную архитектуру и предназначена для сложных многошаговых задач, генерации и отладки кода, научного анализа, синтеза исследовательских материалов и повседневного следования инструкциям. Модель принимает текст и изображения; README также описывает работу с видео как последовательностью кадров, но метаданные указывают только задачу image-text-to-text. Карточка рекомендует Transformers и описывает режим рассуждений, а также настраиваемый бюджет визуальных токенов для задач от распознавания текста на изображениях до их общего анализа. Размер контекста и поддерживаемые языки в предоставленных данных не указаны. Бенчмарки пока не представлены, поэтому качество для конкретных задач следует оценивать самостоятельно. Лицензия — Apache-2.0.

coder3101/gemma-4-31B-it-heretic — дообученная версия Gemma 4 31B IT, основанная на google/gemma-4-31B-it. Модель создана сообществом coder3101; по меткам heretic, uncensored, decensored и abliterated она позиционируется как версия с ослабленными ограничениями на ответы. Архитектура — плотная мультимодальная Gemma4ForConditionalGeneration; репозиторий содержит веса Safetensors и предназначен для работы через Transformers. Модель принимает текст и изображения и генерирует текст. Подходит для диалогов, ответов на вопросы по изображениям и документам, распознавания текста на изображениях, анализа диаграмм, написания и исправления кода, суммаризации и задач с длинным контекстом. В README семейства заявлена поддержка более 35 языков и контекст до 256K токенов для версии 31B; аудиообработка описана только для меньших вариантов Gemma 4, поэтому к этой модели её не относим. Гибридное чередование локального и глобального внимания рассчитано на эффективную обработку длинных последовательностей. Модель может ошибаться в фактах, упускать языковые нюансы и отражать смещения обучающих данных; ослабленные ограничения могут повышать риск нежелательных ответов. Лицензия — Apache-2.0.

llmfan46 подготовил Gemma 4 31B IT Uncensored Heretic — дообученную версию мультимодальной Gemma 4 31B IT от Google DeepMind. В README указано изменение компонента attn.o_proj; модель предназначена для диалогов, рассуждений, агентных сценариев, программирования и понимания изображений. Она принимает текст и изображения, поддерживает вызов инструментов и может разбирать документы, графики и интерфейсы, извлекать текст с изображений и отвечать на вопросы по визуальному содержимому. В основе — плотная архитектура Gemma4ForConditionalGeneration с чередованием локального скользящего и глобального внимания. Для исходной модели Gemma 4 31B IT заявлен контекст до 256 тысяч токенов и поддержка более 35 языков; метаданные указывают Transformers и формат safetensors. README также описывает видео и аудио для семейства Gemma 4, однако аудио заявлено только для вариантов E2B и E4B, поэтому здесь эти возможности не приписываются версии 31B. Карточка предупреждает о возможных фактических ошибках, предвзятости и трудностях с неоднозначностью и сложными открытыми задачами. Название «uncensored» указывает на изменённую фильтрацию, но карточка не описывает её конкретный эффект. Лицензия — Apache-2.0.

Карточка модели AlexHung29629/gemma-4-E2B на Hugging Face совпадает с карточкой unsloth/gemma-4-E2B-it, поэтому описание составлено по ней. unsloth/gemma-4-E2B-it — дообученная Unsloth версия мультимодальной Gemma 4 E2B IT от Google DeepMind. Это плотная модель условной генерации с гибридным вниманием: локальные окна чередуются с глобальным вниманием. Она предназначена для диалогов, рассуждений, работы с инструментами, программирования и анализа изображений; карточка указывает контекст до 128 тыс. токенов для E2B/E4B и поддержку более чем 35 языков. Репозиторий содержит веса в формате safetensors. Модель подходит для визуальных вопросов и ответов, извлечения данных из документов, распознавания текста и содержимого диаграмм, понимания интерфейсов и генерации кода. Gemma 4 E2B также поддерживает аудиораспознавание и перевод речи в текст, однако карточка этого репозитория и его pipeline tag обозначают задачу image-text-to-text. Ответы могут содержать фактические ошибки, а качество зависит от формулировки запроса и охвата обучающих данных; модель может ошибаться в нюансах языка и здравом смысле. Лицензия — Apache-2.0.

Это зеркальная копия Gemma 4 E2B IT от Google DeepMind, подготовленная chibifire. Модель прошла обучение с учётом квантизации Q4_0 (QAT), а в репозитории хранятся полут точные веса в формате safetensors вместе с токенизатором, шаблоном диалога и конфигурациями обработки и генерации. Она основана на плотной архитектуре Gemma 4 и предназначена для локального вывода и дальнейшего преобразования весов. Модель принимает текстовые и мультимодальные запросы и формирует ответы в диалоговом режиме; базовая Gemma 4 E2B IT поддерживает анализ изображений и аудио наряду с текстом. Обучение QAT рассчитано на сохранение качества при последующем хранении весов в Q4_0, хотя данная копия содержит полут точные, а не квантизованные веса. Для загрузки README рекомендует Transformers. Лицензия репозитория — Apache 2.0.

google/gemma-4-E2B-it-qat-q4_0-unquantized — мультимодальная инструктивная модель Google DeepMind из семейства Gemma 4, основанная на Gemma 4 E2B IT и подготовленная с использованием Quantization-Aware Training. Репозиторий содержит извлечённые из QAT-процесса веса половинной точности в формате safetensors, предназначенные для собственной компиляции и исследовательских экспериментов; это не готовый к запуску сжатый GGUF-чекпойнт. Модель принимает текст и изображения, а вариант E2B также поддерживает аудио; генерирует текст. Она предназначена для диалогов, рассуждений, программирования, понимания изображений и документов, распознавания речи и многоязычной работы. Для семейства Gemma 4 заявлены контекст до 128 тысяч токенов для малых моделей, включая E2B, гибридное локальное и глобальное внимание, вызов инструментов и поддержка более 140 языков при предобучении. К сильным сторонам относятся компактный размер семейства E2B, мультимодальный ввод и QAT-обучение, направленное на сохранение качества bf16 при снижении требований к памяти в соответствующих QAT-вариантах. Данный репозиторий содержит unquantized QAT-веса, поэтому описанное преимущество снижения памяти нельзя автоматически считать характеристикой этих файлов. Лицензия — Apache 2.0.

Карточка модели ckcegg/gemma-4-E2B-it-qat-q4_0-unquantized-assistant на Hugging Face совпадает с карточкой google/gemma-4-E2B-it-qat-q4_0-unquantized, поэтому описание составлено по ней. google/gemma-4-E2B-it-qat-q4_0-unquantized — мультимодальная инструктивная модель Google DeepMind из семейства Gemma 4, основанная на Gemma 4 E2B IT и подготовленная с использованием Quantization-Aware Training. Репозиторий содержит извлечённые из QAT-процесса веса половинной точности в формате safetensors, предназначенные для собственной компиляции и исследовательских экспериментов; это не готовый к запуску сжатый GGUF-чекпойнт. Модель принимает текст и изображения, а вариант E2B также поддерживает аудио; генерирует текст. Она предназначена для диалогов, рассуждений, программирования, понимания изображений и документов, распознавания речи и многоязычной работы. Для семейства Gemma 4 заявлены контекст до 128 тысяч токенов для малых моделей, включая E2B, гибридное локальное и глобальное внимание, вызов инструментов и поддержка более 140 языков при предобучении. К сильным сторонам относятся компактный размер семейства E2B, мультимодальный ввод и QAT-обучение, направленное на сохранение качества bf16 при снижении требований к памяти в соответствующих QAT-вариантах. Данный репозиторий содержит unquantized QAT-веса, поэтому описанное преимущество снижения памяти нельзя автоматически считать характеристикой этих файлов. Лицензия — Apache 2.0.

Карточка модели google/gemma-4-E2B-it-qat-q4_0-unquantized-assistant на Hugging Face совпадает с карточкой google/gemma-4-E2B-it-qat-q4_0-unquantized, поэтому описание составлено по ней. google/gemma-4-E2B-it-qat-q4_0-unquantized — мультимодальная инструктивная модель Google DeepMind из семейства Gemma 4, основанная на Gemma 4 E2B IT и подготовленная с использованием Quantization-Aware Training. Репозиторий содержит извлечённые из QAT-процесса веса половинной точности в формате safetensors, предназначенные для собственной компиляции и исследовательских экспериментов; это не готовый к запуску сжатый GGUF-чекпойнт. Модель принимает текст и изображения, а вариант E2B также поддерживает аудио; генерирует текст. Она предназначена для диалогов, рассуждений, программирования, понимания изображений и документов, распознавания речи и многоязычной работы. Для семейства Gemma 4 заявлены контекст до 128 тысяч токенов для малых моделей, включая E2B, гибридное локальное и глобальное внимание, вызов инструментов и поддержка более 140 языков при предобучении. К сильным сторонам относятся компактный размер семейства E2B, мультимодальный ввод и QAT-обучение, направленное на сохранение качества bf16 при снижении требований к памяти в соответствующих QAT-вариантах. Данный репозиторий содержит unquantized QAT-веса, поэтому описанное преимущество снижения памяти нельзя автоматически считать характеристикой этих файлов. Лицензия — Apache 2.0.

Карточка модели OsGo/gemma-4-E2B-it-qat-q4_0-unquantized-assistant на Hugging Face совпадает с карточкой google/gemma-4-E2B-it-qat-q4_0-unquantized, поэтому описание составлено по ней. google/gemma-4-E2B-it-qat-q4_0-unquantized — мультимодальная инструктивная модель Google DeepMind из семейства Gemma 4, основанная на Gemma 4 E2B IT и подготовленная с использованием Quantization-Aware Training. Репозиторий содержит извлечённые из QAT-процесса веса половинной точности в формате safetensors, предназначенные для собственной компиляции и исследовательских экспериментов; это не готовый к запуску сжатый GGUF-чекпойнт. Модель принимает текст и изображения, а вариант E2B также поддерживает аудио; генерирует текст. Она предназначена для диалогов, рассуждений, программирования, понимания изображений и документов, распознавания речи и многоязычной работы. Для семейства Gemma 4 заявлены контекст до 128 тысяч токенов для малых моделей, включая E2B, гибридное локальное и глобальное внимание, вызов инструментов и поддержка более 140 языков при предобучении. К сильным сторонам относятся компактный размер семейства E2B, мультимодальный ввод и QAT-обучение, направленное на сохранение качества bf16 при снижении требований к памяти в соответствующих QAT-вариантах. Данный репозиторий содержит unquantized QAT-веса, поэтому описанное преимущество снижения памяти нельзя автоматически считать характеристикой этих файлов. Лицензия — Apache 2.0.

gemma4-E2B-it-qat-Q4-unsloth-heretic — модифицированная instruction-tuned модель семейства Gemma 4 E2B. Базовую модель разработала Google DeepMind, веса подготовлены в формате Unsloth, а данная сборка опубликована MobiusDevelopment и обработана инструментом Heretic. Из модели удалено встроенное поведение отказа отвечать на отдельные запросы («abliteration» или decensoring), при этом заявлено сохранение общих возможностей базовой модели. Модель предназначена для генерации текста, диалоговых и агентских сценариев, программирования, дополнения и исправления кода, function calling и задач, требующих обработки длинного контекста. Gemma 4 E2B поддерживает текстовые и графические входы, а также аудио; выводом является текст. Заявлены понимание изображений, OCR, анализ документов и PDF, интерфейсов и графиков, распознавание речи и перевод речи в текст, встроенный режим пошагового рассуждения и мультиязычная работа более чем со 140 языками. Архитектура использует гибридное внимание с чередованием локального sliding-window и глобального внимания, Per-Layer Embeddings и Proportional RoPE. Вариант E2B имеет 2,3 млрд эффективных параметров и 5,1 млрд параметров с учётом эмбеддингов, 35 слоёв, окно локального внимания 512 токенов, контекст до 128K токенов и словарь размером 262 тысяч токенов. Доступны bf16 safetensors для полной мультимодальной версии, текстовый GGUF Q4_K_M и отдельные vision/audio mmproj GGUF. Главная особенность и одновременно ограничение сборки — отсутствие встроенных отказов, поэтому её ответы требуют дополнительного контроля безопасности; качество после модификации может отличаться от базовой модели. Использование регулируется лицензией Gemma и условиями Google Gemma Terms of Use; в метаданных также указана лицензия Apache-2.0.

unsloth/gemma-4-E2B-it-UD-MLX-4bit — 4-битная MLX-квантизованная версия instruction-tuned модели Gemma 4 E2B, подготовленная Unsloth на базе google/gemma-4-E2B-it. Исходное семейство Gemma разработано Google DeepMind и распространяется как открытые модели с открытыми весами. Модель предназначена для локального запуска на ноутбуках и мобильных устройствах, а также для генерации текста, рассуждений, программирования, мультимодального анализа и агентских сценариев с поддержкой function calling. Она принимает текстовые и графические данные, а также аудио, и генерирует текст. Для E2B заявлено контекстное окно до 128K токенов и поддержка более 140 языков. E2B — компактная dense-модель с 2,3 млрд эффективных параметров, или 5,1 млрд с учётом embedding-слоёв, 35 слоями, локальным окном внимания 512 токенов и словарём на 262 тысячи токенов. Архитектура использует гибридное внимание, объединяющее локальное скользящее и глобальное внимание, а также Per-Layer Embeddings для повышения эффективности на устройствах. 4-битное представление снижает требования к памяти и подходит для локального запуска через MLX, однако README не приводит подробных результатов бенчмарков или количественной оценки потерь качества после квантизации. Лицензия — Apache 2.0.

Gemma 4 E4B IT QAT Unquantized — мультимодальная модель Google DeepMind из семейства Gemma 4, основанная на Gemma 4 E4B Instruct. Это вариант с весами половинной точности, извлечёнными из конвейера обучения с учётом квантования (QAT); он предназначен для последующей компиляции и исследовательской работы. Архитектура — плотная Gemma4ForConditionalGeneration, файлы представлены в safetensors. Модель принимает текст и изображения, а также аудио; генерирует текст. Она подходит для диалога, рассуждений, генерации и исправления кода, анализа изображений и документов, распознавания речи и перевода речи в текст. Семейство поддерживает более 140 языков; для небольших вариантов, включая E4B, заявлено контекстное окно до 128 тысяч токенов. Поддерживаются вызов функций и режим рассуждений. Вариант QAT призван снизить требования к памяти при сохранении качества, близкого к bfloat16, но именно эта публикация содержит не готовый к развёртыванию квантованный формат, а веса для дальнейшей компиляции. Лицензия — Apache 2.0. Возможности аудио, языка и контекстное окно описаны для семейства; в карточке этой конкретной публикации отдельные параметры не уточнены.

GigaChat 3.1 Lightning — компактная инструкционная языковая модель семейства GigaChat 3.1, разработанная ai-sage. Модель предназначена для быстрых мультиязычных ассистентских сценариев, рассуждений, генерации и анализа кода, вызова функций и продуктовых применений. Она доступна в формате FP8 и построена на архитектуре Mixture-of-Experts: содержит 10 млрд параметров, из которых 1,8 млрд активны во время инференса. Модель использует Multi-head Latent Attention (MLA) для сжатия KV-кэша и снижения потребления памяти, а также Multi-Token Prediction (MTP), поддерживающий ускоренное и параллельное декодирование. Заявлена поддержка русского и английского языков; базовый обучающий корпус охватывает 10 языков и включает тексты, научные материалы, код, математику и синтетические данные. В README не указана точная длина контекста и не заявлена поддержка мультимодальных входов, поэтому модель следует рассматривать как текстовую. К сильным сторонам относятся высокая скорость инференса, низкий активный вычислительный бюджет, эффективность FP8 и улучшенная производительность в длинноконтекстных сценариях. Модель ориентирована на задачи поиска и цитирования, интерпретации файлового кода, персонализации и агентских диалогов с инструментами. Ограничения включают зависимость качества и скорости от аппаратного обеспечения, реализации инференса и режима MTP, а также отсутствие в предоставленных данных подробных сведений о максимальном контексте и мультимодальности. Модель распространяется по лицензии MIT.

GigaChat 3 Ultra Preview — флагманская instruct-модель семейства GigaChat, представленная в карточке как разработка команды GigaChat. Это большая языковая модель для диалогов и генерации текста, включая задачи по коду и математике. В README описана MoE-архитектура с 702 млрд общих и 36 млрд активных параметров, механизмами Multi-head Latent Attention (MLA) и Multi-Token Prediction (MTP). Метаданные каталога указывают архитектуру DeepSeek-V3 и 39,4 млрд параметров; эти сведения расходятся с описанием архитектуры и размера в README. Заявлены обучение на данных десяти языков, включая китайский, арабский, узбекский и казахский, а также русские и английские теги карточки. Контекст составляет 131 072 токена. Модель ориентирована на кластерное и on-prem-развёртывание; README указывает поддержку BF16 и отдельную FP8-сборку, а также движков vLLM, SGLang, LMDeploy и TensorRT-LLM. MLA предназначен для снижения затрат на KV-кэш, MTP — для ускорения генерации. Лицензия — MIT. Это preview-версия; для развёртывания требуются значительные вычислительные ресурсы.

GLM-4.6-REAP-268B-A32B-GGUF — сжатая GGUF-версия модели GLM-4.6, подготовленная Unsloth на основе варианта cerebras/GLM-4.6-REAP-268B-A32B. Модель использует метод REAP (Router-weighted Expert Activation Pruning), при котором равномерно удалено 25% экспертов исходной Mixture-of-Experts-модели. Она предназначена для генерации текста, программного кода, агентных рабочих процессов, понимания репозиториев и function calling, особенно в условиях ограниченных ресурсов, локального развертывания и академических исследований. Это разреженная causal language model с 268B параметров, из которых 32B активируются для каждого токена. Архитектура включает 92 слоя, 120 экспертов вместо исходных 160, 8 активируемых экспертов на токен и GQA с 96 головами Q и 8 головами KV. Контекстное окно составляет 202 752 токена. Заявляется сохранение почти идентичной производительности относительно полной 355B-версии при снижении требований к памяти примерно на 25%; при этом отдельные оценки для BF16-версии в README не приведены. Модель поддерживает развертывание через актуальный vLLM, а GGUF-файл содержит исправления chat template Unsloth и рассчитан на использование с параметром --jinja в llama.cpp. К преимуществам относятся однократное сжатие без дополнительного дообучения, сохранение независимого управления экспертов маршрутизатором и совместимость с vLLM без модификации исходного кода. Для запуска требуется значительный объём вычислительной памяти из-за общего размера модели, поэтому в README рекомендуется снижать максимальное число одновременно обрабатываемых последовательностей при нехватке памяти. Указана лицензия MIT.

0xSero/GLM-4.7-185B — сжатая версия GLM-4.7, созданная 0xSero методом REAP (Router-weighted Expert Activation Pruning), разработанным Cerebras. Модель построена на разреженной архитектуре Mixture-of-Experts: из исходных 160 экспертов оставлено 80. В карточке указаны 23,4 млрд параметров, тогда как README описывает вариант как 185B; README также приводит исходный размер 358B и сокращение до 179B после обрезки, поэтому оценки размера расходятся. Модель предназначена прежде всего для генерации кода, вызова функций и инструментов, а также многошаговых агентных сценариев. Она принимает текст и генерирует текст, поддерживает диалог и код; максимальная длина контекста по метаданным — 202 752 токена. README заявляет совместимость с vLLM, Transformers и SGLang, а метаданные указывают библиотеку Transformers и формат Safetensors. Калибровка при обрезке экспертов ориентирована на код, структурированный вывод для вызова инструментов и агентные траектории; автор заявляет, что дообучение не проводилось. Модель распространяется по лицензии Apache-2.0. Показатели качества и сохранения возможностей в предоставленных материалах не приведены, поэтому пригодность для конкретной нагрузки следует оценивать отдельно.

GLM-4.7-Flash — модель семейства GLM, опубликованная Unsloth в формате Safetensors и предназначенная для генерации текста в диалоговом режиме. Карточка описывает исходную GLM-4.7-Flash от Z.ai как MoE-модель класса 30B-A3B; каталог указывает для этой публикации 4,1 млрд параметров и архитектуру GLM4-MoE-Lite. Контекст составляет 202 752 токена. Модель рассчитана на диалог, рассуждения и программирование. В метаданных также отмечен интерфейс вызова инструментов. README сообщает о поддержке локального запуска через vLLM и SGLang, а публикация включает исправления шаблона чата для Unsloth; заявленные результаты бенчмарков относятся к карточке исходной модели. Модель принимает текст и генерирует текст. Основные языки карточки — английский и китайский. Репозиторий использует лицензию MIT. Карточка рекомендует для llama.cpp параметр --jinja; vLLM и SGLang, согласно README, поддерживают модель только в основных ветках.

Это квантованные сборки модели GLM-4.7-Flash-Claude-Opus-4.5-High-Reasoning-Distill, опубликованные пользователем noctrex в формате GGUF. Основа — дообученная для рассуждений модель GLM-4.7-Flash; каталог описывает её как ориентированную на программирование, научные вопросы и сложные задачи с длинным контекстом. Репозиторий содержит обычную MXFP4_MOE-квантизацию и экспериментальный вариант, который распределяет точность по важности тензоров: BF16 для наиболее важных, Q8_0 для умеренно важных и MXFP4 для остальных. Подбор точности основан на imatrix, созданной на данных code_tiny. Модель предназначена для генерации текста и диалогового использования, с упором на задачи программирования. Автор README сообщает, что экспериментальный вариант ещё не проверялся бенчмарками, поэтому его преимущество над основной MXFP4_MOE-сборкой не подтверждено. Лицензия в предоставленных данных не приведена.

GLM-4.7-Flash-Razor-24B-A3B-E48of64 — текстовая диалоговая модель, созданная путём обучения без градиентных обновлений: к исходной GLM-4.7-Flash применён метод RAZOR, который удаляет часть экспертов MoE. Разработчик в карточке не назван; базовая модель выпущена Z.ai. В каждом слое MoE оставлено 48 из 64 маршрутизируемых экспертов, а общий размер сокращён примерно с 30 млрд до 24,1 млрд параметров; активно около 3 млрд параметров на токен. Веса хранятся в формате bfloat16 в семи шардах safetensors, для запуска требуется версия Transformers с поддержкой glm4_moe_lite. Модель предназначена для диалоговой генерации текста, рассуждений и программирования, унаследованных от GLM-4.7-Flash. Нативная длина контекста составляет 202 752 токена. Прунинг затрагивает только пул маршрутизируемых экспертов, поэтому вычисления на токен почти не меняются, а объём хранения экспертов уменьшается примерно на четверть. Лицензия — MIT. Удаление экспертов приводит к потерям: ответы могут отличаться разнообразием, форматированием и поведением при завершении, даже если точность задач в основном сохраняется. Опубликованные результаты не гарантируют предсказуемой генерации на конкретной нагрузке, а поведение на областях, далёких от калибровочного корпуса, не охарактеризовано.

GLM-4-9B-0414-GGUF — это квантизированная в формате GGUF версия языковой модели GLM-4-9B-0414, разработанной командой THUDM. Квантизация выполнена bartowski на основе llama.cpp, релиз b5228. LM Studio распространяет модель в рамках Community Model Program, но не является её разработчиком. Модель предназначена для генерации текста и ориентирована на продвинутое программирование, создание артефактов, function calling и агентские сценарии. Заявлена сопоставимая с существенно более крупными моделями производительность. Поддерживается контекст до 32 тысяч токенов. В метаданных указаны китайский и английский языки. Архитектура исходной модели и точный размер файлов не описаны подробнее; конкретный вариант квантизации также не указан. Модель может быть полезна для локального запуска задач кодирования, автоматизации и построения LLM-агентов при наличии совместимого ПО для GGUF. Ограничения включают возможные неточности, вредный или неподходящий контент, а также зависимость качества и требований к ресурсам от выбранного варианта квантизации. Лицензия модели — MIT.

Карточка модели AndresDevelopers/GLM-5.2 на Hugging Face совпадает с карточкой Ares-Realm-Studios/GLM-5.2, поэтому описание составлено по ней. GLM-5.2 — большая языковая модель от Ares-Realm-Studios для продолжительных задач, диалогов и программирования. Она построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров; модель принимает и генерирует текст, поддерживает контекст до 1 048 576 токенов и рассчитана прежде всего на английский и китайский языки. Модель предназначена для многошаговой работы с длинным контекстом, включая анализ материалов и разработку программного кода. В README заявлены гибкие уровни усилий рассуждения и оптимизации для обработки контекста в миллион токенов; для локального запуска перечислены Transformers, vLLM, SGLang и другие среды. Репозиторий содержит веса Safetensors. Модель распространяется по лицензии MIT. Заявленные возможности и результаты приведены авторами; практическое качество может зависеть от сценария и настроек запуска.

Карточка модели jihui19499/GLM-5.2 на Hugging Face совпадает с карточкой Ares-Realm-Studios/GLM-5.2, поэтому описание составлено по ней. GLM-5.2 — большая языковая модель от Ares-Realm-Studios для продолжительных задач, диалогов и программирования. Она построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров; модель принимает и генерирует текст, поддерживает контекст до 1 048 576 токенов и рассчитана прежде всего на английский и китайский языки. Модель предназначена для многошаговой работы с длинным контекстом, включая анализ материалов и разработку программного кода. В README заявлены гибкие уровни усилий рассуждения и оптимизации для обработки контекста в миллион токенов; для локального запуска перечислены Transformers, vLLM, SGLang и другие среды. Репозиторий содержит веса Safetensors. Модель распространяется по лицензии MIT. Заявленные возможности и результаты приведены авторами; практическое качество может зависеть от сценария и настроек запуска.

Карточка модели ravan011/GLM-5.2 на Hugging Face совпадает с карточкой Ares-Realm-Studios/GLM-5.2, поэтому описание составлено по ней. GLM-5.2 — большая языковая модель от Ares-Realm-Studios для продолжительных задач, диалогов и программирования. Она построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров; модель принимает и генерирует текст, поддерживает контекст до 1 048 576 токенов и рассчитана прежде всего на английский и китайский языки. Модель предназначена для многошаговой работы с длинным контекстом, включая анализ материалов и разработку программного кода. В README заявлены гибкие уровни усилий рассуждения и оптимизации для обработки контекста в миллион токенов; для локального запуска перечислены Transformers, vLLM, SGLang и другие среды. Репозиторий содержит веса Safetensors. Модель распространяется по лицензии MIT. Заявленные возможности и результаты приведены авторами; практическое качество может зависеть от сценария и настроек запуска.

Карточка модели sebastian06austin/GLM-5.2 на Hugging Face совпадает с карточкой Ares-Realm-Studios/GLM-5.2, поэтому описание составлено по ней. GLM-5.2 — большая языковая модель от Ares-Realm-Studios для продолжительных задач, диалогов и программирования. Она построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров; модель принимает и генерирует текст, поддерживает контекст до 1 048 576 токенов и рассчитана прежде всего на английский и китайский языки. Модель предназначена для многошаговой работы с длинным контекстом, включая анализ материалов и разработку программного кода. В README заявлены гибкие уровни усилий рассуждения и оптимизации для обработки контекста в миллион токенов; для локального запуска перечислены Transformers, vLLM, SGLang и другие среды. Репозиторий содержит веса Safetensors. Модель распространяется по лицензии MIT. Заявленные возможности и результаты приведены авторами; практическое качество может зависеть от сценария и настроек запуска.

Карточка модели sunshaohui/GLM-5.2 на Hugging Face совпадает с карточкой Ares-Realm-Studios/GLM-5.2, поэтому описание составлено по ней. GLM-5.2 — большая языковая модель от Ares-Realm-Studios для продолжительных задач, диалогов и программирования. Она построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров; модель принимает и генерирует текст, поддерживает контекст до 1 048 576 токенов и рассчитана прежде всего на английский и китайский языки. Модель предназначена для многошаговой работы с длинным контекстом, включая анализ материалов и разработку программного кода. В README заявлены гибкие уровни усилий рассуждения и оптимизации для обработки контекста в миллион токенов; для локального запуска перечислены Transformers, vLLM, SGLang и другие среды. Репозиторий содержит веса Safetensors. Модель распространяется по лицензии MIT. Заявленные возможности и результаты приведены авторами; практическое качество может зависеть от сценария и настроек запуска.

GLM-5.2-Demolition-q4a4-soul-MLX — локальная MLX-версия модели GLM-5.2 от zai-org, подготовленная Philip John Basile. Это экспериментальная разреженная и квантованная сборка Mixture-of-Experts: исходная модель имеет 744 млрд параметров при 39 млрд активных, а в данном варианте сохранено около 23% экспертов. Корневые веса занимают примерно 104,89 ГБ и используют 4-битное квантование; модель рассчитана на запуск на одном Apple M5 Max с 128 ГБ памяти через MLX. Основное назначение — генерация и анализ кода в Python, TypeScript, JavaScript, Rust, Go, HTML, CSS, SQL и Postgres без привязки к фреймворкам. Поддерживаются дополнительные LoRA-адаптеры («souls») для искусства, музыки, дизайна, парфюмерии, науки, безопасности, разработки игр, full-stack-разработки, математики, визуализации данных, прозы, архитектуры и исследований. Заявленный язык модели — английский; размер контекста в карточке не указан. Сильные стороны модели — специализированная работа с ванильным кодом, возможность подключать предметные адаптеры и относительно компактный для исходной архитектуры запуск на одном Apple Silicon-компьютере. На HumanEval-164 заявлен результат pass@1 69,5% (114 из 164) в однократном запуске с проверкой скрытыми тестами. Ограничения включают намеренное ухудшение способностей к общим знаниям и trivia из-за pruning, экспериментальный характер рецепта, отсутствие доказательств превосходства над полноразмерной моделью и скорость около 11–14 токенов в секунду. Лицензия — MIT.

GLM-5.3-Flash — разработанная Z.ai модель семейства GLM-5, опубликованная RedHatAI в формате BF16. Это плотная мультимодальная модель с архитектурой GLM5 Next: всего 320 млрд параметров, из которых активно используются 18 млрд. Она сочетает разреженное и линейное внимание для более экономичной обработки длинных контекстов и предназначена для диалогов, программирования и агентных сценариев. Модель обучена с нуля на мультимодальном корпусе из 30 трлн токенов. В README заявлена поддержка локального развёртывания через SGLang, vLLM, TokenSpeed и KTransformers; метаданные Hugging Face указывают библиотеку Transformers и возможность чата. Метки карточки указывают английский и китайский языки. Лицензия — MIT. В предоставленных данных не приведены численные результаты независимой оценки качества или ограничения по аппаратным требованиям.

GLM-5.3-W4AFP8 — квантизированная версия языковой модели GLM-5.3, разработанной организацией zai-org и опубликованной PhalaCloud. Модель предназначена для генерации текста, программирования, агентских сценариев и задач с вызовом инструментов. Она основана на checkpoint zai-org/GLM-5.3-BF16 и сохраняет архитектуру GLM-5.2, включая механизм Mixture-of-Experts (MoE), EAGLE/MTP-спекулятивное декодирование и контекст до 1 млн токенов при использовании H200-класса GPU. Эксперты модели квантизированы в INT4 с группами по 128 весов и калибровкой AWQ на трассах coding-agent, а активации и неэкспертные слои представлены в FP8. Такой формат рассчитан на запуск через SGLang с CUDA CUTLASS W4A8 grouped GEMM на GPU Hopper и обеспечивает примерно вдвое большую ёмкость KV-кэша по сравнению с FP8 checkpoint при одинаковой пропускной способности. Поддерживаются текстовая генерация, рассуждения и tool calling; точный список языков в README не указан. По приведённым оценкам модель показывает 91,9 на GPQA-Diamond, 73,0 на AA-LCR и 82,2 на 45-элементной подвыборке BFCL, а также успешно извлекает информацию из промптов размером около 930 тысяч токенов. Ограничения включают зависимость от специализированной конфигурации SGLang и GPU Hopper, необходимость tensor parallelism на 8 устройствах для полного запуска, а также отсутствие заявленной поддержки этого формата в vLLM на момент публикации. Модель распространяется по лицензии MIT.

GLM-5-GGUF — это квантованное представление языковой модели GLM-5, подготовленное Unsloth на основе модели zai-org/GLM-5. Модель предназначена для генерации текста, решения сложных задач рассуждения, программирования, системной инженерии и выполнения долгих агентских сценариев, включая работу с инструментами и веб-навигацию. GLM-5 имеет MoE-архитектуру с 744 млрд параметров, из которых 40 млрд активны при обработке запроса, и использует DeepSeek Sparse Attention (DSA) для снижения стоимости развертывания при сохранении возможностей работы с длинным контекстом. Для обучения применялись 28,5 трлн токенов и асинхронная инфраструктура reinforcement learning slime. В карточке указаны английский и китайский языки, библиотека Transformers и задача text-generation. GGUF-версия ориентирована на локальный запуск; Unsloth заявляет улучшенную точность своих квантований, однако конкретный размер контекста, варианты квантования и требования к оборудованию в README не указаны. Сильные стороны модели — рассуждение, кодирование, агентские задачи и работа с инструментами; приведённые бенчмарки показывают высокие результаты, в частности на SWE-bench Verified, BrowseComp и τ²-Bench. Ограничения включают очень большой общий размер модели и потенциально высокие требования к ресурсам даже при квантовании, а также отсутствие в README подробностей о производительности конкретного GGUF-варианта. Модель распространяется по лицензии MIT.