GLM-5.1 — языковая модель Z.ai для генерации кода и длительных агентных инженерных задач с инструментами.

Подходит для: генерация кода по описанию задачи · поиск и исправление ошибок в репозитории · выполнение многоэтапных задач в терминале

Модифицированная версия GLM-5.3-Flash для генерации текста с уменьшенной склонностью к отказам, предназначенная прежде всего для исследований отказов и контролируемого red-teaming.

Подходит для: исследование механизмов отказа языковых моделей · проверка устойчивости модели к вредоносным запросам · контролируемый red-teaming и оценка безопасности

GLM-5.2 — флагманская языковая модель Z.ai для генерации текста, программирования и длительных задач с контекстом до одного миллиона токенов.

Подходит для: написание и отладка программного кода · решение задач по программированию с большим контекстом · анализ длинных документов и переписок

GLM-4.7 — англо-китайская языковая модель Z.ai для программирования, агентных задач, рассуждений и диалогов.

Подходит для: генерация и отладка программного кода · выполнение задач разработки через терминальный агент · создание веб-страниц и интерфейсов по описанию

Пакет GGUF-слоёв GLM-5.3 для локального распределённого чат-инференса через Mesh LLM.

Подходит для: локальный чат-инференс на собственном оборудовании · запуск модели на нескольких компьютерах с распределением слоёв · обслуживание запросов через локальный API, совместимый с OpenAI

Пакет слоёв GGUF GLM-5.3-Flash для локального распределённого чат-инференса на нескольких машинах через Mesh LLM.

Подходит для: локальный приватный чат-инференс · запуск модели с распределением слоёв между несколькими компьютерами · обслуживание чат-запросов через совместимый с OpenAI локальный API

Черновая модель DFlash 2, которая ускоряет генерацию GLM-5.3-Flash с помощью спекулятивного декодирования в SGLang.

Подходит для: ускорение генерации текста моделью GLM-5.3-Flash в SGLang · предсказание блоков токенов для спекулятивного декодирования · интеграция чернового декодера в сервер генерации на базе GLM-5.3-Flash

Слоевой GGUF-пакет GLM-4.7 для локального чат-инференса, в том числе распределённого между несколькими машинами через Mesh LLM.

Подходит для: локальный приватный чат с языковой моделью · генерация текста через совместимый с OpenAI API · распределённый запуск модели на нескольких компьютерах

Пакет слоёв GGUF модели GLM-5.2-Q2_K-MTP-Q8 для распределённой генерации текста и локального чат-сервинга на Mesh LLM.

Подходит для: Локальный приватный чат с языковой моделью · Распределённый запуск модели на нескольких компьютерах · Генерация текста через локальный сервер Mesh LLM

GGUF-сборка MoE-модели Ornith для агентного программирования, генерации текста и мультимодальной работы с изображениями через llama.cpp.

Подходит для: автоматическое решение задач программирования агентом · исправление ошибок и внесение изменений в репозитории кода · выполнение задач разработки через терминал и инструменты

GGUF-версия англоязычной 2-миллиардной BitNet b1.58 от Microsoft Research для генерации текста и диалога с эффективным CPU-инференсом.

Подходит для: локальный запуск языковой модели на CPU · генерация ответов в диалоговом интерфейсе · следование инструкциям и составление текстов

Пакет квантизированной Gemma 4 26B A4B Instruct, разделённый на слои для распределённого локального чата и обработки изображений через Mesh LLM.

Подходит для: локальный приватный чат с языковой моделью · распределённый запуск Gemma на нескольких компьютерах · ответы на вопросы по изображениям

Черновая модель DFlash 2 для ускорения генерации текста zai-org/GLM-5.3 посредством спекулятивного декодирования.

Подходит для: ускорение генерации текста с GLM-5.3 в SGLang · ускорение решения математических задач с GLM-5.3 · ускорение генерации кода с GLM-5.3

Пакет слоёв GGUF GLM-5.2-Q2_K-MTP-Q8 для распределённого локального чат-инференса через Mesh LLM.

Подходит для: локальный приватный чат-инференс на собственном оборудовании · распределённый запуск модели на нескольких машинах · обслуживание запросов через совместимый с OpenAI API

Пакет слоёв GGUF в формате IQ4_XS для распределённого запуска чат-модели семейства Qwen3 через Mesh LLM.

Подходит для: локальный приватный запуск чат-модели · распределённый инференс на нескольких машинах · обслуживание чата через OpenAI-совместимый локальный API

Пакет слоёв GGUF Gemma 4 для распределённого чат-инференса на нескольких машинах с помощью Mesh LLM.

Подходит для: локальный приватный чат-инференс на собственном оборудовании · распределённый запуск чат-модели на нескольких компьютерах · обслуживание чат-запросов через совместимый с OpenAI API локальный сервер

Сжатая диалоговая MoE-модель GLM-4.7-Flash для генерации текста, программирования и агентных задач с контекстом до 202 752 токенов.

Подходит для: генерация и объяснение программного кода · работа с большими репозиториями кода · вызов функций в диалоговых приложениях

Квантованная Gemma 4 31B Instruct в виде GGUF-пакета слоёв для локального распределённого чата и обработки изображений через Mesh LLM.

Подходит для: локальный приватный чат с языковой моделью · диалог по изображениям на локальном кластере · распределённый запуск модели на нескольких компьютерах

GLM-4.5V — мультимодальная модель ZhipuAI для анализа изображений, видео, документов и графических интерфейсов с визуальными рассуждениями и локализацией объектов.

Подходит для: ответы на вопросы по изображениям и их содержимому · распознавание событий в длинных видео · извлечение данных из графиков и длинных документов

Пакет GGUF модели GLM-4.7-REAP-218B-A32B, разделённый на слои для локального распределённого чат-инференса через Mesh LLM.

Подходит для: локальный приватный запуск чат-модели · распределённый инференс на нескольких компьютерах · генерация ответов через совместимый с OpenAI API интерфейс Mesh LLM

Экспериментальный пакет слоёв GGUF модели inkling для распределённого мультимодального чата через Mesh LLM.

Подходит для: локальный приватный чат с моделью inkling · распределённый запуск модели на нескольких машинах · обслуживание запросов через совместимый с OpenAI API

Квантованный пакет слоёв Muse-Glimmer-30B для локального распределённого чата и работы с изображениями через Mesh LLM.

Подходит для: локальный приватный чат с моделью Muse-Glimmer · ответы на вопросы по изображению · распределённый запуск модели на нескольких компьютерах

Пакет слоёв GGUF GLM-5.1-UD-Q4_K_XL предназначен для распределённого локального запуска чат-модели на нескольких машинах через Mesh LLM.

Подходит для: локальный приватный запуск чат-модели · распределённый инференс на нескольких машинах · обслуживание запросов через OpenAI-совместимый Chat Completions API

Объединённая GGUF-модель OrionLLM_GRM-3.2-Sky и Qwen3.5 MTP для диалогов с текстом и изображениями.

Подходит для: диалог с текстовой моделью, поддерживающей изображения · обработка пользовательских запросов с изображениями · локальный запуск GGUF-модели с MTP-компонентом