GLM-5.1 — языковая модель Z.ai для генерации кода и длительных агентных инженерных задач с инструментами.

Подходит для: генерация кода по описанию задачи · поиск и исправление ошибок в репозитории · выполнение многоэтапных задач в терминале

Модифицированная версия GLM-5.3-Flash для генерации текста с уменьшенной склонностью к отказам, предназначенная прежде всего для исследований отказов и контролируемого red-teaming.

Подходит для: исследование механизмов отказа языковых моделей · проверка устойчивости модели к вредоносным запросам · контролируемый red-teaming и оценка безопасности

GGUF-версия англоязычной 2-миллиардной BitNet b1.58 от Microsoft Research для генерации текста и диалога с эффективным CPU-инференсом.

Подходит для: локальный запуск языковой модели на CPU · генерация ответов в диалоговом интерфейсе · следование инструкциям и составление текстов

GLM-4.7 — англо-китайская языковая модель Z.ai для программирования, агентных задач, рассуждений и диалогов.

Подходит для: генерация и отладка программного кода · выполнение задач разработки через терминальный агент · создание веб-страниц и интерфейсов по описанию

Декензурированная версия мультимодальной Muse Glimmer-30B для диалогов, работы с изображениями и агентных задач с инструментами.

Подходит для: создание локального ИИ-агента с многошаговым планированием · вызов инструментов и функций в многоходовом диалоге · написание и отладка кода

Текстовая чат-модель Ternary Bonsai 2 27B в GGUF с ослабленным отказом на запросы, рассчитанная на запуск через форк llama.cpp от PrismML.

Подходит для: генерация ответов в текстовом чате · создание диалогового прототипа с меньшим числом отказов · оценка поведения модели на безопасных и небезопасных запросах

Экспериментальная тернарно-квантованная GGUF-модель UkisAI на базе Bonsai 2 27B для диалоговой генерации и рассуждений с более короткими цепочками.

Подходит для: генерация диалоговых ответов · решение задач на рассуждение · сравнение эффективности коротких цепочек рассуждений

Пакет слоёв GGUF GLM-5.3-Flash для локального распределённого чат-инференса на нескольких машинах через Mesh LLM.

Подходит для: локальный приватный чат-инференс · запуск модели с распределением слоёв между несколькими компьютерами · обслуживание чат-запросов через совместимый с OpenAI локальный API

Пакет слоёв GGUF в формате IQ4_XS для распределённого запуска чат-модели семейства Qwen3 через Mesh LLM.

Подходит для: локальный приватный запуск чат-модели · распределённый инференс на нескольких машинах · обслуживание чата через OpenAI-совместимый локальный API

Мультиязычная 27-миллиардная диалоговая GGUF-модель Gastón Parravicini с ослабленным явным рефлексом отказа для генерации текста и исследований безопасности LLM.

Подходит для: диалог с мультиязычным текстовым ассистентом · генерация ответов по инструкциям · оценка отказов модели на adversarial-запросах

Пакет GGUF-слоёв GLM-5.3 для локального распределённого чат-инференса через Mesh LLM.

Подходит для: локальный чат-инференс на собственном оборудовании · запуск модели на нескольких компьютерах с распределением слоёв · обслуживание запросов через локальный API, совместимый с OpenAI

GGUF-сборка MoE-модели Ornith для агентного программирования, генерации текста и мультимодальной работы с изображениями через llama.cpp.

Подходит для: автоматическое решение задач программирования агентом · исправление ошибок и внесение изменений в репозитории кода · выполнение задач разработки через терминал и инструменты

Квантованная GGUF-модель Qwen3.8-27B в пакете слоёв Mesh LLM для локального и распределённого чата и генерации текста.

Подходит для: локальный приватный чат с языковой моделью · генерация текста на собственном оборудовании · запуск модели на нескольких машинах через Mesh LLM

Компактная GGUF-сборка Qwen3.8-27B для генерации текста и диалогов на видеокартах Blackwell с 16 ГБ памяти, с поддержкой изображений и видео через отдельный проектор.

Подходит для: локальный запуск чат-ассистента на видеокарте Blackwell с 16 ГБ памяти · суммаризация длинных документов с большим контекстом · ответы на вопросы по текстовым материалам

Мультимодальная производная Gemma 4 для изучения поведения отказов и оценки следования текстовым и графическим инструкциям.

Подходит для: изучение избыточных отказов языковых моделей · оценка отказов в ответ на мультимодальные инструкции · проверка устойчивости следования инструкциям с изображениями

Пакет слоёв GGUF модели GLM-5.2-Q2_K-MTP-Q8 для распределённой генерации текста и локального чат-сервинга на Mesh LLM.

Подходит для: Локальный приватный чат с языковой моделью · Распределённый запуск модели на нескольких компьютерах · Генерация текста через локальный сервер Mesh LLM

Квантизованный GGUF-пакет слоёв Kimi-K2.6 для локального и распределённого чат-инференса через Mesh LLM.

Подходит для: локальный приватный чат на собственном оборудовании · распределённый запуск языковой модели на нескольких машинах · обслуживание запросов через совместимый с OpenAI API

Пакет GGUF-слоёв DeepSeek-V4-Flash в варианте UD-Q4_K_XL для локального распределённого чат-инференса через Mesh LLM.

Подходит для: локальный приватный чат-инференс · запуск модели на нескольких машинах, когда веса не помещаются на одном узле · обслуживание запросов chat completions через совместимый с OpenAI API

Мультимодальная модель на базе Qwen3.5-4B, дообученная для математических рассуждений, диалога и оценки генерации кода.

Подходит для: Решение математических задач и проверка рассуждений · Эксперименты с диалоговыми ответами общего назначения · Оценка качества генерации кода

Пакет слоёв GGUF GLM-5.1-UD-Q4_K_XL предназначен для распределённого локального запуска чат-модели на нескольких машинах через Mesh LLM.

Подходит для: локальный приватный запуск чат-модели · распределённый инференс на нескольких машинах · обслуживание запросов через OpenAI-совместимый Chat Completions API

Пакет GGUF модели GLM-4.7-REAP-218B-A32B, разделённый на слои для локального распределённого чат-инференса через Mesh LLM.

Подходит для: локальный приватный запуск чат-модели · распределённый инференс на нескольких компьютерах · генерация ответов через совместимый с OpenAI API интерфейс Mesh LLM

Пакет слоёв GGUF модели Kimi-K3 для распределённого локального чат-инференса с поддержкой изображений через Mesh LLM.

Подходит для: локальный запуск чат-бота на нескольких машинах · ответы на вопросы по тексту и изображениям · обслуживание запросов через совместимый с OpenAI API

Пакет GGUF по слоям для распределённого локального запуска и чат-генерации текста с NVIDIA Nemotron 3 Nano Omni через Mesh LLM.

Подходит для: локальный приватный запуск чат-модели · распределение инференса между несколькими компьютерами · генерация ответов через локальный API Chat Completions

GGUF-сборка диалоговой модели Ornith-1.5-35B-A3B с исправленной MTP-головой для генерации текста и спекулятивного декодирования.

Подходит для: диалоговая генерация текста · ускорение вывода через спекулятивное декодирование · локальный запуск языковой модели в llama.cpp