GLM-5.1 — языковая модель Z.ai для генерации кода и длительных агентных инженерных задач с инструментами.

Подходит для: генерация кода по описанию задачи · поиск и исправление ошибок в репозитории · выполнение многоэтапных задач в терминале

GLM-4.5-Air — гибридная диалоговая модель Zhipu AI для рассуждений, программирования и интеллектуальных агентов с поддержкой инструментов.

Подходит для: диалоговые ответы на вопросы · пошаговое рассуждение над сложными задачами · генерация и анализ программного кода

Экспериментальная NVFP4-квантизация Qwen3.6-35B-A3B в GGUF для генерации текста и диалогов через llama.cpp.

Подходит для: диалоговое взаимодействие с локальной языковой моделью · генерация ответов и связного текста · решение математических задач GSM8K

GLM-4.7 — англо-китайская языковая модель Z.ai для программирования, агентных задач, рассуждений и диалогов.

Подходит для: генерация и отладка программного кода · выполнение задач разработки через терминальный агент · создание веб-страниц и интерфейсов по описанию

Пакет слоёв GGUF в формате IQ4_XS для распределённого запуска чат-модели семейства Qwen3 через Mesh LLM.

Подходит для: локальный приватный запуск чат-модели · распределённый инференс на нескольких машинах · обслуживание чата через OpenAI-совместимый локальный API

Текстовая чат-модель Ternary Bonsai 2 27B в GGUF с ослабленным отказом на запросы, рассчитанная на запуск через форк llama.cpp от PrismML.

Подходит для: генерация ответов в текстовом чате · создание диалогового прототипа с меньшим числом отказов · оценка поведения модели на безопасных и небезопасных запросах

Квантованная GGUF-модель Qwen-семейства для локальной генерации текста без стандартного поведения отказа, с опциональным ускорением MTP.

Подходит для: локальный чат без стандартных отказов модели · генерация кода Python · создание JSON-ответов

Квантованная 27-миллиардная GGUF-версия Qwen3.8 для локальной генерации текста и диалогов через llama.cpp.

Подходит для: локальный чат с языковой моделью · генерация текстов на английском и японском · запуск Qwen3.8 в llama.cpp с уменьшенными требованиями к памяти

GGUF-версия англоязычной 2-миллиардной BitNet b1.58 от Microsoft Research для генерации текста и диалога с эффективным CPU-инференсом.

Подходит для: локальный запуск языковой модели на CPU · генерация ответов в диалоговом интерфейсе · следование инструкциям и составление текстов

Экспериментальная тернарно-квантованная GGUF-модель UkisAI на базе Bonsai 2 27B для диалоговой генерации и рассуждений с более короткими цепочками.

Подходит для: генерация диалоговых ответов · решение задач на рассуждение · сравнение эффективности коротких цепочек рассуждений

Квантованная GGUF-модель Qwen3.8-27B в пакете слоёв Mesh LLM для локального и распределённого чата и генерации текста.

Подходит для: локальный приватный чат с языковой моделью · генерация текста на собственном оборудовании · запуск модели на нескольких машинах через Mesh LLM

Базовая MoE-модель Qwen2 с 57 млрд параметров и 14 млрд активных параметров для дальнейшего обучения и исследований генерации и понимания текста.

Подходит для: дальнейшее обучение языковой модели под собственные задачи · оценка качества ответов на вопросы и рассуждений · эксперименты с математическими задачами

GGUF-квантованная версия Ornith-1.5-9B для диалоговой генерации текста, программирования и агентных задач.

Подходит для: написание и объяснение кода · диалоговые ответы на вопросы · выполнение агентных задач

Компактная GGUF-сборка Qwen3.8-27B для генерации текста и диалогов на видеокартах Blackwell с 16 ГБ памяти, с поддержкой изображений и видео через отдельный проектор.

Подходит для: локальный запуск чат-ассистента на видеокарте Blackwell с 16 ГБ памяти · суммаризация длинных документов с большим контекстом · ответы на вопросы по текстовым материалам

Квантизованный GGUF-пакет слоёв Kimi-K2.6 для локального и распределённого чат-инференса через Mesh LLM.

Подходит для: локальный приватный чат на собственном оборудовании · распределённый запуск языковой модели на нескольких машинах · обслуживание запросов через совместимый с OpenAI API

GGUF-порт плотной 27-миллиардной Qwen3.8-27B-Escha-W2 для генерации текста и диалогов через специальный форк llama.cpp.

Подходит для: генерация ответов в англоязычном чат-боте · локальный запуск текстовой LLM через llama.cpp · продолжение и дополнение текстовых промптов

Распределённый GGUF-пакет слоёв Gemma 4 31B Instruct для локального запуска чата на одном или нескольких компьютерах через Mesh LLM.

Подходит для: локальный приватный чат с моделью Gemma · распределённый запуск модели на нескольких компьютерах · обслуживание запросов через OpenAI-совместимый Chat Completions API

Пакет слоёв GGUF GLM-5.2-Q2_K-MTP-Q8 для распределённого локального чат-инференса через Mesh LLM.

Подходит для: локальный приватный чат-инференс на собственном оборудовании · распределённый запуск модели на нескольких машинах · обслуживание запросов через совместимый с OpenAI API

Текстовая версия Qwen3.5-2B без визуального энкодера для генерации текста, диалогов и подготовки к конвертации или слиянию LoRA.

Подходит для: генерация текста в диалоговом режиме · подготовка текстовой модели Qwen к конвертации в GGUF · слияние весов LoRA с базовой моделью на CPU

Смешанная квантизованная GGUF-версия мультимодальной MoE-модели Qwen3.8-Flash-Next-heretic-2 для диалоговой генерации текста и ответов по изображениям.

Подходит для: диалоговое общение на японском и английском языках · ответы на вопросы по загруженным изображениям · генерация текста в локальном запуске через llama.cpp

Инструкционная мультимодальная модель Google DeepMind на 12 млрд параметров для диалога, рассуждений, программирования и анализа текста, изображений, видео и аудио.

Подходит для: диалоговый помощник с анализом изображений и документов · распознавание речи и преобразование речи в текст · перевод распознанной речи в текст на другом языке

Пакет GGUF-слоёв GLM-5.3 для локального распределённого чат-инференса через Mesh LLM.

Подходит для: локальный чат-инференс на собственном оборудовании · запуск модели на нескольких компьютерах с распределением слоёв · обслуживание запросов через локальный API, совместимый с OpenAI

Пакет слоёв квантованной GGUF-модели Qwen3 для локального и распределённого чат-инференса через Mesh LLM.

Подходит для: локальный приватный чат с Qwen3 · запуск модели на нескольких компьютерах · обслуживание модели, не помещающейся на одной машине

Квантованный пакет Kimi-K2.5 в GGUF, разделённый на слои для локального распределённого чат-инференса через Mesh LLM.

Подходит для: локальный чат-инференс на собственном оборудовании · распределённый запуск модели на нескольких машинах · обслуживание запросов через совместимый с OpenAI API endpoint