GLM-5.1 — языковая модель Z.ai для генерации кода и длительных агентных инженерных задач с инструментами.

Подходит для: генерация кода по описанию задачи · поиск и исправление ошибок в репозитории · выполнение многоэтапных задач в терминале

GLM-4.7 — англо-китайская языковая модель Z.ai для программирования, агентных задач, рассуждений и диалогов.

Подходит для: генерация и отладка программного кода · выполнение задач разработки через терминальный агент · создание веб-страниц и интерфейсов по описанию

GGUF-версия англоязычной 2-миллиардной BitNet b1.58 от Microsoft Research для генерации текста и диалога с эффективным CPU-инференсом.

Подходит для: локальный запуск языковой модели на CPU · генерация ответов в диалоговом интерфейсе · следование инструкциям и составление текстов

Пакет слоёв GGUF GLM-5.3-Flash для локального распределённого чат-инференса на нескольких машинах через Mesh LLM.

Подходит для: локальный приватный чат-инференс · запуск модели с распределением слоёв между несколькими компьютерами · обслуживание чат-запросов через совместимый с OpenAI локальный API

Экспериментальная тернарно-квантованная GGUF-модель UkisAI на базе Bonsai 2 27B для диалоговой генерации и рассуждений с более короткими цепочками.

Подходит для: генерация диалоговых ответов · решение задач на рассуждение · сравнение эффективности коротких цепочек рассуждений

Мультиязычная 27-миллиардная диалоговая GGUF-модель Gastón Parravicini с ослабленным явным рефлексом отказа для генерации текста и исследований безопасности LLM.

Подходит для: диалог с мультиязычным текстовым ассистентом · генерация ответов по инструкциям · оценка отказов модели на adversarial-запросах

Пакет слоёв GGUF в формате IQ4_XS для распределённого запуска чат-модели семейства Qwen3 через Mesh LLM.

Подходит для: локальный приватный запуск чат-модели · распределённый инференс на нескольких машинах · обслуживание чата через OpenAI-совместимый локальный API

Квантованная GGUF-модель Qwen3.8-27B в пакете слоёв Mesh LLM для локального и распределённого чата и генерации текста.

Подходит для: локальный приватный чат с языковой моделью · генерация текста на собственном оборудовании · запуск модели на нескольких машинах через Mesh LLM

Пакет GGUF-слоёв GLM-5.3 для локального распределённого чат-инференса через Mesh LLM.

Подходит для: локальный чат-инференс на собственном оборудовании · запуск модели на нескольких компьютерах с распределением слоёв · обслуживание запросов через локальный API, совместимый с OpenAI

GGUF-сборка MoE-модели Ornith для агентного программирования, генерации текста и мультимодальной работы с изображениями через llama.cpp.

Подходит для: автоматическое решение задач программирования агентом · исправление ошибок и внесение изменений в репозитории кода · выполнение задач разработки через терминал и инструменты

Диалоговая текстовая модель семейства Llama примерно на 7,5 млрд параметров для генерации ответов на текстовые запросы.

Подходит для: диалоговые ответы на текстовые запросы · генерация продолжения текста · создание чат-бота на базе Transformers

Слоевой GGUF-пакет GLM-4.7 для локального чат-инференса, в том числе распределённого между несколькими машинами через Mesh LLM.

Подходит для: локальный приватный чат с языковой моделью · генерация текста через совместимый с OpenAI API · распределённый запуск модели на нескольких компьютерах

Распределённый GGUF-пакет слоёв Gemma 4 31B Instruct для локального запуска чата на одном или нескольких компьютерах через Mesh LLM.

Подходит для: локальный приватный чат с моделью Gemma · распределённый запуск модели на нескольких компьютерах · обслуживание запросов через OpenAI-совместимый Chat Completions API

Коллекция крупных языковых моделей в 2-битном формате GGUF для текстовой генерации и диалогов с помощью llama.cpp.

Подходит для: диалоговые ответы на запросы и инструкции · генерация текста с локально запущенной LLM · написание и дополнение кода моделями Codellama

GGUF-порт плотной 27-миллиардной Qwen3.8-27B-Escha-W2 для генерации текста и диалогов через специальный форк llama.cpp.

Подходит для: генерация ответов в англоязычном чат-боте · локальный запуск текстовой LLM через llama.cpp · продолжение и дополнение текстовых промптов

Пакет Gemma 4 26B A4B IT в квантизации UD-Q4_K_M для распределённой локальной генерации текста и чатов с Mesh LLM.

Подходит для: локальный запуск чат-модели на собственном оборудовании · распределённый инференс на нескольких компьютерах · генерация ответов через совместимый с OpenAI API

Квантованная Gemma 4 E4B Instruct в слоёвом GGUF-пакете Mesh LLM для локального распределённого чата и генерации текста.

Подходит для: локальный приватный чат на собственном оборудовании · распределённый инференс языковой модели между несколькими компьютерами · локальный API чата, совместимый с OpenAI

Компактная модель семейства Gemma 4 для диалоговой генерации, экспериментов и оценки устойчивости, переупакованная для совместимости с Transformers.

Подходит для: генерация ответов в диалоге · прототипирование компактных языковых моделей · оценка устойчивости к сложным и состязательным запросам

Экспериментальная англоязычная модель на 196,7 млн параметров для генерации текста и простых инструкционных ответов, включая базовый код.

Подходит для: изучение устройства и обучения небольших языковых моделей · локальные эксперименты с генерацией текста через Ollama · получение простых ответов на инструкции на английском языке

Пакет слоёв GGUF модели GLM-5.2-Q2_K-MTP-Q8 для распределённой генерации текста и локального чат-сервинга на Mesh LLM.

Подходит для: Локальный приватный чат с языковой моделью · Распределённый запуск модели на нескольких компьютерах · Генерация текста через локальный сервер Mesh LLM

Компактная модель семейства LLaMA для ускорения генерации текста с помощью спекулятивного декодирования EAGLE.

Подходит для: ускорение инференса языковой модели в serving-системах · ускорение генерации ответов чат-моделью · снижение задержки авторегрессионной генерации текста

BF16-конверсия модели Qwen3.8-Flash-Next в GGUF для генерации текста и диалогов с помощью llama.cpp.

Подходит для: ведение диалога с локальной языковой моделью · генерация ответов и черновиков текста · запуск модели в совместимой сборке llama.cpp

Пакет слоёв GGUF GLM-5.2-Q2_K-MTP-Q8 для распределённого локального чат-инференса через Mesh LLM.

Подходит для: локальный приватный чат-инференс на собственном оборудовании · распределённый запуск модели на нескольких машинах · обслуживание запросов через совместимый с OpenAI API

Пакет слоёв GGUF Gemma 4 для распределённого чат-инференса на нескольких машинах с помощью Mesh LLM.

Подходит для: локальный приватный чат-инференс на собственном оборудовании · распределённый запуск чат-модели на нескольких компьютерах · обслуживание чат-запросов через совместимый с OpenAI API локальный сервер