GLM-5.1 — языковая модель Z.ai для генерации кода и длительных агентных инженерных задач с инструментами.

Подходит для: генерация кода по описанию задачи · поиск и исправление ошибок в репозитории · выполнение многоэтапных задач в терминале

GGUF-версия англоязычной 2-миллиардной BitNet b1.58 от Microsoft Research для генерации текста и диалога с эффективным CPU-инференсом.

Подходит для: локальный запуск языковой модели на CPU · генерация ответов в диалоговом интерфейсе · следование инструкциям и составление текстов

Текстовая чат-модель Ternary Bonsai 2 27B в GGUF с ослабленным отказом на запросы, рассчитанная на запуск через форк llama.cpp от PrismML.

Подходит для: генерация ответов в текстовом чате · создание диалогового прототипа с меньшим числом отказов · оценка поведения модели на безопасных и небезопасных запросах

Экспериментальная тернарно-квантованная GGUF-модель UkisAI на базе Bonsai 2 27B для диалоговой генерации и рассуждений с более короткими цепочками.

Подходит для: генерация диалоговых ответов · решение задач на рассуждение · сравнение эффективности коротких цепочек рассуждений

Пакет слоёв GGUF GLM-5.3-Flash для локального распределённого чат-инференса на нескольких машинах через Mesh LLM.

Подходит для: локальный приватный чат-инференс · запуск модели с распределением слоёв между несколькими компьютерами · обслуживание чат-запросов через совместимый с OpenAI локальный API

Квантованная 27-миллиардная GGUF-версия Qwen3.8 для локальной генерации текста и диалогов через llama.cpp.

Подходит для: локальный чат с языковой моделью · генерация текстов на английском и японском · запуск Qwen3.8 в llama.cpp с уменьшенными требованиями к памяти

Пакет слоёв GGUF в формате IQ4_XS для распределённого запуска чат-модели семейства Qwen3 через Mesh LLM.

Подходит для: локальный приватный запуск чат-модели · распределённый инференс на нескольких машинах · обслуживание чата через OpenAI-совместимый локальный API

GGUF-сборка MoE-модели Ornith для агентного программирования, генерации текста и мультимодальной работы с изображениями через llama.cpp.

Подходит для: автоматическое решение задач программирования агентом · исправление ошибок и внесение изменений в репозитории кода · выполнение задач разработки через терминал и инструменты

Пакет GGUF-слоёв gpt-oss-20b для локальной и распределённой генерации текста и диалогов через Mesh LLM.

Подходит для: локальный приватный чат с языковой моделью · распределённая генерация текста на нескольких компьютерах · обслуживание запросов через совместимый с OpenAI API

Квантованная GGUF-модель Qwen3.8-27B в пакете слоёв Mesh LLM для локального и распределённого чата и генерации текста.

Подходит для: локальный приватный чат с языковой моделью · генерация текста на собственном оборудовании · запуск модели на нескольких машинах через Mesh LLM

GGUF-квантованная версия Ornith-1.5-9B для диалоговой генерации текста, программирования и агентных задач.

Подходит для: написание и объяснение кода · диалоговые ответы на вопросы · выполнение агентных задач

GGUF-квантизация дообученной gpt-oss-120b с ослабленными отказами для диалогов и генерации текста.

Подходит для: диалоговый помощник для ответов на вопросы · генерация и редактирование текстов · локальный запуск языковой модели через llama.cpp или Ollama

Мультиязычная 27-миллиардная диалоговая GGUF-модель Gastón Parravicini с ослабленным явным рефлексом отказа для генерации текста и исследований безопасности LLM.

Подходит для: диалог с мультиязычным текстовым ассистентом · генерация ответов по инструкциям · оценка отказов модели на adversarial-запросах

Пакет слоёв GGUF модели GLM-5.2-Q2_K-MTP-Q8 для распределённой генерации текста и локального чат-сервинга на Mesh LLM.

Подходит для: Локальный приватный чат с языковой моделью · Распределённый запуск модели на нескольких компьютерах · Генерация текста через локальный сервер Mesh LLM

GGUF-вариант BF16 модели NVIDIA Nemotron-3-Nano предназначен для диалогов, рассуждений, программирования и агентных приложений.

Подходит для: ответы на вопросы и выполнение инструкций · многоязычный чат-бот · генерация и объяснение кода

Пакет GGUF по слоям для распределённого локального запуска и чат-генерации текста с NVIDIA Nemotron 3 Nano Omni через Mesh LLM.

Подходит для: локальный приватный запуск чат-модели · распределение инференса между несколькими компьютерами · генерация ответов через локальный API Chat Completions

Диалоговая модель Yi 1.5 на 8,6 млрд параметров с настраиваемым системным промптом для экспериментов с поведением и безопасностью LLM.

Подходит для: настройка поведения чат-бота системными инструкциями · сравнение безопасного и неограниченного режимов ответов · эксперименты по безопасности и согласованию языковых моделей

GGUF-конверсия Qwen3-4B для локальных диалогов, рассуждений и генерации текста на потребительском оборудовании.

Подходит для: локальный чат-бот с контекстной памятью · генерация и объяснение кода · ответы на вопросы по документам в лёгком RAG-сценарии

GGUF-сборка диалоговой модели Ornith-1.5-35B-A3B с исправленной MTP-головой для генерации текста и спекулятивного декодирования.

Подходит для: диалоговая генерация текста · ускорение вывода через спекулятивное декодирование · локальный запуск языковой модели в llama.cpp

Дообученная Yi-1.5-34B разговорная модель для следования инструкциям, диалогов, программирования и вызова функций с контекстом до 32 768 токенов.

Подходит для: ответы на пользовательские вопросы в диалоге · выполнение инструкций и составление текстов · генерация и разбор программного кода

Пакет GGUF-слоёв GLM-5.3 для локального распределённого чат-инференса через Mesh LLM.

Подходит для: локальный чат-инференс на собственном оборудовании · запуск модели на нескольких компьютерах с распределением слоёв · обслуживание запросов через локальный API, совместимый с OpenAI

Экспериментальная англоязычная модель на 196,7 млн параметров для генерации текста и простых инструкционных ответов, включая базовый код.

Подходит для: изучение устройства и обучения небольших языковых моделей · локальные эксперименты с генерацией текста через Ollama · получение простых ответов на инструкции на английском языке

Текстовая версия Qwen3.5-2B без визуального энкодера для генерации текста, диалогов и подготовки к конвертации или слиянию LoRA.

Подходит для: генерация текста в диалоговом режиме · подготовка текстовой модели Qwen к конвертации в GGUF · слияние весов LoRA с базовой моделью на CPU

Коллекция крупных языковых моделей в 2-битном формате GGUF для текстовой генерации и диалогов с помощью llama.cpp.

Подходит для: диалоговые ответы на запросы и инструкции · генерация текста с локально запущенной LLM · написание и дополнение кода моделями Codellama