GLM-5.3-Flash — мультимодальная модель для диалогов, анализа изображений, программирования и агентных задач.

Подходит для: ответы на вопросы по изображению · диалоговый помощник на английском или китайском · написание и анализ кода

Модифицированная версия GLM-5.3-Flash для генерации текста с уменьшенной склонностью к отказам, предназначенная прежде всего для исследований отказов и контролируемого red-teaming.

Подходит для: исследование механизмов отказа языковых моделей · проверка устойчивости модели к вредоносным запросам · контролируемый red-teaming и оценка безопасности

GGUF-сборка MoE-модели Ornith для агентного программирования, генерации текста и мультимодальной работы с изображениями через llama.cpp.

Подходит для: автоматическое решение задач программирования агентом · исправление ошибок и внесение изменений в репозитории кода · выполнение задач разработки через терминал и инструменты

GGUF-версия англоязычной 2-миллиардной BitNet b1.58 от Microsoft Research для генерации текста и диалога с эффективным CPU-инференсом.

Подходит для: локальный запуск языковой модели на CPU · генерация ответов в диалоговом интерфейсе · следование инструкциям и составление текстов

Экспериментальная NVFP4-квантизация Qwen3.6-35B-A3B в GGUF для генерации текста и диалогов через llama.cpp.

Подходит для: диалоговое взаимодействие с локальной языковой моделью · генерация ответов и связного текста · решение математических задач GSM8K

Пакет слоёв GGUF GLM-5.3-Flash для локального распределённого чат-инференса на нескольких машинах через Mesh LLM.

Подходит для: локальный приватный чат-инференс · запуск модели с распределением слоёв между несколькими компьютерами · обслуживание чат-запросов через совместимый с OpenAI локальный API

Пакет слоёв GGUF в формате IQ4_XS для распределённого запуска чат-модели семейства Qwen3 через Mesh LLM.

Подходит для: локальный приватный запуск чат-модели · распределённый инференс на нескольких машинах · обслуживание чата через OpenAI-совместимый локальный API

Мультиязычная 27-миллиардная диалоговая GGUF-модель Gastón Parravicini с ослабленным явным рефлексом отказа для генерации текста и исследований безопасности LLM.

Подходит для: диалог с мультиязычным текстовым ассистентом · генерация ответов по инструкциям · оценка отказов модели на adversarial-запросах

GGUF-конверсия мультимодальной Blackfrost Qwen3.8-27B с квантованными NVFP4-весами для диалогов и работы с изображениями.

Подходит для: диалоговые ответы на текстовые запросы · анализ изображений в чате · обработка видеовхода через vision-проектор

Экспериментальная тернарно-квантованная GGUF-модель UkisAI на базе Bonsai 2 27B для диалоговой генерации и рассуждений с более короткими цепочками.

Подходит для: генерация диалоговых ответов · решение задач на рассуждение · сравнение эффективности коротких цепочек рассуждений

GGUF-вариант BF16 модели NVIDIA Nemotron-3-Nano предназначен для диалогов, рассуждений, программирования и агентных приложений.

Подходит для: ответы на вопросы и выполнение инструкций · многоязычный чат-бот · генерация и объяснение кода

Квантизированная GGUF-сборка Ornith-1.0-35B предназначена для агентного программирования и решения задач разработки с текстом и изображениями.

Подходит для: генерация и исправление кода по описанию задачи · разработка функций и файлов по запросу на естественном языке · решение задач по репозиторию с помощью агента

GGUF-сборка диалоговой модели Ornith-1.5-35B-A3B с исправленной MTP-головой для генерации текста и спекулятивного декодирования.

Подходит для: диалоговая генерация текста · ускорение вывода через спекулятивное декодирование · локальный запуск языковой модели в llama.cpp

Пакет слоёв GGUF модели Ornith-1.0-35B для распределённого локального чат-инференса через Mesh LLM.

Подходит для: локальный чат-инференс модели Ornith на собственном оборудовании · распределённый запуск модели между несколькими компьютерами · обслуживание чат-запросов через совместимый с OpenAI API

Пакет GGUF-слоёв gpt-oss-20b для локальной и распределённой генерации текста и диалогов через Mesh LLM.

Подходит для: локальный приватный чат с языковой моделью · распределённая генерация текста на нескольких компьютерах · обслуживание запросов через совместимый с OpenAI API

Квантизированная GGUF-версия мультимодальной Qwen3.6-35B-A3B для чата, понимания изображений и видео, вызова инструментов и программирования.

Подходит для: вопросы и ответы по изображениям · анализ видеоматериалов · чат с вызовом инструментов

Квантизованный пакет слоёв GGUF для запуска GLM-4.7-Flash-REAP-23B-A3B как локального чат-сервиса на одной или нескольких машинах.

Подходит для: локальный чат-бот на собственном оборудовании · распределённый запуск модели на нескольких машинах · обслуживание запросов через совместимый с OpenAI API

Пакет слоёв GGUF модели inkling для локального и распределённого мультимодального чата через Mesh LLM.

Подходит для: Локальный чат с моделью inkling · Ответы на вопросы по изображениям · Распределённый инференс на нескольких компьютерах

Пакет слоёв GGUF модели GLM-5.2-Q2_K-MTP-Q8 для распределённой генерации текста и локального чат-сервинга на Mesh LLM.

Подходит для: Локальный приватный чат с языковой моделью · Распределённый запуск модели на нескольких компьютерах · Генерация текста через локальный сервер Mesh LLM

GGUF-квантованная версия Ornith-1.5-9B для диалоговой генерации текста, программирования и агентных задач.

Подходит для: написание и объяснение кода · диалоговые ответы на вопросы · выполнение агентных задач

Объединённая диалоговая модель Tencent с визуальным энкодером для работы с текстом, изображениями и агентными задачами с длинным контекстом.

Подходит для: ответы на вопросы по загруженным изображениям · диалог с вызовом инструментов · решение задач по программированию

Пакет GGUF модели GLM-4.7-REAP-218B-A32B, разделённый на слои для локального распределённого чат-инференса через Mesh LLM.

Подходит для: локальный приватный запуск чат-модели · распределённый инференс на нескольких компьютерах · генерация ответов через совместимый с OpenAI API интерфейс Mesh LLM

GGUF-сборка Ornith-1.0-397B — дообученной модели для агентного программирования, вызова инструментов и решения задач разработки.

Подходит для: выполнение задач программирования через агентный CLI · поиск и исправление ошибок в кодовой базе · автоматизация задач разработки в терминале

Пакет слоёв GGUF GLM-5.1-UD-Q4_K_XL предназначен для распределённого локального запуска чат-модели на нескольких машинах через Mesh LLM.

Подходит для: локальный приватный запуск чат-модели · распределённый инференс на нескольких машинах · обслуживание запросов через OpenAI-совместимый Chat Completions API