GLM-5.1 — языковая модель Z.ai для генерации кода и длительных агентных инженерных задач с инструментами.

Подходит для: генерация кода по описанию задачи · поиск и исправление ошибок в репозитории · выполнение многоэтапных задач в терминале

GGUF-версия англоязычной 2-миллиардной BitNet b1.58 от Microsoft Research для генерации текста и диалога с эффективным CPU-инференсом.

Подходит для: локальный запуск языковой модели на CPU · генерация ответов в диалоговом интерфейсе · следование инструкциям и составление текстов

Пакет слоёв GGUF GLM-5.3-Flash для локального распределённого чат-инференса на нескольких машинах через Mesh LLM.

Подходит для: локальный приватный чат-инференс · запуск модели с распределением слоёв между несколькими компьютерами · обслуживание чат-запросов через совместимый с OpenAI локальный API

GGUF-сборка MoE-модели Ornith для агентного программирования, генерации текста и мультимодальной работы с изображениями через llama.cpp.

Подходит для: автоматическое решение задач программирования агентом · исправление ошибок и внесение изменений в репозитории кода · выполнение задач разработки через терминал и инструменты

Квантованная GGUF-модель Qwen3.8-27B в пакете слоёв Mesh LLM для локального и распределённого чата и генерации текста.

Подходит для: локальный приватный чат с языковой моделью · генерация текста на собственном оборудовании · запуск модели на нескольких машинах через Mesh LLM

Вспомогательная модель-драфтер Gemma 4 E4B для ускорения генерации текста методом speculative decoding в связке с целевой моделью.

Подходит для: ускорение генерации ответов чат-моделью Gemma 4 · снижение задержки генерации текста на устройстве · ускорение пошаговой генерации в приложениях с длинными ответами

Пакет слоёв GGUF в формате IQ4_XS для распределённого запуска чат-модели семейства Qwen3 через Mesh LLM.

Подходит для: локальный приватный запуск чат-модели · распределённый инференс на нескольких машинах · обслуживание чата через OpenAI-совместимый локальный API

Пакет слоёв GGUF Gemma 4 для распределённого чат-инференса на нескольких машинах с помощью Mesh LLM.

Подходит для: локальный приватный чат-инференс на собственном оборудовании · распределённый запуск чат-модели на нескольких компьютерах · обслуживание чат-запросов через совместимый с OpenAI API локальный сервер

Пакет GGUF по слоям для распределённого локального запуска и чат-генерации текста с NVIDIA Nemotron 3 Nano Omni через Mesh LLM.

Подходит для: локальный приватный запуск чат-модели · распределение инференса между несколькими компьютерами · генерация ответов через локальный API Chat Completions

Компактный мультимодальный драфтер Gemma 4 для ускорения генерации текста методом спекулятивного декодирования.

Подходит для: ускорение генерации текста в конвейере speculative decoding · снижение задержки генерации на локальных устройствах · предсказание нескольких следующих токенов для проверки целевой моделью

Пакет GGUF-слоёв GLM-5.3 для локального распределённого чат-инференса через Mesh LLM.

Подходит для: локальный чат-инференс на собственном оборудовании · запуск модели на нескольких компьютерах с распределением слоёв · обслуживание запросов через локальный API, совместимый с OpenAI

Квантованная GGUF-сборка диалоговой MoE-модели Iris-mini для генерации текста и запуска через llama.cpp, в том числе с использованием системной RAM.

Подходит для: диалоговые ответы на русском и других поддерживаемых языках · генерация и продолжение текста локально · помощь в рассуждениях и исследовательских запросах

Компактная модель семейства Gemma 4 для диалоговой генерации, экспериментов и оценки устойчивости, переупакованная для совместимости с Transformers.

Подходит для: генерация ответов в диалоге · прототипирование компактных языковых моделей · оценка устойчивости к сложным и состязательным запросам

Пакет GGUF-слоёв NVIDIA Nemotron 3 Super для распределённого локального чат-инференса на кластере Mesh LLM.

Подходит для: локальный приватный запуск чат-модели · распределение инференса между несколькими компьютерами · обслуживание запросов через API, совместимый с OpenAI

Коллекция крупных языковых моделей в 2-битном формате GGUF для текстовой генерации и диалогов с помощью llama.cpp.

Подходит для: диалоговые ответы на запросы и инструкции · генерация текста с локально запущенной LLM · написание и дополнение кода моделями Codellama

Пакет слоёв GGUF модели GLM-5.2-Q2_K-MTP-Q8 для распределённой генерации текста и локального чат-сервинга на Mesh LLM.

Подходит для: Локальный приватный чат с языковой моделью · Распределённый запуск модели на нескольких компьютерах · Генерация текста через локальный сервер Mesh LLM

GGUF-сборка диалоговой модели Ornith-1.5-35B-A3B с исправленной MTP-головой для генерации текста и спекулятивного декодирования.

Подходит для: диалоговая генерация текста · ускорение вывода через спекулятивное декодирование · локальный запуск языковой модели в llama.cpp

Компактная базовая языковая модель Kyutai на 1,9 млрд параметров для генерации и понимания текста на 24 языках ЕС.

Подходит для: генерация продолжений текста на языках ЕС · исследование многоязычного языкового моделирования · оценка знаний модели на текстовых бенчмарках

Экспериментальная англоязычная модель на 196,7 млн параметров для генерации текста и простых инструкционных ответов, включая базовый код.

Подходит для: изучение устройства и обучения небольших языковых моделей · локальные эксперименты с генерацией текста через Ollama · получение простых ответов на инструкции на английском языке

GGUF-вариант BF16 модели NVIDIA Nemotron-3-Nano предназначен для диалогов, рассуждений, программирования и агентных приложений.

Подходит для: ответы на вопросы и выполнение инструкций · многоязычный чат-бот · генерация и объяснение кода

Пакет GGUF-слоёв gpt-oss-20b для локальной и распределённой генерации текста и диалогов через Mesh LLM.

Подходит для: локальный приватный чат с языковой моделью · распределённая генерация текста на нескольких компьютерах · обслуживание запросов через совместимый с OpenAI API

GGUF-квантованная версия Ornith-1.5-9B для диалоговой генерации текста, программирования и агентных задач.

Подходит для: написание и объяснение кода · диалоговые ответы на вопросы · выполнение агентных задач

Дообученный assistant-чекпойнт Gemma 4 26B A4B для ускорения генерации в совместимом конвейере спекулятивного декодирования.

Подходит для: ускорение генерации текста в конвейере speculative decoding · ускорение диалоговых ответов с целевой моделью Gemma 4 26B A4B · использование в исследовательских и пользовательских сборках на базе Gemma 4

Мультимодальная производная Gemma 4 для изучения поведения отказов и оценки следования текстовым и графическим инструкциям.

Подходит для: изучение избыточных отказов языковых моделей · оценка отказов в ответ на мультимодальные инструкции · проверка устойчивости следования инструкциям с изображениями