GGUF-сборка конвейера TRELLIS.2 для создания 3D-объектов по изображениям.

Подходит для: создание 3D-модели объекта по изображению · получение текстурированного 3D-объекта из картинки · запуск генерации 3D через trellis.cpp на CUDA или Vulkan

Пакет слоёв GGUF GLM-5.3-Flash для локального распределённого чат-инференса на нескольких машинах через Mesh LLM.

Подходит для: локальный приватный чат-инференс · запуск модели с распределением слоёв между несколькими компьютерами · обслуживание чат-запросов через совместимый с OpenAI локальный API

Текстовая модель Qwen3 на 7,6 млрд параметров с контекстом до 65 536 токенов для диалогов и генерации длинных ответов.

Подходит для: ответы на вопросы по длинным текстам · ведение продолжительных диалогов · генерация и продолжение текста

Пакет слоёв GGUF модели Ornith-1.0-35B для распределённого локального чат-инференса через Mesh LLM.

Подходит для: локальный чат-инференс модели Ornith на собственном оборудовании · распределённый запуск модели между несколькими компьютерами · обслуживание чат-запросов через совместимый с OpenAI API

Пакет квантованных GGUF-весов Ornith-1.0-397B для локального распределённого чат-инференса через Mesh LLM.

Подходит для: локальный приватный запуск чат-модели · распределённый инференс на нескольких компьютерах · генерация текста через совместимый с OpenAI API

Пакет слоёв GGUF в формате IQ4_XS для распределённого запуска чат-модели семейства Qwen3 через Mesh LLM.

Подходит для: локальный приватный запуск чат-модели · распределённый инференс на нескольких машинах · обслуживание чата через OpenAI-совместимый локальный API

Пакет GGUF-слоёв GLM-5.3 для локального распределённого чат-инференса через Mesh LLM.

Подходит для: локальный чат-инференс на собственном оборудовании · запуск модели на нескольких компьютерах с распределением слоёв · обслуживание запросов через локальный API, совместимый с OpenAI

Пакет слоёв GGUF Gemma 4 для распределённого чат-инференса на нескольких машинах с помощью Mesh LLM.

Подходит для: локальный приватный чат-инференс на собственном оборудовании · распределённый запуск чат-модели на нескольких компьютерах · обслуживание чат-запросов через совместимый с OpenAI API локальный сервер

GGUF-сборка MoE-модели Ornith для агентного программирования, генерации текста и мультимодальной работы с изображениями через llama.cpp.

Подходит для: автоматическое решение задач программирования агентом · исправление ошибок и внесение изменений в репозитории кода · выполнение задач разработки через терминал и инструменты

Пакет GGUF-слоёв NVIDIA Nemotron 3 Super для распределённого локального чат-инференса на кластере Mesh LLM.

Подходит для: локальный приватный запуск чат-модели · распределение инференса между несколькими компьютерами · обслуживание запросов через API, совместимый с OpenAI

Попытка конверсии черновой DFlash-модели GLM-5.2-FP8 в GGUF для ускорения генерации текста посредством speculative decoding.

Подходит для: эксперименты со speculative decoding в ik_llama · проверка совместимости токенизатора с GLM-5.2-FP8-DFlash · тестирование ускорения генерации кода

Pixal3D в формате GGUF предназначена для создания 3D-представления по изображению и поддержки в trellis.cpp.

Подходит для: создание 3D-модели по изображению · преобразование изображения объекта в 3D-представление · использование Pixal3D в trellis.cpp

Пакет GGUF модели GLM-4.7-REAP-218B-A32B, разделённый на слои для локального распределённого чат-инференса через Mesh LLM.

Подходит для: локальный приватный запуск чат-модели · распределённый инференс на нескольких компьютерах · генерация ответов через совместимый с OpenAI API интерфейс Mesh LLM

GGUF-версия англоязычной 2-миллиардной BitNet b1.58 от Microsoft Research для генерации текста и диалога с эффективным CPU-инференсом.

Подходит для: локальный запуск языковой модели на CPU · генерация ответов в диалоговом интерфейсе · следование инструкциям и составление текстов

Пакет слоёв GGUF модели GLM-5.2-Q2_K-MTP-Q8 для распределённой генерации текста и локального чат-сервинга на Mesh LLM.

Подходит для: Локальный приватный чат с языковой моделью · Распределённый запуск модели на нескольких компьютерах · Генерация текста через локальный сервер Mesh LLM

Квантизованный пакет слоёв GGUF для запуска GLM-4.7-Flash-REAP-23B-A3B как локального чат-сервиса на одной или нескольких машинах.

Подходит для: локальный чат-бот на собственном оборудовании · распределённый запуск модели на нескольких машинах · обслуживание запросов через совместимый с OpenAI API

Объединённая GGUF-модель OrionLLM_GRM-3.2-Sky и Qwen3.5 MTP для диалогов с текстом и изображениями.

Подходит для: диалог с текстовой моделью, поддерживающей изображения · обработка пользовательских запросов с изображениями · локальный запуск GGUF-модели с MTP-компонентом

Экспериментальная компактная чат-модель в формате GGUF для генерации текста и простого кода на Python.

Подходит для: учебные эксперименты с компактной языковой моделью · генерация простых фрагментов кода на Python · запуск чат-модели через llama.cpp

Пакет слоёв GGUF модели Qwen3 для распределённого локального чата и генерации текста на кластере Mesh LLM.

Подходит для: локальный приватный чат на собственном оборудовании · распределённый запуск модели на нескольких машинах · генерация текста через локальный OpenAI-совместимый API

Пакет слоёв GGUF модели NVIDIA Nemotron для распределённого локального чат-инференса на Mesh LLM.

Подходит для: запуск приватного чат-ассистента на собственном оборудовании · распределённый инференс модели между несколькими компьютерами · обслуживание запросов через локальный OpenAI-совместимый API

Пакет слоёв квантованной GGUF-модели Qwen3 для локального и распределённого чат-инференса через Mesh LLM.

Подходит для: локальный приватный чат с Qwen3 · запуск модели на нескольких компьютерах · обслуживание модели, не помещающейся на одной машине

GGUF-версия Sesame CSM 1B для синтеза английской речи по тексту.

Подходит для: синтез английской речи по тексту · озвучивание английских фраз в совместимой среде GGUF · создание речевых аудиофрагментов из текстовых реплик

Черновая модель DFlash 2 в формате GGUF ускоряет генерацию GLM-5.3-Flash посредством спекулятивного декодирования.

Подходит для: ускорение генерации текста моделью GLM-5.3-Flash в llama.cpp · ускорение диалоговых ответов GLM-5.3-Flash при спекулятивном декодировании · локальный запуск черновой модели DFlash 2 совместно с целевой GGUF-моделью

Пакет GGUF-слоёв DeepSeek-V4-Flash в варианте UD-Q4_K_XL для локального распределённого чат-инференса через Mesh LLM.

Подходит для: локальный приватный чат-инференс · запуск модели на нескольких машинах, когда веса не помещаются на одном узле · обслуживание запросов chat completions через совместимый с OpenAI API