Слоевой GGUF-пакет GLM-4.7 для локального чат-инференса, в том числе распределённого между несколькими машинами через Mesh LLM.

Подходит для: локальный приватный чат с языковой моделью · генерация текста через совместимый с OpenAI API · распределённый запуск модели на нескольких компьютерах

Пакет GGUF-слоёв GLM-5.3 для локального распределённого чат-инференса через Mesh LLM.

Подходит для: локальный чат-инференс на собственном оборудовании · запуск модели на нескольких компьютерах с распределением слоёв · обслуживание запросов через локальный API, совместимый с OpenAI

Квантованная GGUF-модель Qwen3.8-27B в пакете слоёв Mesh LLM для локального и распределённого чата и генерации текста.

Подходит для: локальный приватный чат с языковой моделью · генерация текста на собственном оборудовании · запуск модели на нескольких машинах через Mesh LLM

Пакет слоёв GGUF GLM-5.3-Flash для локального распределённого чат-инференса на нескольких машинах через Mesh LLM.

Подходит для: локальный приватный чат-инференс · запуск модели с распределением слоёв между несколькими компьютерами · обслуживание чат-запросов через совместимый с OpenAI локальный API

Пакет слоёв квантованной Qwen3-8B для распределённого локального чат-инференса через Mesh LLM.

Подходит для: локальный приватный чат-инференс · распределённый запуск модели на нескольких машинах · обслуживание чат-запросов через API, совместимый с OpenAI

Пакет слоёв GGUF модели GLM-5.2-Q2_K-MTP-Q8 для распределённой генерации текста и локального чат-сервинга на Mesh LLM.

Подходит для: Локальный приватный чат с языковой моделью · Распределённый запуск модели на нескольких компьютерах · Генерация текста через локальный сервер Mesh LLM

Квантованная Gemma 4 E4B Instruct в слоёвом GGUF-пакете Mesh LLM для локального распределённого чата и генерации текста.

Подходит для: локальный приватный чат на собственном оборудовании · распределённый инференс языковой модели между несколькими компьютерами · локальный API чата, совместимый с OpenAI

Пакет слоёв GGUF в формате IQ4_XS для распределённого запуска чат-модели семейства Qwen3 через Mesh LLM.

Подходит для: локальный приватный запуск чат-модели · распределённый инференс на нескольких машинах · обслуживание чата через OpenAI-совместимый локальный API

Квантованная GGUF-модель Qwen3.6-27B в виде пакета слоёв для распределённой генерации текста и чата через Mesh LLM.

Подходит для: локальный приватный чат на собственном оборудовании · распределённый запуск модели на нескольких машинах · генерация текста через локальный OpenAI-совместимый API

Квантованный пакет слоёв DeepSeek-V4-Flash для локального распределённого чата и генерации текста через Mesh LLM.

Подходит для: локальный приватный чат с языковой моделью · генерация текста на локальном Mesh LLM-кластере · распределённый инференс между несколькими компьютерами

Слоёный GGUF-пакет GLM-5.1-Q3_K_M-plus для локального распределённого инференса и чат-сценариев в Mesh LLM.

Подходит для: Запуск GLM-5.1 на локальном кластере из нескольких компьютеров · Распределение слоёв модели между узлами при нехватке памяти на одном компьютере · Локальный приватный чат-инференс через Mesh LLM

Пакет слоёв GLM-5.1-UD-Q3_K_S для распределённого локального запуска и генерации текста через Mesh LLM.

Подходит для: локальный приватный запуск GLM на собственном оборудовании · распределение инференса между несколькими компьютерами · обслуживание запросов через локальный OpenAI-совместимый API

Разбитый на слои GGUF-пакет чат-модели Mistral для локального и распределённого инференса через Mesh LLM.

Подходит для: Локальный запуск чат-модели на собственном оборудовании · Распределённый инференс модели на нескольких машинах · Обслуживание запросов через совместимый с OpenAI API Chat Completions

Пакет GGUF-слоёв модели GLM-5 для локальной распределённой генерации текста и чата через Mesh LLM.

Подходит для: локальный чат с моделью GLM-5 · распределённый запуск модели на нескольких компьютерах · генерация текста через локальный API, совместимый с OpenAI

Разделённая на слои GGUF-модель Nemotron-3-Nano-30B-A3B-Q4_K_S для локального и распределённого текстового диалога через Mesh LLM.

Подходит для: локальный приватный запуск чат-модели · распределённый инференс на нескольких машинах · генерация текста через Mesh LLM

Распределённый GGUF-пакет слоёв Gemma 4 31B Instruct для локального запуска чата на одном или нескольких компьютерах через Mesh LLM.

Подходит для: локальный приватный чат с моделью Gemma · распределённый запуск модели на нескольких компьютерах · обслуживание запросов через OpenAI-совместимый Chat Completions API

Распределённый пакет квантованной языковой модели DeepSeek-R1-Distill-Qwen-14B для локального чат-инференса через Mesh LLM.

Подходит для: локальный запуск чат-модели на собственном оборудовании · распределение инференса между несколькими машинами · обслуживание запросов через совместимый с OpenAI API

Пакет Gemma 4 26B A4B IT в квантизации UD-Q4_K_M для распределённой локальной генерации текста и чатов с Mesh LLM.

Подходит для: локальный запуск чат-модели на собственном оборудовании · распределённый инференс на нескольких компьютерах · генерация ответов через совместимый с OpenAI API

Пакет квантизированных GGUF-слоёв NVIDIA Nemotron 3 Super для распределённой генерации текста и локального чат-инференса через Mesh LLM.

Подходит для: Локальный приватный запуск чат-модели · Распределённый инференс на нескольких машинах · Обслуживание запросов через API, совместимый с OpenAI Chat Completions

Пакет слоёв квантованной GGUF-модели Qwen3 для локального и распределённого чат-инференса через Mesh LLM.

Подходит для: локальный приватный чат с Qwen3 · запуск модели на нескольких компьютерах · обслуживание модели, не помещающейся на одной машине

Квантованный пакет GGUF-слоёв Ornith для распределённого локального запуска чат-генерации через Mesh LLM.

Подходит для: локальный приватный чат с языковой моделью · генерация текста на кластере из нескольких компьютеров · запуск модели, не помещающейся на одном узле

Квантованный пакет Llama 3.2 1B Instruct в GGUF, разделённый на слои для локального распределённого чат-инференса через Mesh LLM.

Подходит для: локальный приватный чат-инференс на собственном оборудовании · обслуживание чат-запросов на нескольких машинах Mesh LLM · запуск локального сервиса генерации текста через OpenAI-совместимый API

Пакет квантованных GGUF-слоёв NVIDIA Nemotron 3 Ultra 550B A55B для локального и распределённого диалогового вывода через Mesh LLM.

Подходит для: локальный приватный запуск большой языковой модели · распределённый вывод на нескольких компьютерах · чат-бот на локальном Mesh LLM-кластере

Пакет GGUF-слоёв NVIDIA Nemotron 3 Super для распределённого локального чат-инференса на кластере Mesh LLM.

Подходит для: локальный приватный запуск чат-модели · распределение инференса между несколькими компьютерами · обслуживание запросов через API, совместимый с OpenAI