GGUF-конверсия языковой модели Qwen3-1.7B для локальной генерации текста, диалогов, рассуждений и кода.

Подходит для: локальный диалоговый помощник на компьютере · генерация и продолжение текста · ответы на инструкции и простые вопросы

Пакет слоёв GGUF GLM-5.3-Flash для локального распределённого чат-инференса на нескольких машинах через Mesh LLM.

Подходит для: локальный приватный чат-инференс · запуск модели с распределением слоёв между несколькими компьютерами · обслуживание чат-запросов через совместимый с OpenAI локальный API

Пакет GGUF-слоёв NVIDIA Nemotron 3 Super для распределённого локального чат-инференса на кластере Mesh LLM.

Подходит для: локальный приватный запуск чат-модели · распределение инференса между несколькими компьютерами · обслуживание запросов через API, совместимый с OpenAI

Локальная многоязычная языковая модель Qwen3-8B в формате GGUF для диалогов, генерации текста и рассуждений.

Подходит для: локальный диалоговый ассистент · суммаризация документов · генерация структурированных ответов

GGUF-версия англоязычной 2-миллиардной BitNet b1.58 от Microsoft Research для генерации текста и диалога с эффективным CPU-инференсом.

Подходит для: локальный запуск языковой модели на CPU · генерация ответов в диалоговом интерфейсе · следование инструкциям и составление текстов

GGUF-конверсия Qwen3-4B для локальных диалогов, рассуждений и генерации текста на потребительском оборудовании.

Подходит для: локальный чат-бот с контекстной памятью · генерация и объяснение кода · ответы на вопросы по документам в лёгком RAG-сценарии

Пакет слоёв GGUF Gemma 4 для распределённого чат-инференса на нескольких машинах с помощью Mesh LLM.

Подходит для: локальный приватный чат-инференс на собственном оборудовании · распределённый запуск чат-модели на нескольких компьютерах · обслуживание чат-запросов через совместимый с OpenAI API локальный сервер

GGUF-версия Qwen3-14B для локальных диалогов, рассуждений, генерации кода и многоязычных задач.

Подходит для: локальный диалоговый ассистент · генерация и отладка кода · ответы на вопросы по документам в RAG-системе

Компактная 600-миллионная модель Qwen3 в формате GGUF F16 для локальной генерации текста и диалогов на малоресурсных устройствах.

Подходит для: локальные диалоги с ИИ на CPU · генерация текста без подключения к интернету · запуск чат-модели на малоресурсном устройстве

Пакет слоёв GGUF модели NVIDIA Nemotron для распределённого локального чат-инференса на Mesh LLM.

Подходит для: запуск приватного чат-ассистента на собственном оборудовании · распределённый инференс модели между несколькими компьютерами · обслуживание запросов через локальный OpenAI-совместимый API

Многоязычная языковая модель Qwen3 на 32 млрд параметров в формате GGUF F16 для локального диалога, рассуждений, программирования и генерации текста.

Подходит для: локальный чат-ассистент · решение задач по математике и логике · генерация и анализ кода

Пакет GGUF-слоёв GLM-5.3 для локального распределённого чат-инференса через Mesh LLM.

Подходит для: локальный чат-инференс на собственном оборудовании · запуск модели на нескольких компьютерах с распределением слоёв · обслуживание запросов через локальный API, совместимый с OpenAI

Пакет слоёв GGUF модели GLM-5.2-Q2_K-MTP-Q8 для распределённой генерации текста и локального чат-сервинга на Mesh LLM.

Подходит для: Локальный приватный чат с языковой моделью · Распределённый запуск модели на нескольких компьютерах · Генерация текста через локальный сервер Mesh LLM

Конверсия инструктивной MoE-модели Qwen3-Coder-30B-A3B-Instruct в GGUF F16 для локальной генерации кода, диалога и агентных сценариев.

Подходит для: генерация и дополнение программного кода · объяснение кода и помощь при отладке · решение задач по программированию и математике

Пакет GGUF по слоям для распределённого локального запуска и чат-генерации текста с NVIDIA Nemotron 3 Nano Omni через Mesh LLM.

Подходит для: локальный приватный запуск чат-модели · распределение инференса между несколькими компьютерами · генерация ответов через локальный API Chat Completions

GGUF-вариант BF16 модели NVIDIA Nemotron-3-Nano предназначен для диалогов, рассуждений, программирования и агентных приложений.

Подходит для: ответы на вопросы и выполнение инструкций · многоязычный чат-бот · генерация и объяснение кода

Пакет GGUF модели GLM-4.7-REAP-218B-A32B, разделённый на слои для локального распределённого чат-инференса через Mesh LLM.

Подходит для: локальный приватный запуск чат-модели · распределённый инференс на нескольких компьютерах · генерация ответов через совместимый с OpenAI API интерфейс Mesh LLM

Пакет GGUF-слоёв MiMo-V2.5-Pro для распределённого локального чат-инференса через Mesh LLM.

Подходит для: локальный приватный чат-инференс · запуск модели на нескольких машинах Mesh LLM · обслуживание чат-запросов через совместимый с OpenAI API

Компактная потоковая модель классифицирует текст по категориям риска для ранней модерации пользовательского ввода.

Подходит для: Потоковая модерация текста по мере набора · Раннее выявление угроз и ненавистнических высказываний · Фильтрация самоповреждения и сексуального контента

Пакет слоёв Gemma 3 27B Instruct в GGUF для распределённого локального чат-инференса через Mesh LLM.

Подходит для: локальный чат-инференс на собственном оборудовании · запуск модели на нескольких компьютерах при нехватке памяти на одном хосте · обслуживание запросов через совместимый с OpenAI API Mesh LLM

Потоковая модель модерации текста, предназначенная для выявления рисков безопасности по мере поступления пользовательского ввода.

Подходит для: раннее выявление опасного пользовательского ввода · модерация запросов в детских приложениях · фильтрация текста в офлайн-образовательных инструментах

Пакет слоёв GGUF GLM-5.1-UD-Q4_K_XL предназначен для распределённого локального запуска чат-модели на нескольких машинах через Mesh LLM.

Подходит для: локальный приватный запуск чат-модели · распределённый инференс на нескольких машинах · обслуживание запросов через OpenAI-совместимый Chat Completions API

Квантизованный GGUF-пакет слоёв Kimi-K2.6 для локального и распределённого чат-инференса через Mesh LLM.

Подходит для: локальный приватный чат на собственном оборудовании · распределённый запуск языковой модели на нескольких машинах · обслуживание запросов через совместимый с OpenAI API

Потоковая модель для раннего выявления небезопасного текста и классификации его по категориям риска.

Подходит для: проверка вводимого текста до завершения фразы · фильтрация небезопасных запросов перед генерацией ответа · модерация пользовательского контента в детских приложениях