Квантованная в формате GGUF мультимодальная MoE-модель на базе Qwen3.6-35B-A3B для диалогов и генерации текста по текстовым и визуальным запросам.

Подходит для: диалоговый помощник с вводом текста и изображений · ответы на вопросы по изображению · генерация текста и рассуждений

Компактная авторегрессионная модель семейства Llama для генерации текста, предварительно обученная на FineWeb.

Подходит для: эксперименты с компактными языковыми моделями · генерация коротких текстовых продолжений · изучение авторегрессионной архитектуры Llama

GGUF-сборка MoE-модели Ornith для агентного программирования, генерации текста и мультимодальной работы с изображениями через llama.cpp.

Подходит для: автоматическое решение задач программирования агентом · исправление ошибок и внесение изменений в репозитории кода · выполнение задач разработки через терминал и инструменты

Англоязычная диалоговая модель Ai2 на 6,9 млрд параметров для выполнения инструкций, ответов на вопросы, математики и программирования.

Подходит для: ответы на вопросы и ведение диалога на английском языке · решение математических задач · генерация и помощь с программным кодом

Пакет слоёв GGUF в формате IQ4_XS для распределённого запуска чат-модели семейства Qwen3 через Mesh LLM.

Подходит для: локальный приватный запуск чат-модели · распределённый инференс на нескольких машинах · обслуживание чата через OpenAI-совместимый локальный API

Пакет GGUF-слоёв GLM-5.3 для локального распределённого чат-инференса через Mesh LLM.

Подходит для: локальный чат-инференс на собственном оборудовании · запуск модели на нескольких компьютерах с распределением слоёв · обслуживание запросов через локальный API, совместимый с OpenAI

Объединённая GGUF-модель OrionLLM_GRM-3.2-Sky и Qwen3.5 MTP для диалогов с текстом и изображениями.

Подходит для: диалог с текстовой моделью, поддерживающей изображения · обработка пользовательских запросов с изображениями · локальный запуск GGUF-модели с MTP-компонентом

Слоевой GGUF-пакет GLM-4.7 для локального чат-инференса, в том числе распределённого между несколькими машинами через Mesh LLM.

Подходит для: локальный приватный чат с языковой моделью · генерация текста через совместимый с OpenAI API · распределённый запуск модели на нескольких компьютерах

Пакет квантизированной Gemma 4 26B A4B Instruct, разделённый на слои для распределённого локального чата и обработки изображений через Mesh LLM.

Подходит для: локальный приватный чат с языковой моделью · распределённый запуск Gemma на нескольких компьютерах · ответы на вопросы по изображениям

Смешанная квантизованная GGUF-версия мультимодальной MoE-модели Qwen3.8-Flash-Next-heretic-2 для диалоговой генерации текста и ответов по изображениям.

Подходит для: диалоговое общение на японском и английском языках · ответы на вопросы по загруженным изображениям · генерация текста в локальном запуске через llama.cpp

Экспериментальный пакет GGUF-слоёв inkling для распределённого локального чата и обработки изображений в Mesh LLM.

Подходит для: локальный приватный чат с ассистентом через Mesh LLM · распределённый запуск модели на нескольких компьютерах · обслуживание запросов через совместимый с OpenAI API

Англоязычная модель Ai2 на 6,9 млрд параметров, дообученная методом RLVR для генерации решений математических задач и исследования обучения с проверяемыми наградами.

Подходит для: генерация решений математических задач · пошаговое рассуждение при решении задач · эксперименты с обучением RLVR на математических запросах

Экспериментальный пакет слоёв GGUF модели inkling для распределённого мультимодального чата через Mesh LLM.

Подходит для: локальный приватный чат с моделью inkling · распределённый запуск модели на нескольких машинах · обслуживание запросов через совместимый с OpenAI API

Пакет GGUF по слоям для распределённого локального запуска и чат-генерации текста с NVIDIA Nemotron 3 Nano Omni через Mesh LLM.

Подходит для: локальный приватный запуск чат-модели · распределение инференса между несколькими компьютерами · генерация ответов через локальный API Chat Completions

Спекулятивная модель Red Hat для ускорения текстовой генерации Llama 3.1 8B Instruct с помощью EAGLE-3 и vLLM.

Подходит для: ускорение генерации ответов в чат-сервисе на базе Llama 3.1 · ускорение генерации текста через vLLM · снижение задержки при обслуживании запросов /chat/completions

Квантованная Gemma 4 31B Instruct в виде GGUF-пакета слоёв для локального распределённого чата и обработки изображений через Mesh LLM.

Подходит для: локальный приватный чат с языковой моделью · диалог по изображениям на локальном кластере · распределённый запуск модели на нескольких компьютерах

Пакет слоёв GGUF GLM-5.2-Q2_K-MTP-Q8 для распределённого локального чат-инференса через Mesh LLM.

Подходит для: локальный приватный чат-инференс на собственном оборудовании · распределённый запуск модели на нескольких машинах · обслуживание запросов через совместимый с OpenAI API

Пакет слоёв GGUF модели Kimi-K3 для распределённого локального чат-инференса с поддержкой изображений через Mesh LLM.

Подходит для: локальный запуск чат-бота на нескольких машинах · ответы на вопросы по тексту и изображениям · обслуживание запросов через совместимый с OpenAI API

Послойный GGUF-пакет Qwen3.8-Flash-Next для распределённого локального чата и обработки изображений с Mesh LLM.

Подходит для: локальный приватный чат с моделью Qwen3 · распределённый запуск GGUF-модели на нескольких машинах · ответы на вопросы по изображениям через Mesh LLM

Пакет квантованных GGUF-слоёв NVIDIA Nemotron 3 Ultra 550B A55B для локального и распределённого диалогового вывода через Mesh LLM.

Подходит для: локальный приватный запуск большой языковой модели · распределённый вывод на нескольких компьютерах · чат-бот на локальном Mesh LLM-кластере

Модифицированная Gemma 3 12B IT для диалогов, понимания изображений и ответов с пониженной частотой отказов.

Подходит для: диалоговые ответы на текстовые запросы · понимание изображений по текстовым инструкциям · исследование поведения языковых моделей при отказах

Пакет слоёв GGUF модели inkling для локального и распределённого мультимодального чата через Mesh LLM.

Подходит для: Локальный чат с моделью inkling · Ответы на вопросы по изображениям · Распределённый инференс на нескольких компьютерах

Мультимодальная производная Gemma 4 для изучения поведения отказов и оценки следования текстовым и графическим инструкциям.

Подходит для: изучение избыточных отказов языковых моделей · оценка отказов в ответ на мультимодальные инструкции · проверка устойчивости следования инструкциям с изображениями

Объединённая 9,7-миллиардная языковая модель для рассуждений, программирования, диалогов и агентной работы с инструментами.

Подходит для: решение сложных математических задач · генерация и отладка кода · многошаговые диалоги с вызовом инструментов