GLM-5.1 — языковая модель Z.ai для генерации кода и длительных агентных инженерных задач с инструментами.

Подходит для: генерация кода по описанию задачи · поиск и исправление ошибок в репозитории · выполнение многоэтапных задач в терминале

GLM-4.7 — англо-китайская языковая модель Z.ai для программирования, агентных задач, рассуждений и диалогов.

Подходит для: генерация и отладка программного кода · выполнение задач разработки через терминальный агент · создание веб-страниц и интерфейсов по описанию

Черновая модель Liquid AI для speculative decoding, ускоряющая генерацию LiquidAI/LFM2.5-8B-A1B при использовании совместимого инференс-сервера.

Подходит для: ускорение генерации текста на LFM2.5-8B-A1B через speculative decoding · снижение задержки инференса в SGLang · ускорение генерации на Apple Silicon с Metal

GGUF-версия англоязычной 2-миллиардной BitNet b1.58 от Microsoft Research для генерации текста и диалога с эффективным CPU-инференсом.

Подходит для: локальный запуск языковой модели на CPU · генерация ответов в диалоговом интерфейсе · следование инструкциям и составление текстов

Дообученная мультимодальная Gemma 4 12B для помощи в backend-разработке, проектировании LLM и программировании.

Подходит для: получение помощи по backend-разработке · обсуждение архитектуры и обучения LLM · написание и разбор кода на Haskell

Мультиязычная 27-миллиардная диалоговая GGUF-модель Gastón Parravicini с ослабленным явным рефлексом отказа для генерации текста и исследований безопасности LLM.

Подходит для: диалог с мультиязычным текстовым ассистентом · генерация ответов по инструкциям · оценка отказов модели на adversarial-запросах

Вспомогательная модель NVIDIA Eagle3 ускоряет генерацию текста базовой gpt-oss-120b с помощью спекулятивного декодирования.

Подходит для: ускорение генерации ответов чат-бота на gpt-oss-120b · ускорение ответов AI-агента на инструкции · ускорение генерации в RAG-системе

Пакет слоёв GGUF модели GLM-5.2-Q2_K-MTP-Q8 для распределённой генерации текста и локального чат-сервинга на Mesh LLM.

Подходит для: Локальный приватный чат с языковой моделью · Распределённый запуск модели на нескольких компьютерах · Генерация текста через локальный сервер Mesh LLM

Пакет слоёв GGUF GLM-5.3-Flash для локального распределённого чат-инференса на нескольких машинах через Mesh LLM.

Подходит для: локальный приватный чат-инференс · запуск модели с распределением слоёв между несколькими компьютерами · обслуживание чат-запросов через совместимый с OpenAI локальный API

Небольшая англоязычная авторегрессионная модель EleutherAI для исследований генерации текста и поведения языковых моделей.

Подходит для: эксперименты с предсказанием следующего токена на английском языке · исследование поведения языковых моделей на разных этапах обучения · анализ интерпретируемости компактной трансформерной модели

Пакет GGUF модели GLM-4.7-REAP-218B-A32B, разделённый на слои для локального распределённого чат-инференса через Mesh LLM.

Подходит для: локальный приватный запуск чат-модели · распределённый инференс на нескольких компьютерах · генерация ответов через совместимый с OpenAI API интерфейс Mesh LLM

Пакет GGUF-слоёв GLM-5.3 для локального распределённого чат-инференса через Mesh LLM.

Подходит для: локальный чат-инференс на собственном оборудовании · запуск модели на нескольких компьютерах с распределением слоёв · обслуживание запросов через локальный API, совместимый с OpenAI

Пакет слоёв GGUF GLM-5.1-UD-Q4_K_XL предназначен для распределённого локального запуска чат-модели на нескольких машинах через Mesh LLM.

Подходит для: локальный приватный запуск чат-модели · распределённый инференс на нескольких машинах · обслуживание запросов через OpenAI-совместимый Chat Completions API

Вспомогательный модуль NVIDIA Eagle3 ускоряет генерацию gpt-oss-120b, предлагая один токен-кандидат для проверки при спекулятивном декодировании.

Подходит для: ускорение генерации ответов в чат-боте на базе gpt-oss-120b · повышение пропускной способности сервиса на gpt-oss-120b · ускорение ответов AI-агента

Экспериментальная модель семейства GPT-2 для генерации текста с контекстом до 512 токенов.

Подходит для: эксперименты с генерацией текста · изучение работы GPT-2 · проверка генерации на коротком контексте

Черновая модель Nebius для ускорения генерации gpt-oss-120b с помощью speculative decoding в vLLM.

Подходит для: Ускорение генерации текста моделью gpt-oss-120b · Ускорение ответов чат-модели при инференсе через vLLM · Ускорение генерации кода базовой моделью gpt-oss-120b

Конвертированная в MLX вспомогательная модель Gemma 4 12B IT предлагает токены для speculative decoding и ускорения генерации целевой моделью.

Подходит для: ускорение генерации текста с помощью speculative decoding · предложение токенов для параллельной проверки целевой моделью · запуск вспомогательной Gemma 4 12B IT в среде MLX

Компактная базовая языковая модель Kyutai на 1,9 млрд параметров для генерации и понимания текста на 24 языках ЕС.

Подходит для: генерация продолжений текста на языках ЕС · исследование многоязычного языкового моделирования · оценка знаний модели на текстовых бенчмарках

GGUF-сборка диалоговой модели Ornith-1.5-35B-A3B с исправленной MTP-головой для генерации текста и спекулятивного декодирования.

Подходит для: диалоговая генерация текста · ускорение вывода через спекулятивное декодирование · локальный запуск языковой модели в llama.cpp

Черновая EAGLE-3-модель для спекулятивного декодирования gpt-oss-20b, предназначенная для ускорения генерации текста.

Подходит для: ускорение генерации текста с gpt-oss-20b · спекулятивное декодирование в vLLM · ускорение ответов чат-модели

Сжатая MoE-версия GLM-4.5-Air для генерации текста и кода, агентных сценариев и вызова функций при сниженных требованиях к памяти.

Подходит для: генерация и дополнение кода · помощь агенту в изменении кода в репозитории · вызов функций и инструментов в диалоговом приложении

Разговорная MoE-модель на базе gpt-oss-120b с частично подавленными отказами, предназначенная для исследований безопасности ИИ и red-teaming.

Подходит для: проверка поведения модели на вредоносных запросах в red-teaming · анализ механизмов отказа в больших языковых моделях · исследование специализации экспертов MoE на задачах безопасности

Пакет слоёв GGUF Gemma 4 для распределённого чат-инференса на нескольких машинах с помощью Mesh LLM.

Подходит для: локальный приватный чат-инференс на собственном оборудовании · распределённый запуск чат-модели на нескольких компьютерах · обслуживание чат-запросов через совместимый с OpenAI API локальный сервер

Спекулятивная модель EAGLE-3 от Red Hat предлагает токены-кандидаты для ускорения генерации openai/gpt-oss-120b в vLLM.

Подходит для: ускорение генерации ответов gpt-oss-120b в vLLM · повышение пропускной способности чат-сервера на базе gpt-oss-120b · спекулятивное декодирование запросов через chat completions