GLM-5.1 — языковая модель Z.ai для генерации кода и длительных агентных инженерных задач с инструментами.

Подходит для: генерация кода по описанию задачи · поиск и исправление ошибок в репозитории · выполнение многоэтапных задач в терминале

Черновая модель Eagle3 MTP для ускорения инференса Kimi-K2.6 с помощью speculative decoding.

Подходит для: ускорение генерации ответов Kimi-K2.6 в vLLM · спекулятивное декодирование Kimi-K2.6 с методом Eagle3 · снижение нагрузки на KV-кэш при обслуживании Kimi-K2.6

GLM-4.7 — англо-китайская языковая модель Z.ai для программирования, агентных задач, рассуждений и диалогов.

Подходит для: генерация и отладка программного кода · выполнение задач разработки через терминальный агент · создание веб-страниц и интерфейсов по описанию

Godoter — специализированная дообученная модель на базе Qwen3.6-27B для генерации кода на GDScript и разработки проектов в Godot 4.

Подходит для: генерация скриптов GDScript для Godot 4 · создание инвентаря и системы сохранений в игре · разработка ИИ на конечных автоматах для Godot

Черновая модель EAGLE3 для ускорения генерации MiniMax M2.5 посредством спекулятивного декодирования.

Подходит для: ускорение генерации текста MiniMax M2.5 · предложение черновых токенов для EAGLE3 · настройка спекулятивного декодирования в SGLang

Компактная модель семейства LLaMA для ускорения генерации текста с помощью спекулятивного декодирования EAGLE.

Подходит для: ускорение инференса языковой модели в serving-системах · ускорение генерации ответов чат-моделью · снижение задержки авторегрессионной генерации текста

Rose-Mini — небольшая англоязычная авторегрессионная модель на архитектуре Rose X1 для генерации текста.

Подходит для: генерация коротких текстовых продолжений на английском языке · эксперименты с компактными языковыми моделями · изучение и сравнение авторских архитектур decoder-only

Rose Pro — небольшая англоязычная авторская каузальная языковая модель для генерации текста и экспериментов с предварительным обучением.

Подходит для: генерация продолжений английского текста · эксперименты с небольшой каузальной языковой моделью · оценка языковой модели на бенчмарках рассуждений и здравого смысла

Черновая модель EAGLE3 с GQA для спекулятивного декодирования и ускорения инференса MiniMax-M3.

Подходит для: ускорение генерации текста MiniMax-M3 в vLLM · спекулятивное декодирование с черновой моделью EAGLE3 · снижение расхода KV-кэша при инференсе MiniMax-M3

Черновая MTP-модель Gemma 4 12B IT от Google DeepMind ускоряет генерацию текста в speculative decoding, предлагая токены для параллельной проверки целевой моделью.

Подходит для: ускорение генерации текста в speculative decoding · создание разговорного ассистента на базе Gemma 4 · ответы на вопросы по изображениям и документам

GGUF-версия англоязычной 2-миллиардной BitNet b1.58 от Microsoft Research для генерации текста и диалога с эффективным CPU-инференсом.

Подходит для: локальный запуск языковой модели на CPU · генерация ответов в диалоговом интерфейсе · следование инструкциям и составление текстов

Черновая модель EAGLE3 для ускорения генерации MiniMax-M3 методом спекулятивного декодирования через vLLM.

Подходит для: ускорение диалоговой генерации MiniMax-M3 · ускорение решения математических задач моделью MiniMax-M3 · ускорение генерации кода MiniMax-M3

Компактная англоязычная причинно-языковая модель Rose X1 для генерации текста и языковых экспериментов.

Подходит для: генерация продолжений английского текста · проверка небольших языковых моделей на бенчмарках · эксперименты с масштабированием архитектур причинного языкового моделирования

GGUF-сборка MoE-модели Ornith для агентного программирования, генерации текста и мультимодальной работы с изображениями через llama.cpp.

Подходит для: автоматическое решение задач программирования агентом · исправление ошибок и внесение изменений в репозитории кода · выполнение задач разработки через терминал и инструменты

Вспомогательная модель NVIDIA Eagle3 ускоряет генерацию текста базовой gpt-oss-120b с помощью спекулятивного декодирования.

Подходит для: ускорение генерации ответов чат-бота на gpt-oss-120b · ускорение ответов AI-агента на инструкции · ускорение генерации в RAG-системе

Компактная англоязычная модель семейства LLaMA для генерации текста и экспериментов со спекулятивным декодированием.

Подходит для: эксперименты с малой языковой моделью для спекулятивного декодирования · генерация английского текста · исследование авторегрессионных моделей семейства LLaMA

Небольшая базовая англоязычная модель GODELEV для экспериментов и генерации продолжений текста.

Подходит для: генерация продолжения английского текста · эксперименты с небольшими языковыми моделями · изучение архитектуры LLaMA с Grouped Query Attention

Компактная модель на базе Qwen2.5, дообученная для ускорения генерации DeepSeek-R1-Distill-Qwen-32B методом спекулятивного декодирования.

Подходит для: ускорение генерации DeepSeek-R1-Distill-Qwen-32B через speculative decoding · использование как черновой модели для крупной языковой модели в GGUF · ускорение локального вывода на видеокартах RTX 3090 и RTX 4090

Черновая EAGLE-3-модель для спекулятивного декодирования gpt-oss-20b, предназначенная для ускорения генерации текста.

Подходит для: ускорение генерации текста с gpt-oss-20b · спекулятивное декодирование в vLLM · ускорение ответов чат-модели

Дообученный assistant-чекпойнт Gemma 4 26B A4B для ускорения генерации в совместимом конвейере спекулятивного декодирования.

Подходит для: ускорение генерации текста в конвейере speculative decoding · ускорение диалоговых ответов с целевой моделью Gemma 4 26B A4B · использование в исследовательских и пользовательских сборках на базе Gemma 4

Черновая модель EAGLE3 для ускорения генерации текста моделью GLM-4.7-Flash посредством спекулятивного декодирования.

Подходит для: ускорение генерации ответов GLM-4.7-Flash в SGLang · ускорение обработки запросов к языковой модели при одиночной нагрузке · ускорение генерации при параллельной обработке запросов

Пакет GGUF-слоёв GLM-5.3 для локального распределённого чат-инференса через Mesh LLM.

Подходит для: локальный чат-инференс на собственном оборудовании · запуск модели на нескольких компьютерах с распределением слоёв · обслуживание запросов через локальный API, совместимый с OpenAI

Черновая модель EAGLE3 для speculative decoding, которая ускоряет генерацию целевой модели Llama-3.2-3B-Instruct.

Подходит для: ускорение генерации текста с Llama-3.2-3B-Instruct · спекулятивное декодирование в совместимом стеке SpecForge/EAGLE3 · эксперименты с черновыми моделями для авторегрессионной генерации

GGUF-сборка диалоговой модели Ornith-1.5-35B-A3B с исправленной MTP-головой для генерации текста и спекулятивного декодирования.

Подходит для: диалоговая генерация текста · ускорение вывода через спекулятивное декодирование · локальный запуск языковой модели в llama.cpp