Модель Wav2Vec2, дообученная для преобразования непальской речи в текст.

Подходит для: транскрибирование непальской речи · распознавание непальской речи в аудиозаписях · создание субтитров на непальском языке

Модель распознаёт кхмерскую речь и преобразует аудиозаписи в текст.

Подходит для: транскрибация кхмерской речи · распознавание кхмерских голосовых заметок · создание субтитров к аудио на кхмерском языке

Вспомогательная модель DSpark для спекулятивного декодирования, ускоряющая генерацию целевой модели Kimi K3 в SGLang.

Подходит для: ускорение генерации текста моделью Kimi K3 в SGLang · спекулятивное декодирование с проверкой черновых токенов целевой моделью · ускорение вывода Kimi K3 на задачах программирования и математики

GLM-5.1 — языковая модель Z.ai для генерации кода и длительных агентных инженерных задач с инструментами.

Подходит для: генерация кода по описанию задачи · поиск и исправление ошибок в репозитории · выполнение многоэтапных задач в терминале

Базовая авторегрессионная модель Qwen3 на 7,6 млрд параметров для генерации текста и дальнейшей адаптации под прикладные задачи.

Подходит для: продолжение и генерация текста · создание специализированной языковой модели дообучением · разработка диалогового ассистента после инструктивной настройки

Декензурированная версия мультимодальной Muse Glimmer-30B для диалогов, работы с изображениями и агентных задач с инструментами.

Подходит для: создание локального ИИ-агента с многошаговым планированием · вызов инструментов и функций в многоходовом диалоге · написание и отладка кода

Компактная 3,2-миллиардная языковая модель для диалогов, рассуждений, программирования и агентных задач с вызовом инструментов.

Подходит для: многошаговые задачи с вызовом внешних инструментов · помощь в программировании и работа кодового агента · решение математических и научных задач

Мультиязычная 27-миллиардная диалоговая GGUF-модель Gastón Parravicini с ослабленным явным рефлексом отказа для генерации текста и исследований безопасности LLM.

Подходит для: диалог с мультиязычным текстовым ассистентом · генерация ответов по инструкциям · оценка отказов модели на adversarial-запросах

Вспомогательная модель NVIDIA Eagle3 ускоряет генерацию текста базовой gpt-oss-120b с помощью спекулятивного декодирования.

Подходит для: ускорение генерации ответов чат-бота на gpt-oss-120b · ускорение ответов AI-агента на инструкции · ускорение генерации в RAG-системе

Текстовая чат-модель Ternary Bonsai 2 27B в GGUF с ослабленным отказом на запросы, рассчитанная на запуск через форк llama.cpp от PrismML.

Подходит для: генерация ответов в текстовом чате · создание диалогового прототипа с меньшим числом отказов · оценка поведения модели на безопасных и небезопасных запросах

Текстовая модель NVIDIA на базе gpt-oss-120b с Eagle3 для ускорения генерации в чат-ботах, ИИ-агентах и RAG-системах.

Подходит для: ускорение генерации ответов в чат-боте · ускорение диалогов с ИИ-агентом · формирование ответов по документам в RAG-системе

Компактная модель BERT, дообученная для распознавания именованных сущностей в тексте на наборе CoNLL-2003.

Подходит для: извлечение имён людей из текста · распознавание организаций в новостях · выделение географических названий

Вариант OpenAI gpt-oss-120b с Eagle3-модулями для ускоренной генерации текста в чат-ботах, AI-агентах и RAG-системах.

Подходит для: создание чат-бота с ответами на инструкции · разработка AI-агента для многошаговых задач · ответы на вопросы по документам в RAG-системе

Вспомогательный модуль NVIDIA Eagle3 ускоряет генерацию gpt-oss-120b, предлагая один токен-кандидат для проверки при спекулятивном декодировании.

Подходит для: ускорение генерации ответов в чат-боте на базе gpt-oss-120b · повышение пропускной способности сервиса на gpt-oss-120b · ускорение ответов AI-агента

Экспериментальная тернарно-квантованная GGUF-модель UkisAI на базе Bonsai 2 27B для диалоговой генерации и рассуждений с более короткими цепочками.

Подходит для: генерация диалоговых ответов · решение задач на рассуждение · сравнение эффективности коротких цепочек рассуждений

GGUF-версия англоязычной 2-миллиардной BitNet b1.58 от Microsoft Research для генерации текста и диалога с эффективным CPU-инференсом.

Подходит для: локальный запуск языковой модели на CPU · генерация ответов в диалоговом интерфейсе · следование инструкциям и составление текстов

Черновая модель EAGLE3 для speculative decoding, которая ускоряет генерацию целевой модели Llama-3.2-3B-Instruct.

Подходит для: ускорение генерации текста с Llama-3.2-3B-Instruct · спекулятивное декодирование в совместимом стеке SpecForge/EAGLE3 · эксперименты с черновыми моделями для авторегрессионной генерации

Пакет слоёв GGUF в формате IQ4_XS для распределённого запуска чат-модели семейства Qwen3 через Mesh LLM.

Подходит для: локальный приватный запуск чат-модели · распределённый инференс на нескольких машинах · обслуживание чата через OpenAI-совместимый локальный API

Черновая EAGLE-3-модель для спекулятивного декодирования gpt-oss-20b, предназначенная для ускорения генерации текста.

Подходит для: ускорение генерации текста с gpt-oss-20b · спекулятивное декодирование в vLLM · ускорение ответов чат-модели

Спекулятивная модель EAGLE-3 от Red Hat предлагает токены-кандидаты для ускорения генерации openai/gpt-oss-120b в vLLM.

Подходит для: ускорение генерации ответов gpt-oss-120b в vLLM · повышение пропускной способности чат-сервера на базе gpt-oss-120b · спекулятивное декодирование запросов через chat completions

Черновая модель EAGLE3 для ускорения генерации Llama 3.2 3B Instruct методом спекулятивного декодирования.

Подходит для: ускорение генерации текста базовой Llama 3.2 3B Instruct · спекулятивное декодирование в совместимом стеке SpecForge/EAGLE3 · эксперименты с черновыми моделями для языковой генерации

Пакет слоёв квантованной GGUF-модели Qwen3 для локального и распределённого чат-инференса через Mesh LLM.

Подходит для: локальный приватный чат с Qwen3 · запуск модели на нескольких компьютерах · обслуживание модели, не помещающейся на одной машине

Черновая модель EAGLE3 для спекулятивного декодирования с Qwen/Qwen3-1.7B, предназначенная для ускорения генерации текста.

Подходит для: ускорение генерации текста с Qwen3-1.7B через спекулятивное декодирование · интеграция черновой модели EAGLE3 в совместимый стек SpecForge · эксперименты с онлайн-обучением черновых моделей для декодирования

Черновая модель EAGLE-3 для speculative decoding ускоряет генерацию текста моделью Llama-3.1-8B-Instruct в vLLM.

Подходит для: ускорение генерации ответов Llama-3.1-8B-Instruct · ускорение диалоговой генерации в vLLM · ускорение генерации кода базовой моделью