Черновая модель Eagle3 MTP для ускорения инференса Kimi-K2.6 с помощью speculative decoding.

Подходит для: ускорение генерации ответов Kimi-K2.6 в vLLM · спекулятивное декодирование Kimi-K2.6 с методом Eagle3 · снижение нагрузки на KV-кэш при обслуживании Kimi-K2.6

Компактная модель семейства LLaMA для ускорения генерации текста с помощью спекулятивного декодирования EAGLE.

Подходит для: ускорение инференса языковой модели в serving-системах · ускорение генерации ответов чат-моделью · снижение задержки авторегрессионной генерации текста

Дообученная версия Whisper Large V3 Turbo для транскрибации канадской французской речи, в том числе квебекского диалекта.

Подходит для: транскрибация подкастов и интервью на квебекском французском · распознавание повседневной речи с квебекским акцентом · расшифровка выступлений в Национальной ассамблее Квебека

Бинарный классификатор DistilBERT, определяющий, является ли текст именем человека или названием компании.

Подходит для: определение, является ли строка именем человека · классификация названий компаний и организаций · фильтрация имён перед этапом разбора полного имени

Вспомогательная модель NVIDIA Eagle3 ускоряет генерацию текста базовой gpt-oss-120b с помощью спекулятивного декодирования.

Подходит для: ускорение генерации ответов чат-бота на gpt-oss-120b · ускорение ответов AI-агента на инструкции · ускорение генерации в RAG-системе

Черновая модель EAGLE3 для speculative decoding, которая ускоряет генерацию целевой модели Llama-3.2-3B-Instruct.

Подходит для: ускорение генерации текста с Llama-3.2-3B-Instruct · спекулятивное декодирование в совместимом стеке SpecForge/EAGLE3 · эксперименты с черновыми моделями для авторегрессионной генерации

Вспомогательная модель Eagle для ускорения генерации текста Llama 3.3 70B с помощью спекулятивного декодирования в TensorRT-LLM.

Подходит для: ускорение ответов чат-бота на базе Llama 3.3 70B · ускорение генерации ответов в RAG-системе · ускорение ответов AI-агента

Черновая модель EAGLE-3 для speculative decoding ускоряет генерацию текста моделью Llama-3.1-8B-Instruct в vLLM.

Подходит для: ускорение генерации ответов Llama-3.1-8B-Instruct · ускорение диалоговой генерации в vLLM · ускорение генерации кода базовой моделью

Англоязычная модель EleutherAI на 15,4 млрд параметров для генерации текста и контролируемых исследований поведения и интерпретируемости больших языковых моделей.

Подходит для: эксперименты по интерпретируемости больших языковых моделей · изучение влияния дедупликации обучающих данных · анализ поведения базовой языковой модели при продолжении текста

Черновая голова EAGLE3 для Qwen2.5-7B-Instruct предлагает токены для спекулятивного декодирования и ускоряет генерацию текста.

Подходит для: ускорение генерации ответов Qwen2.5-7B-Instruct · ускорение инференса чат-модели в SGLang на GPU · спекулятивное декодирование на TPU через sglang-jax

Черновая модель Nebius для ускорения генерации gpt-oss-120b с помощью speculative decoding в vLLM.

Подходит для: Ускорение генерации текста моделью gpt-oss-120b · Ускорение ответов чат-модели при инференсе через vLLM · Ускорение генерации кода базовой моделью gpt-oss-120b

OpenELM-1_1B — разработанная Apple авторегрессионная языковая модель на 1,1 млрд параметров для генерации текста и исследований.

Подходит для: генерация продолжения текста · создание черновиков и коротких текстовых ответов · эксперименты с компактными языковыми моделями

Черновая модель Eagle3 с MLA для ускорения инференса Kimi-K2.5 посредством speculative decoding.

Подходит для: ускорение генерации текста на базе Kimi-K2.5 · снижение затрат KV-кэша при speculative decoding · ускорение диалогового сервера на vLLM

Черновая модель EAGLE3 для ускорения генерации текста моделью GLM-4.7-Flash посредством спекулятивного декодирования.

Подходит для: ускорение генерации ответов GLM-4.7-Flash в SGLang · ускорение обработки запросов к языковой модели при одиночной нагрузке · ускорение генерации при параллельной обработке запросов

Вспомогательная модель NVIDIA для спекулятивного декодирования Kimi-K2.6, ускоряющая генерацию текста в чат-ботах, RAG и агентных приложениях.

Подходит для: ускорение генерации ответов чат-ботом · ускорение ответов на вопросы по документам в RAG-системе · ускорение генерации кода и выполнения инструкций

Вспомогательный модуль NVIDIA Eagle3 ускоряет генерацию gpt-oss-120b, предлагая один токен-кандидат для проверки при спекулятивном декодировании.

Подходит для: ускорение генерации ответов в чат-боте на базе gpt-oss-120b · повышение пропускной способности сервиса на gpt-oss-120b · ускорение ответов AI-агента

Классификатор на базе mdeberta-v3-base определяет, является ли строка именем человека или названием компании.

Подходит для: фильтрация имён людей и компаний в текстовых данных · предварительная разметка записей в клиентской базе · отделение персональных имён от организаций в списках сущностей

Оптимизированная для CTranslate2 модель Whisper для транскрибации канадской французской речи, в том числе квебекского варианта.

Подходит для: транскрибация аудио на квебекском французском · распознавание речи в записях заседаний и выступлений на французском · создание субтитров для аудио и видео на французском

Черновая модель EAGLE-3 от Авито Тех ускоряет генерацию текста базовой моделью Avibe при использовании с vLLM или SGLang.

Подходит для: Ускорение генерации ответов базовой моделью Avibe · Ускорение обслуживания одиночных запросов к языковой модели · Снижение задержки текстовой генерации в сервере vLLM

Крупная немецкоязычная модель ELECTRA для получения представлений текста и дообучения под задачи классификации и разметки.

Подходит для: Дообучение для классификации немецких текстов · Разметка немецких последовательностей и извлечение сущностей · Оценка немецкоязычных моделей на наборах GermEval

Черновая EAGLE-3-модель для спекулятивного декодирования gpt-oss-20b, предназначенная для ускорения генерации текста.

Подходит для: ускорение генерации текста с gpt-oss-20b · спекулятивное декодирование в vLLM · ускорение ответов чат-модели

Черновая модель EAGLE-3 для спекулятивного декодирования, ускоряющая генерацию текста моделью Llama 3.3 70B Instruct.

Подходит для: ускорение генерации ответов разговорным ассистентом на Llama 3.3 70B · ускорение вывода Llama 3.3 70B при инференсе через vLLM · ускорение генерации кода базовой моделью Llama 3.3 70B

Спекулятивная модель EAGLE-3 от Red Hat предлагает токены-кандидаты для ускорения генерации openai/gpt-oss-120b в vLLM.

Подходит для: ускорение генерации ответов gpt-oss-120b в vLLM · повышение пропускной способности чат-сервера на базе gpt-oss-120b · спекулятивное декодирование запросов через chat completions

Черновая модель EAGLE3 для ускорения генерации Llama 3.2 3B Instruct методом спекулятивного декодирования.

Подходит для: ускорение генерации текста базовой Llama 3.2 3B Instruct · спекулятивное декодирование в совместимом стеке SpecForge/EAGLE3 · эксперименты с черновыми моделями для языковой генерации