Дообученная на базе Qwen3.6-35B-A3B чат-модель для структурированных вызовов инструментов в авторизованных сценариях пентестинга.
Подходит для: формирование вызовов инструментов для пентестингового стенда · выбор подходящего агента для этапа проверки безопасности · обработка результатов сканирования без выдумывания наблюдений
Объединённая MoE-модель Qwen для генерации кода, задач разработки и агентного выполнения инструментов.
Подходит для: генерация и дополнение программного кода · решение задач программной разработки в диалоге · выполнение команд терминальным агентом
Черновая модель PARD на базе Llama 3.2 с 1,2 млрд параметров для ускорения генерации текста методом спекулятивного декодирования.
Подходит для: ускорение генерации ответов чат-моделью · ускорение инференса Llama в vLLM · ускорение авторегрессионной генерации в Transformers+
Плотная модель Qwen 3.5 примерно на 9 млрд параметров для агентного программирования, доработанная методом abliteration для снижения отказов.
Подходит для: написание и изменение кода по запросу · поиск и исправление ошибок в кодовой базе · выполнение задач программирования через терминального агента
Вспомогательная модель Eagle для ускорения генерации текста Llama 3.3 70B с помощью спекулятивного декодирования в TensorRT-LLM.
Подходит для: ускорение ответов чат-бота на базе Llama 3.3 70B · ускорение генерации ответов в RAG-системе · ускорение ответов AI-агента
Вспомогательный Eagle3-модуль NVIDIA ускоряет генерацию текста базовой моделью Qwen3-30B-A3B-Thinking-2507 через спекулятивное декодирование в TensorRT-LLM.
Подходит для: ускорение ответов чат-бота на базе Qwen3 · ускорение генерации в RAG-системе · повышение пропускной способности агентных приложений
Производная модели amd/PARD-Llama-3.2-1B. Черновая модель PARD на базе Llama 3.2 с 1,2 млрд параметров для ускорения генерации текста методом спекулятивного декодирования.
Подходит для: ускорение генерации ответов чат-моделью · ускорение инференса Llama в vLLM · ускорение авторегрессионной генерации в Transformers+
Черновая модель Intel Labs на базе Phi-3, которая ускоряет генерацию Phi-3-mini-4k-instruct посредством спекулятивного декодирования.
Подходит для: ускорение генерации текста моделью Phi-3-mini-4k-instruct · спекулятивное декодирование в приложениях на OpenVINO GenAI · инференс компактной черновой LLM в формате OpenVINO IR
Черновая модель EAGLE3 для speculative decoding, которая ускоряет генерацию целевой модели Llama-3.2-3B-Instruct.
Подходит для: ускорение генерации текста с Llama-3.2-3B-Instruct · спекулятивное декодирование в совместимом стеке SpecForge/EAGLE3 · эксперименты с черновыми моделями для авторегрессионной генерации
Производная модели CollectionStudio/Trinity-Large-TrueBase. Базовая разреженная MoE-модель Arcee AI для исследований предобучения, анализа поведения и последующего дообучения.
Подходит для: исследование поведения модели после масштабного предобучения · анализ маршрутизации экспертов и балансировки нагрузки в MoE · пробинг и интерпретируемость языковой модели
Вспомогательная модель Red Hat на EAGLE-3 ускоряет генерацию ответов meta-llama/Llama-3.3-70B-Instruct с помощью спекулятивного декодирования.
Подходит для: ускорение генерации ответов Llama 3.3 70B в vLLM · обслуживание чат-запросов через endpoint chat completions · снижение задержки авторегрессивной генерации с проверкой токенов основной моделью
Черновая модель EAGLE3 для ускорения генерации Llama 3.2 3B Instruct методом спекулятивного декодирования.
Подходит для: ускорение генерации текста базовой Llama 3.2 3B Instruct · спекулятивное декодирование в совместимом стеке SpecForge/EAGLE3 · эксперименты с черновыми моделями для языковой генерации
Спекулятивная модель EAGLE-3 от Red Hat, которая помогает ускорить генерацию текста моделью Qwen/Qwen3-14B.
Подходит для: ускорение генерации ответов чат-моделью Qwen3-14B · ускорение обслуживания запросов через vLLM · спекулятивное декодирование в чат-интерфейсе с шаблоном Qwen3
Вспомогательная модель NVIDIA Eagle3 для ускорения текстовой генерации Qwen3-235B-A22B-Thinking-2507 посредством спекулятивного декодирования в TensorRT-LLM.
Подходит для: ускорение генерации ответов чат-бота на базе Qwen3 · ускорение текстовых ответов агентной системы · ускорение генерации в приложении RAG
Производная модели amd/PARD-Llama-3.2-1B. Черновая модель PARD на базе Llama 3.2 с 1,2 млрд параметров для ускорения генерации текста методом спекулятивного декодирования.
Подходит для: ускорение генерации ответов чат-моделью · ускорение инференса Llama в vLLM · ускорение авторегрессионной генерации в Transformers+
Компактная языковая модель семейства Qwen3 примерно на 1,6 млрд параметров для генерации текста и диалоговых приложений.
Подходит для: генерация продолжений текста · создание ответов в чатах · прототипирование conversational-приложений
Мультимодальная модель Qwen3.5 с 35 млрд параметров (около 3 млрд активных), изменённая abliteration для снижения частоты отказов в диалогах и задачах с изображениями.
Подходит для: диалоги с моделью, реже отказывающей в ответах · ответы на вопросы по изображениям · анализ и объяснение визуальных материалов
Модули Eagle для Qwen3-235B-A22B ускоряют генерацию текста в TensorRT-LLM с помощью спекулятивного декодирования.
Подходит для: ускорение генерации ответов в чат-ботах · ускорение текстовых ответов ИИ-агента · ускорение генерации ответов по внутренним документам в RAG-системе
Экспериментальный сжатый вариант Llama 3 8B Instruct для исследования влияния сжатия и замены параметров на безопасность и полезность модели.
Подходит для: сравнение безопасности сжатых языковых моделей · измерение устойчивости к вредоносным запросам на AdvBench · оценка склонности к чрезмерному отказу
Экспериментальный сжатый чекпойнт Llama 3 8B Instruct для изучения влияния сжатия и перестановки параметров на безопасность ответов.
Подходит для: Сравнение безопасности ответов сжатых языковых моделей · Оценка успешности атак на чат-модель по тестам безопасности · Изучение влияния Swift-SVD-сжатия на поведение ассистента
Черновая модель EAGLE-3 для speculative decoding ускоряет генерацию текста моделью Llama-3.1-8B-Instruct в vLLM.
Подходит для: ускорение генерации ответов Llama-3.1-8B-Instruct · ускорение диалоговой генерации в vLLM · ускорение генерации кода базовой моделью
Вспомогательная модель NVIDIA Eagle3 ускоряет генерацию текста базовой Qwen3 через спекулятивное декодирование в TensorRT-LLM.
Подходит для: Ускорение генерации ответов в чат-боте на базе Qwen3 · Ускорение текстовой генерации в агентной системе · Ускорение генерации ответов для RAG-приложения
Дообученная на PRM800K модель Llama 3.1 для оценки шагов решения и получения оценок вознаграждения.
Подходит для: оценка промежуточных шагов решения задачи · получение оценок вознаграждения для рассуждений · отбор вариантов пошагового решения
Черновая модель EAGLE3 для speculative decoding, помогающая ускорять генерацию в Qwen/Qwen3-1.7B.
Подходит для: ускорение генерации текста в Qwen3-1.7B через speculative decoding · подключение draft-чекпойнта в совместимый с EAGLE3 инференс · эксперименты с ускорением авторегрессионной генерации на данных ShareGPT