Компактная англоязычная модель семейства LLaMA для генерации текста и экспериментов со спекулятивным декодированием.

Подходит для: эксперименты с малой языковой моделью для спекулятивного декодирования · генерация английского текста · исследование авторегрессионных моделей семейства LLaMA

Компактная модель семейства LLaMA для ускорения генерации текста с помощью спекулятивного декодирования EAGLE.

Подходит для: ускорение инференса языковой модели в serving-системах · ускорение генерации ответов чат-моделью · снижение задержки авторегрессионной генерации текста

Англоязычная авторегрессионная модель EleutherAI для генерации текста и научного исследования поведения и интерпретируемости языковых моделей.

Подходит для: эксперименты с генерацией английского текста · исследование интерпретируемости языковых моделей · сравнение поведения моделей разных размеров

Небольшая англоязычная авторегрессионная модель EleutherAI для исследований генерации текста и поведения языковых моделей.

Подходит для: эксперименты с предсказанием следующего токена на английском языке · исследование поведения языковых моделей на разных этапах обучения · анализ интерпретируемости компактной трансформерной модели

Экспериментальная англоязычная MoE-модель ALEA для продолжения юридических и финансовых текстов США и коротких ответов по предоставленному контексту.

Подходит для: продолжение текста нормативного акта США · генерация типовых формулировок для SEC-отчётности · продолжение юридических заключений и судебных текстов

Англоязычная авторегрессионная модель EleutherAI с 1,2 млрд параметров для исследований генерации и интерпретируемости языковых моделей.

Подходит для: изучение поведения авторегрессионной языковой модели · эксперименты по интерпретируемости трансформеров · сравнение моделей разных размеров на контролируемых данных

Черновая модель EAGLE3 для speculative decoding, которая ускоряет генерацию целевой модели Llama-3.2-3B-Instruct.

Подходит для: ускорение генерации текста с Llama-3.2-3B-Instruct · спекулятивное декодирование в совместимом стеке SpecForge/EAGLE3 · эксперименты с черновыми моделями для авторегрессионной генерации

Черновая модель EAGLE3 для ускорения генерации MiniMax-M3 методом спекулятивного декодирования через vLLM.

Подходит для: ускорение диалоговой генерации MiniMax-M3 · ускорение решения математических задач моделью MiniMax-M3 · ускорение генерации кода MiniMax-M3

safetensors: формат, квантизация, runtime и память принадлежат одному artifact

Спекулятивная модель Red Hat для ускорения текстовой генерации Llama 3.1 8B Instruct с помощью EAGLE-3 и vLLM.

Подходит для: ускорение генерации ответов в чат-сервисе на базе Llama 3.1 · ускорение генерации текста через vLLM · снижение задержки при обслуживании запросов /chat/completions

Экспериментальная языковая модель Arcee.ai с гибридным вниманием KDA и NoPE для исследований эффективности внимания и математических рассуждений.

Подходит для: исследование гибридных архитектур внимания · сравнение линейного и полного внимания · оценка памяти и KV-кэша при обработке контекста

Компактная англоязычная модель GPT-NeoX для генерации текста и дообучения под юридические, регуляторные и финансовые задачи.

Подходит для: черновики положений договоров · ответы на базовые вопросы о регулировании · извлечение сведений из документов в JSON

Небольшая англоязычная модель Mixtral для генерации текста в юридических, нормативных и финансовых сценариях, в том числе как база для дообучения.

Подходит для: составление черновиков положений договоров · подготовка базовых ответов на вопросы о регулировании · извлечение сведений из документов в структурированный JSON

Компактная англоязычная модель GPT-NeoX для генерации текста в юридических, регуляторных и финансовых сценариях, а также для специализированного дообучения.

Подходит для: черновики положений договоров · базовые ответы на вопросы о регулировании · извлечение данных из документов в JSON

Производная модели CollectionStudio/Trinity-Large-TrueBase. Базовая разреженная MoE-модель Arcee AI для исследований предобучения, анализа поведения и последующего дообучения.

Подходит для: исследование поведения модели после масштабного предобучения · анализ маршрутизации экспертов и балансировки нагрузки в MoE · пробинг и интерпретируемость языковой модели

Черновая модель EAGLE-3 для speculative decoding ускоряет генерацию текста моделью Llama-3.1-8B-Instruct в vLLM.

Подходит для: ускорение генерации ответов Llama-3.1-8B-Instruct · ускорение диалоговой генерации в vLLM · ускорение генерации кода базовой моделью

Локальная чат-модель семейства Llama на 7,5 млрд параметров для генерации текста, кода и поддержки сценариев автономного агента.

Подходит для: генерация и редактирование кода · декомпозиция задач для автономного агента · диалог с локально запущенной моделью

Экспериментальная производная Llama 3.2 1B Instruct с изменёнными весами для исследований отказов, интерпретируемости и оценки безопасности.

Подходит для: исследование механизмов отказа языковых моделей · red teaming моделей, склонных отвечать на вредоносные запросы · оценка защитных механизмов и поведения модели

Вспомогательная модель Red Hat на EAGLE-3 ускоряет генерацию ответов meta-llama/Llama-3.3-70B-Instruct с помощью спекулятивного декодирования.

Подходит для: ускорение генерации ответов Llama 3.3 70B в vLLM · обслуживание чат-запросов через endpoint chat completions · снижение задержки авторегрессивной генерации с проверкой токенов основной моделью

Базовая разреженная MoE-модель Arcee AI для генерации текста, исследований предобучения и последующего дообучения.

Подходит для: исследование поведения языковой модели после масштабного предобучения · изучение маршрутизации и балансировки экспертов MoE · зондирование и интерпретируемость языковой модели

Компактная англоязычная модель для генерации патентных текстов и экспериментального составления заявок.

Подходит для: генерация патентного текста по названию и реферату · создание черновиков формулы изобретения · генерация реферата и названия по пунктам формулы

Англоязычная модель Alea Institute на 500 млн параметров для генерации юридических и других специализированных текстов.

Подходит для: создание черновиков юридических документов · продолжение и дополнение судебных документов · генерация текста договоров и соглашений

Небольшая англоязычная модель ALEA Institute исправляет опечатки, ошибки OCR и форматирования, в том числе в юридических и финансовых текстах.

Подходит для: исправление опечаток и орфографических ошибок в английском тексте · постобработка ошибок OCR при оцифровке документов · исправление форматирования юридических и финансовых документов

Компактная англоязычная модель Alea Institute для генерации юридических текстов в судебной, нормативной, патентной и финансовой областях.

Подходит для: черновики аргументации для судебных документов · генерация текста федеральных нормативных актов · формулирование патентных притязаний