safetensors: формат, квантизация, runtime и память принадлежат одному artifact

Kimi K3 — мультимодальная модель с открытыми весами от Moonshot AI для программирования, рассуждений и агентной работы с длинным контекстом.

Подходит для: написание и отладка кода в больших репозиториях · длительная работа агента с инструментами разработчика · анализ изображений и видео вместе с текстом

Вспомогательная модель DSpark для спекулятивного декодирования, ускоряющая генерацию целевой модели Kimi K3 в SGLang.

Подходит для: ускорение генерации текста моделью Kimi K3 в SGLang · спекулятивное декодирование с проверкой черновых токенов целевой моделью · ускорение вывода Kimi K3 на задачах программирования и математики

Черновая модель Eagle3 MTP для ускорения инференса Kimi-K2.6 с помощью speculative decoding.

Подходит для: ускорение генерации ответов Kimi-K2.6 в vLLM · спекулятивное декодирование Kimi-K2.6 с методом Eagle3 · снижение нагрузки на KV-кэш при обслуживании Kimi-K2.6

Черновая модель Eagle3 с MLA для ускорения инференса Kimi-K2.5 посредством speculative decoding.

Подходит для: ускорение генерации текста на базе Kimi-K2.5 · снижение затрат KV-кэша при speculative decoding · ускорение диалогового сервера на vLLM

Черновая модель EAGLE3 от SK Telecom ускоряет генерацию A.X K2 при спекулятивном декодировании через vLLM.

Подходит для: ускорение генерации ответов моделью A.X K2 · снижение задержки генерации при обслуживании A.X K2 · повышение пропускной способности сервера A.X K2 при низкой или средней параллельности

Черновая модель EAGLE-3 с MLA ускоряет генерацию Kimi-K2.7-Code через speculative decoding в vLLM.

Подходит для: ускорение генерации ответов Kimi-K2.7-Code в vLLM · ускорение многошаговой генерации кода · снижение нагрузки на KV-кэш при обслуживании Kimi-K2.7-Code

Небольшая текстовая MoE-модель Mini-K3 для исследований предобучения и сравнения архитектур генерации текста.

Подходит для: эксперименты с предобучением языковых моделей · сравнение архитектур KDA и Gated MLA · генерация продолжения текста

Экспериментальная англоязычная компактная языковая модель Klyra для исследований обучения с подкреплением, дистилляции политики и абляций.

Подходит для: эксперименты с обучением языковой модели с подкреплением · дистилляция политики между специализированными языковыми моделями · абляционные исследования компактных языковых моделей

Экспериментальный текстовый чекпойнт Mini-K3 для исследования предобучения и сравнения архитектурных вариантов MoE.

Подходит для: сравнение архитектур KDA и Gated MLA в языковых моделях · исследование влияния группировки затухания KDA на предобучение · анализ поведения компактных MoE-моделей при генерации текста

Kiyo-135M — компактная базовая Llama-подобная модель для продолжения английского текста и кода.

Подходит для: продолжение английских текстовых фрагментов · автодополнение кода · генерация черновиков текста

Текстовая базовая модель на 4,23 млрд параметров для исследований гибридных KDA/MLA-архитектур, длинного контекста и генерации текста.

Подходит для: эксперименты с гибридными KDA и MLA языковыми моделями · исследование переноса предобученной модели на новую архитектуру · оценка поведения языковой модели на длинном контексте

Текстовая MoE-модель Mini-K3 для исследований предобучения и сравнения вариантов архитектуры.

Подходит для: исследование предобученной языковой модели · сравнение вариантов архитектуры KDA и Gated MLA · эксперименты с MoE и маршрутизацией экспертов

Экспериментальный текстовый чекпойнт Mini-K3 для генерации текста и сравнения архитектур MoE с Gated MLA.

Подходит для: эксперименты с генерацией текста на небольшом MoE-чекпойнте · сравнение архитектур внимания и позиционного кодирования · исследование предварительного обучения языковых моделей

Текстовая модель Mini-K3 с заменой девяти KDA-смесителей на Mamba-2 предназначена для генерации текста и архитектурных экспериментов.

Подходит для: генерация продолжения текста · эксперименты с архитектурой Mamba-2/SSD · сравнение Mamba-2 и MLA в языковой модели

Черновая модель Eagle3 с MLA ускоряет генерацию текста моделью Kimi-K3 посредством спекулятивного декодирования.

Подходит для: ускорение серверной генерации текста Kimi-K3 · спекулятивное декодирование с vLLM · развёртывание Kimi-K3 с меньшей нагрузкой на KV-кэш

Текстовая MoE-модель Mini-K3 для предсказания следующего токена и исследований архитектуры языковых моделей.

Подходит для: эксперименты с генерацией текста на основе предобученного чекпойнта · сравнение вариантов архитектуры MLA и MoE · изучение поведения модели при длинном контексте

Исследовательская текстовая Mini-K3-модель предварительного обучения для генерации текста и сравнения архитектурных вариантов.

Подходит для: эксперименты с авторегрессионной генерацией текста · сравнение вариантов KDA и Gated MLA · исследование влияния групп затухания на генерацию

Прореженная на 75% версия мультимодальной Kimi-K3 для запуска через vLLM и тестирования, с существенным падением точности на GSM8K.

Подходит для: Проверка загрузки чекпойнта Kimi-K3 в vLLM · Эксперименты с прореживанием экспертов в MoE-моделях · Тестирование генерации ответов на текстовые запросы

Компактный вариант Llama 3.2 1B Instruct с сокращённым до 32 тысяч токенов словарём для генерации английского текста и диалогов.

Подходит для: генерация ответов в диалоговом приложении · создание англоязычного текста по запросу · построение чат-бота на базе Llama

Компактная базовая языковая модель Klyra-64M для экспериментов с предобучением, представлениями и токенизаторами.

Подходит для: продолжение предобучения компактной языковой модели · эксперименты с обучением языковых представлений · исследование токенизаторов и их взаимодействия с моделью

Предобученный текстовый чекпойнт Mini-K3 для генерации текста и исследований архитектуры MoE с KDA и Gated MLA.

Подходит для: эксперименты с генерацией текста на предобученной модели · сравнение вариантов архитектуры KDA и Gated MLA · исследование разреженных MoE-моделей

Mini-K3-1H v2 — небольшой исследовательский чекпойнт предобучения для авторегрессионной генерации текста и изучения вариантов архитектуры Kimi-K3.

Подходит для: эксперименты с генерацией текста на базе Mini-K3 · сравнение вариантов архитектуры KDA и Gated MLA · изучение работы Mixture of Experts в языковой модели

Экспериментальный текстовый чекпойнт Mini-K3-1H v2 для исследований предобучения и сравнения архитектур Mixture-of-Experts.

Подходит для: сравнение архитектурных вариантов языковой модели · исследование предобучения текстовых моделей · измерение perplexity на фиксированной выборке разработки