Experimental frankenmerge of Kimi K2-07, 09 and Base
Характеристики
- Контекст
- 131 072 токена
- Параметры
- 63,2 млрд
- Размер весов
- 6,9 ТБ
- Лицензия
- Своя лицензия
- Архитектура
- deepseek_v3 · dense
- Библиотека
- transformers
- Опубликована
- 12 сен 2025
Ссылки
k2-merged-3.5T-bf16
Экспериментальная 63,2-миллиардная языковая модель NousResearch для генерации текста и диалогов с контекстом до 131 072 токенов.
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
NousResearch k2-merged-3.5T-bf16 — экспериментальная объединённая («frankenmerge») языковая модель, созданная на основе моделей Kimi K2-07, Kimi K2-09 и Kimi K2 Base. Модель предназначена для генерации и продолжения текста, а также диалоговых сценариев. В метаданных она обозначена как text-generation и conversational, использует библиотеку Transformers и формат safetensors.
Модель содержит 63,2 млрд параметров, поддерживает контекст длиной до 131 072 токенов и относится к архитектурному семейству DeepSeek V3. В названии указано представление BF16, подходящее для запуска на совместимом оборудовании. Модель имеет лицензию modified-MIT, при этом в метаданных Hugging Face лицензия обозначена как other; условия распространения и использования следует проверять перед применением в продукте. Из-за экспериментального характера объединения возможны нестабильность поведения, непредсказуемое качество и высокие требования к памяти.
Сценарии применения
- генерация и продолжение текста
- диалоговые ответы
- обработка длинных контекстов
- экспериментальное сравнение объединённых LLM
- создание прототипов текстовых приложений
Ограничения
Модель является экспериментальным объединением, поэтому её поведение и качество могут быть нестабильными. Для запуска требуются значительные вычислительные ресурсы из-за размера 63,2 млрд параметров; совместимость и условия лицензии следует проверять отдельно.
Для каких профессий подходит11
Разделы каталога профессий, в задачах которых используется эта модель
Также подходит для
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
vLLM
Модель не помещается даже в 8 × 80 ГБ.
- Класс архитектуры
- DeepseekV3ForCausalLM
- Ревизия весов
- a64f366