'Make knowledge free for everyone'
BF16 version of: moonshotai/Kimi-K2-Instruct
BF16-версия большой инструкционной модели Kimi-K2 для диалоговой генерации текста и работы с длинным контекстом.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
DevQuasar/moonshotai.Kimi-K2-Instruct-BF16 — это версия в формате BF16 модели moonshotai/Kimi-K2-Instruct, подготовленная DevQuasar и опубликованная для генерации текста. Модель предназначена для диалогового взаимодействия и выполнения инструкций в сценариях, где требуется создавать или продолжать текстовые ответы.
Модель содержит 37,9 млрд параметров и поддерживает контекст длиной до 131 072 токенов. В метаданных она классифицирована как text-generation и conversational; формат BF16 может быть удобен для запуска на совместимом оборудовании с поддержкой этого типа чисел. Данные о поддерживаемых естественных языках, архитектуре, лицензии и специализированных областях применения в предоставленных источниках отсутствуют.
Для запуска требуется инфраструктура, совместимая с форматом BF16; предоставленные источники не содержат сведений о лицензии, поддерживаемых языках и специализированных ограничениях.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
'Make knowledge free for everyone'
BF16 version of: moonshotai/Kimi-K2-Instruct
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
vLLM
Модели нужен код из репозитория; автор пока не в списке доверенных организаций.