Характеристики

Лицензия: Apache 2.0
Базовая модель: K2-Horizon-375B-A23B
Библиотека: gguf
Опубликована: 4 сен 2026

Ссылки

K2-Horizon-375B-A23B-GGUF

Генерация текстаТекст → текст3 профессии

K2-Horizon-375B-A23B-GGUF — это набор воспроизводимых промежуточных GGUF-артефактов базовой модели IFM/K2-Horizon-375B-A23B.

121скачиваний за 30 дней1лайквеса обновлены4 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Репозиторий подготовлен Baekpica путём прямой конвертации исходного контрольного пункта BF16 с использованием ветки llama.cpp от IFM. Модель предназначена для генерации текста и запуска в совместимой с GGUF инфраструктуре, включая сценарии локального или серверного инференса при наличии значительных аппаратных ресурсов.

Исходная модель содержит 379 167 159 168 параметров. Доступны варианты BF16 и Q8_0, каждый разделённый на 30 файлов размером около 30 GiB на шарду. BF16 представляет бес потерьную конвертацию исходного контрольного пункта и занимает около 706,4 GiB, а Q8_0 использует квантование всех двумерных весов до Q8_0, сохраняя маршрутизаторы, смещения, веса нормализации и другие одномерные управляющие тензоры в F32; его размер составляет около 375,4 GiB. По тегам и структуре это MoE-модель, однако сведения о числе экспертов, активных параметрах, архитектуре слоёв, контекстном окне и поддерживаемых языках не указаны.

Сильные стороны репозитория — сохранение высокоточного варианта BF16, высокоточный Q8_0-промежуточный вариант, прозрачное происхождение файлов и пройденные структурные и контрольные проверки. Основные ограничения — чрезвычайно большой объём файлов и требования к памяти, а также отсутствие в README данных о качестве, производительности, модальностях кроме текста и практической совместимости с конкретными приложениями. Артефакты распространяются по лицензии Apache-2.0; для использования каждого варианта необходимы все 30 соответствующих шардов.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель II.2Разработка и данныеСоздание и понимание программного кодаAI помогает писать, объяснять и связывать программный код с требованиями и существующей системой.20 задач21 443модели

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

K2-Horizon-375B-A23B GGUF intermediates

Public, reproducible intermediate GGUF artifacts converted directly from IFM/K2-Horizon-375B-A23B at revision d33e3ae45281865ebf9f044b12d3635b1d1e17fe.

This repository contains both:

BF16: the lossless GGUF conversion used as the sole quantization source.
Q8_0: the high-precision intermediate generated directly from that BF16 GGUF.

The memory-targeted mixed quant is published separately at Baekpica/K2-Horizon-375B-A23B-Mixed-Quant-GGUF.

Provenance

Source parameters: original BF16 checkpoint; the official FP8 checkpoint was deliberately not used, avoiding quantization-on-quantization.
Source parameter count: 379,167,159,168.
Converter: IFM's K2-Horizon llama.cpp branch, commit 35999d101cf2233fc54f09c3c8d599da7303ce02.
BF16 split target: 30G per shard.
Q8 policy: all 2-D weights Q8_0; router weights/biases, normalization weights, and other 1-D control tensors remain F32.

Machine-readable structural audits are stored in validation/BF16.audit.json and validation/Q8_0.audit.json. Content hashes are in the corresponding *-SHA256SUMS files; both 30-shard sets were checked against the Hub's LFS object IDs after every upload closed.

Status

BF16: complete — 30/30 shards, 758,484,189,216 bytes (706.393448 GiB), 842 tensors (BF16=603, F32=239).
BF16 structural audit: passed.
BF16 remote inventory: passed — 30/30 objects and aggregate byte count match.
Q8_0: complete — 30/30 shards, 403,079,839,776 bytes (375.397354 GiB), with tensor payload 403,068,341,760 bytes (375.386646 GiB).
Q8_0 structural audit: passed — 842 tensors (Q8_0=603, F32=239).
Q8_0 remote verification: passed — all 30 Hub LFS SHA-256 values and the aggregate byte count match Q8_0-SHA256SUMS.

Each artifact is usable from its 00001-of-00030 file when all 30 numbered siblings are present in the same directory.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.

Ревизия весов: 81a5c2a