Quantized version of: kakaocorp/kanana-1.5-2.1b-instruct-2505
'Make knowledge free for everyone'
DevQuasar/kakaocorp.kanana-1.5-2.1b-instruct-2505-GGUF — это квантизированная версия модели kakaocorp/kanana-1.5-2.1b-instruct-2505, подготовленная проектом DevQuasar.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Модель относится к классу text-generation и предназначена для генерации текста по инструкциям.
Её можно использовать в сценариях, где требуется запуск инструкционной языковой модели в формате GGUF, однако README не содержит подробностей о конкретной архитектуре, поддерживаемых языках и модальностях, размере контекста, вариантах квантизации, системных требованиях или результатах оценки качества. Из идентификатора следует обозначение размера базовой модели около 2,1 млрд параметров, но дополнительные характеристики не указаны.
К потенциальным сильным сторонам относятся компактный размер базовой модели и пригодность к локальному использованию в экосистемах, поддерживающих GGUF. Ограничения и точные компромиссы квантизации, а также условия лицензирования в предоставленных данных не описаны. Для корректного выбора модели следует обратиться к документации базовой модели и конкретного файла квантизации.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
Quantized version of: kakaocorp/kanana-1.5-2.1b-instruct-2505
'Make knowledge free for everyone'
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
llama.cpp
GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.