Quantized version of: dphn/Dolphin-Mistral-24B-Venice-Edition
'Make knowledge free for everyone'
DevQuasar/dphn.Dolphin-Mistral-24B-Venice-Edition-GGUF — это квантизированная версия текстовой генеративной модели dphn/Dolphin-Mistral-24B-Venice-Edition.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
В README указано, что модель разработана на основе исходной модели dphn, а квантизация опубликована под идентификатором DevQuasar.
Модель предназначена для генерации текста. Подробные сведения о поддерживаемых сценариях, языках, размере контекста, используемой архитектуре, конкретных вариантах квантизации и требованиях к оборудованию в README отсутствуют. Известно только, что базовая модель имеет обозначение Mistral-24B, однако точные характеристики и модальности не уточнены.
К потенциальным преимуществам относятся уменьшенный размер и требования к ресурсам по сравнению с полной версией благодаря квантизации. Ограничения, качество на отдельных задачах и совместимость с конкретными программными средствами не описаны. Лицензия в представленном README не указана.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
Quantized version of: dphn/Dolphin-Mistral-24B-Venice-Edition
'Make knowledge free for everyone'
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
llama.cpp
GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.