Quantized version of: cognitivecomputations/Dolphin3.0-Llama3.1-8B
'Make knowledge free for everyone'
DevQuasar-7/cognitivecomputations.Dolphin3.0-Llama3.1-8B-GGUF — квантизированная версия модели cognitivecomputations/Dolphin3.0-Llama3.1-8B, предназначенная для генерации текста.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
README не указывает точный вариант квантования, размер файлов, поддерживаемые языки, длину контекста или особенности архитектуры; из идентификатора и базовой модели можно заключить только принадлежность к семейству Llama 3.1 с размером 8B параметров.
Модель разработана и опубликована пользователем или организацией DevQuasar-7 на базе модели cognitivecomputations. Версия в формате GGUF ориентирована на локальный запуск в совместимом программном обеспечении, однако конкретные сценарии применения, сильные стороны и ограничения в README не описаны. Информация о лицензии и условиях использования также отсутствует, поэтому их необходимо уточнить по документации базовой модели и репозитория.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
Quantized version of: cognitivecomputations/Dolphin3.0-Llama3.1-8B
'Make knowledge free for everyone'
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
llama.cpp
GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.