/ Модель

Характеристики

Лицензия
Apache 2.0
Базовая модель
dolphin-2.8-mistral-7b-v02
Библиотека
transformers
Опубликована
4 апр 2024

dolphin-2.8-mistral-7b-v02-GGUF

Генерация текстаТекст → текст15 профессий

QuantFactory/dolphin-2.8-mistral-7b-v02-GGUF — это GGUF-квантизированная версия модели Dolphin 2.8 Mistral 7B v0.2, созданная с использованием llama.cpp на основе cognitivecomputations/dolphin-2.8-mistral-7b-v02.

1 967скачиваний за 30 дней4лайкавеса обновлены7 апр 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель основана на Mistral-7B-v0.2 и предназначена для генерации текста, диалогового взаимодействия, выполнения инструкций и решения задач программирования. Заявленный язык — английский.

Базовая модель поддерживает контекст до 32 000 токенов, а дообучение выполнялось на последовательностях длиной до 16 000 токенов. Квантизация в формате GGUF ориентирована на использование с совместимыми инструментами локального запуска, однако конкретный вариант квантизации в README не указан. К сильным сторонам относятся conversational-, instruction- и coding-навыки, а также возможность коммерческого использования по лицензии Apache 2.0.

Модель описывается как uncensored и не содержит встроенных ограничений безопасности и выравнивания, поэтому может быть чрезмерно послушной, включая потенциально вредные или неэтичные запросы. Перед предоставлением модели как сервиса рекомендуется реализовать собственный уровень фильтрации и выравнивания; ответственность за создаваемый контент возлагается на пользователя. В README также указано, что при обучении использовались данные, сгенерированные GPT-4 и другими моделями.

Для каких профессий подходит15

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Dolphin 2.8 Mistral 7b v0.2- GGUF

Description

This model is based on Mistral-7b-v0.2.

The base model has 32k context, and the full-weights fine-tune was with 16k sequence lengths.

Dolphin-2.8 has a variety of instruction, conversational, and coding skills.

Dolphin is uncensored. The dataset was filtered by the creators to remove alignment and bias. This makes the model more compliant. You are advised to implement your own alignment layer before exposing the model as a service. It will be highly compliant to any requests, even unethical ones. You are responsible for any content you create using this model.

Dolphin is licensed Apache 2.0. The creators grant permission for any use including commercial. Dolphin was trained on data generated from GPT4 among other models.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.

Ревизия весов
caaf7ea

0 моделей