Dolphin 2.1 Mistral 7B в неквантованном формате GGUF предназначена для генерации текста, ответов на вопросы и выполнения инструкций.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Это версия модели Dolphin 2.1 Mistral 7B в формате GGUF, подготовленная ddh0 из чекпойнта Eric Hartford. Веса конвертированы без квантизации и других изменений; исходная модель дообучена на базе dphn/dolphin-2.1-mistral-7b и предназначена для генерации текста, ответов на вопросы и выполнения инструкций в диалоговом режиме. Для практического использования GGUF позволяет запускать модель в совместимом локальном ПО.
Базовая модель — англоязычная чат-модель на архитектуре Mistral с 7 млрд параметров и контекстом до 32 768 токенов. Репозиторий распространяется по лицензии Apache-2.0. Указаний на поддержку других языков или специализированные области применения в доступных данных нет.
По доступным данным модель ориентирована на английский язык; качество и надёжность ответов отдельно не охарактеризованы.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
This is Eric Hartford's dolphin-2.1-mistral-7b, converted to GGUF without quantization. No other changes were made.
The model was converted using convert.py from Georgi Gerganov's llama.cpp repo as it appears here (that is, the last change to the file was in commit #ff5a3f0.)
All credit belongs to Eric Hartford for fine-tuning and releasing this model. Thank you!
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
llama.cpp
Подбираем GPU…