Характеристики

Лицензия: Apache 2.0
Опубликована: 14 янв 2024

Ссылки

Hugging Face

Mistral-7B-Holodeck-1-GGUF

KoboldAI

Генерация текстаТекст → текст3 профессии

Mistral 7B-Holodeck — дообученная версия базовой модели Mistral 7B, опубликованная KoboldAI в формате GGUF.

800скачиваний за 30 дней9лайковвеса обновлены15 янв 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель предназначена для генерации текста и ориентирована прежде всего на совместное написание художественных произведений в интерфейсе KoboldAI Lite, особенно в режиме Story Mode. Её предполагаемый сценарий использования — помощь в создании и продолжении историй в разных жанрах.

Для обучения использован набор примерно из 3000 электронных книг различных жанров; к большей части текстов добавлялись обозначения жанров в формате [Genre: ...]. Известно, что модель работает с текстом на английском языке. В README не указаны точный размер контекста, конкретная архитектура GGUF-квантизации, варианты модальностей или дополнительные технические характеристики, поэтому их нельзя определить по предоставленным данным.

К сильным сторонам относятся специализация на художественном письме и обучение на разнообразном корпусе книг. Ограничения включают возможные предубеждения, связанные с полом, профессией, расой и религией, а также отсутствие подробных данных о качестве, производительности и совместимости конкретных вариантов GGUF. Модель распространяется по лицензии Apache-2.0.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей IV.9Отраслевые задачиМедиа, журналистика, культура, архивы и игрыAI помогает создавать, искать, сохранять и персонализировать медиа, культурный и игровой контент.44 задачи14 938моделей I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Mistral 7B - Holodeck

This is the GGUF version of this model designed to be used with Koboldcpp, the easy and versitile program for AI co-writing and more. Because this is a co-writing model, you are expected to use the Story Mode inside the KoboldAI Lite interface.

Model Description

Mistral 7B-Holodeck is a finetune created using Mistral's 7B model.

Training data

The training data contains around 3000 ebooks in various genres. Most parts of the dataset have been prepended using the following text: [Genre: <genre1>, <genre2>]

### Limitations and Biases
Based on known problems with NLP technology, potential relevant factors include bias (gender, profession, race and religion).

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.

Ревизия весов: 7883e4d