Характеристики

Лицензия: Apache 2.0
Опубликована: 21 фев 2024

Ссылки

Mixtral-8x7B-Holodeck-v1-GGUF

Генерация текстаТекст → текст3 профессии

Mixtral-8x7B-Holodeck-v1-GGUF — это дообученная версия модели Mixtral 8x7B, представленная в формате GGUF и предназначенная для использования с Koboldcpp.

397скачиваний за 30 дней15лайковвеса обновлены23 фев 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель разработана в рамках проекта KoboldAI. Она ориентирована на генерацию текста, включая создание и продолжение художественных текстов в различных жанрах.

Для дообучения использовался набор примерно из 3000 электронных книг разных жанров; к большинству фрагментов добавлялись метки жанров в формате [Genre: <genre1>, <genre2>]. В README не указаны точный размер контекста, поддерживаемые модальности помимо текста или дополнительные языки; заявлен английский язык. К сильным сторонам относятся специализация на литературных данных и жанровое управление, а к ограничениям — возможные смещения по признакам пола, профессии, расы и религии, характерные для NLP-моделей. Модель распространяется по лицензии Apache-2.0.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей IV.9Отраслевые задачиМедиа, журналистика, культура, архивы и игрыAI помогает создавать, искать, сохранять и персонализировать медиа, культурный и игровой контент.44 задачи14 938моделей I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Mixtral 8x7B - Holodeck

This is the GGUF version of the model meant for use with Koboldcpp

Model Description

Mistral 7B-Holodeck is a finetune created using Mixtral's 8x7B model.

Training data

The training data contains around 3000 ebooks in various genres. Most parts of the dataset have been prepended using the following text: [Genre: <genre1>, <genre2>]

Limitations and Biases

Based on known problems with NLP technology, potential relevant factors include bias (gender, profession, race and religion).

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.

Ревизия весов: 39d4c78