/ Модель

Характеристики

Контекст
32 768 токенов
Параметры
7,1 млрд
Лицензия
CC BY-NC 4.0
Архитектура
mixtral · MoE
Опубликована
25 дек 2023

MixtralOrochi8x7B-Alt

Генерация текстаТекст → текст6 профессий

Объединённая модель Mixtral для генерации английского текста и диалогов с контекстом до 32 768 токенов.

81скачиваний за 30 дней0лайковвеса обновлены25 дек 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

MixtralOrochi8x7B-Alt — языковая модель на архитектуре Mixtral, созданная автором smelborp путём объединения нескольких моделей, включая Mixtral Instruct, Noromaid и OpenBuddy, с помощью mergekit и метода DARE. Модель предназначена для генерации текста и диалогов с широким охватом тем; в карточке заявлен акцент на развёрнутые ответы без встроенных ограничений по содержанию.

Модель использует архитектуру Mixture of Experts, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. В метаданных указан английский язык. Репозиторий содержит веса в формате safetensors. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но не для коммерческих целей.

Из-за заявленного отсутствия ограничений модель может генерировать неподходящий или вредоносный контент; для пользовательских сценариев следует предусмотреть собственную модерацию. Авторские заявления о высокой интеллектуальности не сопровождаются в карточке результатами оценки качества.

Сценарии применения

  • генерация ответов в диалоговом интерфейсе
  • написание и продолжение текстов на английском языке
  • развёрнутые ответы на вопросы по разным темам
  • создание диалогового прототипа с настраиваемой модерацией

Ограничения

Модель может генерировать неподходящий или вредоносный контент, поэтому для прикладного использования нужна внешняя модерация. Заявления о качестве не подкреплены результатами оценок в карточке.

Для каких профессий подходит6

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Orochi (Alternate Version)

Overview

Orochi is a cutting-edge language model based on the Mixtral architecture developed by Mistral. It represents a sophisticated merge of several prominent models, including Mixtral instruct, Noromaid, OpenBuddy, and several others, using mergekit with the DARE merge method. This model aims to provide highly intelligent responses unrestricted by content limitations. The name "Orochi" references the mythical Yamata-no-Orochi, symbolizing the model's multifaceted and powerful capabilities.

Goals

  • Uncensored Content: To provide unrestricted and comprehensive responses across various domains.
  • High Intelligence: Leverage the combined knowledge and capabilities of the merged models to deliver insightful and accurate information.
  • Innovation in Language Modeling: Push the boundaries of what's possible in natural language understanding and generation.

Model Details

  • Architecture: Mixtral, a Mixture of Experts model, underlies Orochi's design, enabling it to specialize and optimize its responses across different tasks and topics.
  • Merge Strategy: Utilizing mergekit and the DARE method, Orochi integrates aspects of various models to enhance its performance and capabilities.

Usage

Due to its uncensored nature, Orochi is best utilized in environments where intelligent, unrestricted dialogue is necessary. Users are encouraged to implement their own content moderation or alignment strategies appropriate for their use case.

Ethical Considerations

As an uncensored model, Orochi may generate content that is unsuitable for all audiences. Users are advised to consider the implications of using such a model and to implement suitable safeguards and ethical guidelines.

Acknowledgements

Orochi is a product of numerous contributions from the fields of machine learning and language modeling. Special thanks to the teams behind Mixtral, mergekit, and all the individual models integrated into Orochi.


Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

vLLM

Можно запустить

Подбираем GPU…

Класс архитектуры
MixtralForCausalLM
Ревизия весов
2cbe1e9

0 моделей