/ Модель

Характеристики

Контекст
32 768 токенов
Параметры
7,1 млрд
Лицензия
CC BY-NC 4.0
Архитектура
mixtral · MoE
Опубликована
25 дек 2023

MixtralOrochi8x7B

Генерация текстаТекст → текст5 профессий

MixtralOrochi8x7B — объединённая модель Mixtral для генерации английских ответов и диалогов с широкими ограничениями на содержание.

136скачиваний за 30 дней17лайковвеса обновлены25 дек 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

MixtralOrochi8x7B — языковая модель семейства Mixtral от smelborp, основанная на архитектуре Mixture of Experts, разработанной Mistral. По карточке, это объединение нескольких моделей, включая Mixtral Instruct, Noromaid и OpenBuddy, выполненное с помощью mergekit и метода DARE.

Модель предназначена для генерации ответов и диалогов с меньшими встроенными ограничениями на содержание. Метаданные указывают 7,1 млрд параметров и контекст до 32 768 токенов; карточка и языковой тег указывают английский язык. Файлы опубликованы в формате safetensors. Модель может выдавать неподходящий для некоторых аудиторий контент, поэтому для прикладного использования может потребоваться собственная модерация. Лицензия — CC BY-NC 4.0, допускающая использование с некоммерческими ограничениями.

Сценарии применения

  • генерация ответов в диалоговом помощнике
  • свободное продолжение английского текста
  • создание диалогов с минимальными встроенными ограничениями
  • ответы на вопросы на английском языке

Ограничения

Модель может генерировать неподходящий контент и требует внешней модерации для сценариев, где нужны ограничения. Лицензия CC BY-NC 4.0 накладывает некоммерческие ограничения на использование.

Для каких профессий подходит5

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Orochi

Overview

Orochi is a cutting-edge language model based on the Mixtral architecture developed by Mistral. It represents a sophisticated merge of several prominent models, including Mixtral instruct, Noromaid, OpenBuddy, and several others, using mergekit with the DARE merge method. This model aims to provide highly intelligent responses unrestricted by content limitations. The name "Orochi" references the mythical Yamata-no-Orochi, symbolizing the model's multifaceted and powerful capabilities.

Goals

  • Uncensored Content: To provide unrestricted and comprehensive responses across various domains.
  • High Intelligence: Leverage the combined knowledge and capabilities of the merged models to deliver insightful and accurate information.
  • Innovation in Language Modeling: Push the boundaries of what's possible in natural language understanding and generation.

Model Details

  • Architecture: Mixtral, a Mixture of Experts model, underlies Orochi's design, enabling it to specialize and optimize its responses across different tasks and topics.
  • Merge Strategy: Utilizing mergekit and the DARE method, Orochi integrates aspects of various models to enhance its performance and capabilities.

Usage

Due to its uncensored nature, Orochi is best utilized in environments where intelligent, unrestricted dialogue is necessary. Users are encouraged to implement their own content moderation or alignment strategies appropriate for their use case.

Ethical Considerations

As an uncensored model, Orochi may generate content that is unsuitable for all audiences. Users are advised to consider the implications of using such a model and to implement suitable safeguards and ethical guidelines.

Acknowledgements

Orochi is a product of numerous contributions from the fields of machine learning and language modeling. Special thanks to the teams behind Mixtral, mergekit, and all the individual models integrated into Orochi.


Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

vLLM

Можно запустить

Подбираем GPU…

Класс архитектуры
MixtralForCausalLM
Ревизия весов
e88684d

0 моделей