/ Модель

Характеристики

Контекст
32 768 токенов
Параметры
7,1 млрд
Размер весов
93,4 ГБ
Лицензия
CC BY-NC 4.0
Архитектура
mixtral · MoE
Опубликована
11 янв 2024

Augmentasanguis-PDE-8x7B

Генерация текстаТекст → текст3 профессии

Разговорная модель Mixtral для генерации текста, творческого письма и интерпретации абстрактных запросов о коде.

21скачиваний за 30 дней0лайковвеса обновлены11 янв 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Augmentasanguis: Pocket Diamonds Edition — разговорная языковая модель семейства Mixtral, созданная Envoid как вариант модели Augmentasanguis. По карточке, при обучении добавлены синтетические текстовые примеры, число эпох увеличено до четырёх, а rank и alpha адаптера удвоены. Модель использует формат запросов Mixtral Instruct и предназначена для генерации текста в диалоге, в том числе творческого письма и интерпретации абстрактных запросов о коде.

В метаданных указаны архитектура Mixtral MoE, 7,1 млрд параметров, контекст до 32 768 токенов и формат Safetensors. Автор отмечает, что эта версия лучше подходит для творческого письма и абстрактных запросов о коде, тогда как исходная Augmentasanguis лучше справляется с ролевыми сценариями. Лицензия — CC BY-NC 4.0, допускающая использование с атрибуцией, но не коммерческое использование. Автор предупреждает о возможной генерации вредного или оскорбительного контента.

Сценарии применения

  • написание творческих текстов и стихотворений
  • ответы на запросы в формате диалога
  • интерпретация абстрактных запросов о коде
  • генерация текста для ролевых сценариев

Ограничения

Модель может генерировать вредный или оскорбительный контент; автор отмечает, что исходная Augmentasanguis лучше подходит для ролевых сценариев. Лицензия CC BY-NC 4.0 запрещает коммерческое использование.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Augmentasanguis: Pocket Diamonds Edition

This model includes the synthetic text samples that were left out of the dataset when creating

https://huggingface.co/Envoid/Augmentasanguis-8x7B

For a total corpus size of roughly 87 megabytes.

The number of epochs was increased to 4.

The rank and alpha were also doubled.

Warning:

This model may produce content that is harmful or offensive.

It uses the Mixtral Instruct prompt format.

example:

[INST]
Write me a recursive Haiku
[/INST]

Response:

Pine needles above
Recursion of branches, tree
Nature's endless loop

In this haiku, the first line sets the scene with pine needles overhead. The second line introduces the concept of recursion through the branching structure of the tree. Finally, the third line reinforces the idea of recursion as a natural phenomenon, describing it as an "endless loop" in nature. Recursion is a process where a function calls itself repeatedly to solve a problem or create a pattern. In this haiku, the recursive element is not explicitly mathematical but rather poetic, emphasizing the beauty and complexity found in nature.

Overall I would say it's a side-grade from the original Augmentasanguis. While this one is overall better at creative writing or interpreting abstract code requests the original is better at RP.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

vLLM

Можно запустить

Подбираем GPU…

Класс архитектуры
MixtralForCausalLM
Ревизия весов
49feca0

0 моделей