/ Модель

Характеристики

Контекст
32 768 токенов
Параметры
7,1 млрд
Архитектура
mistral · dense
Опубликована
11 мар 2024

Neural-Dark-Waifu-v0.2

Генерация текстаТекст → текст3 профессии

Слитая 7,1-миллиардная модель Mistral для диалогов, генерации текста и ролевого письма с ослабленными ограничениями.

18скачиваний за 30 дней2лайкавеса обновлены11 мар 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Neural-Dark-Waifu-v0.2 — слитая автором nocudaexe языковая модель для генерации текста и диалогового общения, в том числе ролевых сценариев. Она объединяет возможности AlphaMonarch-7B, моделей Dark-Waifu-7b и Infinite-Waifu, а также Kunocchini-7b-128k-test; конфигурация слияния в README указывает mergekit и метод Slerp. Архитектура — плотная MistralForCausalLM примерно на 7,1 млрд параметров. Метаданные указывают контекст до 32 768 токенов, а автор сообщает о проверке поведения до 15 872 токенов и о проблемах предыдущей версии при контексте 4–8 тысяч токенов.

Модель предназначена для чат-ответов и ролевого письма, с пониженными ограничениями на генерируемые ответы. В README не указаны поддерживаемые естественные языки. Репозиторий использует формат safetensors; отдельная ссылка на GGUF в README относится к варианту размещения. Лицензия — Apache-2.0. Карточка описывает эксперимент по слиянию, а заявленная проверка контекста не подтверждает надёжную работу на всём диапазоне, указанном в метаданных.

Сценарии применения

  • ведение ролевых диалогов
  • написание художественных сцен и продолжений
  • генерация ответов в чате
  • создание персонажных реплик

Ограничения

Автор сообщает о проблемном поведении предыдущей версии при контексте 4–8 тысяч токенов и тестировании этой версии до 15 872 токенов; надёжность на полном заявленном контексте 32 768 токенов не подтверждена. Естественные языки в карточке не обозначены.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

image/png

Tested to 15872 tokens!

GGUF - nocudaexe/Neural-Dark-Waifu-V0.2

The first attempt at Neural-Dark-Waifu started showing strange behaviour at 4-8k context, so I re-merged, and did more testing, this one is exhibiting the correct behaviours

An attempt to merge mlabonne/AlphaMonarch-7B excellent chat ability, with a bunch of ERP thrown at it to bring down it's guardrails, as well as Test157t/Kunocchini-7b-128k-test to increase context


license: apache-2.0 tags:


DarkNeural

DarkNeural is a merge of the following models using mergekit:

🧩 Configuration

```yamlmodels: # No parameters necessary for base model

  • model: nocudaexe/Dark-Waifu-7b parameters: density: 0.33 weight: 0.4
  • model: nocudaexe/Infinite-Waifu parameters: density: 0.38 weight: 0.3 merge_method: Slerp

parameters: int8_mask: true dtype: bfloat16 ```

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
MistralForCausalLM
Ревизия весов
313a0fc

0 моделей