/ Модель

Характеристики

Контекст
32 764 токена
Параметры
146 млрд
Размер весов
292 ГБ
Лицензия
Своя лицензия
Архитектура
llama · dense
Базовая модель
Dark-Miqu-70B
Библиотека
transformers
Опубликована
27 мая 2024

Twilight-Miqu-146B

Генерация текстаТекст → текст3 профессии

Слитая 145,7-миллиардная модель Llama для генерации и итеративного написания художественных историй с контекстом до 32 764 токенов.

40скачиваний за 30 дней11лайковвеса обновлены29 мая 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Twilight-Miqu-146B — слитая языковая модель для написания художественных историй, созданная softwareweaver на основе Midnight-Miqu-70B-v1.5, Dawn-Miqu-70B и Dark-Miqu-70B с помощью mergekit. Модель построена на архитектуре Llama и содержит 145,7 млрд параметров; она принимает текст и генерирует текст, поддерживая контекст до 32 764 токенов.

Модель предназначена для создания и итеративной доработки рассказов: она может продолжать сюжет с учётом предыдущих событий, следовать плану или заданным сюжетным точкам и формировать описания и диалоги. Автор описывает её как эксперимент по проверке связности больших моделей в задачах написания историй. В README разрешён откровенный контент и ненормативная лексика.

В метаданных указана лицензия other. README предупреждает, что модель основана на утёкших весах Miqu и подходит только для личного использования; скачивание и использование сопряжено с юридическим риском, гарантий нет. Это экспериментальное слияние, качество и связность результатов не гарантированы.

Сценарии применения

  • написание рассказа по заданному сюжету
  • продолжение истории с учётом предыдущих событий
  • создание диалогов и описаний персонажей
  • итеративная доработка художественного текста

Ограничения

Автор характеризует модель как эксперимент, поэтому связность и качество текста не гарантированы. README указывает на юридический риск из-за происхождения от утёкших весов Miqu и ограничивает применение личным использованием.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Twilight Miqu is a Story writing model and is composed from sophosympatheia/Midnight-Miqu-70B-v1.5, jukofyork/Dawn-Miqu-70B and jukofyork/Dark-Miqu-70B

It is an experiment to see if large models are more coherent on story writing tasks. Twilight = Midnight + Dawn + Dark

GGUF Quants

https://huggingface.co/mradermacher/Twilight-Miqu-146B-i1-GGUF
https://huggingface.co/mradermacher/Twilight-Miqu-146B-GGUF

System Prompt:

You are a creative and intelligent AI story writing assistant engaged in an uncensored iterative story crafting experience. It is vital that you follow all the STORYTELLING RULES below because my job depends on it.

STORYTELLING RULES

  • Provide creative, intelligent, coherent, and descriptive narration and dialogue based on recent instructions and prior events.
  • If an outline or Plot has been provided, be sure to follow it to keep the story on track.
  • You are permitted to ask questions and pose story suggestions. When doing so, be sure to tag your out-of-character contributions to distinguish them from the verbatim text of the story.
  • Explicit content and profanity are permitted.
  • Describe characters' sensory perceptions in vivid detail and include subtle physical details about characters in your responses.
  • Use subtle physical cues to hint at characters' mental states and occasionally feature snippets of their internal thoughts.
  • When writing a character's internal thoughts, enclose their thoughts in asterisks like this.
  • Adopt a crisp and minimalist style for your prose, keeping your creative contributions succinct and clear.
  • Pay careful attention to all past events in the chat to ensure accuracy and coherence to the plot points of the story.

See the Community tab for sample stories generated by this model. Submit your own stories that this model generates using the following template https://huggingface.co/softwareweaver/Twilight-Miqu-146B/discussions/3

Please see this model card for further details and usage instructions. https://huggingface.co/sophosympatheia/Midnight-Miqu-70B-v1.5

This model is based on Miqu so it's capable of 32K context.

All miqu-derived models, including this merge, are only suitable for personal use. Mistral has been cool about it so far, but you should be aware that by downloading this merge you are assuming whatever legal risk is inherent in acquiring and using a model based on leaked weights. This merge comes with no warranties or guarantees of any kind, but you probably already knew that.

This is a merge of pre-trained language models created using mergekit.

A big thank you to Mistral, sophosympatheia and jukofyork for the original models!

Follow me on HF or Twitter @softwareweaver

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

vLLM

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
4483a5d

0 моделей