/ Модель

Характеристики

Контекст
131 072 токена
Параметры
69,5 млрд
Размер весов
141 ГБ
Архитектура
llama · dense
Базовая модель
Negative_LLAMA_70B
Библиотека
transformers
Опубликована
29 янв 2025

Llama-MagicalGirl

Генерация текстаТекст → текст4 профессии

MagicalGirl — объединённая 70-миллиардная модель Llama для генерации диалоговых и ролевых ответов с длинным контекстом.

34скачиваний за 30 дней8лайковвеса обновлены25 фев 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

MagicalGirl — объединённая модель генерации текста на архитектуре Llama, созданная автором KaraKaraWarehouse с помощью mergekit и метода SCE. В основу объединения вошла KaraKaraWitch/Llama-3.X-Workout-70B; также использованы SicariusSicariiStuff/Negative_LLAMA_70B, Steelskull/L3.3-Nevoria-R1-70b, Tarek07/Inception-LLaMa-70B и TheDrummer/Nautilus-70B-v0.1. Модель содержит 69,5 млрд параметров, работает с текстом и поддерживает контекст до 131 072 токенов.

Модель предназначена для генерации диалоговых и ролевых ответов. Автор отмечает, что она может быть недостаточно творческой или излишне многословной, а без системного промпта ответы могут быть оскорбительными и мрачными. Для использования автор приводит температуру 1,4 и Min P 0,03. Веса опубликованы в формате safetensors; сведения о лицензии в предоставленных данных отсутствуют.

Сценарии применения

  • генерация ответов в диалоговом чат-боте
  • ролевая переписка с персонажем
  • создание художественных текстовых продолжений
  • ответы на длинные текстовые запросы

Ограничения

Без системного промпта модель может выдавать оскорбительные и мрачные ответы; автор также отмечает склонность к многословию и не всегда высокую творческую выразительность. Лицензия не приведена в предоставленных данных.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

MagicalGirl

No image for this model. A auditory replacement has been provided.

This is a merge of pre-trained language models created using mergekit.

Sampling Settings

I keep playing around with sampler settings more often than not due to model not being super creative or just overly verbose. Anyway, I landed on the following for this model:

Temperature: 1.4
Min P: 0.03

This applies retroactively to KaraKaraWitch/Llama-3.X-Workout-70B as well.

Notes

  • Seems to fit my requirements for the most part. Not too sure how exactly others would feel but I find that this is the model I envisioned.
  • Without a system prompt, the model can get quite offensive and dark. Consider writing a simple system prompt before using.

Merge Details

Merge Method

This model was merged using the SCE merge method using KaraKaraWitch/Llama-3.X-Workout-70B as a base.

Models Merged

The following models were included in the merge:

Configuration

The following YAML configuration was used to produce this model:

models:
  - model: SicariusSicariiStuff/Negative_LLAMA_70B
  - model: TheDrummer/Nautilus-70B-v0.1
  - model: Tarek07/Inception-LLaMa-70B
  - model: Steelskull/L3.3-Nevoria-R1-70b

merge_method: sce
base_model: KaraKaraWitch/Llama-3.X-Workout-70B
parameters:
  select_topk: 1.0
dtype: bfloat16

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

vLLM

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
2a75a91

0 моделей