/ Модель

Характеристики

Контекст
8 192 токена
Параметры
7,5 млрд
Размер весов
16,1 ГБ
Лицензия
Apache 2.0
Архитектура
llama · dense
Базовая модель
Llama-3-Yggdrasil-2.0-8B
Библиотека
transformers
Опубликована
24 окт 2024

Llama-3-Yggdrasil-AstralSpice-8B

Генерация текстаТекст → текст3 профессии

Слияние моделей Llama 3 на 7,5 млрд параметров для ролевых диалогов, творческого письма и генерации развёрнутых историй.

27скачиваний за 30 дней2лайкавеса обновлены24 окт 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

ZeroXClem/Llama-3-Yggdrasil-AstralSpice-8B — текстовая модель генерации, созданная ZeroXClem слиянием нескольких моделей семейства Llama 3 методом TIES. В состав слияния вошли Llama-3-Yggdrasil-2.0-8B, L3-SAO-MIX-8B-V1, L3-TheSpice-8b-v0.8.3 и Astral-Fusion-8b-v0.0. Модель содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и принимает текстовые инструкции и запросы для генерации текста.

Модель предназначена прежде всего для ролевых диалогов, написания историй и творческих текстов, включая фэнтези и магический реализм. Также заявлены следование инструкциям и создание развёрнутых повествований; карточка указывает контекст 8192 токена и поддержку чат-сценариев. Модель распространяется в формате safetensors по лицензии Apache-2.0.

Заявленные сильные стороны — выразительное повествование, описание персонажей и сцен, а также поддержание ролевого взаимодействия. Карточка не приводит сравнительных оценок качества, поэтому точность следования инструкциям и устойчивость на иных типах задач не подтверждены; языки обучения или поддержки отдельно не указаны.

Сценарии применения

  • написание фэнтезийных рассказов и длинных историй
  • ведение ролевого диалога от лица персонажа
  • создание описаний персонажей, сцен и вымышленных миров
  • генерация стихов и художественной прозы
  • подготовка связного текста по пользовательской инструкции

Ограничения

Карточка не приводит количественных оценок качества или результатов сравнительного тестирования. Поддерживаемые языки отдельно не перечислены.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Llama-3-Yggdrasil-AstralSpice-8B 🌌🌿✨

ZeroXClem/Llama-3-Yggdrasil-AstralSpice-8B is a celestial fusion of deep storytelling, creative writing, and instruction-following capabilities. Merging some of the most powerful models like Bluuwhale, AstralFusion, TheSpice, and Yggdrasil, this model has been crafted to deliver versatility, magical realism, and long-form content generation.

If you're looking to weave intricate narratives, generate insightful text, or engage in immersive roleplay scenarios, this model will help you manifest your wildest creations!


⚡ Model Details

Architecture: Llama 3.0 8B
Base Model: Locutusque/Llama-3-Yggdrasil-2.0-8B


✨ Models Merged:

  • bluuwhale/L3-SAO-MIX-8B-V1
    Bluuwhale SAO-MIX combines RP and storytelling, excelling in immersive content generation.

  • ProdeusUnity/Astral-Fusion-8b-v0.0
    A mysterious, cosmic blend that excels in role-playing and long-form content creation. Perfect for exploring the celestial unknown.

  • cgato/L3-TheSpice-8b-v0.8.3
    A model packed with unique narrative twists, infusing storytelling with character depth and realism. It focuses on creative writing, interactions, and exploration.

  • Locutusque/Llama-3-Yggdrasil-2.0-8B
    The backbone of this model, Yggdrasil, brings stability, coherence, and robust instruction-following for even the most complex of prompts.


🛠 Merge Methodology:

This model was merged using the TIES merge method to delicately combine the diverse layers of these powerful models. By balancing density and weight distributions, we’ve optimized the blend for instruction following, roleplay, and narrative creation.

models:
  - model: bluuwhale/L3-SAO-MIX-8B-V1
    parameters:
      density: 0.4
      weight: 0.3
  - model: ProdeusUnity/Astral-Fusion-8b-v0.0
    parameters:
      density: 0.5
      weight: 0.3
  - model: cgato/L3-TheSpice-8b-v0.8.3
    parameters:
      density: 0.5
      weight: 0.2
  - model: Locutusque/Llama-3-Yggdrasil-2.0-8B
    parameters:
      density: 0.5
      weight: 0.2

merge_method: ties
base_model: Locutusque/Llama-3-Yggdrasil-2.0-8B
dtype: bfloat16
parameters:
  normalize: true
out_dtype: float16

🌟 Key Features:

  • Creative Writing & Roleplaying: Enhanced with storytelling prowess, ideal for creative prompts and immersive character dialogues.

  • Instruction Following: Built upon a solid Llama 3.0 architecture, the model delivers accurate and coherent responses to a variety of instruction-following tasks.

  • Narrative Exploration: Thanks to AstralFusion and TheSpice models, this model excels in crafting imaginative narratives and detailed scene descriptions, adding layers of depth to text generation.

  • Magical Realism: The model blends realism with a sprinkle of magic, taking your content into realms of fantasy and cosmic wonders.


🚀 How to Use:

You can start generating text with this model using the following Python code snippet:

from transformers import AutoTokenizer, pipeline
import torch

model = "your-huggingface-repo/Llama-3-Yggdrasil-AstralSpice-8B"
tokenizer = AutoTokenizer.from_pretrained(model)

text_generator = pipeline(
    "text-generation",
    model=model,
    torch_dtype=torch.bfloat16,
    device_map="auto",
)

prompt = "You are an expert in ancient cosmic magic. Tell me about the legendary AstralSpice."
generated_text = text_generator(prompt, max_new_tokens=512, do_sample=True, temperature=0.9)

print(generated_text[0]['generated_text'])

🔮 Use Cases:

  • Immersive Roleplay: From fantasy adventures to deep sci-fi settings, craft characters and dialogues with personality and depth.
  • Storytelling: Write unique, multi-layered narratives with character-driven interactions, world-building, and plot twists.
  • Instruction-Based Tasks: Use for education, research, and structured output generation with high precision.
  • Creative Writing: Generate poems, magical prose, or intricate creative content with seamless storytelling transitions.

📜 License:

This model is open-sourced under the Apache-2.0 License. You are free to use, modify, and distribute it, with appropriate attribution.


💡 Acknowledgments:

Special thanks to the creators of the base models:

  • Bluuwhale for L3-SAO-MIX-8B-V1,
  • ProdeusUnity for AstralFusion,
  • Cgato for TheSpice, and
  • Locutusque for Yggdrasil.
    Their incredible models made this merge a reality! 🌿✨

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
ef912d8

0 моделей