/ Модель

Характеристики

Контекст
131 072 токена
Параметры
7,5 млрд
Размер весов
16,1 ГБ
Лицензия
Apache 2.0
Архитектура
llama · dense
Базовая модель
Llama3.1-8B-ShiningValiant2
Опубликована
23 окт 2024

Llama3.1-8B-Titanium-Forge

Генерация текстаТекст → текст15 профессий

Слитая модель Llama 3.1 на 7,5 млрд параметров для технических диалогов, математики, генерации кода и структурированных ответов.

13скачиваний за 30 дней1лайквеса обновлены23 окт 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Llama3.1-8B-Titanium-Forge — языковая модель, созданная ZeroXClem методом слияния четырёх моделей ValiantLabs на базе семейства Llama 3.1. Она объединяет диалоговые навыки ShiningValiant2, математические способности Cobalt, генерацию кода Enigma и структурированный вывод Fireplace2. Модель содержит 7,5 млрд параметров, использует плотную архитектуру LlamaForCausalLM и принимает текст, выдавая текст; заявленная длина контекста — 131 072 токена.

Модель предназначена для технических консультаций, решения математических задач, написания и объяснения кода, создания SQL-запросов и JSON, а также для диалоговых помощников и творческого письма. Карточка заявляет поддержку вызова инструментов через интерфейс модели. Основной язык — английский; метаданные не содержат отдельного перечня поддерживаемых языков.

Весовые файлы опубликованы в формате safetensors. Модель распространяется по лицензии Apache-2.0. Заявленные специализации происходят из карточки и не сопровождаются результатами оценивания; точность ответов, качество на длинном контексте и надёжность структурированного вывода следует проверять для конкретного применения.

Сценарии применения

  • получение технических консультаций по разработке и оборудованию
  • решение математических задач и пошаговое объяснение рассуждений
  • генерация и объяснение программного кода
  • создание SQL-запросов и JSON-объектов
  • развёртывание диалогового помощника с вызовом инструментов
  • написание рассказов и ролевые диалоги

Ограничения

Карточка не приводит количественных оценок качества, поэтому заявленные способности стоит проверять на целевых задачах. Указание на контекст до 131 072 токенов не гарантирует одинаковую точность на всей этой длине.

Для каких профессий подходит15

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Llama3.1-8B-Titanium-Forge

Llama3.1-8B-Titanium-Forge is a robust, multi-disciplinary large language model (LLM) designed for a wide range of technical and creative applications. The model merges the most powerful elements from ShiningValiant2, Cobalt, Fireplace2, and Enigma, resulting in an exceptionally versatile system that excels in general-purpose reasoning, structured outputs, code generation, and immersive conversations.

This model's goal is to blend high-level technical knowledge, including advanced mathematics and programming, with rich conversational abilities and structured data outputs.


🛠️ Model Merge Details

This model was created using the model_stock merge method, balancing contributions from all source models across the full range of its layers. This ensures that Titanium Forge retains a well-rounded skillset, including technical expertise, mathematical prowess, conversational skills, and more.

base_model: ValiantLabs/Llama3.1-8B-ShiningValiant2
dtype: float32
merge_method: model_stock
slices:
  - sources:
    - layer_range: [0, 32]
      model: ValiantLabs/Llama3.1-8B-Cobalt
    - layer_range: [0, 32]
      model: ValiantLabs/Llama3.1-8B-Fireplace2
    - layer_range: [0, 32]
      model: ValiantLabs/Llama3.1-8B-Enigma
    - layer_range: [0, 32]
      model: ValiantLabs/Llama3.1-8B-ShiningValiant2
out_dtype: bfloat16


🔍 Key Features & Capabilities

1. Conversational Mastery:

Powered by Shining Valiant 2, the model is optimized for engaging, friendly conversations with a focus on insight and knowledge. It’s perfect for a wide range of conversational agents and interactive systems.

2. Mathematics & Structured Reasoning:

Thanks to Cobalt, this model excels in mathematical reasoning and structured problem-solving. Whether solving complex equations or breaking down logical problems, Titanium Forge is equipped for precision and clarity.

3. Enhanced Technical & Code Capabilities:

Incorporating Enigma, this model shines in code generation and technical instruction. It’s particularly adept at explaining programming concepts, generating high-quality code, and responding to technical queries.

4. Structured Output & Data Handling:

With the contributions of Fireplace2, this model can generate structured outputs like SQL queries, JSON objects, and even data visualizations. This makes it ideal for use cases where structured data handling is essential.


🚀 Use Cases

  • Technical Assistance: Provide advanced technical support and guidance in areas like software development, debugging, and hardware.
  • Educational Support: Assist students or professionals in learning complex subjects such as mathematics, science, and programming.
  • Conversational Agents: Deploy as an intelligent assistant that can engage users with deep, insightful discussions and helpful responses.
  • Data Science & Analysis: Use for generating structured outputs like SQL queries, JSON data, or even generating data visualizations for analysis tasks.
  • Creative Writing: Leverage its storytelling capabilities to create rich narratives and engage in roleplaying scenarios.

🌟 Source Models

A: ValiantLabs/Llama3.1-8B-ShiningValiant2

  • Optimized for general chat, technical support, and structured reasoning, Shining Valiant 2 adds personality, enthusiasm, and a strong grasp of scientific topics.

B: ValiantLabs/Llama3.1-8B-Cobalt

  • A math-instruct model built for advanced mathematical reasoning and structured problem-solving, perfect for technical tasks that require precision.

C: ValiantLabs/Llama3.1-8B-Fireplace2

  • Specializes in structured data outputs, including function calls, SQL queries, and JSON formatting, providing flexibility for technical and data-driven conversations.

D: ValiantLabs/Llama3.1-8B-Enigma

  • A code-instruct model designed for software development and technical explanations, Enigma adds depth to the model’s programming and coding capabilities.

📜 License

This model is open-sourced under the Apache-2.0 License, allowing free use, modification, and distribution with proper attribution.


Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
8275b30

0 моделей