/ Модель

Характеристики

Контекст
8 192 токена
Параметры
7,5 млрд
Размер весов
16,1 ГБ
Лицензия
Apache 2.0
Архитектура
llama · dense
Опубликована
20 июл 2024

Llama-3-Intermix

Генерация текстаТекст → текст8 профессий

Слияние моделей Llama 3 на 7,5 млрд параметров для диалогов и генерации текста с контекстом до 8192 токенов.

19скачиваний за 30 дней1лайквеса обновлены20 июл 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Llama-3-Intermix — разговорная модель генерации текста, созданная bunnycore путём слияния моделей семейства Llama 3 с помощью mergekit и метода model_stock. В состав слияния вошли PJMixers/LLaMa-3-CursedStock-v2.0-8B, Nitral-AI/Hathor_Stable-v0.2-L3-8B и WhiteRabbitNeo/Llama-3-WhiteRabbitNeo-8B-v2.0.

Модель на архитектуре LlamaForCausalLM содержит 7,5 млрд параметров, принимает текст и генерирует текст; контекст — до 8192 токенов. Карточка указывает формат safetensors и лицензию Apache-2.0. Модель предназначена для диалогов и других задач генерации текста; сведений о специальных доменах или отдельных языках в карточке нет.

Сценарии применения

  • ведение диалогов с пользователем
  • генерация ответов на текстовые запросы
  • составление и продолжение текста

Ограничения

В карточке не приведены результаты оценки качества или подробные сведения о поведении модели; языки, кроме указания на разговорное назначение, не перечислены.

Для каких профессий подходит8

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Llama-3-Intermix

Llama-3-Intermix is a merge of the following models using mergekit:

🧩 Configuration

models:
  - model: PJMixers/LLaMa-3-CursedStock-v2.0-8B
  - model: Nitral-AI/Hathor_Stable-v0.2-L3-8B
  - model: WhiteRabbitNeo/Llama-3-WhiteRabbitNeo-8B-v2.0
merge_method: model_stock
base_model: PJMixers/LLaMa-3-CursedStock-v2.0-8B
dtype: bfloat16

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
b3a0e65

0 моделей