/ Модель

Характеристики

Контекст
131 072 токена
Параметры
7,5 млрд
Размер весов
16,1 ГБ
Лицензия
Apache 2.0
Архитектура
llama · dense
Опубликована
27 дек 2024

Meta-Llama-3.1-8B-Instruct-OpenOrca-v2

Генерация текстаТекст → текст13 профессий

Дообученная на диалогах и инструкциях англоязычная модель Llama для генерации текста, ответов ассистента и суммаризации.

19скачиваний за 30 дней0лайковвеса обновлены28 дек 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Sowmen123 разработал эту плотную авторегрессионную модель семейства Llama, дообучив Meta-Llama-3.1-8B-Instruct на задачи следования инструкциям и диалогового общения. Репозиторий содержит веса PyTorch; модель насчитывает 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. Для ускорения обучения использовались Unsloth и библиотека Hugging Face TRL.

Модель предназначена для генерации текста: она подходит для диалогового ассистента, ответов на инструкции, создания текстов и суммаризации. В карточке заявлен английский язык; доступны чатовый интерфейс и интерфейс вызова инструментов. Модель распространяется по лицензии Apache-2.0.

Сценарии применения

  • ответы на вопросы и инструкции на английском языке
  • ведение диалогов с виртуальным ассистентом
  • создание и продолжение текстов
  • суммаризация текстовых материалов
  • подключение вызова инструментов в чат-интерфейсе

Ограничения

Карточка не приводит оценки качества или подробные ограничения; заявлен английский язык, поэтому качество для других языков не установлено.

Для каких профессий подходит13

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Meta-Llama-3.1-8B-Instruct-OpenOrca-v1

  • Developed by: Sowmen123
  • License: Apache-2.0
  • Finetuned From: Llama 3.1 8B Instruct

This Meta-Llama-3.1-8B model has been fine-tuned for instruction-following and conversational tasks. It was trained 2x faster using Unsloth and Hugging Face's TRL library, ensuring high performance and efficiency for text generation tasks.

Key Features:

  • Base Model: Meta-Llama-3.1, 8 billion parameters.
  • Optimizations:
    • Accelerated training with Unsloth.
    • Fine-tuned using Hugging Face's TRL library.
  • Applications: Ideal for conversational AI, instruction-following tasks, creative content generation, and summarization.
  • Language: English.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
a01e463

0 моделей