/ Модель

Характеристики

Контекст
8 192 токена
Параметры
7,5 млрд
Размер весов
16,1 ГБ
Лицензия
Своя лицензия
Архитектура
llama · dense
Библиотека
transformers
Опубликована
26 апр 2024

Llama-3-Orca-2.0-8B

Генерация текстаТекст → текст15 профессий

Разговорная модель на базе Llama 3 с 7,5 млрд параметров для генерации текста, письма, программирования и математических задач.

46скачиваний за 30 дней5лайковвеса обновлены12 мая 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Locutusque/Llama-3-Orca-2.0-8B — разговорная языковая модель, дообученная Locutusque на базе Meta Llama 3 8B преимущественно на SlimOrca и дополнительных данных. Модель использует плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и рассчитана на контекст до 8192 токенов. Для диалога применяется шаблон ChatML.

Модель предназначена для генерации текста в диалогах, а также для задач письма, программирования и математики. В карточке заявлены сильные результаты в написании текстов и коде; количественные оценки качества не приведены. Репозиторий содержит веса в формате Safetensors. Указана лицензия Llama 3; применяются условия лицензии Meta Llama 3.

Сценарии применения

  • ведение диалогов с пользователем
  • подготовка и редактирование текстов
  • генерация и объяснение кода
  • решение математических задач

Ограничения

В карточке не приведены количественные оценки качества, а сведения об источниках данных, кроме SlimOrca и упоминания дополнительных наборов, ограничены. Языки описаны неопределённо, поэтому список поддерживаемых языков не установлен.

Для каких профессий подходит15

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Llama-3-Orca-2.0-8B

image/png

Model Details

Model Description

I fine-tuned llama-3 8B on mainly SlimOrca, along with other datasets to improve performance in math, coding, and writing. More data source information to come.

This language model follows the ChatML prompt template

Quants

GGUF: https://huggingface.co/bartowski/Llama-3-Orca-2.0-8B-GGUF

ExLlamaV2: https://huggingface.co/bartowski/Llama-3-Orca-2.0-8B-exl2

Uses

This model has great performance in writing and coding.

Direct Use

Conversational AI.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
ec02fa2

0 моделей