Характеристики

Контекст: 8 192 токена
Параметры: 6,2 млрд
Размер весов: 13,4 ГБ
Лицензия: Apache 2.0
Архитектура: llama · dense
Опубликована: 9 мая 2024

Ссылки

Hugging Face

Meta-Llama-3-8b-Instruct-Healed

jan-hq

Генерация текстаТекст → текст5 профессий

Разговорная модель семейства Llama для генерации текста с контекстом до 8192 токенов.

14скачиваний за 30 дней0лайковвеса обновлены9 мая 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Meta-Llama-3-8b-Instruct-Healed — разговорная языковая модель семейства Llama, опубликованная Jan. Она предназначена для генерации текста в диалоге; запускать её можно в Jan Desktop на macOS, Windows и Linux. Модель использует плотную архитектуру LlamaForCausalLM, содержит 6,2 млрд параметров и поддерживает контекст до 8192 токенов. Для файлов репозитория указан формат safetensors, лицензия — Apache-2.0.

Карточка не описывает специальную предметную область или отдельные сильные стороны модели. Метаданные указывают английский язык; пригодность для других языков не подтверждена. Практические ограничения и подробности о дообучении в карточке не раскрыты.

Сценарии применения

генерация ответов в текстовом чате
ведение диалога с языковой моделью
создание и продолжение текстов на английском

Ограничения

Карточка не приводит результаты оценок качества или конкретные ограничения применения. Поддержка языков, кроме английского, не подтверждена.

Для каких профессий подходит5

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей II.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель I.7Универсальные способностиРечь, диалоги и встречиAI помогает понимать разговорную речь, поддерживать диалог и превращать встречи в структурированные результаты.17 задач26 923модели

Также подходит для

II.1Анализ требований и архитектура ПО

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Prompt template

Llama3

Run this model

You can run this model using Jan Desktop on Mac, Windows, or Linux.

Jan is an open source, ChatGPT alternative that is:

💻 100% offline on your machine: Your conversations remain confidential, and visible only to you.
🗂️ ** An Open File Format**: Conversations and model settings stay on your computer and can be exported or deleted at any time.
🌐 OpenAI Compatible: Local server on port 1337 with OpenAI compatible endpoints
🌍 Open Source & Free: We build in public; check out our Github

image/png

About Jan

Jan believes in the need for an open-source AI ecosystem and is building the infra and tooling to allow open-source AIs to compete on a level playing field with proprietary ones.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры: LlamaForCausalLM
Ревизия весов: 17800cd