Характеристики

Контекст: 4 096 токенов
Параметры: 68,7 млрд
Размер весов: 276 ГБ
Лицензия: Llama 2
Архитектура: llama · dense
Опубликована: 9 окт 2023

Ссылки

Llama2-70B-StellarBright

Генерация текстаТекст → текст3 профессии

Дообученная 70-миллиардная модель Llama 2 для экспериментов и дальнейшей настройки общих знаний, общения и технических навыков.

71скачиваний за 30 дней45лайковвеса обновлены15 мая 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Stellar Bright — дообученная на открытых данных языковая модель на архитектуре Llama 2, опубликованная sequelbox. Она предназначена прежде всего как улучшенная относительно исходной Llama 2 основа для дальнейшего дообучения: автор заявляет улучшения общих знаний, навыков общения и технических навыков. Модель содержит 68,7 млрд параметров, принимает текст и генерирует текст; контекст составляет 4096 токенов. В метаданных указан английский язык и лицензия llama2.

Карточка приводит результаты сравнительной оценки на ARC, HS, MMLU и TQA и рекомендует модель как базовую точку для новых экспериментов. Это устаревшая версия, которую автор предлагает главным образом для справки и предпочитает ей Llama 3 для общего применения. Автор не рекомендует напрямую развёртывать её как чат-модель и возлагает ответственность за результаты на пользователя.

Сценарии применения

дообучение языковой модели на собственных данных
эксперименты с улучшением общих знаний Llama 2
настройка модели для общения и технических задач
сравнение с базовой Llama 2 на тестах ARC и MMLU

Ограничения

Автор не рекомендует модель для прямого развёртывания в качестве чат-модели; она позиционируется как устаревшая и предназначенная главным образом для справки и дальнейшего дообучения. Контекст ограничен 4096 токенами.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

II.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Stellar Bright is a general capability upgrade to Llama 2, using open source data to improve overall knowledge, extended communication, and technical skill.

This model is primarily recommended as a superior-to-Llama-2 baseline for additional finetuning, not for direct deployment to production as a chat model. The user accepts full responsibility for all outputs.

This is a 'legacy model' offered primarily for reference purposes. I recommend Llama 3 over this model for general use.

Evaluation

Model	Avg	ARC	HS	MMLU	TQA
Stellar Bright	74.10	72.95	87.82	71.17	64.46
Llama 2	67.35	67.32	87.33	69.83	44.92
Llama 2 Chat	66.80	64.59	85.88	63.91	52.80

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

vLLM

Можно запустить

Подбираем GPU…

Класс архитектуры: LlamaForCausalLM
Ревизия весов: 83c6550