Характеристики

Контекст: 2 048 токенов
Параметры: 1 млрд
Лицензия: Apache 2.0
Архитектура: llama · dense
Опубликована: 11 дек 2023

Ссылки

TinyLlama-1.1B-intermediate-step-1195k-token-2.5T

Генерация текстаТекст → текст3 профессии

Промежуточная компактная языковая модель TinyLlama на 1,1 млрд параметров для генерации английского текста и экспериментов при ограниченных вычислительных ресурсах.

635скачиваний за 30 дней54лайкавеса обновлены29 дек 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

TinyLlama-1.1B-intermediate-step-1195k-token-2.5T — промежуточный чекпойнт проекта TinyLlama, разработанного для предварительного обучения компактной языковой модели архитектуры Llama. Модель содержит около 1,1 млрд параметров, использует ту же архитектуру и токенизатор, что и Llama 2, и обучалась на 2,5 трлн токенов. Чекпойнт предназначен для генерации текста и экспериментов с компактными языковыми моделями; его небольшой размер снижает требования к памяти и вычислениям по сравнению с крупными моделями.

Модель принимает текст и генерирует текст, поддерживает английский язык, а её контекст составляет 2048 токенов. В метаданных указаны обучающие наборы SlimPajama-627B и StarCoderData; README приводит результаты оценки промежуточных чекпойнтов, но не этого шага, поэтому качество именно данной версии по приведённым данным оценить нельзя. Лицензия — Apache-2.0.

Сценарии применения

генерация продолжения английского текста
создание компактного прототипа текстового генератора
эксперименты с предварительно обученными моделями Llama
запуск генерации текста при ограниченной памяти

Ограничения

Контекст ограничен 2048 токенами. Приведённые в README результаты относятся к другим промежуточным чекпойнтам, поэтому качество именно этой версии по ним не устанавливается.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей II.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

TinyLlama-1.1B

https://github.com/jzhang38/TinyLlama

The TinyLlama project aims to pretrain a 1.1B Llama model on 3 trillion tokens. With some proper optimization, we can achieve this within a span of "just" 90 days using 16 A100-40G GPUs 🚀🚀. The training has started on 2023-09-01.

We adopted exactly the same architecture and tokenizer as Llama 2. This means TinyLlama can be plugged and played in many open-source projects built upon Llama. Besides, TinyLlama is compact with only 1.1B parameters. This compactness allows it to cater to a multitude of applications demanding a restricted computation and memory footprint.

This Collection

This collection contains all checkpoints after the 1T fix. Branch name indicates the step and number of tokens seen.

Eval

Model	Pretrain Tokens	HellaSwag	Obqa	WinoGrande	ARC_c	ARC_e	boolq	piqa	avg
Pythia-1.0B	300B	47.16	31.40	53.43	27.05	48.99	60.83	69.21	48.30
TinyLlama-1.1B-intermediate-step-50K-104b	103B	43.50	29.80	53.28	24.32	44.91	59.66	67.30	46.11
TinyLlama-1.1B-intermediate-step-240k-503b	503B	49.56	31.40	55.80	26.54	48.32	56.91	69.42	48.28
TinyLlama-1.1B-intermediate-step-480k-1007B	1007B	52.54	33.40	55.96	27.82	52.36	59.54	69.91	50.22
TinyLlama-1.1B-intermediate-step-715k-1.5T	1.5T	53.68	35.20	58.33	29.18	51.89	59.08	71.65	51.29
TinyLlama-1.1B-intermediate-step-955k-2T	2T	54.63	33.40	56.83	28.07	54.67	63.21	70.67	51.64
TinyLlama-1.1B-intermediate-step-1195k-token-2.5T	2.5T	58.96	34.40	58.72	31.91	56.78	63.21	73.07	53.86

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры: LlamaForCausalLM
Ревизия весов: 706bc28