/ Модель

Характеристики

Контекст
2 048 токенов
Параметры
3,7 млн
Архитектура
gpt_neo · dense
Опубликована
12 сен 2023

TinyStories-1M-ds

Генерация текстаТекст → текст3 профессии

Компактная GPT-Neo-модель для генерации коротких текстов и простых историй, экспортированная для запуска через DeepSparse.

476скачиваний за 30 дней0лайковвеса обновлены29 дек 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

TinyStories-1M-ds — экспорт модели roneneldan/TinyStories-1M, подготовленный пользователем mgoin для запуска с помощью DeepSparse. Это компактная авторегрессионная модель генерации текста на архитектуре GPT-Neo с 3,7 млн параметров и контекстом до 2048 токенов.

Модель предназначена для генерации коротких продолжений и простых текстовых историй по заданному началу или промпту. Формат распространения ориентирован на экосистему Transformers, ONNX и DeepSparse, что подходит для экспериментов и ресурсоограниченных сценариев инференса.

Из-за небольшого размера модель удобна для локального запуска и обучения базовым принципам генерации текста, но её возможности и качество заметно ограничены по сравнению с крупными языковыми моделями. Языки обучения, лицензия и специализированные предметные области в доступных данных не указаны.

Сценарии применения

  • генерация коротких детских историй
  • продолжение текста по заданному началу
  • эксперименты с локальной генерацией текста
  • обучение работе с компактными языковыми моделями

Ограничения

Небольшой размер модели ограничивает качество, связность и разнообразие генерируемого текста. Языки обучения и лицензия в доступных данных не указаны.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

В репозитории нет весов в формате PyTorch/safetensors.

Класс архитектуры
GPTNeoForCausalLM
Ревизия весов
eba4f1f

0 моделей