https://huggingface.co/roneneldan/TinyStories-1M exported for DeepSparse
Характеристики
- Контекст
- 2 048 токенов
- Параметры
- 3,7 млн
- Архитектура
- gpt_neo · dense
- Опубликована
- 12 сен 2023
Ссылки
TinyStories-1M-ds
Компактная GPT-Neo-модель для генерации коротких текстов и простых историй, экспортированная для запуска через DeepSparse.
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
TinyStories-1M-ds — экспорт модели roneneldan/TinyStories-1M, подготовленный пользователем mgoin для запуска с помощью DeepSparse. Это компактная авторегрессионная модель генерации текста на архитектуре GPT-Neo с 3,7 млн параметров и контекстом до 2048 токенов.
Модель предназначена для генерации коротких продолжений и простых текстовых историй по заданному началу или промпту. Формат распространения ориентирован на экосистему Transformers, ONNX и DeepSparse, что подходит для экспериментов и ресурсоограниченных сценариев инференса.
Из-за небольшого размера модель удобна для локального запуска и обучения базовым принципам генерации текста, но её возможности и качество заметно ограничены по сравнению с крупными языковыми моделями. Языки обучения, лицензия и специализированные предметные области в доступных данных не указаны.
Сценарии применения
- генерация коротких детских историй
- продолжение текста по заданному началу
- эксперименты с локальной генерацией текста
- обучение работе с компактными языковыми моделями
Ограничения
Небольшой размер модели ограничивает качество, связность и разнообразие генерируемого текста. Языки обучения и лицензия в доступных данных не указаны.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
В репозитории нет весов в формате PyTorch/safetensors.
- Класс архитектуры
- GPTNeoForCausalLM
- Ревизия весов
- eba4f1f