/ Модель
Каталог

Характеристики

Контекст
512 токенов
Лицензия
MIT
Архитектура
nanogpt_la · dense
Опубликована
16 сен 2024

Ссылки

Hugging Face

nanoGPTLookAhead

hrezaei
Генерация текстаТекст → текст3 профессии

Экспериментальная модель nanoGPTLA для генерации текста в интерактивных текстовых играх с применением lookahead.

167скачиваний за 30 дней0лайковвеса обновлены1 июл 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

hrezaei/nanoGPTLookAhead — модель семейства nanoGPTLA, представленная в исследовательской работе «Interactive Text Games: Lookahead Is All You Need!». Она реализована в модифицированной версии nanoGPT и предназначена для генерации текста в интерактивных текстовых играх с применением lookahead. В статье также описаны варианты nanoGPTLAA, nanoGPTLAA2 и nanoGPTLAE, а также реализации на основе T5; карточка относит эту модель к плотной архитектуре nanogpt_la.

Модель имеет масштаб GPT-2, около 100 млн параметров, и распространяется в формате safetensors. В README не приведены поддерживаемые языки и длина контекста. Лицензия — MIT.

Сценарии применения

  • генерация продолжений текста в интерактивных текстовых играх
  • создание ответов и игровых событий с учётом lookahead
  • эксперименты с языковыми моделями для текстовых игр

Ограничения

Модель описана как часть исследовательской работы; обучение моделей большего масштаба указано как незавершённое направление. Поддерживаемые языки и длина контекста в доступных данных не приведены.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии
IV.9Отраслевые задачиМедиа, журналистика, культура, архивы и игрыAI помогает создавать, искать, сохранять и персонализировать медиа, культурный и игровой контент.44 задачи14 938моделейII.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделейIV.5Отраслевые задачиОбразование и развитие навыковAI помогает персонализировать обучение и снижать административную нагрузку на преподавателей.34 задачи6 641модель

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

This model is part of the work published in the paper Interactive Text Games: Lookahead Is All You Need!

Four models are introduced in the above paper:

These models are implemented in this repository which is a customized version of nanoGPT.

The same variations are also implemented in this fork of Transformers library, on top of Google-t5/T5 implementation. These models are also trained and published as follows:

All the above models are on the scale of GPT2 (~100M parameters). The work is in progress to train them on larger scales.

This model has been pushed to the Hub using the PytorchModelHubMixin integration:

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

Модели нужен код из репозитория; автор пока не в списке доверенных организаций.

Ревизия весов
d218a26

0 моделей

    Создать бенчмарк