Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
burtenshaw/nanochat — модель семейства nanochat, подготовленная в формате Transformers на основе базового чекпойнта karpathy/nanochat-d34. Разработчик сохранил исходные значения тензоров и типы данных; модель содержит 2,7 млрд параметров и использует плотную архитектуру NanoChatForCausalLM.
Модель предназначена для генерации текста. Это предварительно обученная базовая модель: шаблон чата задаёт формат диалога, но сама модель не проходила дообучение для следования инструкциям. Контекст составляет 2048 токенов. Репозиторий распространяется по лицензии MIT.
Сценарии применения
эксперименты с генерацией текста на базе nanochat
исследование поведения предварительно обученных языковых моделей
запуск модели nanochat в экосистеме Transformers
Ограничения
Модель не дообучена для следования инструкциям, поэтому шаблон чата обеспечивает только форматирование диалога. Контекст ограничен 2048 токенами.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
Transformers conversion of Andrej Karpathy's nanochat-d34 base checkpoint. Original tensor values and dtypes are preserved. This is a pretrained base model; the chat template supplies formatting, not instruction tuning.
See conversion.json for source revisions and numerical checks.
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров