Исследовательский чекпойнт TOLM на 49,1 млн параметров для заполнения пропусков и работы с синтаксическими закономерностями английского языка.
14скачиваний за 30 дней0лайковвеса обновлены17 июл 2026
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
TOLM Structured Direct-Sum syntax prior — уже обученный чекпойнт, опубликованный miguelcsx из контролируемого исследовательского турнира BabyLM. Репозиторий сохраняет выбранную версию chck_100M; других новых экспериментов в этом выпуске нет.
Модель на архитектуре TOLM с классом TOLMForMaskedLM содержит 49,1 млн параметров и предназначена для заполнения пропусков в тексте и изучения синтаксических закономерностей английского языка. В метаданных также указана поддержка генерации текста. Для загрузки пользовательской архитектуры в Transformers требуется удалённый код; README рекомендует предварительно проверить tolm.py. Лицензия обозначена как other.
В карточке приведены существующие результаты BLiMP 65,30, Supp 57,60 и EWoK 49,09; для этой публикации обучение и оценивание не проводились. Это исследовательский чекпойнт из турнира BabyLM, поэтому приведённые оценки относятся к существующей записи турнира, а не к новому запуску.
Сценарии применения
заполнение пропусков в английских предложениях
изучение синтаксических закономерностей английского языка
оценка грамматической приемлемости предложений в BLiMP
исследования языковых моделей малого размера на материалах BabyLM
Ограничения
README сообщает, что для этой публикации обучение и оценивание не проводились; приведены только результаты существующей записи турнира. Для загрузки требуется удалённый код пользовательской архитектуры Transformers, который следует проверить перед использованием.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
This repository preserves an already-trained checkpoint from the controlled
BabyLM research tournament. No training or evaluation was run for this release.
Selected revision
main is identical to chck_100M, selected from the existing local tournament
record. Other revisions, when present, are archived checkpoints rather than new
experiments.
Existing evaluation record
Evaluation
Score
BLiMP
65.30
Supp
57.60
EWoK
49.09
ET
19.63
COMPS
51.87
GlobalPIQA
37.13
The canonical code is maintained at
miguelcsx/tolm. Remote code is required to
load this custom Transformers model; review tolm.py before use.
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
СпособСтатусЦена
GPU в ailist
Универсальный рантайм · transformers · fill-mask
Нельзя запустить
Модели нужен код из репозитория; автор пока не в списке доверенных организаций.