Экспериментальный англоязычный чекпойнт TOLM на 31,1 млн параметров для заполнения пропусков в тексте и связанных языковых экспериментов.
15скачиваний за 30 дней0лайковвеса обновлены17 июл 2026
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
PRISM Frozen-state ablation — seed 43 — это сохранённый чекпойнт уже обученной модели TOLM, опубликованный miguelcsx как часть исследовательского турнира BabyLM. Репозиторий содержит ревизию chck_100M; новых обучений и оценок при выпуске этой версии не проводилось.
Модель с архитектурой TOLMForMaskedLM насчитывает 31,1 млн параметров и предназначена прежде всего для заполнения пропусков в англоязычном тексте. В метаданных также указана поддержка генерации текста. В README приведены результаты существующей оценки на BLiMP, Supp и EWoK; канонический код находится в miguelcsx/tolm, а для загрузки через Transformers требуется удалённый код модели.
Чекпойнт относится к экспериментальному исследовательскому турниру BabyLM. Лицензия указана как other, поэтому условия использования следует сверить с карточкой репозитория. README предупреждает, что перед загрузкой следует проверить tolm.py.
Сценарии применения
восстановление пропущенных слов в английском предложении
оценка грамматической приемлемости английских конструкций
исследование языковых моделей малого размера
сравнение чекпойнтов в задачах BabyLM
Ограничения
Это экспериментальный чекпойнт турнира BabyLM; при публикации новых обучений и оценок не проводилось. Для загрузки требуется удалённый код Transformers, который рекомендуется проверить перед использованием.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
This repository preserves an already-trained checkpoint from the controlled
BabyLM research tournament. No training or evaluation was run for this release.
Selected revision
main is identical to chck_100M, selected from the existing local tournament
record. Other revisions, when present, are archived checkpoints rather than new
experiments.
Existing evaluation record
Evaluation
Score
BLiMP
66.99
Supp
62.00
EWoK
48.36
ET
22.09
COMPS
51.49
GlobalPIQA
37.63
The canonical code is maintained at
miguelcsx/tolm. Remote code is required to
load this custom Transformers model; review tolm.py before use.
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
СпособСтатусЦена
GPU в ailist
Универсальный рантайм · transformers · fill-mask
Нельзя запустить
Модели нужен код из репозитория; автор пока не в списке доверенных организаций.