Англоязычный исследовательский чекпойнт TOLM на 49,1 млн параметров для заполнения пропусков и экспериментов с языковой моделью.
17скачиваний за 30 дней0лайковвеса обновлены17 июл 2026
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
Это сохранённый обученный чекпойнт семейства TOLM, опубликованный Miguelcsx по итогам исследовательского турнира BabyLM. Репозиторий описывает его как Structured Direct-Sum randomized-prior control; версия main совпадает с выбранным чекпойнтом chck_100M. Параметры модели — 49,1 млн, архитектура плотная, класс Transformers — TOLMForMaskedLM.
Модель предназначена для предсказания замаскированных токенов; каталог также указывает генерацию текста как поддерживаемую задачу. В карточке приведены результаты существующей оценки на BLiMP, Supp и EWoK, но для этого выпуска новые обучение и оценивание не проводились. Модель рассчитана на английский язык. Для загрузки требуется удалённый код из проекта miguelcsx/tolm; перед использованием следует проверить tolm.py. Лицензия обозначена как other, конкретные условия в предоставленных данных не раскрыты.
Сценарии применения
предсказание пропущенного слова в английском тексте
оценка грамматической приемлемости английских предложений
исследовательские эксперименты на бенчмарках BabyLM
изучение влияния randomized-prior control на языковую модель
Ограничения
Новые обучение и оценивание для этого выпуска не проводились; приведены только ранее существовавшие результаты турнира. Для загрузки требуется удалённый код, а конкретные условия лицензии в предоставленных данных не раскрыты.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
This repository preserves an already-trained checkpoint from the controlled
BabyLM research tournament. No training or evaluation was run for this release.
Selected revision
main is identical to chck_100M, selected from the existing local tournament
record. Other revisions, when present, are archived checkpoints rather than new
experiments.
Existing evaluation record
Evaluation
Score
BLiMP
66.02
Supp
59.60
EWoK
49.64
ET
20.75
COMPS
52.47
GlobalPIQA
37.62
The canonical code is maintained at
miguelcsx/tolm. Remote code is required to
load this custom Transformers model; review tolm.py before use.
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
СпособСтатусЦена
GPU в ailist
Универсальный рантайм · transformers · fill-mask
Нельзя запустить
Модели нужен код из репозитория; автор пока не в списке доверенных организаций.