II.10Разработка и эксплуатация AI/ML-систем
В разделе собраны самостоятельные задачи, где AI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
49 000 моделейVQ-BeT/PushT — политика управления роботом, разработанная в проекте LeRobot и обученная для среды PushT из gym-pusht. Модель использует RGB-энкодер и компоненты VQ-BeT для генерации поведения через латентные действия; в карточке указаны 11,2 млн параметров RGB-энкодера и 26,3 млн параметров остальных компонентов VQ-BeT. Модель предназначена для управления объектом в среде PushT и оценивалась на 500 эпизодах по максимальному перекрытию объекта с целевой областью и доле успешных эпизодов. Среднее максимальное перекрытие составило 0,895, успешность — 63,8%. Для загрузки и оценки предлагается использовать библиотеку LeRobot. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0.
Карточка модели mdagosta/waldito-python-basics-v1-r0008-u2-mdagosta на Hugging Face совпадает с карточкой mdagosta/waldito-smoke-v1-r0000-all-mdagosta-b, поэтому описание составлено по ней. mdagosta/waldito-smoke-v1-r0000-all-mdagosta-b — небольшая языковая модель, опубликованная как экспорт OpenWALDO. Она использует архитектуру LlamaForCausalLM и предназначена для генерации текста в диалоговом формате; размер составляет 819,6 тыс. параметров, контекст — 512 токенов. Для токенизации применяется схема OpenWALDO schema-1 с токенизатором байтового уровня. Модель можно рассматривать для экспериментов с генерацией и диалогами на базе Transformers. Карточка указывает формат safetensors. Для загрузки токенизатора требуется включить trust_remote_code=True. Лицензия и поддерживаемые естественные языки в предоставленных данных не обозначены.
Карточка модели mdagosta/waldito-python-basics-v1-r0008-u2-mdagosta-b на Hugging Face совпадает с карточкой mdagosta/waldito-smoke-v1-r0000-all-mdagosta-b, поэтому описание составлено по ней. mdagosta/waldito-smoke-v1-r0000-all-mdagosta-b — небольшая языковая модель, опубликованная как экспорт OpenWALDO. Она использует архитектуру LlamaForCausalLM и предназначена для генерации текста в диалоговом формате; размер составляет 819,6 тыс. параметров, контекст — 512 токенов. Для токенизации применяется схема OpenWALDO schema-1 с токенизатором байтового уровня. Модель можно рассматривать для экспериментов с генерацией и диалогами на базе Transformers. Карточка указывает формат safetensors. Для загрузки токенизатора требуется включить trust_remote_code=True. Лицензия и поддерживаемые естественные языки в предоставленных данных не обозначены.
Карточка модели mdagosta/waldito-python-basics-v1-r0013-u0-mdagosta на Hugging Face совпадает с карточкой mdagosta/waldito-smoke-v1-r0000-all-mdagosta-b, поэтому описание составлено по ней. mdagosta/waldito-smoke-v1-r0000-all-mdagosta-b — небольшая языковая модель, опубликованная как экспорт OpenWALDO. Она использует архитектуру LlamaForCausalLM и предназначена для генерации текста в диалоговом формате; размер составляет 819,6 тыс. параметров, контекст — 512 токенов. Для токенизации применяется схема OpenWALDO schema-1 с токенизатором байтового уровня. Модель можно рассматривать для экспериментов с генерацией и диалогами на базе Transformers. Карточка указывает формат safetensors. Для загрузки токенизатора требуется включить trust_remote_code=True. Лицензия и поддерживаемые естественные языки в предоставленных данных не обозначены.
Карточка модели mdagosta/waldito-python-basics-v1-r0013-u0-mdagosta-b на Hugging Face совпадает с карточкой mdagosta/waldito-smoke-v1-r0000-all-mdagosta-b, поэтому описание составлено по ней. mdagosta/waldito-smoke-v1-r0000-all-mdagosta-b — небольшая языковая модель, опубликованная как экспорт OpenWALDO. Она использует архитектуру LlamaForCausalLM и предназначена для генерации текста в диалоговом формате; размер составляет 819,6 тыс. параметров, контекст — 512 токенов. Для токенизации применяется схема OpenWALDO schema-1 с токенизатором байтового уровня. Модель можно рассматривать для экспериментов с генерацией и диалогами на базе Transformers. Карточка указывает формат safetensors. Для загрузки токенизатора требуется включить trust_remote_code=True. Лицензия и поддерживаемые естественные языки в предоставленных данных не обозначены.
Карточка модели mdagosta/waldito-python-basics-v1-r0013-u2-mdagosta на Hugging Face совпадает с карточкой mdagosta/waldito-smoke-v1-r0000-all-mdagosta-b, поэтому описание составлено по ней. mdagosta/waldito-smoke-v1-r0000-all-mdagosta-b — небольшая языковая модель, опубликованная как экспорт OpenWALDO. Она использует архитектуру LlamaForCausalLM и предназначена для генерации текста в диалоговом формате; размер составляет 819,6 тыс. параметров, контекст — 512 токенов. Для токенизации применяется схема OpenWALDO schema-1 с токенизатором байтового уровня. Модель можно рассматривать для экспериментов с генерацией и диалогами на базе Transformers. Карточка указывает формат safetensors. Для загрузки токенизатора требуется включить trust_remote_code=True. Лицензия и поддерживаемые естественные языки в предоставленных данных не обозначены.
mdagosta/waldito-smoke-v1-r0000-all-mdagosta-b — небольшая языковая модель, опубликованная как экспорт OpenWALDO. Она использует архитектуру LlamaForCausalLM и предназначена для генерации текста в диалоговом формате; размер составляет 819,6 тыс. параметров, контекст — 512 токенов. Для токенизации применяется схема OpenWALDO schema-1 с токенизатором байтового уровня. Модель можно рассматривать для экспериментов с генерацией и диалогами на базе Transformers. Карточка указывает формат safetensors. Для загрузки токенизатора требуется включить trust_remote_code=True. Лицензия и поддерживаемые естественные языки в предоставленных данных не обозначены.
Карточка модели mdagosta/waldito-smoke-v1-r0001-merge на Hugging Face совпадает с карточкой mdagosta/waldito-smoke-v1-r0000-all-mdagosta-b, поэтому описание составлено по ней. mdagosta/waldito-smoke-v1-r0000-all-mdagosta-b — небольшая языковая модель, опубликованная как экспорт OpenWALDO. Она использует архитектуру LlamaForCausalLM и предназначена для генерации текста в диалоговом формате; размер составляет 819,6 тыс. параметров, контекст — 512 токенов. Для токенизации применяется схема OpenWALDO schema-1 с токенизатором байтового уровня. Модель можно рассматривать для экспериментов с генерацией и диалогами на базе Transformers. Карточка указывает формат safetensors. Для загрузки токенизатора требуется включить trust_remote_code=True. Лицензия и поддерживаемые естественные языки в предоставленных данных не обозначены.
Карточка модели mdagosta/waldito-smoke-v1-r0002-u1-mdagosta на Hugging Face совпадает с карточкой mdagosta/waldito-smoke-v1-r0000-all-mdagosta-b, поэтому описание составлено по ней. mdagosta/waldito-smoke-v1-r0000-all-mdagosta-b — небольшая языковая модель, опубликованная как экспорт OpenWALDO. Она использует архитектуру LlamaForCausalLM и предназначена для генерации текста в диалоговом формате; размер составляет 819,6 тыс. параметров, контекст — 512 токенов. Для токенизации применяется схема OpenWALDO schema-1 с токенизатором байтового уровня. Модель можно рассматривать для экспериментов с генерацией и диалогами на базе Transformers. Карточка указывает формат safetensors. Для загрузки токенизатора требуется включить trust_remote_code=True. Лицензия и поддерживаемые естественные языки в предоставленных данных не обозначены.
Это обученный агент Soft Actor-Critic (SAC) для среды Walker2d-v5. Модель опубликована Farama Minari и создана с использованием библиотеки Stable-Baselines3; веса представлены в формате PyTorch. Агент предназначен для управления двуногим симуляционным роботом Walker2d в среде подкрепляющего обучения. Его можно использовать для запуска эпизодов в этой среде и экспериментов с обучением и оценкой политик управления. Карточка не сообщает подробности обучения, показатели качества или условия лицензии.
neureps/warmly-nmt-small100-enko — Warmly(온기) командасы әзірлеген, SMaLL-100 негізінде ағылшын тіліндегі пікірлерді корей тіліне аударуға бейімделген модель. Ол сезімдік реңкі бар пікірлерді EN→KO аудару сценарийіне арналған; модель 330 млн параметрлі M2M-100 архитектурасына негізделген және 883 жұп дерекпен Qwen3.5-2B мұғалім моделінің аудармалары арқылы дообучен. Контекст ұзындығы — 1024 токен, модель Transformers және safetensors форматында ұсынылған. Пилоттық нұсқа сапа қақпасынан өтпеген және қабылданбаған, сондықтан ол зерттеу мен салыстыру үшін сақталған. README мазмұнның берілуі сәтті болғанын, алайда 20 мысалдың 5–6-сында мағыналық қате және эмодзилердің жоғалуы байқалғанын айтады; деректер жиынының шағындығы мен мұғалім аудармаларындағы қателер негізгі себеп ретінде көрсетілген. Лицензиясы — MIT.
Xiaomi-Robotics-1-VLABench — контрольная точка Xiaomi-Robotics-1 для оценки в симуляторе VLABench. Модель относится к семейству MiBoT и использует плотную архитектуру MiBoTForActionGeneration; репозиторий содержит веса в формате safetensors, код модели и процессора для Transformers, файлы токенизатора и статистику нормализации действий. Для загрузки требуются пользовательский код модели и процессора, а для воспроизводимой оценки — отдельное окружение VLABench и симулятор MuJoCo. Модель предназначена для генерации действий робота в задачах VLABench. В карточке приведены результаты оценки: общая успешность 59,1%, оценка намерения 69,9% и прогресс 70,3%; показатели заметно различаются между треками. Репозиторий выпущен под лицензией Apache-2.0. README не сообщает размер модели, длину контекста или поддерживаемые языки.
XMag — энкодер изображений патологии, разработанный командой AI4PATH. Это студенческая модель DINOv2 ViT-B/14, обученная дистилляцией признаков от замороженной высокомагнификационной модели UNIv2 для представления тканей при низком увеличении. На вход подаётся RGB-фрагмент патологии размером 224 × 224, снятый при увеличении 5× или с разрешением 2 мкм на пиксель. Модель возвращает CLS-эмбеддинг и эмбеддинги патчей. XMag предназначена для извлечения признаков из гистопатологических изображений и последующего анализа тканей. При обучении студент учился согласовывать глобальные и локальные признаки с представлениями учителя, полученными из соответствующей области при увеличении 896 × 896. Веса проекционных голов, использовавшихся при дистилляции, в этой публикации отсутствуют. Перед вызовом модели изображения нужно самостоятельно преобразовать в тензоры RGB и нормализовать по среднему и стандартному отклонению ImageNet: встроенной предобработки нет. Для загрузки архитектуры DINOv2 может потребоваться доступ к интернету или заранее сохранённый код torch.hub. Лицензия и сведения о контексте текста неприменимы либо не приведены в использованных данных.
keremberke/yolov8m-pcb-defect-segmentation — модель компьютерного зрения на базе YOLOv8m, опубликованная Keremberke и предназначенная для сегментации дефектов печатных плат. Она принимает изображения и выделяет масками четыре класса: холодная пайка, неправильная установка компонентов, повреждение платы и короткое замыкание. Модель подходит для автоматизированного контроля качества плат по снимкам; для запуска используется библиотека Ultralytics. В репозитории указан формат PyTorch. Карточка не сообщает размер модели, разрешение входных изображений или лицензию, поэтому эти характеристики здесь не уточняются. Качество распознавания может зависеть от условий съёмки и сходства новых изображений с обучающими данными.
Zupra-1.6-50M-Instruct-Ultra-exp — экспериментальная инструктивно дообученная языковая модель от MultivexAI / LogicvexAI, созданная на базе SupraLabs/Supra-1.5-50M-Base-exp. Это плотная причинная модель архитектуры LlamaForCausalLM с 51,8 млн параметров, контекстом до 5120 токенов и весами в формате safetensors; модель поддерживает диалог по шаблону ChatML и ориентирована на английский язык. Модель предназначена для исследовательских экспериментов, лёгкого прототипирования диалоговых помощников и тестирования генерации текста на устройствах с ограниченными ресурсами. Авторы заявляют, что дообучение на диалоговых данных нацелено на более связные ответы, соблюдение очередности реплик и улучшение фактических рассуждений, однако это экспериментальные цели, а не гарантия качества. При малом размере модель склонна к выдуманным или неточным фактам, предвзятым и оскорбительным ответам; она слабо справляется со сложной математикой и надёжной генерацией кода. Авторы не рекомендуют применять её в производственных, коммерческих, клинических, юридических или критически важных сценариях. Лицензия — Apache-2.0.
1pp-0.5b-ua-base — экспериментальная базовая языковая модель из проекта One Persona Pretraining, связанного с EPFL DLAB. Это плотная авторегрессионная модель семейства Llama с 523,8 млн параметров по метаданным и длиной контекста 4096 токенов. Архитектура включает 24 слоя, скрытый размер 1152 и словарь SmolLM2 на 49 152 токена. Модель обучена на переписанных в диалоги документах, причём функция потерь применялась и к пользовательским, и к ассистентским репликам. Она предназначена для исследований влияния условий предобучения на диалоговое поведение и генерацию текста; карточка прямо предупреждает, что это не универсальный ассистент. Формат диалога ChatML не включает системный ход, и модель при обучении его не видела. Поддерживается генерация текста на английском языке. Веса опубликованы в формате safetensors, библиотека — Transformers. Лицензия — Apache-2.0.
ActQuant-Pi05-LIBERO-4bpw — квантованный вариант VLA-модели π₀.₅, подготовленный командой NU-World-Model-Embodied-AI на основе lerobot/pi05_libero_finetuned_v044. Модель предназначена для управления роботом по визуальным наблюдениям и языковым инструкциям в задачах LIBERO. Модель распространяется в формате GGUF. Веса языковой части имеют базовую точность Q3_K_M с выборочными повышениями точности, зрительная часть использует Q4_K, а эксперт действий сохранён в fp16. По данным карточки, в оценке на четырёх наборах LIBERO суммарная успешность составила 96,6% на 2 000 испытаниях; указанные результаты относятся к конкретному C++/GGML runtime и протоколу оценки. Лицензия — MIT. Модель специализирована на сценариях LIBERO; карточка не подтверждает аналогичное качество на других средах или реальных роботах.
Репозиторий khanhnd61 содержит версии модели ACT в формате GGUF для инференса на CPU через vla.simd. Файлы представляют несколько вариантов модели для управления роботом SO-101; README указывает многозадачный вариант и варианты для отдельных сценариев, включая перенос ленты в коробку и чашки в коробку. Модель предназначена для роботизированных rollout-сценариев с клиентом LeRobot и подключёнными к манипулятору камерами. Модель получена слиянием указанных в метаданных чекпойнтов ACT, а файлы подготовлены для работы в GGUF. Для запуска нужны vla.simd с дополнительным компонентом serve и роботизированная система с манипулятором и камерами. Репозиторий распространяется по лицензии Apache-2.0. Данных о поддерживаемых языках и числовой длине контекста в предоставленных источниках нет.
Banaxi-Tech AdamW Model Test — экспериментальная причинно-языковая модель семейства BananaMind 2 Nano, разработанная Banaxi-Tech и обученная с нуля с оптимизатором AdamW на данных FineWeb-Edu. Модель содержит около 10 млн параметров, имеет 10 слоёв и скрытый размер 256; для работы используется Transformers и пользовательский код архитектуры BananaMind 2 Nano. Модель предназначена для генерации текста и продолжения последовательностей. В обучении использовано около 25 млрд токенов FineWeb-Edu с пользовательским токенизатором; заявленное контекстное окно — 4096 токенов. Карточка указывает английский язык. Лицензия — Apache-2.0. Это небольшой экспериментальный чекпойнт, поэтому его возможности и качество генерации ограничены по сравнению с крупными языковыми моделями. Для загрузки требуется доверить пользовательскому коду репозитория параметром trust_remote_code=True.
Aether-6B-11Attn-base — базовая языковая модель от VIDRAFT без инструкционного дообучения. Это экспериментальная MoE-архитектура для продолжения текста и исследований гибридных механизмов обработки последовательностей. В сети 121 слой и 11 типов механизмов внимания, линейной обработки, свёрток и моделей пространства состояний, распределённых по слоям в виде латинского квадрата. В карточке указано 5,79 млрд параметров, тогда как метаданные Hugging Face указывают 663,1 млн; размер параметров в источниках расходится. Контекст — 8192 токена; модель загружается через Transformers с пользовательским кодом и весами Safetensors. Репозиторий содержит промежуточный чекпойнт шага 174 000: предобучение ещё продолжается, а инструкционная версия заявлена отдельно. Модель предназначена прежде всего для экспериментов с архитектурой и продолжения текста, а не для готового диалогового ассистента. Для неё приводятся результаты perplexity на примерах английского и корейского текста, но они не заменяют независимую оценку качества. Лицензия — Apache-2.0. Обучающий код, рецепт данных, логи и промежуточные чекпойнты не опубликованы; для загрузки требуется trust_remote_code=True.
Карточка модели pandora-box/Affine-5eqdtdzqle-ko8dsnxa на Hugging Face совпадает с карточкой bluecolor777/megaextra-ep4-ultralolr-merged, поэтому описание составлено по ней. Это экспериментальный текстовый генератор на архитектуре Qwen3.5 MoE, опубликованный bluecolor777. Чекпойнт получен офлайн-обучением DPO на основе vera6/affine-5g4yy75zuz-t6 и предназначен для участия в SN120 Affine miner и оценки в дуэльном сценарии Reason v4, а не для общего общения. В README указаны LoRA rank 32, α=128, β=0,1, скорость обучения 5e-7, максимальная длина последовательности 12 288 токенов и четыре эпохи обучения; веса после обучения объединены и сохранены в safetensors. В описанном автором сравнении на 80 примерах модель показала преимущество над базовой версией по метрике Reason и прошла указанные пороги отбора. Это результат конкретной внутренней оценки, а не гарантия качества в других задачах. Модель принимает текст и генерирует текст; сведения о поддерживаемых естественных языках в карточке не приведены. Лицензия — Apache-2.0.
JanSt/albert-base-v2_mbti-classification — модель классификации текста на основе ALBERT, предназначенная для отнесения текста к категориям MBTI. Она содержит 136,3 млн параметров, использует архитектуру AlbertForSequenceClassification и рассчитана на контекст до 512 токенов. Модель принимает текст и выдаёт метку класса. В карточке указаны английский язык, библиотека Transformers и лицензия MIT. Подойдёт для экспериментальной классификации англоязычных текстов по типам MBTI; качество и ограничения классификатора в карточке не описаны.
Alpha Chat — небольшая разговорная модель, созданная ajaxdavis с нуля и затем дообученная на диалоговых данных. Экспортирована в формате LlamaForCausalLM и работает через Transformers без пользовательского кода. Модель содержит 57,7 млн параметров, использует плотную архитектуру Llama из 16 слоёв и принимает контекст до 512 токенов. Модель предназначена для коротких текстовых диалогов и экспериментов с разговорными моделями. В проверочных примерах она поддерживает простое чередование реплик и краткие ответы, однако качество инструкций и рассуждений слабое. Лицензия — Apache-2.0.
AppleMind-AI выпустила AppleMind-1.0-Mini-GGUF — GGUF-версию компактной авторегрессионной языковой модели AppleMind 1.0 Mini на архитектуре decoder-only Transformer. В исходной модели около 1,02 млн параметров, четыре слоя, контекстное окно 256 токенов и байтовый BPE-токенизатор на основе GPT-2 с обработкой цифр по отдельности. Репозиторий содержит варианты GGUF в форматах BF16, F16 и F32. Модель предназначена для генерации текста и простых диалогов на английском языке, а также для экспериментов с очень компактными языковыми моделями. Она обучена с нуля на смеси FineWeb-Edu, FineWeb-HQ и SmolLM-Corpus, однако этот репозиторий является производной GGUF-версией базовой модели AppleMind-1.0-Mini. Качество генерации ограничено малым размером модели и коротким контекстом: в карточке приведены примеры несвязного текста, а формальной оценки по бенчмаркам пока нет. Лицензия — Apache-2.0.
Это причинная языковая модель ypwhere, опубликованная для исследования «What Does Input-Dependent Depth Routing Buy in Data-Limited Language Modeling?» в рамках BabyLM 2026. Модель обучена на официальном обучающем наборе BabyLM объёмом 10 млн слов; это базовый языковой чекпойнт, а не модель для диалога с инструкциями. Архитектура — плотный NanoGPT-трансформер с 16 слоями и скрытым размером 512. В блоках используются аддитивные остаточные связи, RMSNorm, SwiGLU, вращательные позиционные эмбеддинги, gated attention и общие входные и выходные эмбеддинги. Репозиторий содержит токенизатор и реализацию для Transformers; веса сохранены в safetensors. Для генерации и оценки причинного продолжения вход следует ограничивать 512 токенами; эффективный KV-кэш не поддерживается. Модель подходит для экспериментов с языковым моделированием на ограниченных данных и сравнительной оценки архитектур в условиях BabyLM. Карточка описывает обучение и оценивание в исследовательском контексте, поэтому чекпойнт уместно считать исследовательским. Лицензия — MIT.
weights-and-wires/audio8-tts-from-scratch — экспериментальная модель синтеза речи по тексту семейства DualAR, обученная авторами проекта с нуля на 440 фрагментах LibriSpeech общей длительностью 72,6 минуты и четырьмя дикторами. Медленная и быстрая авторегрессионные трансформерные части были случайно инициализированы и обучены на 280 шагах; замороженный нейрокодек взят из Audio8/Audio8-TTS-Preview-0.6b. В метаданных указаны архитектура Arktts, 497,4 млн параметров, контекст 2048 токенов, формат safetensors и библиотека Transformers. Модель предназначена для экспериментального синтеза английской речи из текста. Обучалась только с шаблоном без референсного аудио, поэтому клонирование голоса не поддерживается. Авторы предупреждают, что модель недообучена и речь может быть частично неразборчивой; исходные записи LibriSpeech с частотой 16 кГц были повышены до 44,1 кГц, что ограничивает качество. Лицензия — Apache-2.0.
BabyKilat — небольшая языковая модель авторства Абдула Вахида Рукуа, созданная с нуля на собственном фреймворке Kilat. Это причинная decoder-only модель с архитектурой MoE на 140 млн параметров: четыре эксперта, из которых два активируются для каждого токена, и гибридное внимание, сочетающее линейное внимание с затуханием и сжатое латентное внимание MLA. В модели 8 слоёв, размерность эмбеддингов 512, контекст — 2048 токенов. Модель предназначена для генерации английского текста и экспериментов с компактными языковыми моделями и эффективными механизмами внимания; автор указывает возможность запуска на потребительской видеокарте с 6 ГБ VRAM. Это базовая модель без дообучения на инструкциях, поэтому она не настроена для диалога или выполнения пользовательских команд. Чекпойнт соответствует 6000 из запланированных 50000 шагов обучения; качество ограничено небольшим размером и неполным обучением, формальные результаты оценки не опубликованы. Обучение описано на материалах FineWeb-Edu. Лицензия — MIT.
P7 — экспериментальная языковая модель, представленная для соревнования BabyLM 2026 в треке Strict-Small. Она предназначена для исследовательских экспериментов и оценки языковых моделей, обученных на ограниченном объёме данных. В репозитории указана архитектура GPTBERTForMaskedLM: 12 слоёв, 12 голов внимания, скрытый размер 768 и словарь из 16 384 токенов. Метаданные Hugging Face указывают 111,7 млн параметров и контекст 512 токенов; README сообщает о финальном чекпойнте для оценки, выбранном на этапе обучения после обработки примерно 80 млн слов. Модель работает с текстом на английском языке. Для неё указаны задачи заполнения пропусков и генерации текста, однако карточка описывает её прежде всего как исследовательский чекпойнт BabyLM, а не универсальную производственную систему. Обучение на ограниченном бюджете данных может снижать надёжность и широту ответов; результаты следует проверять для конкретного применения. Лицензия обозначена как other, без уточнения условий в предоставленных данных.
Модель leslie721007/babylm-strict-small-coherent86-alpha075 — экспериментальная англоязычная маскированная языковая модель семейства DeBERTa-v2, построенная на основе BabyLM Strict-Small. Она предсказывает скрытые токены по окружающему тексту и предназначена для оценки языковой компетентности и исследований sample-efficient pretraining в рамках BabyLM. Архитектура использует класс FrozenSlowPrivateDebertaV2ForMaskedLM: замороженный медленный путь содержит 35,46 млн параметров, а частный быстрый путь — 995 584; общий размер по README составляет 36,46 млн параметров. Контекст — 512 токенов. Параметр private_adapter_scale равен 0,75. README приводит локальные результаты по нескольким оценочным наборам, включая BLiMP, Supplement и EWoK, и отмечает, что модель является точным носителем экспериментального чекпойнта, а не полным пакетом подачи BabyLM. Для загрузки требуется trust_remote_code=True: стандартный путь Transformers может создать несовместимую нативную модель и не загрузить частные веса. Лицензия указана как other, поэтому условия использования следует уточнять в репозитории; в README также указано, что результат не является финальной заявкой на лидерборд.
BabyLM Strict-Small — экспериментальный англоязычный masked language model для предсказания замаскированных токенов. Модель разработана в рамках серии BabyLM и основана на DeBERTa-v2; этот репозиторий содержит адаптерный чекпойнт с классом AdapterDebertaV2ForMaskedLM, узким местом адаптера 128 и масштабом 1,75. В README указано 35,46 млн параметров с доверенным кодом; метаданные каталога приводят оценку 37,4 млн. Контекст составляет 512 токенов. Чекпойнт обучен на 84 млн слов из ограниченного корпуса BabyLM Strict-Small и предназначен для задач masked language modeling и исследовательской оценки языковой компетенции на небольших объёмах данных. Для загрузки полного варианта модели требуется доверенный код Transformers: без trust_remote_code=True стандартная реализация может пропустить веса адаптеров. README описывает узкий пик результатов на этом чекпойнте и не утверждает, что он устойчиво обобщается на другие траектории обучения. Лицензия указана как other; README характеризует модель как соответствующую правовым требованиям BabyLM, но не уточняет конкретные условия лицензии.