II.10Разработка и эксплуатация AI/ML-систем
В разделе собраны самостоятельные задачи, где AI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
49 000 моделейSegFormer-B2 — модель семантической сегментации изображений, представленная авторами статьи о семействе SegFormer и дообученная на наборе ADE20K. Она присваивает пиксельным областям изображения классы сцен и объектов. Архитектура сочетает иерархический Transformer-энкодер с лёгкой декодирующей головой на основе MLP; модель рассчитана на входное разрешение 512×512 пикселей и предназначена для анализа сцен и бенчмарков семантической сегментации. Модель можно применять для разметки объектов и элементов окружения на фотографиях и других изображениях. В карточке указана лицензия other, поэтому условия использования следует сверить с лицензией и материалами репозитория. Карточка рекомендует использовать эту модель для семантической сегментации и отмечает, что для других задач доступны отдельные дообученные версии.
FireViewer SegFormer-B2 fire and smoke baseline — модель семантической сегментации изображений семейства SegFormer, опубликованная проектом FireViewer, который поддерживает Unicorn Who Dev. Она обучена полным дообучением параметров для бинарной сегментации огня и дыма; контрольная точка выбрана на 10-й эпохе по минимальной валидационной потере. Модель загружается через Transformers как SegformerForSemanticSegmentation вместе с SegformerImageProcessor и распространяется в формате safetensors. Модель предназначена для офлайн-сравнения с многозадачной моделью FireViewer DINOv3. На отложенной выборке из 419 изображений указаны IoU 0,782232 и Dice 0,877812. Выпуск не прошёл продвижение в runtime FireViewer: для этого проект требует отдельной проверки, включая бенчмарки, устойчивость, происхождение данных и человеческую оценку. Лицензия в метаданных обозначена как other; README уточняет, что отдельные общие права на веса не документированы, а связанный датасет закрыт из-за неполноты сведений о правах. Модель не является системой оповещения или официальным источником и не предназначена для самостоятельного подтверждения пожара, решений об эвакуации, прогнозирования распространения огня или управления спасательными работами. Возможны ложные срабатывания и пропуски, ошибки при сдвиге домена, перекрытиях и неточном совмещении данных.
Это компактная языковая модель Qwen2.5 с 1,5 млрд параметров, дообученная методом supervised fine-tuning на всех параметрах командой, проводившей эксперимент Parameter Floors for Developer-Agent Subroutines. Модель предназначена для узкой подзадачи агента-разработчика: восстановления повреждённого JSON-вызова инструмента в исходный объект, соответствующий фиксированной схеме. Модель принимает текстовый запрос и генерирует текст с исправленным JSON. Она рассчитана на работу внутри проверяющей обвязки: та формирует специализированный запрос, проверяет строгий JSON, допускает одну повторную попытку с обратной связью по схеме и при необходимости использует детерминированные проверки и правила. Контекст модели — до 32 768 токенов; карточка указывает английский язык. В тестировании на примерах из HTTPX и Jinja2, исключённых из обучения, авторы сообщают о 100% успешных результатах с одной попыткой повтора, а также о 100% успехе и валидности JSON с первой попытки. Это экспериментальный узкоспециализированный чекпойнт, а не универсальный помощник по программированию или чат-модель: авторы предупреждают, что модель настроена на одну закрытую схему и может утратить широкие способности следовать инструкциям. Результаты относятся к ограниченной тестовой выборке; перед применением следует учитывать, что некоторые такие подзадачи надёжнее решать детерминированными правилами. Модель распространяется по лицензии Apache-2.0.
SoT_DistilBERT — англоязычный классификатор на базе DistilBERT, разработанный для выбора подходящей парадигмы рассуждения Sketch-of-Thought (SoT) по тексту вопроса. Он относит запрос к одной из трёх категорий: концептуальная цепочка для логического и многошагового вывода, структурированные символические шаги для математики и вычислений или специализированная терминология для технических областей. Модель предназначена для автоматического выбора формата подсказки в конвейере работы с языковой моделью, а не для самостоятельной генерации ответа. Это плотная архитектура DistilBertForSequenceClassification с контекстом до 512 токенов. Классификатор дообучен на примерно 14 200 примерах из задач на рассуждение; по карточке, метки назначались GPT-4o. В метаданных указаны английский язык и наборы данных для математических задач, чтения с выводами, вопросов по знаниям и логического рассуждения. README сообщает о многоязычной поддержке пакета SoT, но это не подтверждает многоязычность самого классификатора. Модель может помочь сократить объём рассуждений, выбирая один из трёх заранее заданных подходов, однако она только классифицирует запросы и может плохо обобщать за пределами обучающего распределения; качество также зависит от сложности и тематики вопроса. Репозиторий распространяется по лицензии MIT.
HuggingFaceTB разработала stack-edu-classifier-typescript — классификатор, оценивающий образовательную ценность файлов кода на TypeScript. Это дообученная на размеченных Llama 3.1 70B Instruct примерах версия BigCode StarEncoder с классификационной головой. Модель использовалась для создания датасета Stack-Edu для обучения SmolLM2. Модель построена на архитектуре BERT, содержит 151 млн параметров и принимает код как текст. Контекст ограничен 1024 токенами. Она предназначена для оценки отдельных TypeScript-файлов, а не кода с учётом проекта в целом. Лицензия в доступных данных не указана.
Это зеркало официального чекпойнта STDC1-Seg75 для семантической сегментации изображений на наборе Cityscapes. Модель разработана авторами проекта STDC-Seg; архитектура Short-Term Dense Concatenate Network со backbone STDCNet813 описана на CVPR 2021. В репозитории размещены неизменённые веса fp32 в формате PyTorch, первоначально опубликованные в MichaelFan01/STDC-Seg. Чекпойнт предназначен для разметки городских сцен по 19 классам, например для анализа изображений улиц и дорожной инфраструктуры. Для загрузки требуется код архитектуры из исходного репозитория STDC-Seg; он не включён в зеркало. Лицензия репозитория — MIT.
Mazen Amria опубликовал дообученную для классификации изображений модель Swin-Tiny на базе microsoft/swin-tiny-patch4-window7-224. Она предназначена для отнесения изображений к классам CIFAR-100. В README указаны точность 0,8735 и loss 0,4223 на наборе оценки; размер модели — 33 млн параметров. Модель принимает изображения и выдаёт метки классов. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache-2.0. Карточка не уточняет ограничения применения и условия оценки помимо результатов на CIFAR-100.
google/switch-base-32 — англоязычная модель Switch Transformers от Google, построенная на архитектуре T5 с разреженными MLP-слоями и механизмом «смеси экспертов» (MoE). Вариант switch-base-32 содержит 123,8 млн параметров и предназначен для задач генерации текста по текстовому входу; модель обучена на C4 в режиме masked language modeling. Это базовый исследовательский чекпойнт для дальнейшей настройки под прикладные задачи, а не готовый универсальный помощник. В карточке отмечено, что семейство Switch Transformers показало преимущества масштабирования и ускорение обучения относительно T5-XXL, однако эти результаты не следует автоматически переносить на данный компактный вариант. Поддерживается английский язык; доступны веса в форматах PyTorch и safetensors. Модель распространяется по лицензии Apache 2.0. Известное ограничение: без дообучения она не готова к downstream-задачам; карточка не предоставляет конкретных сведений о смещениях и иных ограничениях.
bigscience/test-bloomd — репозиторий BigScience для тестирования методов инференса. В карточке указано, что для доступа к актуальной модели следует использовать bigscience/bloom. Метаданные показывают плотную авторегрессионную модель семейства BLOOM с архитектурой BloomForCausalLM и 453,9 млн параметров; доступны форматы PyTorch и Safetensors. Она относится к генерации текста, однако репозиторий представлен как утилитарный тестовый ресурс, а не как актуальная версия модели. Сведения о лицензии в доступных данных отсутствуют.
Theia Base Patch16-224-CDIV — модель визуального представления для робототехники, разработанная The AI Institute. Она использует backbone DeiT-Base и объединяет знания CLIP, DINOv2 и ViT, дистиллируя их представления, полученные на разных задачах компьютерного зрения. Модель предназначена для извлечения визуальных признаков, которые можно использовать в последующем обучении робототехнических систем. В статье Theia сообщается, что такие представления улучшают результаты обучения роботов по сравнению с моделями-учителями и предшествующими робототехническими моделями, требуя меньше обучающих данных и моделей меньшего размера. Для весов и кода действует лицензия The AI Institute License; её условия следует проверить перед использованием.
Theia Small Patch16 224 CDIV — модель визуального представления для обучения роботов, разработанная The AI Institute. Она использует DeiT-Small как основу и одновременно дистиллирует представления CLIP, DINOv2 и ViT, объединяя знания моделей, обученных на разных зрительных задачах. Репозиторий содержит веса в формате safetensors и предназначен для извлечения признаков изображения в сценариях робототехники и последующего обучения роботизированных систем. В опубликованной работе авторы сообщают, что Theia превосходит модели-учителя и более ранние модели для обучения роботов при меньшем объёме обучающих данных и меньшем размере модели. Для использования весов и кода действует лицензия The AI Institute License; её конкретные условия следует сверить с текстом лицензии в репозитории.
Google TIPSv2 L/14 DPT — модель плотного предсказания изображений с головами Dense Prediction Transformer для оценки глубины, предсказания поверхностных нормалей и семантической сегментации. Она использует замороженную визуальную основу TIPSv2 L/14, которая загружается автоматически; число параметров визуальной основы составляет 303 млн, а три головы содержат около 102 млн параметров. Для глубины и нормалей использованы данные NYU Depth V2, для сегментации — ADE20K с 150 классами. Модель принимает изображения в диапазоне значений от 0 до 1 при любом разрешении; рекомендуется, чтобы размеры были кратны 14. Основной сценарий — получение пространственных карт по изображению, например для анализа помещений и сцен. Модель распространяется по лицензии Apache-2.0. В README описана реализация для Transformers.
Tucano2-0.6B-Base — базовая авторегрессионная языковая модель инициативы Polygl0t, разработанная для развития моделей португальского языка с открытым и воспроизводимым процессом обучения. Это плотный декодерный Transformer семейства Llama с 670 млн параметров и контекстом 4096 токенов; модель принимает текст и генерирует его продолжение. Модель предварительно обучена примерно на 400 млрд токенов. В README заявлена нативная предобученность на португальском и английском языках, хотя карточка указывает португальский как поддерживаемый язык. Модель предназначена прежде всего для исследований, сравнительных экспериментов и последующей адаптации к португальским задачам, а не для прямого общения с пользователями. Веса доступны в формате Safetensors по лицензии Apache-2.0. Как базовая модель, не дообученная для прикладных задач, она может галлюцинировать, воспроизводить смещения и токсичность из обучающих данных, повторяться и давать многословные ответы. README предостерегает от непосредственного использования во взаимодействии с людьми и указывает, что модель ориентирована на португальский язык; качество на других языках может быть ненадёжным.
ChristopherLi разработал ViT Emotion Recognition — модель Vision Transformer, дообученную на наборе FER2013 Enhanced для распознавания семи эмоций по выражению лица на изображении. Она рассчитана на работу с лицами в естественных условиях, в том числе с кадрами веб-камеры, и доступна через библиотеку Transformers для классификации изображений. Модель различает злость, отвращение, страх, радость, грусть, удивление и нейтральное выражение. Основа — google/vit-base-patch16-224-in21k; размер — 113,2 млн параметров. При обучении изображения лиц размером 48×48 в оттенках серого увеличивали до 224×224 и копировали канал на три цветовых канала. На тестовой выборке указаны точность 69,4% и Macro F1 0,656. Лицензия — Apache-2.0.
02shanky/vit-finetuned-cifar10 — модель классификации изображений, созданная дообучением Vision Transformer google/vit-base-patch16-224-in21k на датасете CIFAR-10. Она принимает изображение и предсказывает один из классов CIFAR-10. В README сообщается точность 98,02% на evaluation set после одной эпохи обучения; число параметров — 113,2 млн. Модель распространяется в формате PyTorch по лицензии Apache-2.0.
VLAC-Cut — мультимодальная модель InternRobotics для оценки хода выполнения роботизированных задач по видео. Она принимает текстовую инструкцию, необязательный план задачи и выбранные кадры видео с выполнением роботом, а выдаёт оценки прогресса с временными отметками и выделяет участки продвижения или ухудшения результата. Модель учитывает нелинейную динамику: продвижение, остановку, регресс и восстановление. Модель основана на Qwen/Qwen3-VL-30B-A3B-Instruct и использует архитектуру Qwen3-VL MoE для анализа текста и визуальных данных. Заявлены обобщение на разные манипуляционные задачи, сцены, объекты и ракурсы, а также настройка частоты выборки кадров для оценки с разной временной детализацией. Веса и файлы для загрузки размещены в репозитории Hugging Face; примеры инференса и код оценки находятся в GitHub. Лицензия указана как other, поэтому условия использования следует сверять с лицензией репозитория.
Модель caiocrocha/wav2vec2-large-xlsr-53-phoneme-portuguese разработана Каio Rocha в рамках бакалаврской дипломной работы по вычислительной инженерии в Федеральном университете Жуиз-ди-Фора под руководством профессора Жаиро Соузы. Это модель автоматической фонетической транскрипции бразильского португальского языка, дообученная для вывода последовательности фонем из аудио на базе facebook/wav2vec2-large-xlsr-53. Архитектура Wav2Vec2ForCTC содержит около 402,7 млн параметров; веса доступны в форматах PyTorch и Safetensors. Модель предназначена для разработчиков и исследователей ASR, а также для создания систем распознавания речи. Она обучалась на 10-часовой выборке CORAA ASR; в карточке приведены результаты оценки по PER и точности, но показатели точности на тесте противоречивы и требуют осторожной интерпретации. Модель может путать фонемы и не подходит для распознавания акцента или задач, требующих точного распознавания фонем. На качество влияют акцент, темп и особенности речи, возраст говорящего, шум, реверберация и канал передачи; модель смещена в сторону произношения, представленного в инструменте FalaBrasil G2P, и может хуже работать на недостаточно представленных акцентах. Лицензия — Apache-2.0.
WavCochCausalV8192-vocoder — модель, опубликованная Greta Tuckute и Klemen Kotar. Это причинный токенизатор аудиосигнала в представления-коклеаграммы, содержащий около 24,42 млн параметров. В метаданных Hugging Face указаны библиотека Transformers, формат safetensors и задача feature-extraction; README приводит размер окна 1001 и шаг 80. Модель преобразует аудиоволну в последовательность признаков. В репозиторий также включён вокодер с методом decode_audio(...) для синтеза аудиосигнала из представлений; при запросе скрытых состояний доступен один слой постпроекционных эмбеддингов FSQ для анализа. Карточка называет авторов, но не указывает лицензию; в метаданных указана Apache-2.0. Данных о поддерживаемых естественных языках нет.
WorldReward-qwen35-9b-GGUF — квантованные GGUF-версии 9-миллиардной reward-модели WorldReward-qwen35-9b, разработанной CodeGoat24 на базе Qwen3.5-9B и опубликованной пользователем prithivMLmods. Модель предназначена для оценки моделей генерации управляемого видео: получает изображение сцены, текстовое описание, последовательность действий камеры или перемещений и пару сгенерированных видео, после чего определяет, какой вариант лучше соответствует траектории действий, качеству изображения и качеству движения. Модель может дополнительно выдавать явное рассуждение. Модель мультимодальная и ориентирована на англоязычные данные; заявленная архитектура — Qwen3_5ForConditionalGeneration, размер — 9 млрд параметров. В репозитории доступны варианты GGUF с точностью от Q3 до Q5, Q4_0, Q4_K и BF16, а также отдельный mmproj-файл для мультимодальной обработки. На WorldReward-Bench она показала согласие с человеческими оценками 77,63% для действий, 81,32% для внешнего вида и 73,03% для движения. Это специализированный оценщик для world models и генерации видео, поэтому README не подтверждает его пригодность для обычной генерации текста или универсального диалога; максимальный размер контекста также не указан. Для запуска требуется сборка vLLM с регистрацией архитектуры Qwen3_5ForConditionalGeneration и скрипты инференса из репозитория WorldReward; наличие GGUF-файлов также указывает на сценарии использования через llama.cpp. Модель распространяется по лицензии Apache 2.0.
X-Codec WavLM More Data — речевой аудиокодек из семейства X-Codec, разработанный авторами карточки модели. Он извлекает речевые признаки и кодирует речь с различными битрейтами, от 0,5 до 4 кбит/с. Модель основана на microsoft/wavlm-base-plus и дообучена на английском MLS и внутренних данных; в репозитории указаны архитектура XcodecModel и формат safetensors. Модель предназначена для представления и сжатия речи в аудиокодеке X-Codec. Карточка демонстрирует примеры кодирования при нескольких битрейтах. Лицензия — CC BY 4.0. В метаданных основным pipeline указан feature-extraction; сведений о поддержке других языков, кроме английского, карточка не даёт.
Xyntetik-Kvist-14B — текстовая плотная модель на 14,44 млрд параметров, опубликованная Xyntetik, программой Zenova AB. Это дистиллированная и дообученная на агентных траекториях версия Muse-Glimmer-30B: сохранены 52 слоя, ширина сокращена, а визуальный энкодер родительской модели не включён. Модель предназначена прежде всего для циклов вызова инструментов в формате `muse` на Xyntetik Runner и рассчитана на запуск с локального оборудования; карточка указывает совместимость с Runner версии 0.5.7 и новее. В описанной авторами проверке на 60 агентных задачах модель решила 57, а все 64 вызова инструментов были корректны по схеме. Эти результаты относятся к указанной среде и формату взаимодействия. На удержанном текстовом наборе расхождение с родительской моделью заметно: KLD 0,762 и точность top-1 с учётом порога 84,0%. Поэтому модель не предназначена для замены Muse-Glimmer-30B или для общего применения на её уровне. Для арифметики рекомендуется подключать калькулятор: без инструмента модель может ошибаться. Доступны веса Safetensors и GGUF; опубликованы варианты квантования GGUF, включая Q8_0. Лицензия — Apache-2.0. Модель текстовая; сведения о поддерживаемых естественных языках и длине контекста в предоставленных данных отсутствуют.
YOLOS-small-rego-plates-detection — модель компьютерного зрения на базе YOLOS, разработанная автором репозитория nickmuchi путём дообучения YOLOS на наборе изображений с транспортными средствами и номерными знаками. Она обнаруживает объекты на изображениях и возвращает рамки классов «vehicle» и «license-plate». Архитектура YOLOS использует Vision Transformer и обучалась с функцией потерь DETR; размер модели — 28,3 млн параметров. Модель предназначена для поиска номерных знаков и автомобилей на изображениях, например, при разборе снимков с камер или в прототипах систем компьютерного зрения для транспорта. В README сообщается, что для дообучения использовался набор из 735 изображений, обучение шло 200 эпох на одной GPU; заявленный AP составляет 47,9 при IoU от 0,50 до 0,95. Модель принимает изображения и выдаёт обнаруженные объекты с координатами рамок и метками классов. Небольшой объём обучающего набора может ограничивать точность на изображениях, заметно отличающихся от обучающих данных; результаты также зависят от качества и условий съёмки. Лицензия — Apache-2.0.
Hansung Cho разработал YOLOv8n, дообученную на пользовательском наборе данных для обнаружения средств индивидуальной защиты на строительных и промышленных площадках. Модель находит людей, каски, маски и сигнальные жилеты, а также классы отсутствующих средств защиты, возвращая рамки объектов и метки классов. Для репозитория указаны Ultralytics, PyTorch и лицензия MIT. Модель предназначена для анализа изображений и видеопотока с камер наблюдения или веб-камер, автоматической проверки ношения СИЗ и прототипов систем предупреждений. Валидационные показатели на наборе автора: mAP@0.50 — 0,744, mAP@0.50:0.95 — 0,436, точность — 0,831. Данные обучения включали RGB-изображения строительной тематики с размеченными рамками; сам набор данных не входит в репозиторий.
AeroYOLO — компактная модель обнаружения объектов на базе YOLO11n (nano), опубликованная QuincySorrentino. Она находит на изображениях три класса: самолёты, беспилотники и вертолёты. Модель рассчитана на входной размер 640×640 и содержит 2,59 млн параметров; для работы используется библиотека Ultralytics, а веса представлены в формате PyTorch. Модель подходит для анализа снимков с камер и беспилотников, авиационного наблюдения и обнаружения летательных аппаратов на периферийных устройствах. В карточке приведены mAP50-95 0,703, mAP50 0,966 и точность 0,924. Лицензия в предоставленных данных не указана, поэтому условия использования по ним установить нельзя.
Lanni-ni/alibi_2_4_256_babylm_10m_seed44 — компактная модель генерации текста из семейства моделей с архитектурой ALiBi, опубликованная пользователем Lanni-ni на Hugging Face. Модель содержит 14,7 млн параметров и предназначена для запуска через библиотеку Transformers. Модель подходит для локальной генерации коротких продолжений текста, экспериментов с языковыми моделями и обучения или тестирования приложений на базе text-generation. В названии указана связь с BabyLM и конфигурацией ALiBi; подробные сведения о разработчике, обучающих данных, поддерживаемых языках, длине контекста и результатах оценки отсутствуют. Лицензия в доступных данных не указана. Из-за небольшого размера модель, вероятно, рассчитана прежде всего на исследовательские и экспериментальные сценарии, а не на получение качества, сопоставимого с крупными современными языковыми моделями.
AlterEgo-373M — компактная языковая модель jbomdev с архитектурой LlamaForCausalLM, разработанная и обученная с нуля, а затем настроенная для диалога. Репозиторий содержит конверсию исходного чекпойнта в формат Transformers; автор сообщает о численно точном соответствии исходной версии. Модель имеет 373,3 млн параметров и контекст 2048 токенов. Модель предназначена для генерации текста и многоходового чата в формате ChatML, а также для изучения полного цикла создания и локального развёртывания LLM. Предобучение проводилось примерно на 10 млрд токенов FineWeb-Edu, а настройка на диалог — на UltraChat-200K. Модель рассчитана на английский язык; для запуска поддерживаются Transformers, vLLM и инструменты работы с GGUF. Небольшой размер делает модель подходящей для экспериментов и локального запуска, но она может ошибаться, повторяться и терять связность на длинных или сложных запросах. Автор не рекомендует её как готового пользовательского ассистента; модель не проходила RLHF/DPO-настройку безопасности и может выдавать предвзятый или нежелательный текст. Лицензия — Apache-2.0.
tohoku-nlp разработала эту базовую японскую BERT-модель, предварительно обученную на текстах японской Википедии. Она предназначена для задач с замаскированными токенами: модель предсказывает скрытые фрагменты текста и может служить основой для дальнейшей адаптации к другим задачам обработки японского языка. Архитектура соответствует BERT base: 12 слоёв, размер скрытого состояния 768 и 12 голов внимания; всего около 137,8 млн параметров. Текст токенизируется морфологическим анализатором MeCab со словарём IPA, затем применяется WordPiece со словарём из 32 000 единиц. Максимальная длина входа — 512 токенов. Доступны версии весов для PyTorch, TensorFlow и Flax. Модель обучена на японской Википедии по состоянию на 1 сентября 2019 года, поэтому её знания ограничены этим корпусом и датой. Она рассчитана на японский язык и не является специализированной моделью для прикладной области. Лицензия — CC BY-SA 4.0.
Koichi Yasuoka подготовил японскую модель BERT base на основе tohoku-nlp/bert-base-japanese-char-v2, предварительно обученную на текстах японской Википедии. Вариант расширяет набор символьных эмбеддингов, включая все 常用漢字 и 人名用漢字, и использует BertTokenizerFast. Модель предназначена для предсказания пропущенных токенов в японском тексте и может служить основой для дообучения под разметку частей речи, синтаксический анализ зависимостей и другие задачи анализа японского языка. Архитектура — BertForMaskedLM, размер — 118,1 млн параметров, контекст — до 512 токенов; доступен формат PyTorch. Модель ориентирована на японский язык. Для использования и распространения указана лицензия CC BY-SA 4.0; для прикладных задач, кроме заполнения пропусков, потребуется дообучение.
hitachi-nlp разработала японскую базовую BERT-модель с токенизатором Nothing + BPE. Модель содержит 136,3 млн параметров, использует архитектуру BERT для языкового моделирования с масками и рассчитана на контекст до 512 токенов. Она предназначена для заполнения пропусков в японском тексте и может служить основой для других задач обработки японского языка. Для токенизации требуется отдельный словарь Nothing + BPE из репозитория разработчика. Модель распространяется в формате PyTorch; лицензия CC BY-NC-SA 4.0 требует атрибуции, распространять производные материалы на тех же условиях и запрещает коммерческое использование.
Японская модель BERT-base от hitachi-nlp для задачи заполнения пропусков в тексте: она предсказывает замаскированные токены по контексту. Модель построена на архитектуре BERT и содержит 136,3 млн параметров; максимальная длина контекста составляет 512 токенов. Токенизатор использует Vaporetto и BPE. Для его работы требуется отдельно скачать файл словаря из репозитория проекта и указать путь к нему. В карточке показан пример разбиения японского предложения на токены. Модель предназначена для японского языка и обучалась на данных Wikipedia и CC-100. Доступна в форматах PyTorch и safetensors, библиотека для работы — Transformers. Лицензия CC BY-NC-SA 4.0 требует указания авторства и распространяет производные работы на тех же условиях; коммерческое использование не разрешено.