II.8Инженерия данных и аналитика

Fiorillo reader v1 — биомедицинская языковая модель с архитектурой ModernBERT-large и примерно 395 млн параметров, созданная разработчиком johanneli на основе энкодера convaiinnovations/laya. К энкодеру добавлена голова masked language modeling, после чего модель дополнительно обучена на англоязычных заголовках и аннотациях PubMed; клинические записи и полные тексты статей в этом обучении не использовались. Модель принимает текст и предсказывает пропущенные в нём токены; размер контекста в метаданных — 8192 токена. Модель предназначена для исследований и дальнейшей настройки биомедицинских языковых моделей, например как текстовый энкодер для последующих медицинских задач. По описанным автором оценкам, дальнейшее обучение улучшило masked-language loss на проверенных аннотациях и текстах PMC; результаты сравнения downstream-задач ограничены двумя вопросами и одним вариантом decision layer. Для классификации и ответов на вопросы требуется отдельная настройка, поскольку классификационная голова не включена. Лицензия — Apache 2.0.

Forge Pump Surrogate — Multi-runtime — это небольшая модель-суррогат для оценки параметров насоса, разработанная Sankalp S. Thakur. Модель представляет собой MLP с 1 478 параметрами, обученный на синтетических данных, созданных для публичного выпуска. Она принимает шесть числовых входных признаков: долю скорости, статический напор, параметр системы, долю напряжения, температуру окружающей среды и давление на входе; выходы включают прогнозируемые характеристики насоса, в том числе расход, полный напор и потребляемую мощность. Модель предназначена для табличной регрессии и может использоваться как вычислительный компонент цифрового двойника насоса, в том числе в локальных и периферийных сценариях. В репозитории представлены форматы ONNX и TFLite, а также примеры интеграции с промышленными интерфейсами только для чтения. Высокие метрики на тестовом наборе отражают аппроксимацию детерминированного синтетического генератора и не подтверждают точность на реальном оборудовании. Проект распространяется по лицензии MIT.

Medivoice baseline-omni-gepard-v1 — дообученная и слитая с базовой моделью версия Google Gemma 4 12B Instruct, подготовленная для MediVoice. Она принимает аудиореплику звонящего вместе с предыдущим контекстом разговора и системными инструкциями практики, затем формирует вызовы функций MediVoice DSL и ровно одну текстовую аннотацию с транскрипцией текущей реплики. Текстовые продолжения после ответа инструмента не сопровождаются транскрипцией. Модель основана на плотной мультимодальной архитектуре Gemma 4 Unified и предназначена для обработки аудио в сценариях голосового взаимодействия с практикой. В README описано обучение LoRA-адаптера, объединённого с полной базовой моделью; аудиоэнкодер при обучении оставался замороженным. Карточка указывает немецкий язык. Модель помечена как внутренний исследовательский артефакт: она не проверена для клинического или производственного применения. На синтетическом аудио точное совпадение разобранных вызовов функций составило 19,1%, а средний WER транскрипции — 18,2%. Для использования нужно удалять аннотацию transcript(...) перед отправкой вызовов практической API. Условия лицензии в предоставленных данных не описаны.

Taykhoom поддерживает эту минимальную реализацию GENA-LM-t2t-bert-large для анализа последовательностей ДНК. Модель основана на контрольной точке AIRI-Institute/gena-lm-bert-large-t2t и предназначена для восстановления замаскированных участков генетических последовательностей, а также получения их векторных представлений. Это плотная трансформерная архитектура BERT с 24 слоями, 16 головами внимания и размерностью эмбеддингов 1024; модель содержит 435,4 млн параметров и обрабатывает до 512 токенов за раз. Токенизатор использует словарь из 32 000 BPE-токенов, обученных на ДНК. Предобучение проводилось на сборке человеческого генома T2T с вариантами из 1000 Genomes и gnomAD, а также включало многовидовые последовательности согласно карточке. Порт воспроизводит результаты исходных весов и добавляет поддержку ускоренных механизмов внимания SDPA и Flash Attention 2. NSP-голова и пулинг отсутствуют; для задач классификации последовательностей требуется добавить собственную голову. Модель распространяется по лицензии MIT.

Graphormer base PCQM4Mv1 — модель на архитектуре Graphormer, разработанная Microsoft и предварительно обученная на наборе PCQM4M-LSC. Это трансформер для классификации графов и получения их представлений; модель заняла первое место в треке quantum prediction соревнования KDD Cup 2021. Модель подходит для классификации графов и задач моделирования молекул, а также для дообучения под последующие задачи. Она содержит 113,2 млн параметров и распространяется в формате PyTorch. Лицензия — MIT. Для больших графов модель требует значительных ресурсов памяти, поэтому при обработке таких графов возможны ошибки нехватки памяти.

Graphormer-base-pcqm4mv2 — графовая Transformer-модель, разработанная Microsoft и предварительно обученная на PCQM4M-LSCv2. Она предназначена для классификации графов и получения их представлений; модель можно применять для моделирования молекул и дообучать для последующих задач. Архитектура Graphormer реализована в классе GraphormerForGraphClassification; размер модели — 113,2 млн параметров, формат — PyTorch. Модель работает с графовыми данными и ориентирована прежде всего на сценарии молекулярного моделирования. Большие графы требуют значительных ресурсов и могут приводить к нехватке памяти. Лицензия — MIT.

GREEN-RadLlama2-7b — дообученная Stanford AIMI модель на архитектуре Llama для оценки различий между эталонным и кандидатным радиологическими заключениями по рентгенограммам грудной клетки. Она принимает текстовые отчёты и предназначена для сравнения их содержания в сценариях оценки качества радиологических заключений. Модель насчитывает 6,6 млрд параметров, работает с контекстом до 4096 токенов и распространяется в формате Safetensors. Модель дообучена на базе StanfordAIMI/RadLLaMA-7b; в карточке указан результат Loss 0,0644 на наборе оценки. Лицензия — Llama 2. Она предназначена для узкой медицинской задачи, поэтому её результаты не следует трактовать как самостоятельный клинический диагноз или замену проверки специалистом.

HW1 HC3 Detector — модель Chengwei-Shen для классификации ответов из датасета HC3 как написанных человеком или ChatGPT. Это дообученная для учебного задания модель на базе sentence-transformers/all-MiniLM-L6-v2 с архитектурой BERT для классификации последовательностей; размер составляет 25,9 млн параметров. Модель принимает текст длиной до 512 токенов и выдаёт один из двух классов. Модель предназначена для экспериментов с обнаружением текста ChatGPT на ответах HC3. В README указана точность 0,9914 на тестовом наборе с фиксированными разбиениями; этот результат относится к данному набору данных и не гарантирует такое же качество на других текстах. Доступ к модели представлен в формате safetensors; лицензия в доступных сведениях не приведена.

Kandinsky WM 1.0 I2V 5s AV — модель генерации видео из изображения для автономного вождения, разработанная авторами семейства Kandinsky WM. Это доменно адаптированный чекпойнт Kandinsky 5.0 Video Lite: латентная видеодиффузионная модель на 2 млрд параметров с архитектурой DiT, VAE HunyuanVideo и текстовыми энкодерами Qwen2.5-VL и CLIP; дообучение с подкреплением GRPO направлено на физическую правдоподобность сцен. Модель продолжает исходное изображение в клип длительностью 5 секунд из 121 кадра с разрешением 768×512. Модель предназначена для создания синтетических видеоданных и разработки компонентов world model и симуляторов, особенно для сценариев автономного вождения. Её специализация — сохранение геометрии сцены и правдоподобное движение объектов и взаимодействий. Репозиторий содержит вариант для Diffusers и копию весов DiT для кода GitHub; лицензия MIT.

SMI-TED — химическая языковая модель IBM Research, построенная как трансформерный энкодер-декодер для работы со строками SMILES. Модель предварительно обучена на 91 млн молекул из PubChem; в публикации описаны варианты размером 289 млн и 8×289 млн параметров. Репозиторий содержит веса PyTorch и safetensors, а в Hugging Face модель помечена для извлечения признаков. Модель предназначена для преобразования SMILES в векторные представления и их применения в задачах классификации, регрессии и предсказания квантовых свойств молекул. Декодер также позволяет восстанавливать строки SMILES из представлений. Предобучение включало маскирование токенов и реконструкцию SMILES; в обучающих данных длина соединений ограничивалась 202 токенами. Модель ориентирована на химию и материаловедение, использует строки SMILES и не описана как мультимодальная. Лицензия репозитория — Apache-2.0. В README сообщается о конкурентных результатах на наборах MoleculeNet и результатах уровня state of the art на ряде бенчмарков, однако конкретные гарантии качества для каждой задачи не приводятся.

MedWhisper Large ITA — модель автоматического распознавания речи, разработанная командой ReportAId и дообученная с помощью LoRA на базе openai/whisper-large-v3-turbo. Она предназначена для транскрибации италоязычных медицинских аудиозаписей, особенно амбулаторных консультаций со специализированной терминологией, сокращениями и устойчивыми выражениями. Архитектура — Whisper, около 905,2 млн параметров; модель принимает аудио и выдаёт текст на итальянском языке. По заявленным результатам на отложенном клиническом тестовом наборе модель снизила WER с 7,9% у базовой модели до 4,5%; наиболее заметное улучшение отмечено для медицинской терминологии. README также сообщает о работе на CPU со скоростью около 0,5–0,7 от длительности аудио при использовании Faster-Whisper. Эти оценки относятся к описанным тестам и не гарантируют такую же точность на других данных. Для модели указана лицензия AGPL-3.0; обучающие данные являются проприетарными, а авторы позиционируют выпуск для исследований и экспериментов.

mlm-baseline-hg38 — маскированная языковая модель нуклеотидных последовательностей генома человека hg38, опубликованная Songlab. Она принимает закодированные последовательности ДНК и для замаскированных позиций предсказывает распределение вероятностей по нуклеотидам A, C, G и T. Модель использует сверточную нейронную сеть, обученную методом masked language modeling; архитектура устроена так, чтобы согласованно обрабатывать последовательность и её обратный комплемент. Модель подходит для оценки того, насколько вариант последовательности неожиданен в контексте генома, и для извлечения признаков последовательности. В README указано, что это частичный чекпойнт, выпущенный примерно на половине запланированного цикла обучения до снижения learning rate; для воспроизводимых экспериментов следует закрепить ревизию. Веса опубликованы в формате safetensors, лицензия — MIT.

MolDeBERTa-base-123M-contrastive_mlc — молекулярный энкодер, разработанный авторами MolDeBERTa на архитектуре DeBERTaV2. Он обучен на 123 миллионах молекул PubChem в формате SMILES с контрастивной MLC-целью, которая формирует представления с учётом свойств молекул и сходства подструктур. Модель содержит 116,3 млн параметров, принимает последовательности SMILES и поддерживает контекст до 128 токенов. Модель предназначена для извлечения эмбеддингов молекул, поиска сходства, визуализации и последующего дообучения для прогнозирования свойств или классификации. В бенчмарках MoleculeNet семейство MolDeBERTa показало конкурентные результаты, однако качество зависит от конкретной задачи и варианта модели. Лицензия CC-BY-NC-ND-4.0 ограничивает коммерческое использование и распространение производных версий.

MolDeBERTa-base-123M-mlm — молекулярный энкодер на архитектуре DeBERTaV2, разработанный авторами семейства MolDeBERTa. Эта версия предварительно обучена на SMILES-последовательностях молекул из PubChem с использованием цели masked language modeling (MLM); размер модели составляет 116,3 млн параметров, максимальный контекст — 128 токенов. Для токенизации применяется byte-level BPE. Модель предназначена для извлечения векторных представлений молекул и последующего дообучения для предсказания свойств, классификации последовательностей, оценки сходства, визуализации и скрининга молекул. В исследовании семейство оценивалось на задачах MoleculeNet; результаты этой версии не следует автоматически приравнивать к лучшим показателям других вариантов семейства. Модель принимает текстовые SMILES и выдаёт скрытые представления; сама по себе она не является готовым предиктором свойств или генератором молекул. Лицензия CC BY-NC-ND 4.0 ограничивает использование и распространение производных материалов, поэтому условия лицензии следует проверить перед практическим применением.

MolDeBERTa-base-123M-mtr — молекулярный энкодер, разработанный SaeedLab на архитектуре DeBERTaV2. Модель содержит 116,3 млн параметров и обучена на 123 млн молекулярных последовательностей SMILES из PubChem с целью предварительного обучения MTR, учитывающей химические свойства и сходство молекулярных подструктур. Для токенизации используется byte-level BPE; контекст ограничен 128 токенами. Модель предназначена для извлечения векторных представлений молекул и последующей тонкой настройки для прогнозирования свойств, классификации последовательностей, оценки сходства, визуализации и построения предиктивных моделей. В описанных тестах на бенчмарках MoleculeNet она показала лучшие результаты среди рассмотренных моделей в четырёх из девяти задач. Для использования весов действует лицензия CC-BY-NC-ND-4.0, запрещающая коммерческое использование и распространение производных версий.

MoLFormer-XL-both-10% — химическая языковая модель семейства MoLFormer, представленная в работе Ross et al. и выпущенная авторами проекта. Она предварительно обучена на строковых представлениях SMILES малых молекул из ZINC и PubChem: эта версия использовала по 10% каждого датасета. Модель содержит 51,4 млн параметров и применяет Transformer с линейным механизмом внимания и rotary embeddings; контекст — до 202 токенов. Основное назначение модели — извлечение векторных представлений молекул для оценки сходства, визуализации и построения предикторов, а также дообучение для классификации и прогнозирования свойств, например растворимости и токсичности. Она также поддерживает masked language modeling. Модель не предназначена для генерации молекул. Для применения подаются последовательности SMILES, а модель извлекает представления или предсказывает замаскированные токены. В обучении использовались канонизированные молекулы, без стереохимической информации; последовательности длиннее 202 токенов отбрасывались. Качество может снижаться на некорректных или неканонических SMILES, а молекулы крупнее примерно 200 атомов не проверялись. Лицензия — Apache-2.0.

MuQ-Eval-A1 — модель оценки качества музыки, разработанная zhudi2825. Она использует замороженный аудиоэнкодер OpenMuQ/MuQ-large-msd-iter, attention pooling и отдельные MLP-головы для прогнозирования оценок MI и TA с функцией потерь MSE. На вход подаётся аудиосигнал с частотой 24 кГц длительностью до 10 секунд; модель предназначена для оценки качества музыки, созданной музыкальными генераторами. Модель обучалась на наборе MusicEval и оценивалась с помощью пятифолдовой кросс-валидации на 2 748 клипах от 31 системы преобразования текста в музыку. Репозиторий содержит веса PyTorch и распространяется по лицензии MIT.

MuVAE — непрерывный музыкальный вариационный автоэнкодер, разработанный mrfakename и обученный с нуля на архитектуре YuE2 VAE. Он кодирует стереозвук с частотой 48 кГц в латентное представление и декодирует его обратно, сжимая сигнал в 1920 раз: до 64 каналов с частотой 25 кадров в секунду. Модель содержит 132,6 млн параметров; в репозитории опубликованы веса EMA в формате safetensors. MuVAE предназначена для реконструкции музыки и получения компактных аудиолатентов, которые можно использовать как пространство представлений для моделей генерации музыки. При обучении использовались около 10 тысяч часов музыкального аудио, нарезанного на случайные стереофрагменты длительностью 2,56 секунды. Для использования требуется библиотека Transformers; пример загрузки включает trust_remote_code=True. Лицензия модели — CC BY 4.0. Описание не приводит измерений качества реконструкции или ограничений по типам музыкального материала; заявленный формат входа — стерео 48 кГц.

YoshiSTAR/my_awesome_mind_model — дообученная YoshiSTAR модель аудиоклассификации на базе facebook/wav2vec2-base. Она использует архитектуру Wav2Vec2ForSequenceClassification и содержит 113,3 млн параметров; веса опубликованы в формате safetensors. Модель принимает аудио и предназначена для классификации аудиоданных. В README приведены результаты оценки: loss 2,6683 и accuracy 0,0619. Низкая точность указывает на слабое качество на указанном наборе оценки, а сведения о классах, обучающих данных и целевых сценариях отсутствуют. Модель распространяется по лицензии Apache-2.0.

NeuroBERT-Tiny — компактная англоязычная модель семейства BERT, разработанная boltuix на основе google-bert/bert-base-uncased и предназначенная для локального запуска на устройствах с ограниченными ресурсами. По карточке, архитектура включает 2 слоя, размер скрытого состояния 128 и 2 головы внимания; модель содержит около 4,4 млн параметров, поддерживает контекст до 512 токенов и использует библиотеку Transformers. Репозиторий описывает квантизированный размер около 15 МБ, однако метаданные указывают формат safetensors и не подтверждают квантизацию файлов. Основное применение — заполнение пропусков в тексте; также заявлены классификация текста, определение намерений команд и распознавание именованных сущностей. Модель ориентирована на обработку коротких англоязычных текстов в офлайн-сценариях: например, для разбора команд умного дома, носимых устройств и голосовых помощников. Небольшой размер и низкая задержка могут быть полезны для периферийных устройств, но приведённые оценки качества названы приблизительными, а результаты тестирования частично гипотетическими; для прикладного использования требуется проверка на целевых данных и устройстве. Лицензия MIT разрешает коммерческое и личное использование.

NTv3_100M_pre — предварительно обученная модель InstaDeepAI для анализа геномных последовательностей. Это masked language model с U-Net-подобной архитектурой: сверточный блок, стек Transformer и деконволюционный блок с языковой головой. Модель работает на уровне нуклеотидов, используя символы A, T, C, G и N, и принимает последовательности длиной, кратной 128. Для загрузки требуется Transformers версии 4.55.0 или выше и пользовательский код репозитория. Модель предназначена для восстановления замаскированных нуклеотидов и получения представлений геномных последовательностей, которые можно использовать в задачах геномной аннотации и функционального анализа. Семейство NTv3 обучалось на 9 триллионах пар оснований и рассчитано на моделирование дальних зависимостей вплоть до 1 Мб контекста; конкретная карточка сообщает, что этот репозиторий содержит предварительно обученные MLM-веса. Модель портирована из JAX в Torch; при использовании bf16 возможны небольшие численные расхождения и нестабильность. Лицензия указана как other, поэтому условия использования следует уточнить в репозитории.

Карточка модели StanfordAIMI/RadPhi-2 на Hugging Face совпадает с карточкой StanfordAIMI/XraySigLIP__vit-b-16-siglip-512__webli, поэтому описание составлено по ней. Репозиторий StanfordAIMI/XraySigLIP__vit-b-16-siglip-512__webli содержит модель семейства SigLIP на базе ViT-B/16, предназначенную для классификации изображений по текстовым описаниям без дополнительного обучения на заданных классах. README содержит только название CheXagent и ссылки, поэтому назначение и характеристики уточняются по метаданным Hugging Face. Репозиторий создан StanfordAIMI; модель представлена в формате safetensors. Модель подходит для сопоставления рентгеновских изображений с текстовыми метками или описаниями. Лицензия CC BY-NC 4.0 разрешает использование с атрибуцией и ограничивает коммерческое применение. Подробности об обучении, языках и клинических ограничениях в доступных данных отсутствуют.

RedDino-small — компактная модель семейства RedDino для анализа изображений эритроцитов, разработанная для задач вычислительной гематологии. Это self-supervised Vision Transformer ViT-small с размером патча 14, обученный по адаптированной схеме DINOv2 на 1,25 млн изображений эритроцитов из 18 наборов данных. Модель принимает изображения и выдаёт векторные признаки размерности 384. Модель предназначена для извлечения признаков, которые можно использовать в последующих задачах классификации формы и морфологических подтипов эритроцитов, а также для анализа, устойчивого к различиям между партиями и источниками изображений. Обучение на фрагментах мазков крови и специализированные аугментации рассчитаны на улучшение обобщения между источниками данных. Репозиторий распространяется по лицензии CC BY 4.0.

Red Flag Modifier — специализированная модель извлечения модификаторов из клинических заметок и сообщений пациентов. Она разработана как один из пяти модулей системы обнаружения медицинских тревожных признаков и предназначена для совместной работы с другими экстракторами и движком правил. Модель выделяет такие сведения, как время начала симптома, температура при лихорадке и уровень сознания. Модель основана на Qwen2.5-3B-Instruct: это плотная авторегрессионная языковая модель Qwen2 с 3,1 млрд параметров и контекстом до 32 768 токенов. Веса дообучены с помощью LoRA и объединены с базовой моделью. Заявлена работа с английским, включая брунейский разговорный вариант Manglish, китайским и малайским языками. В независимом наборе из 2246 случаев авторы сообщают метрики полного пятикомпонентного конвейера вместе с движком правил; эти результаты не относятся отдельно к данному модулю. Модель распространяется по лицензии Apache-2.0. Она предназначена для узкой медицинской задачи и описана как компонент многомодульной системы, поэтому приведённые показатели полного конвейера не следует считать самостоятельной оценкой её качества; для применения требуется учитывать остальные модули и постобработку.

Relay v0.1 — диалоговая языковая модель на базе Mistral Nemo 2407, разработанная danlou. Она дообучена для воспроизведения разговоров в стиле IRC: модель ведёт естественный диалог по очереди и может работать с командами в рамках этого контекста. Её можно использовать для генерации синтетических диалогов и экспериментов с разговорным поведением базовых языковых моделей. Модель представляет собой плотную архитектуру MistralForCausalLM на 12,1 млрд параметров с контекстом до 131 072 токенов. Дообучение выполнено методом 4-битного QLoRA на датасете danlou/based-chat-v0.1-Mistral-Nemo-Base-2407; карточка описывает ChatML-шаблон с ролями user и anon и обучение без инструкционных датасетов и методов RLHF. Модель принимает текст и генерирует текст; метаданные указывают поддержку чата, но не перечисляют языки отдельно. Relay предназначена для экспериментов с синтетическими разговорами и эмуляцией IRC-переписки, а не для работы в качестве обычного ИИ-ассистента. По оценке автора, она отказывается отвечать на большинство вопросов из использованных наборов для проверки безопасности, однако обход отказов возможен. Качество на бенчмарках ожидается ниже, чем у instruct-вариантов, а 4-битное дообучение может ухудшить сохранность знаний предобучения. Лицензия — CC BY-NC 4.0, с ограничением на коммерческое использование.

ResMaskNet — сверточная нейросеть для распознавания эмоций по изображениям лиц. Модель сочетает остаточное маскирование с архитектурой U-Net и классифицирует выражение лица по семи категориям. Она принимает изображения размером 224×224 пикселя и реализована на PyTorch. Модель предназначена для анализа мимики на фотографиях и других изображениях лиц, например для исследования выражений лица или построения систем распознавания эмоций. В карточке указана лицензия MIT. Описание не приводит названия семи категорий и подробностей об обучающих данных; точность распознавания в разных условиях не установлена.

Sapiens2-0.4B-Surface — модель Meta для оценки нормалей поверхности на изображениях с людьми. Она построена на основе предварительно обученного бэкбона Sapiens2-0.4B и использует Vision Transformer с отдельной головой для оценки нормалей; для каждого пикселя выдаёт трёхмерный единичный вектор в системе координат камеры. В модели около 402,7 млн параметров, веса доступны в формате safetensors. Модель предназначена для анализа геометрии человека на изображениях и исследований в области человекоцентричного компьютерного зрения. Для использования требуется программный репозиторий Sapiens2. Модель распространяется по лицензии Sapiens2; в метаданных Hugging Face лицензия обозначена как other.

Sapiens2-1B — разработанная Meta предварительно обученная модель Vision Transformer для анализа изображений с фокусом на человеке. Веса этой версии содержат около 1,5 млрд параметров и распространяются в формате safetensors по лицензии Sapiens2 License. Модель обучена на 1 млрд изображений людей и выдаёт плотные признаки для каждого патча изображения. Её используют как основу для извлечения признаков и дообучения специализированных голов для оценки позы, сегментации частей тела, предсказания нормалей поверхности и построения pointmaps. Архитектура Sapiens2 ViT включает RoPE, GQA, SwiGLU, RMSNorm и QK-norm. Это визуальный backbone, а не готовая система для перечисленных downstream-задач: для получения оценок позы, сегментации или геометрии нужны соответствующие дообученные головы. README указывает высокие вычислительные затраты — 4,715 TFLOPs.

Это детектор объектов YOLOv8s от Ultralytics, дообученный на наборе SeaDronesSee в рамках DetectionBench. Модель предназначена для обнаружения людей в воде, лодок, гидроциклов, спасательных средств и буёв на изображениях с беспилотников над водой, в том числе для сценариев морского поиска и спасения. Модель использует архитектуру YOLOv8 и принимает изображения, выдавая найденные объекты с рамками и классами. На валидационной выборке SeaDronesSee указаны mAP@50 72,94%, mAP@50–95 43,05% и точность 84,52%. Репозиторий содержит веса PyTorch; лицензия — AGPL-3.0. Качество ограничено дисбалансом классов и высокой долей мелких объектов: редкие классы оценены на небольшом числе примеров. Результаты измерены на валидационной выборке, поскольку разметка тестового набора недоступна; перенос на другие воздушные и морские условия не проверен.

SportsBERT — англоязычная модель семейства BERT, разработанная Prithvishankar Srinivasan в Microsoft и обученная с нуля на спортивных новостях. Это плотная модель с архитектурой BERT base uncased и примерно 120,9 млн параметров; контекст — до 512 токенов. Для спортивной тематики создан отдельный токенизатор с расширенным спортивным словарём. Основная задача — предсказывать замаскированные слова в спортивных текстах, например подбирать вероятные продолжения фразы с пропуском. Модель подходит как основа для дообучения классификаторов и систем извлечения сущностей из спортивных материалов. В обучающем корпусе были новости о футболе, баскетболе, хоккее, крикете, бейсболе, Олимпийских играх, теннисе, гольфе и MMA. Модель принимает текст и выдаёт вероятности токенов для заполнения маски. Её специализация ограничивает применимость к неспортивным текстам, а для классификации и извлечения сущностей требуется дополнительное дообучение. Доступны веса PyTorch и Flax; лицензия в предоставленных данных не указана.