I.3Извлечение и структурирование данных

OpenMed Arabic Clinical PII — XLM-RoBERTa-base (LoRA) — это модель команды OpenMed для выявления и разметки персональных данных в арабских клинических записях. Она распознаёт шесть типов сущностей: пациента, врача, больницу, дату, телефон и идентификатор. Модель построена на XLM-RoBERTa-base с LoRA-адаптером и классификационной головой; в репозитории указаны 305,2 млн параметров и контекст до 514 токенов. Модель принимает арабский текст и выдаёт разметку токенов. Модель предназначена для удаления идентифицирующих данных из клинических заметок, выписок, консультаций, лабораторных и радиологических отчётов перед исследованием, аналитикой или передачей текста во внешние LLM-сервисы. В README сообщается о высоких результатах на синтетической тестовой выборке и проверке на шести написанных вручную примерах, но авторы подчёркивают, что нужна оценка на размеченных реальных клинических данных. Обучение версии 1 использовало только синтетические данные с ограниченным числом шаблонов, поэтому модель не должна служить единственным средством соблюдения требований к защите данных. Лицензия — Apache-2.0.

OpenMed-NER-GenomeDetect-ElectraMed-560M — модель OpenMed для распознавания упоминаний генов и белков в биомедицинском тексте. Это дообученный трансформер с архитектурой XLM-RoBERTa и примерно 658,7 млн параметров; модель принимает токенизированный текст и выдаёт BIO-метки для токенов. Контекст составляет до 514 токенов. Модель предназначена для извлечения генов и белков из научных публикаций, медицинских записей и других биомедицинских документов. Её можно применять для разметки текста при поиске по литературе и построении биомедицинских баз знаний. В README указаны BC2GM как обучающий набор и F1 0,87 на этом корпусе; упомянутые сценарии выявления лекарственных взаимодействий и побочных эффектов требуют дополнительных этапов обработки и не являются непосредственным выходом модели. Модель распространяется по лицензии Apache-2.0. Карточка описывает её как готовую к применению, но приведённые метрики относятся к BC2GM и сами по себе не подтверждают точность на клинических документах или других типах текста.

OpenMed разработала эту модель для распознавания упоминаний генов и белков в биомедицинских текстах. Это дообученная модель ModernBERT для классификации токенов: она присваивает им метки BIO `B-GENE/PROTEIN` и `I-GENE/PROTEIN`, чтобы выделять границы сущностей. Веса занимают около 395 млн параметров; модель принимает текст с контекстом до 8192 токенов и распространяется в формате safetensors. Модель обучена на корпусе BC2GM и предназначена для извлечения генов и белков из научных публикаций, клинических записей и других медицинских документов. Такие извлечения можно использовать при поиске по литературе, анализе медицинских текстов и построении биомедицинских баз знаний. В README приведены F1 и precision 0,87, recall 0,87 и accuracy 0,96 на BC2GM; эти показатели относятся к указанному корпусу и не гарантируют такого же качества на других типах текста. Карточка сообщает об Apache 2.0. Модель обучена для англоязычной биомедицинской литературы, поэтому перенос на другие языки, документы с отличающейся терминологией и клинические сценарии требует отдельной проверки. Она выделяет только сущности генов и белков, а не все типы медицинских сущностей.

OpenMed-NER-GenomeDetect-ModernMed-149M — модель OpenMed для распознавания упоминаний генов и белков в биомедицинских текстах. Это дообученная для классификации токенов ModernBERT-модель с 149 млн параметров и контекстом до 8192 токенов. Она размечает названия генов и белков BIO-метками B-GENE/PROTEIN и I-GENE/PROTEIN. Модель предназначена для извлечения биомедицинских сущностей из научных статей и клинических документов, например для поиска упоминаний генов в литературе и построения биомедицинских баз знаний. В README указаны BC2GM как обучающий датасет и F1 0,81, точность 0,80 и полнота 0,81. Эти результаты относятся к указанной оценке на BC2GM и сами по себе не подтверждают заявленную в карточке пригодность для клинического применения. Для использования доступны веса safetensors в экосистеме Transformers. Лицензия — Apache-2.0. Модель поддерживает английский язык; карточка не подтверждает поддержку других языков.

OpenMed-NER-GenomeDetect-SnowMed-568M — специализированная модель OpenMed для распознавания упоминаний генов и белков в биомедицинских текстах. Она предназначена для разметки сущностей в научных публикациях, клинических записях и других медицинских документах, например для поиска генов в литературе и извлечения упоминаний из медицинских текстов. Модель использует архитектуру XLM-RoBERTa и задачу классификации токенов, выдавая метки BIO для сущностей B-GENE/PROTEIN и I-GENE/PROTEIN. Размер — около 658,7 млн параметров, контекст — до 8194 токенов. В README указано, что модель дообучена на корпусе BC2GM; сообщаемая оценка F1 на этом наборе составляет 0,87. Метаданные указывают английский язык и формат safetensors. Модель может помогать в извлечении генов и белков для биомедицинского поиска и анализа, однако обучалась на распознавании именно таких упоминаний и не классифицирует другие типы сущностей. Показатели приведены для BC2GM и не гарантируют такое же качество на клинических документах или иных корпусах. Лицензия — Apache-2.0.

OpenMed разработала OpenMed-NER-GenomeDetect-TinyMed-65M — специализированную модель на базе DistilBERT для распознавания упоминаний генов и белков в биомедицинских текстах. Это модель классификации токенов с разметкой BIO; она выделяет сущности типов B-GENE/PROTEIN и I-GENE/PROTEIN. Архитектура — DistilBertForTokenClassification, размер — 65 млн параметров, максимальная длина контекста — 512 токенов. Модель дообучена на корпусе BC2GM и предназначена для извлечения генов и белков из научной литературы и медицинских документов, а также для текстового майнинга в геномике и молекулярной биологии. В README приведены результаты на BC2GM: F1 0,87, точность 0,86, полнота 0,87 и accuracy 0,95. Указана совместимость с Transformers; веса опубликованы в формате safetensors. Модель рассчитана на английский язык. Результаты на других языках и клиническая применимость за пределами описанных сценариев не подтверждены; указанная оценка относится к BC2GM. Лицензия — Apache-2.0.

OpenMed-NER-GenomicDetect-SnowMed-568M — специализированная модель OpenMed для распознавания геномных сущностей в биомедицинских текстах. Это дообученная модель XLM-RoBERTa для токенной классификации с примерно 658,7 млн параметров и контекстом до 8194 токенов. Она принимает токенизированный текст и возвращает BIO-разметку; README указывает метку Cell-line-name, хотя описывает назначение модели как распознавание генов и генетических сущностей. Модель предназначена для извлечения упоминаний сущностей из научной литературы и клинических документов, а также для геномного текстового анализа и построения биомедицинских баз знаний. В карточке заявлены обучение на корпусе GELLUS и высокая точность на этом наборе, но приведённые показатели не гарантируют такого же качества на других данных или типах сущностей. Поддержка английского указана в метаданных. Лицензия — Apache-2.0.

OpenMed разработала OpenMed-NER-OncologyDetect-TinyMed-135M — специализированную модель распознавания биомедицинских сущностей в текстах об онкологии и генетике рака. Это дообученная модель DistilBERT для классификации токенов; в README базовая архитектура указана как distilbert-base-multilingual-cased. Модель обучена на корпусе BIONLP2013_CG и присваивает найденным сущностям BIO-метки, включая гены и продукты генов, виды рака, клетки, ткани, органы и химические вещества. Модель подходит для извлечения онкологических сущностей из научной литературы, медицинских документов и текстов исследований, например для поиска биомаркеров, генов-мишеней и связанных с раком соединений. В README приведены результаты на BIONLP2013CG: F1 0,77, точность 0,77, полнота 0,78 и accuracy 0,91. Контекст составляет 512 токенов; язык в метаданных — английский. Лицензия — Apache-2.0. Результаты описывают качество на указанном корпусе и сами по себе не подтверждают пригодность модели для клинических решений; качество также может снижаться на иных типах текстов и разметки.

OpenMed-NER-OrganismDetect-ElectraMed-335M — модель OpenMed для распознавания названий организмов и видов в биомедицинских текстах. Это дообученный трансформер архитектуры BERT для token classification с 433,9 млн параметров и контекстом до 512 токенов; модель присваивает токенам BIO-метки B-SPECIES и I-SPECIES. Она рассчитана на научные публикации и другие тексты о биологии и медицине, включая упоминания научных и общеупотребительных названий видов. Модель обучена на корпусе SPECIES800, содержащем 800 аннотаций абстрактов, и предназначена для извлечения упоминаний организмов, таксономического анализа и поиска по биомедицинской литературе. В README приведены F1 0,83, precision 0,82, recall 0,84 и accuracy 0,96; эти показатели относятся к заявленной оценке на SPECIES800 и не гарантируют качество на других типах текста. Веса доступны в формате safetensors, библиотека интеграции — Transformers. Лицензия — Apache-2.0.

OpenMed-NER-OrganismDetect-ModernMed-395M — модель OpenMed для распознавания упоминаний организмов и видов в тексте. Это дообученный ModernBERT для классификации токенов с метками B-SPECIES и I-SPECIES; размер составляет 394,7 млн параметров, а контекст — до 8192 токенов. Модель обучена на корпусе SPECIES800 и принимает токенизированный текст, выдавая BIO-разметку сущностей. Модель предназначена для извлечения названий видов из биомедицинской литературы и других текстов, а также для анализа упоминаний организмов в исследованиях биоразнообразия и таксономии. В README указаны F1 0,76, точность 0,78 и полнота 0,74. Эти показатели относятся к SPECIES800; качество на иных текстах может отличаться. Лицензия — Apache-2.0.

OpenMed-NER-OrganismDetect-MultiMed-335M — модель OpenMed для распознавания упоминаний видов организмов в тексте. Это дообученный BERT-классификатор токенов с 433,9 млн параметров и контекстом до 512 токенов. Модель выделяет названия видов, включая научные и общеупотребительные, и присваивает токенам метки BIO: B-SPECIES и I-SPECIES. Она обучена на корпусе SPECIES800, содержащем аннотации упоминаний организмов в научных аннотациях. Модель предназначена для извлечения видов из биомедицинской литературы и других текстов, где требуется идентификация организмов и таксономическая обработка. В README приведены показатели на SPECIES800: F1 0,84, точность 0,84, полнота 0,85 и accuracy 0,97. Метаданные указывают английский язык. Лицензия — Apache-2.0. README также описывает более широкие сценарии вроде клинического анализа и мониторинга нежелательных явлений, однако заявленная задача модели ограничена распознаванием сущностей видов; показатели для этих сценариев отдельно не приведены.

OpenMed-NER-ProteinDetect-BigMed-278M — модель OpenMed для распознавания биомедицинских сущностей в тексте. Это дообученная модель XLM-RoBERTa с архитектурой XLMRobertaForTokenClassification и примерно 305,2 млн параметров. Она размечает токены в формате BIO и предназначена прежде всего для извлечения белков, белковых комплексов, семейств и групп белков, а также вариантов белков. Карточка сообщает о обучении на корпусе FSU, посвящённом белковым взаимодействиям и молекулярной биологии, и указывает поддержку английского языка. Контекст модели составляет 514 токенов. Модель подходит для извлечения белковых сущностей из научной литературы и биомедицинских документов, а также для подготовки данных для анализа взаимодействий и построения биомедицинских графов знаний. В README приведены результаты на корпусе FSU: F1 0,95, точность 0,94, полнота 0,95 и accuracy 0,97. Эти показатели относятся к указанному корпусу и не гарантируют аналогичного качества на других типах текстов. Репозиторий распространяется в формате safetensors по лицензии Apache-2.0.

OpenMed/OpenMed-NER-SpeciesDetect-ModernClinical-149M — дообученная OpenMed модель для распознавания названий видов и организмов в биомедицинских текстах. Она помечает упоминания токенами B-SPECIES и I-SPECIES и предназначена для извлечения таких сущностей из научной литературы и клинических документов. Модель использует плотную архитектуру ModernBERT для классификации токенов, содержит 149 млн параметров и поддерживает контекст до 8192 токенов. В README указано, что она обучена на корпусе LINNAEUS; карточка приводит F1 0,92, точность 0,93 и полноту 0,92. Для использования нужны токенизированный текст и библиотека Transformers. Модель подходит для поиска упоминаний организмов в статьях, поддержки таксономического анализа и построения биомедицинских баз знаний. Она выявляет тип сущности SPECIES, а не извлекает лекарственные препараты или химические соединения, несмотря на более широкие сценарии, перечисленные в README. Лицензия — Apache-2.0.

OpenMed-PII-French-BiomedBERT-Base-110M-v1 — модель OpenMed для обнаружения и классификации персональных и чувствительных данных во французском тексте. Это дообученная модель BERT для токен-классификации на базе microsoft/BiomedNLP-BiomedBERT-base-uncased-abstract; в метаданных указаны 136,7 млн параметров и контекст до 512 токенов. Модель принимает текст и присваивает метки токенам, выявляя, среди прочего, имена, адреса, идентификаторы, медицинские номера, контактные и финансовые сведения. Модель предназначена для обезличивания клинических записей и документов, подготовки наборов данных к исследованиям, проверки коллекций документов и поддержки процессов соблюдения требований конфиденциальности. По README, на французской части набора AI4Privacy она показала micro F1 0,9466. Распространяется по лицензии Apache-2.0. Результаты следует проверять человеком: модель может пропускать чувствительные сведения, а качество зависит от контекста и терминологии. Она оптимизирована для французского и может хуже работать на других языках.

OpenMed-PII-Italian-mSuperClinical-Large-279M-v1 — модель OpenMed для обнаружения и классификации персональных данных в итальянском тексте. Это дообученный на базе microsoft/mdeberta-v3-base трансформер DeBERTa V2 для классификации токенов: он выделяет 54 типа чувствительных сущностей, включая имена, адреса, идентификаторы, медицинские и финансовые сведения, контакты и даты. Модель принимает текст и возвращает метки для его фрагментов; размер по метаданным — 306 млн параметров, контекст — до 512 токенов. Модель предназначена для поиска и удаления персональных данных в клинических заметках, медицинских документах и других итальянских текстах, а также для подготовки наборов данных и аудита документов. В README приведена оценка Micro F1 0,9587 на итальянской части AI4Privacy, однако качество может меняться на других данных и в специализированной терминологии. Разработчики рекомендуют использовать модель как вспомогательный инструмент с проверкой результатов человеком; для других языков она не оптимизирована. Лицензия — Apache-2.0.

OpenMed-PII-Italian-SnowflakeMed-Large-568M-v1 — модель OpenMed для обнаружения и классификации персональных данных в итальянском тексте. Это дообученная модель токенной классификации на архитектуре XLM-RoBERTa с 658,7 млн параметров; она принимает текст и помечает фрагменты, относящиеся к 54 типам чувствительной информации, включая имена, адреса, идентификаторы, медицинские данные и контактные сведения. В метаданных указан контекст до 8194 токенов. Модель предназначена для выявления и удаления персональных данных из клинических записей и документов, подготовки исследовательских наборов данных и аудита коллекций документов. В карточке приведён результат F1 0,9678 на итальянской части набора AI4Privacy PII Masking 400k. Весами можно пользоваться по лицензии Apache-2.0. Модель оптимизирована для итальянского языка; качество на других языках может быть ниже. Она может пропускать персональные данные, а результат зависит от терминологии и контекста, поэтому для важных сценариев требуется проверка человеком.

OpenMed-ZeroShot-NER-Genomic-Multi-209M — модель OpenMed для распознавания именованных сущностей в геномной и молекулярно-биологической литературе. Она основана на архитектуре GLiNER и дообучена на корпусе GELLUS; размер в названии модели — 209M. Модель принимает текст и возвращает найденные сущности с разметкой токенов. Её назначение — извлекать упоминания генов и связанных генетических сущностей для геномного поиска, курирования вариантов и исследований генетических ассоциаций. Zero-shot подход позволяет задавать типы сущностей при применении без отдельного дообучения под каждый тип. В карточке приведён показатель F1 0,73 на тестовой выборке, исключённой из обучения; результаты могут зависеть от текста, меток и порога предсказания. Указанная в README категория Cell-line-name и описание GELLUS не полностью совпадают с акцентом названия на геномных сущностях, поэтому стоит проверять качество на целевой задаче. Модель распространяется по лицензии Apache-2.0.

OpenMed-ZeroShot-NER-Oncology-Base-220M — модель OpenMed для распознавания и классификации сущностей в текстах по онкологии и генетике рака. Она основана на архитектуре GLiNER и дообучена на корпусе BioNLP 2013 CG, посвящённом сущностям и регуляторным процессам в онкологических исследованиях. Модель принимает биомедицинский текст и позволяет задавать типы сущностей для zero-shot извлечения без отдельного дообучения под каждый тип. Модель предназначена для извлечения генов и их продуктов, аминокислот, клеток, тканей, химических веществ, опухолевых образований и других биомедицинских сущностей. Её можно применять для анализа онкологической литературы, курирования данных о путях развития рака и поиска генов-драйверов. В README указана оценка F1 0,82 на тестовой выборке; это заявление карточки, а не независимая проверка. Метаданные указывают формат PyTorch, английский язык и лицензию Apache-2.0. Результаты zero-shot распознавания могут зависеть от выбранных меток и порога, а заявленные показатели и применимость к клиническим данным требуют проверки на целевом наборе текстов.

OpenMed-ZeroShot-NER-Organism-Base-220M — модель OpenMed для извлечения упоминаний видов организмов из научных и биомедицинских текстов. Она основана на архитектуре GLiNER и дообучена на SPECIES800 — корпусе из 800 аннотирoванных научных аннотаций. Модель поддерживает zero-shot распознавание: типы сущностей задаются при запросе, хотя в карточке отдельно указан тип SPECIES. Модель принимает текст и возвращает найденные сущности с метками. В SPECIES800 представлены научные и общеупотребительные названия видов; заявленная F1 на тестовом наборе — 0,77. Основные сценарии — разметка биологической литературы, таксономический поиск и биокурация. Лицензия Apache-2.0. Показатель F1 относится к SPECIES800 и сам по себе не гарантирует такую же точность на других корпусах; широкие заявления карточки о распознавании любых сущностей и клинических задачах не подтверждены приведёнными метриками.

Модель haensumo/Qwen3-0.6B-JSON-SFT-GRPO — дообученная разработчиком haensumo компактная языковая модель семейства Qwen3 для генерации текста. Она создана на основе NotoriousH2/Qwen3-0.6B-JSON-SFT и предназначена для сценариев, где нужен структурированный вывод в JSON; базовая модель ориентирована на извлечение сведений из корейских протоколов совещаний. Модель содержит около 507,9 млн параметров, использует архитектуру Qwen3ForCausalLM и поддерживает контекст до 40 960 токенов. В карточке указаны английский язык и формат весов safetensors; обучение выполнялось с Unsloth и библиотекой TRL. Лицензия — Apache-2.0. Карточка не приводит результатов оценки качества или подробностей о том, какие именно изменения внесены на этапе GRPO. Поэтому пригодность для задач за пределами структурированного извлечения данных из корейских протоколов следует проверять отдельно.

KoichiYasuoka/rinna-gpt2-1b-japanese-ud-causal — японская GPT-2-модель, дообученная на базе rinna/japanese-gpt-1b для морфосинтаксической разметки и синтаксического анализа зависимостей по стандарту Universal Dependencies. Она предназначена для обработки японских предложений: определяет части речи и связи между словами; в карточке приведён пример запуска через Transformers. Модель использует плотную архитектуру GPT-2, веса PyTorch и контекст длиной до 1024 токенов. Базовая модель содержит 1,3 млрд параметров. Модель ориентирована на японский язык и обучалась для набора UD_Japanese-GSDLUW. Репозиторий распространяется по лицензии MIT. Оценки качества и ограничения за пределами указанного набора данных в карточке не приведены.

RoBERTa-large-ca-v2 — трансформерная языковая модель с архитектурой RoBERTa Large, разработанная подразделением Text Mining Unit (TeMU) Барселонского суперкомпьютерного центра в рамках Projecte AINA. Модель предназначена для каталонского языка: она предсказывает пропущенные слова в тексте и может служить основой для дообучения под задачи классификации текста, распознавания именованных сущностей и ответов на вопросы. Модель содержит 454,1 млн параметров, принимает текст и поддерживает контекст до 514 токенов. Она обучена на корпусах каталонского веб-текста и открытых источниках, включая Википедию и DOGC. В бенчмарке CLUB показала результаты для ряда задач понимания каталонского языка, в том числе NER, POS-теггинга, классификации, текстового следования, семантического сходства и ответов на вопросы. Для этих прикладных задач потребуется дообучение модели. Возможны смещения, унаследованные от обучающих данных, собранных из веб-источников; систематическая оценка таких смещений не проводилась. Лицензия — Apache License 2.0.

hongccccccc/scibert-citation-background-classifier — англоязычный классификатор научных цитат, разработанный на основе SciBERT и дообученный для определения роли цитирования в контексте статьи. Модель относит контекст к одному из двух классов: BACKGROUND, когда цитата даёт фон или контекст, и NOT_BACKGROUND, когда она используется, например, для описания метода, сравнения, развития идеи или мотивации. Модель построена на архитектуре BERT с головой классификации последовательностей, содержит 137,1 млн параметров и принимает текст длиной до 512 токенов. Она обучена на 27 052 размеченных контекстах цитирования из SciCite и MultiCite; в README указана оценка F1 0,81 на тестовой выборке при разделении данных 80/20. Подходит для анализа научной литературы и автоматической разметки функций цитат. Распространяется по лицензии Apache-2.0.

Это англоязычная модель SetFit, разработанная tomaarsen для фильтрации кандидатов аспектов в анализе тональности по аспектам (ABSA) отзывов о ресторанах. Она использует дообученную модель эмбеддингов BAAI/bge-small-en-v1.5 на базе BERT и классификатор LogisticRegression с двумя классами: «аспект» и «не аспект». Модель обучена на наборе SemEval 2014 Task 4 (Restaurants) с применением контрастивного обучения и эффективного few-shot подхода. Модель принимает текстовые кандидаты аспектов вместе с контекстом отзыва и определяет, относится ли кандидат к аспекту, например к еде или персоналу. В описанном конвейере spaCy сначала предлагает возможные фрагменты, эта модель их фильтрует, а отдельная модель SetFit классифицирует тональность отобранных аспектов. Максимальная длина последовательности — 512 токенов; заявленная точность на приведённой оценке — 0,8623. Модель предназначена для английских ресторанных отзывов и узкой задачи фильтрации кандидатов; её не следует считать самостоятельной системой полного ABSA или классификатором полярности. Распространяется по лицензии Apache-2.0.

Это модель Stanza для индонезийского языка, опубликованная Stanford NLP. Она входит в набор инструментов Stanza для лингвистического анализа текста и предназначена для разметки токенов; экосистема Stanza также поддерживает синтаксический анализ и распознавание именованных сущностей. Модель доступна в формате PyTorch и распространяется по лицензии Apache-2.0. Карточка указывает индонезийский язык. Сведений о размере модели и длине контекста нет.

stanfordnlp/stanza-kk — модель Stanza для лингвистического анализа текстов на казахском языке, опубликованная Stanford NLP. Она предназначена для разметки последовательностей токенов; модель распространяется в формате PyTorch и доступна по лицензии Apache-2.0.

Это модель Stanza для норвежского букмола (nb), опубликованная командой Stanford NLP. Она предназначена для лингвистического анализа текста и входит в набор инструментов Stanza, который обрабатывает текст от базовой языковой разметки до синтаксического анализа и распознавания сущностей. В метаданных Hugging Face задача модели обозначена как классификация токенов; веса представлены в формате PyTorch, лицензия — Apache-2.0. Карточка не уточняет архитектуру, размер модели и конкретные типы разметки.

Модель Stanza для упрощённого китайского языка (zh-hans), разработанная Stanford NLP. Это компонент набора Stanza для лингвистического анализа текста, работающий в библиотеке Stanza и представлен в формате PyTorch. Модель предназначена для разметки токенов в китайском тексте. Stanza также предлагает инструменты для синтаксического анализа и распознавания сущностей, однако в метаданных этой модели подтверждена только задача token-classification. Карточка не сообщает размер модели, длину контекста или более подробные характеристики архитектуры. Модель распространяется по лицензии Apache-2.0. Подробности о качестве, ограничениях и условиях применения в карточке не приведены.

google/tapas-small-finetuned-wtq — небольшая модель TAPAS от Google для ответов на вопросы по таблицам. Она построена на архитектуре Transformer, похожей на BERT, содержит 32,4 млн параметров и принимает вопрос вместе с таблицей, преобразованной в последовательность текста. Для выбора ответа модель использует головы выбора ячеек и агрегации; в стандартной версии позиции в таблице сбрасываются для каждой ячейки. Модель предварительно обучалась на англоязычных таблицах и текстах Википедии, а затем последовательно дообучалась на SQA, WikiSQL и WikiTable Questions. Она предназначена для извлечения ответа из содержимого таблицы и может учитывать числовые отношения. Контекст ограничен 512 токенами; заявленные данные обучения и карточка ориентированы на английский язык. Доступны веса PyTorch и TensorFlow. Модель распространяется по лицензии Apache-2.0. Карточка приводит результаты для крупных и базовой версий TAPAS, но не указывает оценку для этой небольшой версии; качество на иных типах таблиц и языках может отличаться.

Tibetan BERT — модель на архитектуре BERT, разработанная UTibetNLP для работы с тибетским языком. Она подходит для использования в качестве языковой основы в задачах обработки тибетского текста; README также сообщает об открытом обучающем корпусе. Модель содержит 138 млн параметров, принимает последовательности длиной до 512 токенов и опубликована в формате PyTorch. Модель распространяется по лицензии Apache-2.0. Карточка не описывает конкретные обученные задачи или результаты, поэтому её пригодность для отдельных сценариев зависит от дообучения или настройки под задачу.