I.3Извлечение и структурирование данных
В разделе собраны самостоятельные задачи, где AI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
25 791 модельЭто модель распознавания именованных сущностей на основе XLM-RoBERTa-base, дообученная Майклом Бёкманом в Университете Витватерсранда на амхарской части набора MasakhaNER. Она размечает токены текста и предназначена для извлечения сущностей из новостных статей на амхарском языке, а также для исследований в области интерпретируемости и переноса обучения. Модель содержит 305,2 млн параметров, использует архитектуру XLM-RoBERTa для классификации токенов и принимает контекст длиной до 514 токенов. В карточке указаны PyTorch и лицензия Apache License 2.0. При оценке на тестовой части MasakhaNER качество измерялось агрегированным F1; модель показала лучший результат среди пяти запусков с разными случайными начальными значениями. Обучение проводилось на одном сравнительно небольшом наборе новостных данных, поэтому качество может снижаться на других жанрах и распределениях. Модель хуже справлялась с датами, длинными сущностями и сущностями, отсутствовавшими в обучающих данных; результаты на других языках также могут быть хуже. Автор не рекомендует использовать её в производстве или в важных сценариях, влияющих на людей, без тщательной проверки.
DAM1 — небольшая англоязычная модель для ответов на вопросы по сведениям, сообщённым ей в коротких предложениях. Её разработала Datamine Network Inc. Модель читает текст по одному слову и строит дерево объектов, свойств и отношений, из которого извлекает ответы. Это не трансформер: сеть выбирает операции над памятью, а знания хранятся в дереве, а не в весах. В модели 1 870 616 параметров; она работает на процессоре и может запускаться в браузере через WebAssembly. DAM1 рассчитана на простые диалоги на английском о том, кто чем владеет, где что находится, свойствах объектов, количестве, мерах и времени. Она может отвечать на вопросы о введённых пользователем фактах и встроенных начальных сведениях. Разработчик также указывает исследовательское применение — изучение чтения текста с построением дерева как альтернативы трансформерам. Модель не предназначена для свободной генерации текста, перевода или суммаризации. Результаты высокой точности в карточке получены на отложенных примерах из собственной учебной программы модели и не свидетельствуют о широком понимании языка или общих знаниях. DAM1 не знает фактов за пределами введённого текста и встроенных данных; незнакомые ей формы предложений могут приводить к ошибкам, которые не помечаются как ошибочные. Контекст ограничен одним предложением и 200 событиями в стеке. Лицензия — AGPL-3.0-or-later.
DUSUNEN Oku 62M v1 — модель распознавания печатных турецких слов, разработанная и выпущенная Göktuğ Düşünen. Это дообученная 61,6-миллионная модель TrOCR с архитектурой vision-encoder-decoder: она принимает изображение с одним обрезанным словом и генерирует его текстовую транскрипцию. Поддерживает турецкие символы ç, ğ, ı, İ, ö, ş и ü. В описанном word-disjoint тесте на синтетических изображениях модель показала CER 0,24% и точность распознавания целого слова 98,39%; тестовые слова не встречались при дообучении. Эти результаты не подтверждают качество на фотографиях, рукописном тексте, сканах, чеках, исторической печати или произвольных шрифтах. Модель рассчитана на отдельные слова, а не на полные страницы; для обработки документов её следует сочетать с детектором текста. Обучающие метки не включают цифры, пунктуацию и строки из нескольких слов. Для юридических, медицинских, финансовых документов и документов, удостоверяющих личность, требуется проверка результата человеком. Лицензия — CC BY-SA 4.0.
Helios-Reasoner-7B — модель, представленная авторами Helios Labs как открытая модель для рассуждений. В README заявлены дообучение с RLHF и дополнительное обучение на подборке математических и программных данных; указаны результаты на тестах математического, логического и бытового рассуждения. При этом метаданные Hugging Face описывают репозиторий как BERT-модель для извлечения признаков, поэтому её назначение как генеративной модели рассуждений не подтверждается согласованными сведениями. В метаданных указаны архитектура BertModel, библиотека Transformers, формат PyTorch и лицензия Apache-2.0. Карточка упоминает чат-интерфейс и API, но не приводит подробностей о запуске, языках, размере модели или контексте. Поэтому практическое применение для генерации ответов и рассуждений следует считать заявленным авторами, а не подтверждённым метаданными.
Это дообученная LiquidAI модель LFM2.5-Encoder-350M для BIO-разметки упоминаний данных в экономических научных статьях. Она присваивает токенам одну из меток: NAMED_DATA для названия конкретного источника данных, DESCRIPTIVE_DATA для описания источника без названия и VAGUE_DATA для неопределённого упоминания данных. Модель предназначена для извлечения упоминаний наборов данных, обследований, переписей и реестров из исследовательских текстов. Модель основана на двунаправленной плотной архитектуре LFM2 Encoder; в метаданных указано 444,6 млн параметров и контекст до 128 000 токенов. Для обучения использован набор rafmacalaba/data-use-mentions, BIO-конфигурация, пять эпох и точность bf16. На отложенной выборке README приводит лучшие значения F0.5 0,7635 и F1 0,7034. Модель распространяется по лицензии Apache-2.0. Её назначение узкоспециализированное: результаты оценки приведены для упоминаний источников данных в экономических статьях, поэтому качество на других типах документов и в иных областях не установлено.
Koichi Yasuoka разработал RoBERTa-base-thai-char — модель RoBERTa, предварительно обученную на текстах тайской Википедии. Она использует символьные эмбеддинги и подходит для предсказания скрытых токенов, а также для дообучения под задачи разметки частей речи и синтаксического анализа зависимостей. Модель содержит 115,3 млн параметров, принимает текст и поддерживает контекст до 512 токенов. Она рассчитана на тайский язык и распространяется в формате PyTorch по лицензии Apache-2.0.
google/tapas-mini-masklm — компактная модель Google семейства TAPAS для задачи fill-mask: она предсказывает замаскированные токены в последовательности, содержащей табличные данные. Модель имеет архитектуру TapasForMaskedLM и около 12 млн параметров; поддерживает контекст до 512 токенов. В карточке указано, что она соответствует варианту tapas_masklm_mini_reset из исходного репозитория. Модель предназначена для заполнения пропусков в табличном тексте и изучения представлений таблиц. Доступны веса в форматах PyTorch и TensorFlow. Лицензия в предоставленных данных не указана.
HEDGEhog — дообученная модель на основе BERT для распознавания маркеров неопределённости в английском тексте. Она выполняет многоклассовую разметку на уровне токенов и различает эпистемические высказывания о возможности, маркеры исследования и слова, выражающие убеждения и гипотезы. Модель содержит 135,5 млн параметров, принимает контекст длиной до 512 токенов и распространяется в формате PyTorch по лицензии MIT. Модель обучалась и оценивалась на Szeged Uncertainty Corpus. В README приведены результаты по трём классам: F1 составляет 0,88 для эпистемических маркеров, 0,90 для маркеров убеждений и 0,84 для маркеров исследования. Для запуска автор рекомендует библиотеку Simple Transformers: прямое использование через Transformers pipeline и классы может давать некорректные результаты. Приведённые показатели относятся к оценке на указанном корпусе и не гарантируют качество на других данных.
HyperCLOVA X SEED Think-14B SFT 71568-3000 — дообученная методом SFT модель на базе naver-hyperclovax/HyperCLOVAX-SEED-Think-14B, подготовленная автором репозитория. Это плотная причинная языковая модель с 14,1 млрд параметров для генерации текста и диалогов; она принимает текст и выдаёт текст. Модель рассчитана прежде всего на корейские задачи числового MRC: вычисления и ответы на вопросы по экономическим и спортивным данным. Для дообучения использованы 3 000 проверенных текстовых примеров AI Hub 71568 с ответом в начале и кратким обоснованием. Применялся LoRA, затем адаптер объединили с базовой моделью; опубликованы веса BF16 в формате Safetensors. Контекстная длина модели — до 131 072 токенов, хотя обучение проводилось с последовательностями до 4 096 токенов. В README указано, что официальные результаты бенчмарков не приводятся, поэтому качество требует отдельной оценки. Лицензия обозначена как other; конкретные условия использования следует проверять в карточке модели и у правообладателя базовой модели.
Koichi Yasuoka подготовил эту модель на основе UTibetNLP/tibetan_bert: это BERT для разметки частей речи тибетского текста универсальными тегами UPOS. Модель присваивает каждому слову тег части речи и подходит для автоматической грамматической разметки и лингвистического анализа тибетских текстов. Модель содержит 138 млн параметров, использует архитектуру BERT и принимает последовательности длиной до 512 токенов. Она предназначена для классификации токенов и распространяется в формате PyTorch по лицензии Apache-2.0.
Whisper Medium ATC full — модель распознавания речи, созданная Вероникой Неваřиловой и Игором Шоке на факультете информационных технологий Брненского технического университета и опубликованная BUT FIT. Это дообученная версия openai/whisper-medium с архитектурой Whisper и 455,8 млн параметров. Модель предназначена для дословной транскрипции чешских и английских радиопереговоров воздушного движения, в частности записей аэропорта LKKU. Обучающий набор включал около пяти часов записей, преимущественно на чешском языке; слова, позывные и числа сохраняются в транскрипции полностью. На тестовых записях LKKU и других аэропортов Чехии авторы сообщают WER 14,7% и 19,6% соответственно. Модель принимает аудио и выдаёт текст. В метаданных указаны форматы PyTorch, TensorFlow и Flax, включая safetensors. Лицензия — Apache 2.0. Качество проверялось на ограниченном наборе радиопереговоров в Чехии, поэтому результаты могут отличаться на записях других регионов, языков и условий связи.
Jzuluaga выпустил модель распознавания именованных сущностей в англоязычных сообщениях авиационной радиосвязи. Это BERT-base с архитектурой BertForTokenClassification, дообученный для разметки токенов на наборе ATCO2 corpus 1h. Модель выделяет позывные, команды и значения, например название авиакомпании и номер рейса, разрешение на посадку и обозначение взлётно-посадочной полосы. Модель принимает текстовую расшифровку сообщения диспетчера или пилота и возвращает разметку сущностей. Она рассчитана на извлечение структурированной информации из ATC-коммуникаций и может использоваться в системах понимания речи и анализа радиообмена. Контекст составляет 512 токенов; в карточке указано 136,7 млн параметров. На development set приведены F1 0,6604 и точность 0,8182. Модель обучалась на узкоспециализированных данных воздушного движения, поэтому её качество на других типах текста может быть ниже. Это дообученная модель под лицензией Apache-2.0.
ChatLM-mini-Chinese — небольшая китайскоязычная разговорная модель, созданная автором проекта ChatLM-mini-Chinese для демонстрации полного процесса обучения генеративной модели: от подготовки данных и предобучения до SFT и оптимизации предпочтений DPO. В карточке описана архитектура T5 для преобразования текста в текст: 10 слоёв энкодера и 10 слоёв декодера, около 0,2 млрд параметров и словарь из 29 298 токенов, преимущественно китайских. Модель загружается через Transformers как модель генерации последовательностей. Модель предназначена для генерации ответов в однократном китайском диалоге, выполнения инструкций и экспериментов с дообучением, включая извлечение троек сущностей и отношений. Обучение использовало китайские общественные вопросы и ответы, энциклопедические, медицинские, Zhihu и инструкционные данные; автор также описывает SFT и DPO. Отмечены возможность потоковой генерации и невысокие требования к памяти для инференса в FP16. Автор предупреждает, что из-за небольшого размера и ограниченного обучающего корпуса модель может отвечать не по теме или генерировать многословные ответы; потоковый режим в описанной реализации поддерживает только greedy search. Репозиторий лицензирован по Apache-2.0.
Koichi Yasuoka разработал DeBERTa V2, дообученную на японских текстах Википедии и 青空文庫 для синтаксического анализа зависимостей. Модель использует формат вопроса и контекста для поиска головы длинного слова (long-unit-word) в японском предложении: слово задаётся как вопрос, а предложение — как контекст. Для неоднозначного слова в контексте рекомендуется указывать [MASK]. Модель содержит 435,4 млн параметров, принимает текст и имеет контекстное окно до 512 токенов. Она предназначена для японского языка и решает задачу question-answering как способ разметки синтаксических зависимостей. Лицензия — CC BY-SA 4.0. Карточка не описывает ограничения помимо необходимости учитывать неоднозначность повторяющихся слов при формировании вопроса.
DizgeBERT-Morph — модель iatagun для морфологической разметки турецкого языка на основе ELECTRA. Для каждого слова в предварительно токенизированном предложении она предсказывает UPOS, XPOS и морфологические признаки Universal Dependencies (FEATS), используя объединение представлений первого и последнего subword, чтобы учитывать турецкие суффиксы. Отдельные выходные головы предсказывают UPOS, XPOS и категории FEATS; схема разметки выбирается для treebank Kenet, BOUN или IMST. Модель обучена на UD_Turkish-Kenet, BOUN и IMST, а также на синтетических минимальных парах для устранения морфологической неоднозначности. В README приведены результаты на отложенных тестовых выборках: F1 для UFeats составляет 92,12–96,60 в зависимости от treebank. Модель создавалась также для передачи морфологической разметки парсеру iatagun/DizgeBERT-Dep. На вход требуется список уже выделенных слов; для сырого текста нужны внешний токенизатор и средство разделения многословных токенов. Модель не учитывает синтаксические связи при разрешении неоднозначности, поэтому для некоторых различий UPOS её возможности ограничены; редкие признаки и лексические варианты могут размечаться хуже. XPOS обучен только для BOUN и IMST. Модель распространяется по лицензии CC BY-SA 4.0.
KoModernBERT-base-mlm_v02 — дообученная модель x2bee на базе answerdotai/ModernBERT-base для заполнения пропусков в корейском тексте. Это плотный encoder-only трансформер архитектуры ModernBERT с 183,8 млн параметров и контекстом до 8192 токенов; карточка указывает реализацию Transformers и формат safetensors. Модель предсказывает пропущенные фрагменты, например названия столиц в корейских предложениях. Модель подходит для восстановления пропусков и построения задач понимания корейского текста. В README упомянуты Flash-Attention 2, StabelAdamW, снятие padding и упаковка последовательностей как методы обучения. Распространяется по лицензии Apache-2.0. Оценки качества и ограничения в карточке не приведены.
KoichiYasuoka/roberta-classical-chinese-base-upos — модель RoBERTa на 133,5 млн параметров для морфологической разметки текстов на классическом китайском языке. Она дообучена на основе KoichiYasuoka/roberta-classical-chinese-base-char и присваивает каждому слову метки UPOS и FEATS по стандарту Universal Dependencies. Модель принимает текст и возвращает метки для отдельных токенов; контекстное окно составляет 514 токенов. Модель подходит для автоматической разметки частей речи и признаков слов в корпусах классического китайского, а также для подготовки данных к синтаксическому анализу. В README упоминается dependency parsing, однако среди подтверждённых задач указана токенная классификация. Модель распространяется под лицензией Apache-2.0.
kuppuluri/telugu_bertu_pos — модель BERT для разметки последовательностей на уровне токенов, предназначенная для определения частей речи в тексте на телугу. Модель содержит 137,8 млн параметров, имеет контекст до 512 токенов и доступна в форматах PyTorch и Flax. Автор сообщает о результатах на тестовом наборе: F1 0,9984, точность 0,9984 и полнота 0,9983. Карточка предупреждает о проблемах с кодировкой телугу в веб-интерфейсе Hugging Face и рекомендует запускать инференс из Python. Сведения об обучающих данных и лицензии в доступных материалах не приведены.
BGE-Meteo-zh-v2 — китайская доменная модель эмбеддингов для поиска метеорологических материалов в RAG-системах. Разработана nmcsitian путём дообучения BAAI/bge-large-zh-v1.5; использует архитектуру BERT и библиотеку Sentence Transformers, содержит около 424,3 млн параметров и принимает последовательности длиной до 512 токенов. Модель обучена контрастивным методом на синтетических вопросах и ответах по метеорологическим книгам; для запросов требуется префикс-инструкция, а эмбеддинги нужно нормализовать. При ручной загрузке через Transformers следует использовать CLS pooling. На отложенной выборке из метеорологических книг модель показала более высокие показатели поиска, чем исходная BGE и BM25 по отдельности. Она подходит для семантического поиска и извлечения релевантных фрагментов о метеорологии на китайском языке, в том числе в RAG-сценариях. Качество может снижаться по мере удаления предметной области от метеорологии; для более устойчивого поиска автор рекомендует объединять результаты с BM25, а для общих задач использовать базовую модель. Лицензия — MIT.
Модель Koichi Yasuoka — дообученная версия DeBERTa V2 на 137,8 млн параметров, предназначенная для синтаксического разбора японского текста: определения головного слова для длинных единиц слов. Задача представлена как извлечение ответа на вопрос; обучение проводилось на данных Universal Dependencies для японского языка, а предобучение — на японской Википедии и текстах 青空文庫. Модель принимает текстовый контекст и вопрос, а затем предсказывает ответ, связанный с искомой синтаксической зависимостью. Контекст ограничен 512 токенами. Если слово, заданное в вопросе, встречается в контексте несколько раз, README рекомендует помечать нужное вхождение токеном [MASK]. Модель опубликована в формате PyTorch под лицензией CC BY-SA 4.0.
parl-german-sitent — модель классификации немецкоязычных текстовых последовательностей, разработанная в рамках проекта GePaDeU для разметки дебатов Бундестага. Она относит фрагменты к одному или нескольким типам Situation Entity, описывающим аспектуальные и прагматические свойства высказываний на уровне клаузы: состояния, события, сообщения, обобщения, вопросы и императивы. Модель основана на BERT deepset/gbert-large и дообучена целиком для многоклассовой многометочной классификации. Она содержит около 434,5 млн параметров, принимает текст и рассчитана на контекст до 512 токенов. Обучение и оценка проводились на 19 676 вручную размеченных фрагментах парламентских речей Бундестага за 2017–2021 годы. Модель подходит для лингвистического анализа немецких парламентских выступлений и разметки типов ситуаций и речевых актов. Её обучение ограничено этим тематическим и жанровым корпусом, поэтому качество на других типах немецких текстов может отличаться. Сведения о лицензии в предоставленных источниках отсутствуют.
icelab/spaceroberta_CR — модель семейства SpaceTransformers, дообученная на базе SpaceSciBERT для распознавания понятий в требованиях к космическим системам. Она присваивает метки отдельным токенам текста и обучена на 874 уникальных требованиях ECSS с ручной разметкой. Модель разработана в рамках работы, представленной в статье «SpaceTransformers: Language Modeling for Space Systems»; исходный репозиторий проекта — strath-ace/smart-nlp. Модель имеет архитектуру RoBERTa для классификации токенов, содержит 151,8 млн параметров и принимает текст с контекстом до 514 токенов. Карточка указывает английский язык. Веса опубликованы в формате PyTorch под лицензией MIT. Модель подходит для извлечения и разметки понятий в требованиях ECSS; качество на других типах документов и требованиях карточка не характеризует.
stanfordnlp/stanza-gd — модель из набора Stanza, разработанного Stanford NLP для лингвистического анализа шотландского гэльского языка. Она предназначена для обработки текста и решения задач NLP; карточка репозитория указывает задачу классификации токенов. Stanza предлагает инструменты анализа от исходного текста до синтаксического разбора и распознавания сущностей, однако эта карточка не уточняет, какие именно компоненты входят в данный чекпойнт. Модель распространяется в формате PyTorch по лицензии Apache-2.0. В метаданных не указаны размер параметров и длина контекста.
threadgrid-qwen35-4b-p4c — дообученная модель Qwen3.5-4B от автора проекта thread-the-grid для чтения скриншотов головоломок с квадратной сеткой, пронумерованными точками маршрута и стенами между клетками. Она принимает изображение поля и возвращает его описание в JSON, чтобы отдельный точный решатель мог построить маршрут. Это модель зрения и языка на базе Qwen3.5-4B, опубликованная в GGUF F16 вместе с проектором зрения; также в репозитории есть исходный LoRA-адаптер. Для запуска автор проверил Ollama на видеокарте NVIDIA с 16 ГБ памяти. Модель обучена на 8 000 синтетических полях 6×6 одного рендерера: на 200 отложенных синтетических примерах и 10 дополнительных проверках автор сообщает точное распознавание всех полей, а на шести реальных скриншотах верно разобраны пять. Эти результаты не подтверждают надёжность на произвольных изображениях: обучение охватывало только один стиль отрисовки. Для лучшего качества требуется проверить JSON-ответ модели; веса F16 занимают около 9,1 ГБ диска и работа на CPU не проверялась. Лицензия — Apache-2.0.
Salesforce/bic_simple_edit_id — модель Salesforce для классификации токенов на основе RoBERTa. В метаданных указаны 454,1 млн параметров, контекст до 514 токенов, формат PyTorch и лицензия Apache-2.0. Карточка сообщает, что выпуск предназначен для исследований в рамках академической статьи. Модель может применяться для задач разметки токенов, однако документация не уточняет целевые метки, датасеты, поддерживаемые языки и сценарии применения. Перед использованием следует оценить точность, безопасность и справедливость модели.
ClinicalMobileBERT — языковая модель семейства MobileBERT, созданная дообучением BioMobileBERT в режиме continual learning на заметках MIMIC-III в течение трёх эпох. Она предназначена для заполнения пропусков в медицинских текстах: модель предсказывает замаскированный токен с учётом окружающего контекста. Архитектура использует компактные эмбеддинги размерности 128, свёрточное повышение размерности и линейные проекции вокруг блоков трансформера; в карточке указано 59,7 млн параметров и контекст до 512 токенов. Модель принимает и выдаёт текст. Лицензия — MIT. Обучение на клинических заметках ориентирует её на медицинскую лексику, но карточка не приводит оценок качества или гарантий применимости в клинических решениях.
Lithuanian morphology tagger — accentuation flavor — это модель для разметки литовских слов по частям речи и морфологическим признакам, созданная как компонент систем постановки ударений, в частности Kirčiuoklė. Она дообучена на EMBEDDIA/litlat-bert, использует архитектуру XLM-RoBERTa для классификации токенов и насчитывает 177,9 млн параметров. Модель рассчитана на литовский язык, обрабатывает последовательности длиной до 514 токенов и доступна в форматах ONNX и safetensors; в репозитории также есть квантованная до INT8 ONNX-версия. Метка использует традиционную литовскую грамматическую схему VDU: DET объединён с PRON, а AUX — с VERB. Это помогает выбирать ударение в омографах с учётом морфологии, но модель намеренно не выдаёт категории DET и AUX, признаки за пределами десяти ключей согласования или леммы. На полном тесте ALKSNIS точность слотов составила 86,4%, UPOS — 90,6%; для строгой разметки UD автор рекомендует родственные модели с суффиксом morphology. Лицензия — CC BY-SA 4.0.
RadBERT — языковая модель семейства BERT, разработанная Stanford AIMI. Она непрерывно предобучена на радиологических заключениях с инициализацией от BioBERT и предназначена для работы с медицинским текстом, в частности для предсказания пропущенных слов в радиологических отчётах. Модель содержит 135,5 млн параметров, принимает текстовые фрагменты длиной до 512 токенов и выдаёт оценки токенов для заполнения маски. Поддерживаемый язык — английский. Модель подходит для анализа формулировок в радиологических заключениях и построения специализированных текстовых систем на её основе. Репозиторий содержит веса PyTorch; лицензия — MIT. Карточка не описывает клиническую проверку или ограничения точности, поэтому результаты требуют оценки перед применением в медицинских процессах.
Koichi Yasuoka разработал японскую модель RoBERTa для определения синтаксической вершины слова в задаче dependency parsing. Она дообучена на базе KoichiYasuoka/roberta-large-japanese-aozora-char с использованием UD_Japanese-GSDLUW и представлена как задача question answering: в вопросе указывают слово, а в контексте модель находит его голову; маркер [MASK] в контексте помогает различать повторяющиеся слова. Модель содержит 412,3 млн параметров, использует веса PyTorch и принимает последовательности длиной до 512 токенов. Модель предназначена для анализа зависимостей в японском тексте. Для лицензированного использования применяются условия CC BY-SA 4.0. Карточка описывает конкретный сценарий синтаксического разбора; сведений о других языках или задачах нет.
VetBERT — предварительно обученная модель семейства BERT для работы с ветеринарными клиническими записями. Её разработчики адаптировали ClinicalBERT, основанную на Bio+Clinical BERT, дополнительно обучив её на корпусе VetCompass Australia: более чем на 15 миллионах клинических записей и 1,3 миллиарда токенов. Веса содержат 135,5 млн параметров, архитектура — BertForPreTraining, формат — PyTorch, максимальный контекст — 512 токенов. Модель предназначена для языковых задач в ветеринарной медицине; указанный сценарий — заполнение пропусков в тексте. В исследовательской работе на основе VetBERT также создана VetBERTDx, дообученная для классификации синдромов заболеваний по клиническим записям. Эта карточка описывает именно предварительно обученную VetBERT, поэтому классификацию следует выполнять после отдельного дообучения. Модель обучалась на англоязычных ветеринарных записях и распространяется по лицензии OpenRAIL.