I.3Извлечение и структурирование данных

GottBERT_base_last — немецкоязычная модель семейства RoBERTa, разработанная и предварительно обученная на немецкой части первого выпуска корпуса OSCAR. Это базовая версия GottBERT с архитектурой RoBERTa и примерно 153,2 млн параметров по метаданным Hugging Face; она принимает текст и предназначена прежде всего для предсказания замаскированных токенов, а также может служить основой для задач распознавания именованных сущностей, классификации текста и логического вывода на немецком языке. Контекст составляет 514 токенов, токенизатор использует BPE со словарём около 52 тысяч подслов. В README приведены результаты оценки на немецких наборах CoNLL 2003, GermEval и XNLI. Модель поддерживает только немецкий язык и распространяется по лицензии MIT. Среди ограничений карточка отмечает, что фильтрация обучающих данных дала лишь небольшие улучшения, а TPU-обучение потребовало обработки данных единым потоком и обучения в 32-битном режиме.

Keye-VL-2.0-30B-A3B — мультимодальная базовая модель семейства Keye, разработанная Kwai-Keye. Это модель типа MoE с заявленным классом 30B и 2,6 млрд параметров в метаданных; она предназначена прежде всего для понимания видео, временной локализации событий и работы с длинными мультимодальными контекстами. Модель принимает изображения и видео вместе с текстовыми запросами и формирует текстовые ответы; поддерживает контекст до 262 144 токенов. Модель рассчитана на анализ длинных видео, ответы на вопросы по визуальному содержимому, поиск временных границ событий, распознавание текста и понимание диаграмм и таблиц. Карточка также заявляет возможности для программирования, вызова инструментов и поиска с опорой на веб, но каталог указывает интерфейс чата, а отдельная оценка этих сценариев в карточке не приведена. В README заявлены разреженное внимание DSA и эффективная обработка длинных последовательностей, а также результаты на бенчмарках видео и временной локализации. Модель распространяется под лицензией Apache-2.0. В метаданных указан английский язык; README не описывает полный перечень поддерживаемых языков. Заявленные результаты получены на бенчмарках и не гарантируют качество для произвольных видео или сценариев; выводы о содержимом могут быть ошибочными.

ainize/klue-bert-base-mrc — модель для извлечения ответов на вопросы на основе klue/bert-base, опубликованная Ainize. Она дообучена на наборе KLUE-MRC и предназначена для extractive question answering: по вопросу и текстовому фрагменту находит ответ в самом фрагменте. Модель содержит 137,8 млн параметров, использует архитектуру BERT и принимает контекст длиной до 512 токенов. Модель рассчитана на корейский язык и может применяться для поиска ответов в документах или текстах на корейском. В репозитории указаны веса PyTorch и лицензия CC BY-SA 4.0. Ограничение задачи — ответ извлекается из предоставленного текста, поэтому модель не предназначена для свободной генерации ответов или поиска сведений за пределами контекста.

NLPBada/kobart-chat-persona-extraction-v2 — модель на базе KoBART, разработанная для извлечения сведений о персоне пользователя из его повседневных диалогов на корейском языке. Она преобразует историю чата в краткие утверждения о характеристиках и привычках собеседника, например о возрасте, роде занятий, интересах и распорядке дня. Модель имеет архитектуру BART, содержит 79,7 млн параметров и принимает последовательности длиной до 1026 токенов. Версия v2 обучена на корейских диалогах AIHub в неформальном стиле речи; для преобразования данных из предыдущей версии использовалась squarelike/korean-style-converter-6b. Для проверки приведены метрики BLEU и ROUGE. Репозиторий содержит веса PyTorch и распространяется под лицензией apache-2.0.

Labira/LabiraPJOK_3x_50 — дообученная модель на базе Labira/LabiraPJOK_2x_50 для ответов на вопросы. Она использует архитектуру BERT с головой BertForQuestionAnswering и рассчитана на контекст длиной до 512 токенов. Модель распространяется в формате TensorFlow по лицензии MIT. В карточке приведены результаты обучения: ошибка на обучающей выборке 0,0125 и на валидационной выборке 1,5431 после 49-й эпохи. Датасет, языки и практические ограничения модели не описаны; качество ответов вне указанного оценочного набора не установлено.

MLCD-ViT-bigG-patch14-448 — модель зрения на базе Vision Transformer, разработанная DeepGlint AI. Она использует RoPE2D и предназначена для извлечения признаков из изображений; в карточке также описана оценка её визуального представления в составе системы с Qwen2.5-7B на задачах понимания документов и визуальных вопросов. Размер модели — 2,5 млрд параметров; веса опубликованы в формате safetensors, лицензия — MIT. Модель можно применять как визуальную часть мультимодальных систем, в том числе для анализа документов, диаграмм и изображений.

MM Grounding DINO Tiny — модель компьютерного зрения семейства MM Grounding DINO, представленная авторами работы «An Open and Comprehensive Pipeline for Unified Object Grounding and Detection». Она предназначена для обнаружения объектов на изображениях по текстовым описаниям, в том числе в режиме zero-shot, без необходимости заранее ограничивать запрос фиксированным набором классов. Модель использует архитектуру MMGroundingDinoForObjectDetection с визуальным backbone Swin-T. Вариант из этого репозитория обучен на Objects365v1, GOLD-G, GRIT и V3Det. В README приведены результаты на COCO и LVIS; для близкого варианта с тем же набором данных Objects365v1, GOLD-G и V3Det указаны 50,6 mAP на COCO и 30,6 AP на LVIS Val1.0. Модель принимает изображение и текстовые запросы с названиями объектов, а выдаёт обнаруженные объекты с рамками и оценками. README не сообщает поддерживаемые естественные языки запросов. Репозиторий распространяется по лицензии Apache-2.0.

NERDD — модель распознавания именованных сущностей на основе GLiNER Large, дообученная для анализа криминальных сообщений на бразильском португальском языке. Она предназначена для извлечения людей, включая подозреваемых, прозвища и псевдонимы, мест и организаций из неформальных текстов с сокращениями, жаргоном, опечатками и специализированной лексикой.

NeuroReasoner-PlanningHead-1 — текстовая генеративная модель от ayjays132, предназначенная для планирования и структурированного рассуждения. В карточке заявлены применение в диалоговых ассистентах, исследовательских системах и задачах, где нужны многошаговые планы и их представление в виде векторов. Модель построена на 24 слоях Transformer с размером скрытого состояния 1024 и содержит специализированные модули для извлечения планов, структурирования, проверки ограничений и работы с памятью. По README, PlanningHead формирует 128-мерные векторы планов, а механизм MemoryAttention использует 64 ячейки памяти и 4 головы внимания. Модель имеет 378,7 млн параметров, принимает текст и поддерживает контекст до 1024 токенов. README описывает когнитивные теги вроде <plan> и <reasoning>, а также циклы уточнения ответов, однако заявленные свойства саморефлексии, логической согласованности и улучшения качества не подтверждены приведёнными независимыми оценками. Модель дообучена на ayjays132/NeuroReasoner-1-NR-1, распространяется в формате safetensors и использует лицензию Apache-2.0.

OpenMed/OpenMed-ZeroShot-NER-Chemical-Large-459M — специализированная модель OpenMed для распознавания упоминаний химических веществ в биомедицинских текстах. Она построена на архитектуре GLiNER и дообучена на корпусе BC4CHEMD; заявленный размер — 459 млн параметров. Модель принимает текст и возвращает найденные фрагменты с метками сущностей, прежде всего CHEM. Zero-shot-подход позволяет задавать типы сущностей при использовании без отдельного дообучения, однако карточка подробно описывает обучение и оценку именно для химических сущностей. Модель предназначена для извлечения названий соединений, лекарств, реагентов и их синонимов из научной литературы и других биомедицинских текстов, в том числе для индексирования соединений и подготовки данных для последующего связывания с ChEBI или DrugBank. В README заявлен F1 0,9369 на тестовой выборке BC4CHEMD, исключённой из обучения. Карточка не описывает отдельную проверку на клинических записях или других типах сущностей, поэтому качество в этих сценариях не следует считать установленным. Поддерживаемый язык — английский. Модель распространяется по лицензии Apache-2.0.

OpenMed-ZeroShot-NER-Protein-Multi-209M — модель OpenMed для распознавания именованных сущностей в биомедицинских текстах. Она построена на архитектуре GLiNER и дообучена на корпусе FSU, посвящённом белкам и молекулярной биологии. Модель поддерживает zero-shot извлечение сущностей: пользователь может задавать типы сущностей при запуске без отдельного дообучения под каждую задачу. Основная специализация — обнаружение белков, белковых комплексов, семейств и вариантов. Модель предназначена для анализа научной литературы и других биомедицинских текстов, в том числе для майнинга взаимодействий белок–белок, анализа путей и системной биологии. Метаданные указывают задачу token-classification и поддержку английского языка; репозиторий содержит веса PyTorch. Лицензия — Apache-2.0. В README приведён F1 0,78 на тестовом наборе, исключённом из обучения; заявленные показатели в таблице сравнения относятся к вариантам других размеров и не должны переноситься на эту модель. Качество может зависеть от выбранных меток и порога предсказания; заявленная возможность задавать произвольные типы сущностей не гарантирует одинаковой точности для типов, не представленных в обучающих данных.

ParsBERT Question Answering — модель на архитектуре BERT, дообученная автором репозитория на обучающей выборке PQuAD для извлечения ответов из персидского текста. Она принимает вопрос вместе с контекстом и предсказывает фрагмент контекста в качестве ответа. Базовый ParsBERT предварительно обучен на крупных персидских корпусах разных жанров; модель содержит 190 млн параметров и поддерживает контекст длиной до 512 токенов. Модель предназначена для ответов на вопросы по персидским документам и оценивается на персидском тестовом наборе PQuAD. В карточке приведены результаты: Exact Match 47,44 и F1 81,96. Доступны веса PyTorch и TensorFlow. Автор сообщает, что более длительное обучение ухудшало результаты; качество может быть ниже на данных, отличающихся от PQuAD. Лицензия в предоставленных данных не указана.

uaritm/psychology_test — модель Sentence-Transformers на архитектуре XLM-RoBERTa, разработанная Vitaliy Ostashko. Она преобразует предложения и абзацы в плотные векторы размерности 768 для поиска семантически близких текстов и кластеризации. Модель обучена на вопросах, адресованных специалистам по неврологии, психиатрии и психотерапии, и может помогать определять, к какой из этих областей относится описанная проблема. Модель лучше всего работает с русским, украинским и английским языками. Размер составляет 305,2 млн параметров, максимальная длина контекста — 514 токенов. Для классификации автор предлагает сопоставлять результаты с тремя метками: неврология, психиатрия и психотерапия. Репозиторий содержит веса PyTorch и опубликован под лицензией CreativeML OpenRAIL-M.

gubernac/qwen3.8-27b-unc-fp8 — модифицированная и квантованная версия Qwen/Qwen3.8-27B. Базовая модель разработана командой Qwen компании Alibaba, а данный вариант подготовлен как сборка OrcaRouter. Из модели удалено направление отказа от ответа методом abliteration, после чего она офлайн квантована в Block-FP8 по схеме официальной Qwen3.8-27B-FP8. Это плотная мультимодальная vision-language модель для работы с текстом и изображениями, рассуждений, вызова инструментов, function calling и исследовательского red-teaming. Архитектура Qwen3_5ForConditionalGeneration включает 64 слоя, скрытое представление размером 5120, гибридное внимание Gated DeltaNet и full attention, vision-language tower и MTP-голову для speculative decoding. Модель содержит 27 млрд параметров, поддерживает английский и китайский языки и контекст до 262 144 токенов. Линейные веса хранятся в Block-FP8 E4M3 с размером блока 128×128 и динамическими активациями, а vision tower, нормы, embeddings и lm_head сохранены в BF16. Главное преимущество сборки — сохранение мультимодальности, большого контекста, рассуждений, инструментов и MTP при совместимости с соответствующим vLLM-путём исполнения. Ключевое ограничение и риск — существенное удаление защитного выравнивания: модель может выполнять вредоносные, незаконные и иные опасные запросы, от которых базовая версия отказалась бы. Поэтому она предназначена для легитимных исследований интерпретируемости, AI safety, изучения механизмов отказа, оценки устойчивости и контролируемых экспериментов, а не для непосредственного использования конечными пользователями без собственных механизмов модерации и защиты. Условия распространения указаны как Apache 2.0; также необходимо соблюдать применимые законы и ограничения базовой модели.

FinaPolat/Qwen3-8B-grounded_KGC-grpo-warmstart — текстовая генеративная модель семейства Qwen3 с примерно 7,6 млрд параметров. Модель опубликована на Hugging Face и предназначена для запуска через библиотеку Transformers; в метаданных также указаны TRL и GRPO, что указывает на использование методов обучения с групповым относительным оцениванием. Поддерживается контекст до 40 960 токенов. По названию модели она ориентирована на grounded KGC — дополнение или генерацию элементов графа знаний с опорой на предоставленный контекст, а также на диалоговые сценарии. Подходящими задачами могут быть генерация текстовых ответов, работа с длинным контекстом и эксперименты с обучением моделей для задач, связанных с графами знаний. Данные о разработчике, языках, лицензии, обучающем наборе и результатах оценки в доступных источниках отсутствуют. Ограничения модели включают недостаток документации, отсутствие опубликованных бенчмарков и неизвестную языковую специализацию. Результаты могут зависеть от качества заземляющего контекста и формата промпта; модель не следует считать надёжным источником фактов без дополнительной проверки. Лицензия в предоставленных данных не указана.

thatdramebaazguy разработал модель ответов на вопросы на основе RoBERTa Base, дообученной для задачи SQuADv1. Модель принимает вопрос и текстовый фрагмент и извлекает из него ответ; она предназначена для чтения на английском языке и сценариев, где ответ содержится в предоставленном контексте. Модель содержит 151,8 млн параметров и имеет контекстное окно до 514 токенов. В README приведены оценки на SQuADv1: exact match 83,6 и F1 91,2; на MoviesQA указаны exact match 51,6 и F1 68,3. Доступны варианты весов для PyTorch, TensorFlow и Flax. Лицензия — CC BY 4.0.

DanL представляет дообученную модель PubMedBERT для многометочной классификации научных предложений. Она определяет, описывает ли предложение исследовательскую проблему или пробел в знаниях, а также содержит ли оно возможное направление дальнейших исследований, например гипотезу или предложение изучить вопрос. Модель предназначена для поиска таких фрагментов в научной литературе, в частности в исследованиях о COVID-19 и связанных с ним исторических работах. Она обучена на 2 894 предложениях с окружающим контекстом из 1 786 полнотекстовых статей корпуса CORD-19, размеченных экспертами в биомедицине и обработке биомедицинского языка. По метаданным, это BERT-модель с 136,7 млн параметров, архитектурой BertForSequenceClassification и контекстом до 512 токенов; принимает текст и выдаёт метки классификации. Карточка указывает английский язык. Модель подходит для автоматического обнаружения ограничений, проблем и исследовательских возможностей в корпусах научных публикаций. README просит цитировать статью при использовании модели и набора данных, но сведения о лицензии в предоставленных данных отсутствуют.

BradechiO/tds-bert-qa-squad — англоязычная модель для извлечения ответов на вопросы, разработанная в рамках учебного задания. Она основана на архитектуре BERT и обучена для extractive question answering на наборе SQuAD v1.1: находит ответный фрагмент в предоставленном тексте. Модель содержит 136,7 млн параметров и поддерживает контекст длиной до 512 токенов. В README приведены результаты оценки на подвыборке из 2 000 примеров валидационной части SQuAD: Exact Match 60,70 и F1 71,74. Модель подходит для ответов на вопросы по англоязычным текстам, когда ответ должен содержаться в исходном контексте. Лицензия в предоставленных данных не указана.

test-bert-2 — дообученная модель BERT, созданная на основе deepset/bert-base-cased-squad2 для извлечения ответов на вопросы из текста. Она содержит 136,7 млн параметров, использует архитектуру BertForQuestionAnswering и рассчитана на контекст до 512 токенов. Модель принимает вопрос и текстовый контекст и выдаёт ответ, найденный в контексте. Карточка сообщает о дообучении на неизвестном наборе данных и приводит значение loss 11,9673 на оценочном наборе. Данных о качестве на практических задачах, назначении датасета и дополнительных сценариях применения нет. Базовая модель англоязычная, поэтому основным языком следует считать английский. Лицензия в предоставленных сведениях не указана.

ahujaniharika95/tinyroberta-squad2-finetuned-squad — модель для extractive question answering, размещённая пользователем ahujaniharika95 (Niharika Ahuja) на Hugging Face. В репозитории нет отдельной карточки модели, но указаны задача Question Answering, библиотека Transformers, PyTorch и архитектурное семейство RoBERTa. Модель предназначена для извлечения ответа из заданного контекста по вопросу и поддерживает сценарии SQuAD-подобного ответа на вопросы. По названию и доступным данным это производная от deepset/tinyroberta-squad2, дистиллированной версии deepset/roberta-base-squad2. Базовая модель обучена для английского языка на SQuAD 2.0, содержит около 81,5 млн параметров и рассчитана на работу с последовательностями длиной до 384 токенов; при обучении использовался doc stride 128 и максимальная длина вопроса 64 токена. Дистилляция делает её компактнее и примерно вдвое быстрее базовой модели, сохраняя сопоставимое качество; для базовой версии заявлены F1 около 81,9 на dev-выборке SQuAD 2.0. Сильные стороны модели — небольшие размеры, высокая скорость инференса и способность определять отсутствие ответа в контексте благодаря обучению на SQuAD 2.0. Ограничения включают специализацию на английском extractive question answering: модель не является универсальной генеративной LLM, не предназначена для свободной генерации текста и может хуже работать на языках, доменах и формулировках, отличающихся от обучающих данных. Для точной версии ahujaniharika95 отдельно не указаны контекстное окно, метрики, ограничения применения и лицензия; у базовой deepset/tinyroberta-squad2 указана лицензия CC BY 4.0, но её применимость к производной версии необходимо проверять в репозитории.

chieunq/XLM-R-base-finetuned-uit-vquad-1 — дообученная модель XLM-RoBERTa-base для ответов на вопросы по тексту на вьетнамском языке. Она обучена на наборе UIT-ViQuAD и возвращает найденный в контексте фрагмент ответа вместе с оценкой уверенности и позициями начала и конца фрагмента. В карточке указаны результаты: EM 60,63 и F1 79,63. Модель содержит 305,2 млн параметров, использует архитектуру XLM-RoBERTa и веса PyTorch; длина контекста — 514 токенов. Подходит для извлечения ответов из вьетнамских текстов при наличии вопроса и контекста. Условия лицензии в доступных данных не приведены.

intanm/xlm-roberta-base-idkmrc — модель для ответов на вопросы, созданная дообучением XLM-RoBERTa Base. Она предназначена для извлечения ответа из текста по заданному вопросу и связана с набором данных NusaCrowd/idk_mrc; в README приведено значение loss 0,9537 на оценочной выборке. Модель содержит 305,2 млн параметров, использует архитектуру XLM-RoBERTa и принимает контекст длиной до 514 токенов. Для репозитория указана лицензия MIT.

Модель Swedish Lion OCR разработана Национальным архивом Швеции для сегментации строк в рукописных исторических документах. Это модель сегментации экземпляров на архитектуре YOLO26s, которая выделяет текстовые строки на изображениях страниц целиком и предназначена для использования в конвейере HTR: после выделения строк их можно передать модели распознавания рукописного текста для транскрибации. Модель обучена на размеченном по строкам наборе примерно из 31 000 страниц (около 1,7 млн строк) исторического шведского письма, собранном Национальным архивом Швеции, Городским архивом Стокгольма, Национальным архивом Финляндии и Jämtlands läns fornskriftssällskap. Для работы используется библиотека Ultralytics. Лицензия — CC BY 4.0.

Khmer-ALBERT-Small — языковая модель Seanghay Yath для кхмерского языка на архитектуре ALBERT v2. По карточке она обучена с нуля на корпусе из 13 миллионов кхмерских предложений и имеет около 9,42 млн параметров; метаданные Hugging Face при этом указывают 125,5 млн параметров и базовую модель albert/albert-base-v2. Для восстановления пропущенных токенов модель принимает текст с маской и предсказывает подходящие слова. Её представления можно использовать как основу для классификации текста и разметки токенов, включая анализ тональности, распознавание именованных сущностей и определение частей речи. Разделение параметров между слоями и факторизованные эмбеддинги в ALBERT позволяют использовать модель с меньшим числом параметров, чем у стандартного BERT-base с сопоставимым размером скрытого слоя. Контекст ограничен 512 токенами. Карточка описывает применение на устройствах с ограниченными ресурсами, однако количественные результаты оценки не приведены. Лицензия — Apache 2.0.

algerianDeBERTa — компактный энкодер DeBERTa-v2, разработанный 81melody и обученный с нуля как masked language model на алжирском корпусе. Модель содержит 65,7 млн параметров, использует собственный токенизатор с 30-тысячным словарём и поддерживает контекст до 512 токенов. Модель предназначена для восстановления замаскированных слов и как основа для дообучения под задачи обработки алжирских текстов: классификацию тональности и намерений, распознавание сущностей, поиск и ранжирование. В обучающих данных представлены алжирская дарджа на арабском письме, Arabizi на латинице, французский язык, переключение между языками и некоторое количество современного литературного арабского. В описанных тестах тональности она показала около 96–98% macro-F1 модели DziriBERT при примерно вдвое меньшем размере. Это базовая MLM-модель, а не чат-модель: она не предназначена для ответов на инструкции и обычно требует дообучения для прикладных задач. Данные из публичных сайтов и соцсетей могут отражать содержащиеся там предвзятость, сленг и токсичность; покрытие дарджа, Arabizi и французского сильнее, чем литературного арабского и тамазигхта, а региональные варианты представлены неравномерно. Лицензия — Apache-2.0.

Ananthu357/Ananthus-BAAI-for-contracts9.0 — дообученная модель Sentence Transformers на базе BAAI/bge-large-en, предназначенная для работы с текстами договоров. Она преобразует предложения и абзацы в нормализованные плотные векторы размерности 1024; сходство между текстами оценивается косинусной мерой. Архитектура включает BERT, пулинг по CLS-токену и нормализацию. Модель подходит для семантического поиска по договорам, сравнения положений и поиска перефразировок. Также её можно применять для кластеризации и классификации текстов. Максимальная длина входной последовательности — 512 токенов. Базовая модель BAAI/bge-large-en ориентирована на английский язык; подтверждённых сведений о поддержке других языков нет. Репозиторий использует формат safetensors и библиотеку sentence-transformers. Лицензия в предоставленных данных не указана.

Модель kyleinincubated/autonlp-cat333-624217911 — классификатор текста на базе BERT, автоматически обученный с помощью AutoNLP для многоклассовой классификации. Число параметров составляет 129,5 млн, контекст — до 512 токенов. В карточке указан китайский язык; обучение связано с набором данных kyleinincubated/autonlp-data-cat333. Модель предназначена для присвоения тексту одного из нескольких классов. Валидационная точность составляет около 0,91, взвешенная F1-мера — около 0,91, а macro F1 — около 0,74, что указывает на более слабые результаты по усреднению классов. Доступ к модели описан через API Hugging Face. Лицензия в предоставленных данных не указана.

joeddav/bart-large-mnli-yahoo-answers — модель на архитектуре BART-large, разработанная на основе facebook/bart-large-mnli и дополнительно дообученная на классификации тем Yahoo Answers. Она сопоставляет текст с предложенными пользователем метками и подходит для классификации тем по меткам, которые могли не встречаться при обучении. Для лучшего результата автор рекомендует шаблон гипотезы «This text is about {}.»; модель обучалась на пяти из десяти тем Yahoo Answers. В оценке на Yahoo Answers F1 составила 0,68 для невиденных при обучении меток и 0,72 для виденных; авторы корректировали оценки виденных меток на 30 процентных пунктов. Модель содержит 252,8 млн параметров, принимает текст с контекстом до 1024 токенов и рассчитана на английский язык. Распространяется по лицензии Apache-2.0.

BERTić-COMtext-SR-legal-NER-ekavica — ELECTRA-модель на базе classla/bcms-bertic, дообученная для распознавания именованных сущностей в юридических текстах на сербском языке, написанных экавским вариантом. Она присваивает токенам метки по схеме из 21 типа сущностей, закодированной в формате IOB2, и предназначена для извлечения юридически значимых сведений из токенизированных документов. Модель содержит 137,8 млн параметров, работает через библиотеку Transformers и принимает контекст до 512 токенов. В README приведены результаты 10-кратной кросс-валидации на корпусе COMtext.SR.legal.ekavica: точность составила 0,9849, а macro F1 без класса O — 0,8355 при оценке, игнорирующей префиксы B- и I-. Для строгой оценки macro F1 без класса O равен 0,8335. Модель распространяется по лицензии Apache-2.0. Ее специализация ограничена сербскими юридическими текстами в экавском варианте; результаты на других языках, доменах и схемах разметки не заявлены.

AraBERT — предварительно обученная языковая модель для понимания арабского языка, разработанная группой AUB MIND Lab. Она основана на архитектуре BERT Base и представлена в варианте с примерно 162,4 млн параметров; максимальная длина контекста — 512 токенов. Модель обучена на большом арабоязычном корпусе, включающем материалы OSCAR, Википедии, новостные тексты и другие источники. Для этой версии Hugging Face указывает задачу заполнения пропусков в тексте (fill-mask). AraBERT можно применять как основу для адаптации к анализу тональности, распознаванию именованных сущностей и ответам на вопросы на арабском языке. Для вариантов v1 и v2 авторы рекомендуют предварительную сегментацию арабского текста с Farasa; также описана нормализация пробелов вокруг пунктуации и чисел. В карточке указаны форматы PyTorch, TensorFlow и Flax. Сведения о лицензии в предоставленных данных отсутствуют.