I.3Извлечение и структурирование данных

OpenMed разработала OpenMed-NER-OrganismDetect-BioClinical-108M — модель распознавания упоминаний видов организмов в биомедицинском тексте. Это дообученная Bio_ClinicalBERT с архитектурой BERT для классификации токенов: она помечает названия видов тегами B-SPECIES и I-SPECIES и формирует BIO-разметку. Веса объёмом 135,5 млн параметров доступны в формате safetensors; модель принимает токенизированный текст, поддерживает контекст до 512 токенов и рассчитана на английский язык. Модель предназначена для извлечения названий видов из клинических записей и научной литературы, а также для анализа упоминаний организмов в задачах биомедицинского поиска и систематики. В README приведены результаты на SPECIES800: F1 0,81, точность 0,80, полнота 0,81 и accuracy 0,96. Эти показатели относятся к указанному корпусу и не гарантируют такого же качества на других типах текстов. Лицензия — Apache-2.0.

OpenMed-NER-OrganismDetect-TinyMed-82M — модель OpenMed для распознавания упоминаний видов организмов в тексте. Это дообученный классификатор токенов на базе distilroberta-base, обученный на корпусе SPECIES800; в метаданных указаны архитектура RoBERTa и 95,2 млн параметров. Модель присваивает токенам BIO-метки B-SPECIES и I-SPECIES, чтобы выделять названия видов, включая научные и общеупотребительные. Модель предназначена для извлечения упоминаний организмов из научной биомедицинской литературы и других текстов на английском языке, а также для анализа биоразнообразия и таксономической информации. Она может быть полезна для поиска упоминаний видов в статьях и подготовки данных для баз знаний. Контекст — до 514 токенов; для длинных документов текст потребуется обрабатывать частями. В README приведены F1 0,72, точность 0,72, полнота 0,73 и accuracy 0,95 на SPECIES800. Эти показатели ниже значений более крупных моделей из сравнительной таблицы того же README. Модель распространяется по лицензии Apache-2.0.

OpenMed-NER-PathologyDetect-PubMed-335M — специализированная модель OpenMed для распознавания названий заболеваний в биомедицинских текстах. Это дообученная модель семейства BERT для классификации токенов, основанная на BiomedNLP-BiomedBERT-large-uncased-abstract. Она выделяет упоминания заболеваний с BIO-метками B-Disease и I-Disease. Модель предназначена для извлечения заболеваний из аннотаций PubMed, научной литературы и клинических документов, а также для поиска упоминаний болезней в медицинских записях и биомедицинского анализа текста. Она обучена на корпусе NCBI Disease; в README приведены значения F1 0,9086, точности 0,8913 и полноты 0,9266 для оценки на NCBI Disease. Архитектура содержит около 433,9 млн параметров, максимальная длина контекста — 512 токенов; модель принимает текст и выдаёт метки токенов. Указана поддержка английского языка. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Она выявляет сущности заболеваний, но сама по себе не выполняет диагностику, нормализацию понятий или извлечение лекарств; качество на других жанрах и языках README не подтверждает.

OpenMed разработала OpenMed-NER-SpeciesDetect-TinyMed-66M — модель распознавания видов и организмов в тексте, дообученную для биомедицинского NER на корпусе LINNAEUS. Она основана на DistilBERT и размечает упоминания видов BIO-тегами B-SPECIES и I-SPECIES; модель принимает токенизированный текст и возвращает классификацию токенов. Указанная длина контекста — 512 токенов. Модель предназначена для извлечения названий видов из биомедицинских публикаций и других текстов, а также для построения конвейеров поиска и анализа таксономических упоминаний. Карточка приводит F1 0,93, точность 0,92, полноту 0,93 и accuracy 0,99; это показатели, заявленные для оценки модели в карточке. README также перечисляет сценарии клинического анализа и поиска по научной литературе, но выходные метки модели относятся именно к видам и организмам. Модель распространяется в формате safetensors и совместима с Transformers. Лицензия — Apache-2.0. Ограничения: контекст ограничен 512 токенами; качество на конкретных текстах и за пределами домена, на котором проверялась модель, может отличаться от приведённых в карточке метрик.

OpenMed-PII-BiomedBERT-Large-340M-v1 — англоязычная модель OpenMed для обнаружения и классификации персональных и медицинских идентификаторов в тексте. Это дообученная для разметки токенов модель семейства BERT на базе microsoft/BiomedNLP-BiomedBERT-large-uncased-abstract. По метаданным, модель содержит 433,9 млн параметров, принимает контекст до 512 токенов и распространяется в формате safetensors для библиотеки Transformers. Модель размечает 54 типа чувствительных данных, включая имена, адреса, номера документов и медицинских записей, контактные данные, платёжные реквизиты и сетевые идентификаторы. Её применяют для поиска и последующего удаления или маскирования PII в клинических записях и документах, подготовки наборов данных и аудита документов. В карточке приведён результат micro-F1 0,9543 на тестовой выборке NVIDIA Nemotron-PII; для некоторых категорий качество ниже. Модель рассчитана преимущественно на английский текст. Возможны пропуски чувствительных данных, а качество зависит от предметной области; карточка рекомендует использовать её как вспомогательный инструмент с проверкой результатов человеком. Лицензия — Apache-2.0.

OpenMed-PII-French-BiomedELECTRA-Large-335M-v1 — модель OpenMed для обнаружения и классификации персональных данных во французском тексте. Это трансформер на базе BiomedELECTRA Large, дообученный для разметки токенов; в метаданных указано 433,9 млн параметров, а контекст составляет до 512 токенов. Модель принимает текст и размечает 54 типа чувствительных сущностей, включая имена, адреса, идентификаторы, медицинские сведения и контактные данные. Модель предназначена для поиска PII в клинических записях и документах, подготовки наборов данных к исследованиям, поддержки обезличивания и аудита приватности. В README приведён результат micro-F1 0,9644 на французской части набора AI4Privacy. Лицензия — Apache-2.0. Модель оптимизирована для французского языка. Она может пропускать чувствительные данные, а качество зависит от терминологии и контекста; README рекомендует проверку человеком в критичных сценариях.

OpenMed-PII-French-SuperClinical-Large-434M-v1 — модель OpenMed для выявления и классификации персональных данных во французском тексте. Это дообученная на Microsoft DeBERTa-v3-large модель токенной классификации с архитектурой DeBERTa V2; метаданные указывают 533,8 млн параметров и контекст до 512 токенов. Она размечает 54 типа чувствительных сущностей, включая имена, адреса, идентификаторы, контактные и медицинские сведения. Модель предназначена для поиска и последующего удаления или маскировки персональных данных в клинических записях, медицинских документах и наборах данных, а также для аудита документов. В README сообщается оценка micro F1 0,9797 на французской части AI4Privacy; результат зависит от данных и условий применения. Модель рассчитана прежде всего на французский язык и может хуже работать на других языках и с узкоспециальной терминологией. Возможны пропуски сущностей, поэтому критически важные результаты следует проверять вручную. Лицензия — Apache-2.0.

OpenMed-PII-German-BiomedELECTRA-Base-110M-v1 — модель OpenMed для выявления и классификации персональных данных в немецком тексте. Это дообученный трансформер BiomedELECTRA с архитектурой BERT, предназначенный для токенной классификации; по метаданным размер модели составляет 136,7 млн параметров, а максимальная длина контекста — 512 токенов. Модель распознаёт 54 типа чувствительных сущностей, включая имена, адреса, контактные данные, финансовые и медицинские идентификаторы. Она подходит для обезличивания клинических записей и документов, подготовки данных к исследованиям, проверки коллекций документов и поддержки процессов соблюдения требований GDPR. В оценке на немецкой части набора AI4Privacy указаны micro-F1 0,9179, точность 0,9110 и полнота 0,9250. Модель оптимизирована для немецкого языка; на других языках качество может быть ниже. Возможны пропуски персональных данных, а результат зависит от терминологии и контекста, поэтому для критичных сценариев нужна проверка человеком. Лицензия — Apache-2.0.

OpenMed разработала OpenMed-PII-German-BiomedELECTRA-Large-335M-v1 — модель классификации токенов на базе BiomedELECTRA Large, дообученную для обнаружения и разметки 54 типов персональных и чувствительных данных в немецком тексте. Она выделяет, например, имена, адреса, идентификаторы, контактные, финансовые и медицинские сведения. По метаданным модель содержит 433,9 млн параметров, принимает текстовые последовательности длиной до 512 токенов и использует архитектуру BERT для классификации токенов. Модель предназначена для автоматического выявления данных перед обезличиванием медицинских записей и других документов, подготовки наборов данных к исследованиям и проверки коллекций документов на наличие чувствительной информации. В README указана оценка micro F1 0,9638 на немецкой части датасета AI4Privacy PII Masking 400k; качество может меняться на других данных и в зависимости от контекста. Модель оптимизирована для немецкого языка, поэтому её результаты на других языках не гарантированы. README рекомендует использовать её как вспомогательный инструмент и проверять критичные результаты человеком. Лицензия — Apache-2.0.

OpenMed-PII-Italian-BiomedBERT-Large-340M-v1 — модель OpenMed для поиска и классификации персональных данных в итальянском тексте. Это дообученная для token classification модель семейства BERT на базе microsoft/BiomedNLP-BiomedBERT-large-uncased-abstract. В метаданных указаны 433,9 млн параметров, контекст до 512 токенов и библиотека Transformers; модель распространяется в формате Safetensors по лицензии Apache-2.0. Модель размечает токены и выявляет 54 типа чувствительных данных, включая имена, адреса, идентификаторы, медицинские и финансовые сведения, контакты и даты. Её можно применять для предварительного обезличивания клинических записей и медицинских документов, подготовки наборов данных и аудита документов на наличие PII. В README приведён результат micro F1 0,9461 на итальянской части набора AI4Privacy. Модель оптимизирована для итальянского языка и может ошибаться, особенно пропускать PII; качество также зависит от терминологии и контекста. README рекомендует использовать её как вспомогательный инструмент с проверкой человеком, особенно в критически важных сценариях.

OpenMed-PII-Italian-SuperClinical-Large-434M-v1 — модель OpenMed для выявления и классификации персональных и других чувствительных данных в итальянском тексте. Это дообученная на базе microsoft/deberta-v3-large модель DeBERTa V2 для классификации токенов: она размечает до 54 типов сущностей, включая личные идентификаторы, медицинские сведения, контакты, адреса, финансовые данные и даты. Модель содержит 533,8 млн параметров, принимает текст с контекстом до 512 токенов и выдаёт метки сущностей в формате BIO. Модель предназначена для поиска PII в клинических записях, медицинских документах и других итальянских текстах, чтобы подготовить их к обезличиванию, проверке на утечки и исследовательскому использованию. В README сообщается о Micro F1 0,9728 на итальянской части набора AI4Privacy; качество может зависеть от типа текста и терминологии. Лицензия — Apache-2.0. Модель задумана как вспомогательное средство: она может пропускать чувствительные сведения, поэтому результаты для важных сценариев требуют проверки человеком. Оптимизирована для итальянского языка, а качество на других языках не гарантируется.

OpenMed разработала OpenMed-PII-Spanish-BioClinicalModern-Large-395M-v1 — модель разметки токенов для обнаружения и классификации персональных данных в испанском тексте. Она дообучена на BioClinical-ModernBERT-large и предназначена для деидентификации клинических записей, медицинских документов и других текстовых коллекций, а также для подготовки данных к исследованиям и аудита документов. Модель построена на архитектуре ModernBERT, содержит 394,7 млн параметров и поддерживает контекст до 8192 токенов. Она выделяет 54 типа чувствительных сущностей, включая имена, адреса, идентификаторы, медицинские и финансовые сведения, контактные данные, организации и даты. В оценке на испанской части AI4Privacy заявлен micro-F1 0,9142. Модель обучалась на тексте без диакритических знаков; для лучшего качества README рекомендует удалять акценты перед обработкой. Результаты требуют проверки человеком: часть персональных данных может быть пропущена, а качество может снижаться на специализированной терминологии и языках, отличных от испанского. Модель распространяется по лицензии Apache-2.0.

OpenMed-PII-Spanish-BiomedELECTRA-Base-110M-v1 — модель OpenMed для обнаружения и классификации персональных данных в испанском тексте. Это дообученный для разметки токенов трансформер семейства BERT на базе microsoft/BiomedNLP-BiomedELECTRA-base-uncased-abstract; в метаданных указаны 136,7 млн параметров и контекст до 512 токенов. Модель выделяет 54 типа чувствительных сущностей, включая имена, адреса, идентификаторы, контактные, финансовые и медицинские данные. Модель предназначена для поиска персональных данных в клинических записях и документах, подготовки данных к исследованию и поддержки процессов обезличивания и аудита конфиденциальности. В README приведён результат micro F1 0,8375 на испанской части набора AI4Privacy PII Masking 400k. Для лучшей работы рекомендуется удалять диакритические знаки перед обработкой; модель оптимизирована для испанского и может хуже работать на других языках. Она служит вспомогательным средством, поэтому важные результаты требуют проверки человеком. Лицензия — Apache-2.0.

OpenMed-ZeroShot-NER-Chemical-Multi-209M — модель OpenMed для распознавания упоминаний химических веществ в биомедицинских текстах. Она основана на архитектуре GLiNER и дообучена на корпусе BC4CHEMD; заявленный размер — 209 млн параметров. Модель принимает текст и возвращает найденные сущности с метками, поддерживая zero-shot настройку типов сущностей. Основное назначение — извлечение названий химических соединений, лекарств, реагентов и их синонимов из научной литературы. Это подходит для индексирования соединений, поиска упоминаний в фармакологических публикациях и последующего связывания сущностей с ChEBI или DrugBank. В README приведён результат F1 0,87 на тестовом наборе, однако описание также содержит неоднозначные цифры и сравнения с другими размерами модели, поэтому показатель стоит считать заявленным автором, а не независимой оценкой. Модель ориентирована на англоязычные биомедицинские тексты. Репозиторий распространяется по лицензии Apache-2.0. Расширение на произвольные типы сущностей заявлено как возможность GLiNER, но качество на типах, отличных от химических сущностей, в карточке не подтверждено.

OpenMed-ZeroShot-NER-Pathology-Large-459M — модель OpenMed на архитектуре GLiNER для извлечения упоминаний заболеваний из биомедицинских текстов. Она дообучена на корпусе NCBI Disease и предназначена для распознавания сущностей, в том числе в научной литературе и клинических текстах; заявленный результат на тестовой выборке NCBI Disease — F1 0,8983. Модель принимает текст и возвращает найденные сущности с метками, поддерживая настройку типов сущностей в zero-shot режиме. Карточка особо описывает тип DISEASE; качество для произвольных пользовательских типов отдельно не подтверждено. Лицензия — Apache-2.0.

Original-PubMedBERT-BC5CDRChemical — биомедицинская модель на архитектуре BERT, размещённая пользователем ghadeermobasher и дообученная для разметки химических сущностей в научных текстах. Модель основана на PubMedBERT, разработанном Microsoft для работы с биомедицинской литературой, и предназначена для задачи token classification на корпусе BC5CDR-Chemical. Модель содержит 136,7 млн параметров и поддерживает контекст длиной до 512 токенов. Она рассчитана на англоязычные биомедицинские тексты и может применяться для извлечения названий химических веществ из аннотаций и других научных документов. Ограничения включают специализированность на химической сущностной разметке, контекстное окно 512 токенов и зависимость качества от предметной области и формата текста. Лицензия в доступных данных не установлена.

Модель schlenker/parl-german-ner-bt разработана в рамках проекта GePaDeU для разметки именованных сущностей в выступлениях на пленарных заседаниях Бундестага Германии. Это модель токеновой классификации на архитектуре BERT, полученная полным дообучением deepset/gbert-large; она выделяет сущности нескольких типов, включая геополитические объекты, людей и организации, по схеме, адаптированной из OntoNotes. Модель принимает текст на немецком языке и имеет контекстное окно 512 токенов. Модель предназначена для анализа парламентских выступлений и извлечения из них именованных сущностей. Обучение и оценка проводились на 267 вручную размеченных выступлениях, содержащих 10 564 сущности; карточка также упоминает отдельную модель schlenker/parl-german-ner, обученную на новостях и парламентских выступлениях. Для практического применения инструкция по формату входных данных вынесена в репозиторий проекта. Лицензия в предоставленных данных не указана.

pii-layout-synth-v13 — модель на базе answerdotai/ModernBERT-base, дообученная для классификации токенов. Карточка не раскрывает набор меток и конкретное назначение, однако название указывает на синтетическую разметку персональных данных с учётом их расположения. Модель содержит 149 млн параметров, использует архитектуру ModernBERT и формат safetensors; базовая модель поддерживает контекст до 8192 токенов. В README приведены результаты на оценочном наборе: F1 0,9923, точность 0,9902, полнота 0,9943 и accuracy 0,9986. Датасет неизвестен, поэтому эти показатели нельзя уверенно переносить на другие данные и сценарии. Лицензия — Apache-2.0.

psgrghvuo/pubmedbert_bc5cdr — дообученная модель на основе microsoft/BiomedNLP-PubMedBERT-base-uncased-abstract-fulltext для распознавания именованных сущностей в биомедицинских текстах из области химических веществ и заболеваний. Она использует архитектуру BERT с классификацией токенов и предназначена, в частности, для извлечения упоминаний химических веществ и заболеваний из научных публикаций. Модель содержит 136,7 млн параметров, принимает текстовые фрагменты длиной до 512 токенов и работает с английским языком. На оценочной выборке BC5CDR модель показала точность 0,8882, полноту 0,9258 и F1 0,9066. Веса представлены в формате PyTorch. Лицензия MIT разрешает использование и модификацию в соответствии с её условиями.

Syon-Li/Qwen3-4B-Instruct-2507-Segmenter — семантический сегментатор на основе Qwen3-4B-Instruct-2507, представленный в работе Towards Generalization of Block Attention via Automatic Segmentation and Block Distillation. Модель дообучена на наборе данных Syon-Li/SemanticSeg и предназначена для автоматической семантической сегментации текста. Модель имеет плотную архитектуру Qwen3 и около 3,7 млрд параметров; принимает и генерирует текст, поддерживает английский язык и контекст до 262 144 токенов. Для использования требуется Transformers версии 4.57.3 или новее. Веса опубликованы в формате safetensors по лицензии Apache-2.0. Карточка не содержит оценки качества или подробностей о формате сегментов и ограничениях применения.

Мультимодальная модель Qwen3.5-4B, дообученная разработчиком dragonstorm123 на базе Qwen/Qwen3.5-4B с использованием Unsloth и библиотеки TRL. Предназначена для диалогового взаимодействия и задач image-text-to-text: модель принимает текст и изображения и формирует текстовые ответы. В метаданных также заявлены возможности работы с изображениями и интерфейс вызова инструментов. Модель содержит 4 млрд параметров и распространяется в формате safetensors по лицензии Apache-2.0. Карточка не описывает обучающие данные и специальные ограничения применения; качество на конкретных задачах зависит от сценария использования.

Модель StivenLancheros — дообученная RoBERTa-base для распознавания именованных сущностей в биомедицинских и клинических текстах. Она выделяет шесть типов сущностей: последовательности, клетки, белки, гены, таксоны и химические вещества. Модель обучалась на корпусе CRAFT, включая исходные английские данные, машинный перевод корпуса на испанский и данные с заменой части сущностей; обучение выполнялось в два этапа с переносом обучения. Модель принимает текст и возвращает разметку токенов с типами сущностей. Она предназначена для извлечения биомедицинских сущностей из англоязычных и испаноязычных текстов; заявленные на тестовом наборе CRAFT показатели F1 — 0,8639 и точность — 0,9734. Размер модели — 153,2 млн параметров, контекст — до 514 токенов. Распространяется в формате PyTorch по лицензии Apache-2.0.

kazzand/ru-longformer-base-4096 — русскоязычная модель Longformer, разработанная на основе весов blinoff/roberta-base-russian-v0 и дообученная на корпусе русских книг. Она предназначена для обработки длинных текстов с контекстом до 4098 токенов и может служить основой для дальнейшей настройки под прикладные задачи. Модель содержит 151,7 млн параметров, имеет 12 слоёв и 12 голов внимания. В карточке Hugging Face для неё указана задача fill-mask; автор также отмечает возможность получать текстовые эмбеддинги. Для использования эмбеддингов подойдёт извлечение признаков из длинных русскоязычных документов.

Meena/table-question-answering-tapas — дообученная модель TAPAS на основе BERT, разработанная для ответов на вопросы по табличным данным. Она извлекает ответы из таблицы и связанного с ней текста; TAPAS кодирует структуру таблицы с помощью относительных позиционных эмбеддингов и семи типов токенов. Модель содержит 136,7 млн параметров, принимает текстовые таблицы и вопросы, а её контекст составляет 1024 токена. В карточке указана настройка на датасете SQA; описание семейства также упоминает WTQ и WikiSQL. Модель рассчитана на англоязычные таблицы. Возможные сценарии — извлечение значений из таблиц и ответы на вопросы по их содержимому. Лицензия Apache-2.0. Известное ограничение: модель плохо справляется с большими входными файлами.

PrimeQA/tapas-based-tableqa-wikisql-lookup — модель на архитектуре TAPAS-base, разработанная PrimeQA и дообученная на запросах WikiSQL типа lookup. Она принимает таблицу и вопрос на естественном языке, затем извлекает ответ из таблицы; предназначена для табличного вопросно-ответного поиска, например для ответов на запросы к структурированным данным. Модель содержит 136,7 млн параметров, работает с английским языком и доступна в формате PyTorch; в метаданных указан контекст 1024 токена. Лицензия Apache-2.0. Возможны смещения, унаследованные от предварительного обучения TAPAS-base и набора WikiSQL.

transformers-ud-japanese-electra-base-discriminator — японская модель семейства ELECTRA, разработанная Megagon Labs и предварительно обученная примерно на 200 млн предложений из японской части корпуса mC4. Архитектура соответствует ELECTRA Base: 12 слоёв, скрытое представление размерности 768 и 12 голов внимания; число параметров — около 136,4 млн. Для токенизации используется SudachiTra с подсловным токенизатором WordPiece, максимальная длина контекста — 512 токенов. Модель предназначена для задач понимания японского текста и может служить дискриминатором ELECTRA или основой для дальнейшей адаптации под прикладные NLP-задачи. Это базовая модель предобучения, а не готовая диалоговая система. Репозиторий содержит веса PyTorch; лицензия — MIT.

VenkatManda/V1 — дообученная модель BERT-tiny, разработанная на основе prajjwal1/bert-tiny и обученная на датасете SQuAD v2. Она предназначена для ответов на вопросы по предоставленному тексту: модель извлекает ответ из контекста, а обучение на SQuAD v2 поддерживает сценарии, где контекст может не содержать ответа. Архитектура — компактная BERT-модель с 4,4 млн параметров и контекстом до 512 токенов; репозиторий содержит веса в формате safetensors. Лицензия — MIT. Карточка не приводит результатов оценки или подробных ограничений качества, поэтому пригодность для конкретных данных следует проверять отдельно. Модель ориентирована на англоязычный набор данных SQuAD v2; сведения о поддержке других языков не приведены.

WELT-BioBERT-BC5CDRDisease — модель на архитектуре BERT, разработанная Ghadeer Mobasher и соавторами в рамках проекта WeLT. Она дообучена для token classification на задаче распознавания упоминаний заболеваний в биомедицинских текстах из набора BC5CDR-Disease с использованием cost-sensitive learning для работы с дисбалансом классов. Модель предназначена для biomedical named entity recognition, включая извлечение названий заболеваний из научных публикаций и последующую обработку таких сущностей в системах анализа литературы. Область применения подтверждается описанием WeLT и связью модели с датасетом BC5CDR-disease.

asafaya/bert-base-arabic — предварительно обученная языковая модель BERT для арабского языка. Модель разработана для анализа арабского текста и предсказания скрытых токенов; её архитектура — BertForMaskedLM, размер — 137,8 млн параметров, максимальная длина контекста — 512 токенов. Для предварительного обучения использовали около 8,2 млрд слов из арабской версии OSCAR, Википедии и других арабоязычных ресурсов общим объёмом около 95 ГБ. Корпус включает литературный арабский и некоторые диалекты, а также отдельные неарабские слова. Модель доступна в форматах PyTorch, TensorFlow и Flax; карточка приводит примеры загрузки через Transformers. Её можно применять как основу для задач заполнения пропусков и дообучать для других задач обработки арабского языка. Карточка просит цитировать публикацию, но не сообщает лицензию, поэтому условия использования по лицензии определить нельзя.

CAMeLBERT-DA — предварительно обученная модель семейства BERT, разработанная CAMeL Lab для обработки арабского языка. Она обучена на корпусе диалектного арабского языка и содержит 136,3 млн параметров. Модель предназначена для заполнения пропусков в тексте и как основа для дообучения под задачи арабского NLP, включая распознавание именованных сущностей, разметку частей речи, анализ тональности и определение диалекта. Архитектура — BertForMaskedLM с контекстом до 512 токенов. Модель рассчитана на арабский язык, в частности на диалектные варианты; карточка также описывает оценку на наборах данных MSA. Доступны версии весов PyTorch, TensorFlow и Flax. Лицензия — Apache-2.0.