I.3Извлечение и структурирование данных

Koichi Yasuoka разработал эту крупную модель RoBERTa на основе klue/roberta-large и предварительно обучил её на корейских текстах. Её словарь и эмбеддинги токенов дополнены всеми ханча из базового учебного набора иероглифов и списка иероглифов, разрешённых для личных имён в Корее. Модель содержит 442,9 млн параметров, принимает текст и предназначена для задачи заполнения маски; её можно дообучать для разметки частей речи, синтаксического анализа зависимостей и других задач обработки корейского языка. Контекст составляет 514 токенов. Распространяется по лицензии CC BY-SA 4.0.

SK_BPE_BLM — предварительно обученная языковая модель для словацкого языка, разработанная David Držík и основанная на архитектуре RoBERTa. Она предсказывает замаскированные токены и предназначена прежде всего для дообучения под последующие задачи обработки словацкого текста. В репозитории Hugging Face указаны 68,8 млн параметров и контекст 258 токенов; README описывает 6 слоёв, 12 голов внимания, скрытый размер 576, словарь из 50 264 токенов и последовательности до 256 токенов. Модель использует BPE-токенизацию и работает с текстом в нижнем регистре. Для предобучения использована очищенная выборка словацкого подмножества OSCAR 2019. Модель может служить основой для настройки на задачи NER, разметки частей речи, ответов на вопросы, анализа тональности и классификации тем, однако эти задачи требуют соответствующего дообучения. Лицензия — MIT. Ограничения включают поддержку только словацкого языка, чувствительность к предварительной обработке в нижнем регистре и короткий контекст.

stanfordnlp/stanza-mt — модель Stanza для мальтийского языка, разработанная Stanford NLP. Она предназначена для лингвистического анализа текста; метаданные Hugging Face классифицируют её как модель разметки токенов. Stanza в целом предоставляет инструменты для анализа текста от исходных слов до синтаксического разбора и распознавания сущностей, однако карточка этого чекпойнта не уточняет, какие именно такие функции входят в него. Модель опубликована в формате PyTorch и распространяется по лицензии Apache-2.0. Карточка не сообщает размер модели, длину контекста или конкретные метрики качества.

stanfordnlp/stanza-nn — модель Stanza от Stanford NLP для лингвистического анализа нюнорска. Она предназначена для разметки последовательностей токенов в текстах на нюнорске и входит в набор инструментов, который анализирует текст от исходной формы до синтаксического разбора и распознавания сущностей. Репозиторий содержит веса PyTorch и использует библиотеку Stanza. Модель распространяется по лицензии Apache-2.0. Карточка не сообщает размер, длину контекста или конкретный состав разметки этой модели; поэтому её возможности описаны на уровне задачи token classification.

kktoto/tiny_focal_v3 — модель для классификации токенов на основе архитектуры BERT, обученная автором с нуля на неизвестном наборе данных. Она предназначена для присвоения меток отдельным токенам текста; конкретная схема разметки и прикладные сценарии в карточке не описаны. Модель содержит 12,6 млн параметров, принимает текст с контекстом до 512 токенов и опубликована в формате PyTorch. В README приведены метрики на оценочной выборке: loss 0,0023, precision 0,6975, recall 0,6822, F1 0,6898 и accuracy 0,9515. Из-за отсутствия сведений о датасете, метках и методике оценки эти результаты сложно интерпретировать и переносить на другие данные. Лицензия и языки модели в доступных сведениях не указаны.

XLM-R-BERTić — модель компании CLASSLA, созданная дополнительным предобучением XLM-RoBERTa-large на 48 тысячах шагов на южнославянских языках с использованием набора XLM-R-BERTić. Это трансформер XLM-RoBERTa с 658,7 млн параметров, предназначенный для предсказания замаскированных токенов и адаптации к последующим задачам обработки южнославянского текста. Модель подходит как основа для дообучения на распознавание именованных сущностей, оценку тональности и COPA — выбор правдоподобной альтернативы. В README приведены результаты таких downstream-моделей для боснийского, хорватского и сербского языков; сами задачи требуют отдельного дообучения. Репозиторий содержит веса PyTorch, заявленная лицензия — CC BY-SA 4.0. Контекст составляет 514 токенов. Приведённые в карточке оценки относятся к конкретным наборам данных и дообученным вариантам, поэтому не гарантируют такое же качество при других сценариях.

4Lweightdecay — модель для классификации токенов на основе архитектуры BERT, обученная с нуля. В репозитории указано 12,6 млн параметров; модель принимает последовательности текста и рассчитана на контекст до 512 токенов. Карточка сообщает результаты оценки: loss 0,1312, precision 0,7006, recall 0,6863, F1 0,6934 и accuracy 0,9524. Модель предназначена для разметки отдельных токенов, однако конкретный набор меток и целевой сценарий в карточке не описаны. Данные обучения названы неизвестными, поэтому результаты нельзя уверенно переносить на другие наборы данных. Весá опубликованы в формате PyTorch; лицензия не указана.

Koichi Yasuoka разработал японскую модель GPT-2 для разметки частей речи и синтаксических зависимостей. Она дообучена на основе abeja/gpt2-large-japanese и уточнена на UD_Japanese-GSDLUW. Архитектура — плотная GPT-2 с головой классификации токенов; модель принимает японский текст и выдаёт метки для его токенов. Контекст составляет 1024 токена, формат весов — PyTorch. Модель подходит для морфологического анализа японских предложений, присвоения тегов частей речи и построения синтаксических зависимостей. В карточке указан pipeline_tag token-classification; пример использования задаёт задачу universal-dependencies. Лицензия — MIT. Известное ограничение: модель специализирована на японском языке и данных UD_Japanese-GSDLUW.

LequeuISIR/AU-extraction_Qwen2.5-7B-Instruct — дообученная исследовательской группой LequeuISIR инструктивная языковая модель Qwen2.5-7B для извлечения аргументативных единиц из текста. Она предназначена для автоматической разметки аргументативных фрагментов; авторы сообщают, что использовали её для аннотирования набора GDN-CC-large и считают лучшей своей моделью для этой задачи. Модель построена на плотной архитектуре Qwen2ForCausalLM, содержит 7,1 млрд параметров и имеет контекст 32 768 токенов. Для запуска авторы рекомендуют vLLM; карточка указывает датасеты GDN-CC и GDN-CC-large и французский язык. Модель выдаёт текст, поэтому результат извлечения и его формат зависят от инструкции и способа вызова. Указанная лицензия в предоставленных данных отсутствует. Карточка не приводит количественной оценки качества или подробных ограничений по применению за пределами задачи извлечения аргументативных единиц.

Koichi Yasuoka разработал японскую модель BERT для разметки частей речи и морфологических признаков. Она дообучена на основе KoichiYasuoka/bert-base-japanese-char-extended и использует архитектуру BertForTokenClassification; число параметров — 118,1 млн, максимальная длина контекста — 512 токенов. Модель обучена на текстах японской Википедии и размечает слова по схеме UPOS и FEATS; карточка также указывает связь с синтаксическим разбором зависимостей. Модель подходит для морфологического анализа японских текстов, например для автоматической разметки предложений перед лингвистическим анализом или построением языковых корпусов. Она принимает текст и выдаёт метки для токенов. Распространяется по лицензии CC BY-SA 4.0.

murathankurfali/bert-large-uncased-pdtb2-explicit-four-way — модель Murathan Kurfalı на базе BERT-large-uncased, дообученная для классификации явных дискурсивных отношений в корпусе Penn Discourse Treebank 2.0. Она принимает текстовые фрагменты или пары предложений и относит их к одному из четырёх верхнеуровневых классов PDTB2: Temporal, Contingency, Comparison или Expansion. Модель использует архитектуру BERT и предназначена для задач text-classification. В ней около 433,9 млн параметров, максимальная длина входа составляет 512 токенов; исходный BERT-large-uncased рассчитан на английский язык. Модель подходит для анализа связности текста и построения компонентов дискурсивного парсинга, но не является генеративной моделью и не предназначена для классификации отношений, отсутствующих в её четырёхклассовой схеме. Лицензия в доступных материалах модели не указана.

britannica-illustration-detector-smoke — детектор объектов, созданный дообучением D-FINE Small, обученной на COCO, на наборе davanstrien/britannica-illustration-labels-coco. Модель предназначена для обнаружения иллюстраций Britannica на изображениях и выдаёт ограничивающие рамки с оценками обнаружения. В README приведены результаты на оценочной выборке: mAP 0,7702, mAP@50 0,9069 и mAP@75 0,828. Модель использует архитектуру D-FINE для детекции объектов и формат весов safetensors. Лицензия — Apache-2.0. Подробности о поддерживаемых классах, процедуре обучения и практических ограничениях не раскрыты.

disham993/electrical-ner-ModernBERT-base — англоязычная модель распознавания именованных сущностей в текстах по электротехнике, созданная дообучением answerdotai/ModernBERT-base. Это encoder-модель семейства ModernBERT с 149 млн параметров, архитектурой для классификации токенов и контекстом до 8192 токенов. Она выделяет компоненты, материалы, стандарты и параметры проектирования в технических текстах об электрических схемах, испытаниях, обслуживании, монтаже и устранении неисправностей. Модель обучена на наборе disham993/ElectricalNER, подготовленном с помощью GPT-4o-mini. В карточке указаны результаты оценки: F1 0,9177 и точность 0,9664. Модель рассчитана на английский язык и электротехническую тематику; в других областях её качество не гарантируется, а неоднозначный контекст и ошибки в автоматически созданных обучающих данных могут приводить к неверной разметке. Лицензия — MIT; автор рекомендует проверять результаты перед применением в критичных сценариях.

Koichi Yasuoka разработал японскую GPT-2 Large для разметки частей речи и морфологических признаков. Модель дообучена на основе ku-nlp/gpt2-large-japanese-char и присваивает каждому короткому слову метки UPOS (Universal Part-Of-Speech) и FEATS; в метаданных также указан датасет Universal Dependencies. Модель предназначена для автоматической разметки японского текста по токенам, например для лингвистического анализа и подготовки корпусов. Это плотная GPT-2-модель с контекстом до 1024 токенов, доступная в формате PyTorch. Лицензия — CC BY-SA 4.0. Карточка также упоминает синтаксический анализ зависимостей, однако описанный пример использования показывает POS-разметку; подтверждённая задача в метаданных — классификация токенов. Ограничение контекста составляет 1024 токена, а назначение модели — японский язык.

saiyiram/mbert-tamil-pos-tagging — модель на базе многоязычного BERT от Google, дообученная для разметки частей речи в тексте на тамильском языке. Она принимает текст и присваивает метку каждому токену; модель реализована как BertForTokenClassification и доступна в формате safetensors. Размер — 205,1 млн параметров, максимальная длина контекста — 512 токенов. В README указаны результаты оценки: accuracy 0,8155, macro F1 0,6485 и weighted F1 0,8040. Обучающий датасет в карточке не описан. Модель выпущена под лицензией Apache-2.0.

OpenMed разработала эту специализированную модель для распознавания сущностей, связанных с хроническим лимфолейкозом (ХЛЛ), в медицинских и научных текстах. Это дообученная ModernBERT-base с 149 млн параметров, архитектурой ModernBertForTokenClassification и контекстом до 8192 токенов. Модель принимает токенизированный текст и возвращает BIO-разметку; указаны метки B-CL и I-CL. Карточка заявляет поддержку английского языка. Модель предназначена для извлечения упоминаний ХЛЛ из медицинской документации и научной литературы, а также для анализа терминологии, биомаркеров и лечения в гематологии и онкологии. В карточке приведены точность 1,00, полнота 0,35 и F1 0,52 на корпусе CLL: высокая точность сопровождается низкой полнотой, поэтому модель может пропускать многие подходящие сущности. Лицензия — Apache-2.0.

OpenMed разработала эту модель для распознавания клинических сущностей, связанных с хроническим лимфолейкозом (ХЛЛ), в медицинских и научных текстах. Это дообученная модель DistilBERT для классификации токенов; она размечает сущности тегами B-CL и I-CL и выдаёт предсказания в формате BIO. Размер модели — 65 млн параметров, максимальная длина контекста — 512 токенов. Модель предназначена для извлечения упоминаний о ХЛЛ из клинических записей, медицинской литературы и документов здравоохранения. Её можно применять для анализа терминологии заболевания, поддержки медицинского текстового майнинга и исследований в гематологии и онкологии. В карточке приведены результаты на CLL-корпусе: F1 0,85, точность 0,78, полнота 0,94 и accuracy 0,97; эти показатели относятся к указанному набору данных. Модель принимает текст на английском языке и выдаёт метки сущностей для токенов. Область разметки узкая: карточка указывает только классы CL, поэтому описание сценариев для извлечения лекарств, взаимодействий или нежелательных явлений следует рассматривать как заявленные примеры применения, а не как отдельные типы сущностей. Лицензия — Apache-2.0.

Koichi Yasuoka разработал эту модель на основе японской RoBERTa roberta-large-japanese-aozora, дообучив её на датасете UD_Japanese-GSDLUW для разметки частей речи и синтаксического анализа зависимостей с использованием связи goeswith для подслов. Модель обрабатывает японский текст и присваивает метки токенам; она предназначена для лингвистического анализа и построения синтаксических структур. Это плотная модель RoBERTa для классификации токенов с 659 млн параметров и контекстом до 512 токенов. Она распространяется в формате PyTorch по лицензии CC BY-SA 4.0. Для использования через Transformers в README приведён pipeline с trust_remote_code=True и агрегацией меток; качество на других корпусах или языках в карточке не описано.

Koichi Yasuoka разработал японскую модель RoBERTa-large для морфосинтаксического анализа текста. Она дообучена на базе nlp-waseda/roberta-large-japanese и предназначена для разметки частей речи и синтаксических зависимостей с обработкой субслов через отношение goeswith. В карточке Hugging Face указаны архитектура RobertaForTokenClassification, 435,4 млн параметров и контекст до 514 токенов. Модель принимает японский текст и возвращает токеновую разметку; для запуска через Transformers требуется библиотека fugashi. Репозиторий содержит веса PyTorch, лицензия — CC BY-SA 4.0.

liaad/srl-en_mbert-base — модель на основе bert-base-multilingual-cased, дообученная исследовательской группой LIAD на английских данных OntoNotes v5.0 в формате CoNLL для семантической разметки ролей. Она предназначена для извлечения признаков контекстуальных токенов, используемых в задачах анализа предложений и определения семантических ролей.

noeminaepli/swiss_german_pos_model — модель на базе BERT для разметки частей речи в текстах на швейцарском немецком. Она присваивает токенам универсальные части речи по схеме Universal POS (UPOS) и рассчитана на автоматическую лингвистическую разметку текстов. Модель содержит 137,1 млн параметров, принимает последовательности длиной до 512 токенов и распространяется в формате PyTorch. Модель предназначена для подготовки корпусов, лингвистического анализа и предварительной разметки швейцарских немецких текстов. Лицензия — CC; конкретный вариант лицензии в предоставленных данных не уточнён.

WaterBERT — англоязычный BERT-base энкодер от Mudi12137, адаптированный для текстов о сточных водах и водоочистке. Модель создана продолжением предобучения SciBERT с masked language modeling на корпусе научной литературы по водоподготовке; используется словарь SciBERT на 31 090 токенов. Размер — 137,1 млн параметров, контекст — до 512 токенов. Модель подходит для предсказания замаскированных слов и как основа для дообучения на задачах обработки профильных текстов: распознавании сущностей, извлечении отношений, классификации и поиске. Лицензия — Apache-2.0. WaterBERT рассчитана на английский текст с автоматическим приведением к нижнему регистру. Обучающий корпус преимущественно состоит из научных аннотаций, поэтому качество на эксплуатационных журналах и нормативных документах не оценено.

CKIP ALBERT Base Chinese — модель CKIP для разметки токенов на традиционном китайском языке. В карточке проекта среди задач инструментов NLP указана маркировка частей речи; метаданные относят модель к token-classification и архитектуре ALBERT с классом AlbertForTokenClassification. Модель содержит 129,5 млн параметров, рассчитана на контекст до 512 токенов и представлена в формате PyTorch. Модель предназначена для определения части речи отдельных токенов в китайском тексте. Проект CKIP также предлагает инструменты сегментации слов и распознавания именованных сущностей, однако карточка этой конкретной модели не подтверждает эти задачи. Для токенизации README рекомендует BertTokenizerFast вместо AutoTokenizer. Лицензия модели — GPL-3.0.

Salvatore разработал BERT-модель для классификации токенов, дообученную на основе bert-base-cased. Она предназначена для распознавания сущностей и меток на уровне токенов; приведённые результаты оценки указывают на классы Proteinmutation, Snp и Dnamutation. Модель содержит 135,5 млн параметров, использует формат PyTorch и принимает последовательности длиной до 512 токенов. В README указаны метрики на оценочном наборе: F1 0,2398 и accuracy 0,9703; по классам F1 составляет 0,1309 для Proteinmutation, 0,1953 для Snp и 0,3778 для Dnamutation. Общие сведения о назначении датасета и ограничениях автор не приводит. Модель распространяется по лицензии Apache-2.0.

Модель akhisreelibra/bert-malayalam-pos-tagger — дообученная версия bert-base-multilingual-uncased для разметки частей речи и связанных грамматических категорий в предложениях на малаялам. Она выполняет покомпонентную классификацию токенов и предназначена для автоматической морфосинтаксической разметки текстов на малаялам. В README приведены результаты на оценочной выборке: F1 0,7569 и точность 0,8552; также указаны precision 0,7380 и recall 0,7767. Модель опубликована в формате PyTorch и распространяется по лицензии Apache-2.0. Основа — многоязычный BERT без регистра bert-base-multilingual-uncased. Оценочные показатели относятся к указанной выборке; README не описывает ограничения по доменам или другие сценарии применения.

Koichi Yasuoka разработал эту модель на базе DeBERTa V2, предварительно обученной на японской Википедии и текстах Aozora Bunko, а затем дообучил её для разметки частей речи и синтаксического анализа. Модель назначает каждому длинному слову японского текста тег UPOS и признаки FEATS; она предназначена для токенной классификации и может использоваться как компонент японского NLP-конвейера. Модель содержит 137,8 млн параметров, принимает текст с контекстом до 512 токенов и распространяется в формате PyTorch. Лицензия — CC BY-SA 4.0. Карточка показывает пример применения через Transformers; в каталожных метаданных указана поддержка задачи token-classification.

Koichi Yasuoka разработал эту модель на основе Erlangshen-DeBERTa-v2-320M-Chinese для морфологического анализа китайского текста. Это DeBERTa-v2 с архитектурой классификации токенов, дообученная размечать слова универсальными частями речи UPOS; модель также предназначена для синтаксического анализа зависимостей. Модель принимает китайский текст и поддерживает упрощённое и традиционное письмо. Размер составляет 419,1 млн параметров, длина контекста — до 512 токенов. Её можно использовать через Transformers как токенизатор и модель классификации токенов. Модель распространяется по лицензии Apache-2.0. Она специализирована на китайском языке и разметке UPOS; для других языков и задач её возможности не подтверждены.

mfarrington/devicebert-base-cased-v1.0 — дообученная модель на архитектуре BERT для классификации токенов, созданная на основе англоязычной биомедицинской модели BioBERT-Base v1.2. Карточка сообщает о дообучении на наборе данных, состав которого не раскрыт; размер модели — 260 млн параметров, максимальный контекст — 512 токенов. Модель предназначена для разметки отдельных токенов в тексте. В README приведены результаты оценки: F1 — 0,6753, точность — 0,8547, полнота — 0,6691; значение функции потерь указано как NaN. Сценарий применения и типы меток не описаны, поэтому эти оценки не позволяют определить качество для конкретной задачи. Базовая BioBERT рассчитана на англоязычные биомедицинские тексты, но специализация этой версии не подтверждена. Модель опубликована в формате Safetensors. Сведения о лицензии в предоставленных материалах отсутствуют.

Javanese BERT Small — модель маскированного языкового моделирования на архитектуре BERT, обученная Уилсоном Вонгсо на яванских статьях Википедии. Она дообучена на яванском корпусе на основе предварительно обученной англоязычной BERT-модели Hugging Face и подходит для заполнения замаскированных слов и извлечения текстовых признаков. Модель содержит около 136,7 млн параметров, принимает текст с контекстом до 512 токенов и поддерживает задачу fill-mask. В README приведена perplexity 22,00 на отложенной выборке. Модель доступна под лицензией MIT; веса представлены в форматах PyTorch, TensorFlow и Flax.

Модель Pavarissy/mdeberta-v3-ud-thai-pud-upos — дообученная версия microsoft/mdeberta-v3-base для разметки частей речи в тайском языке. Она присваивает токенам универсальные грамматические категории UPOS на основе корпуса Thai PUD из набора Universal Dependencies; архитектура — DeBERTa V2 для классификации токенов, размер — 306 млн параметров, максимальный контекст — 512 токенов. Модель подходит для автоматической POS-разметки тайских текстов и подготовки лингвистических данных. В README приведены результаты оценки на тестовой выборке: accuracy и weighted F1 — 0,9935, macro F1 — 0,9231. Модель распространяется по лицензии MIT.