I.3Извлечение и структурирование данных

izaitova/robbert-2023-dutch-large-upos — дообученная модель RobBERT для разметки токенов по универсальным частям речи (UPOS) в нидерландском тексте. Она основана на DTAI-KULeuven/robbert-2023-dutch-large и использует архитектуру RoBERTa с головой классификации токенов; содержит 453,9 млн параметров и поддерживает контекст до 514 токенов. Модель предназначена для автоматического POS-теггинга: присваивания каждому токену универсальной грамматической категории. На оценочном наборе Universal Dependencies указаны F1 0,7968, точность 0,8898, precision 0,8288 и recall 0,7844. Распространяется по лицензии MIT. Карточка не приводит подробностей о тренировочных данных и ограничениях помимо связи с Universal Dependencies.

Koichi Yasuoka разработал эту модель на базе RoBERTa для разметки корейского текста частями речи. Модель дообучена на основе KoichiYasuoka/roberta-base-korean-hanja и относит каждое корейское слово (эоджоль) к универсальной категории UPOS; в карточке также указана связь с синтаксическим анализом зависимостей. Модель принимает текст на корейском языке и выдаёт метки для слов, поэтому подходит для морфологического анализа и подготовки текста к последующей лингвистической обработке. Архитектура — RoBERTa с классификатором токенов, размер — 143,4 млн параметров, максимальный контекст — 514 токенов. Распространяется по лицензии CC BY-SA 4.0.

KoljaB/SentenceFinishedClassification — модель классификации последовательностей на базе DistilBERT, опубликованная пользователем KoljaB на Hugging Face. По названию репозитория она предназначена для определения, завершено ли предложение, однако карточка модели не описывает метки классов, обучающие данные или процедуру применения, поэтому конкретный критерий классификации нельзя подтвердить. Модель содержит около 67 млн параметров, использует архитектуру DistilBertForSequenceClassification и имеет контекст длиной до 512 токенов. Опубликована в формате Safetensors под лицензией MIT. Доступные сведения не устанавливают язык обучения или качество работы.

Это модель Stanza для ассами, опубликованная командой Stanford NLP. Она предназначена для лингвистического анализа текста на ассами и доступна для запуска через библиотеку Stanza. Карточка связывает модель с задачей классификации токенов; семейство Stanza также предоставляет инструменты анализа текста, включая распознавание именованных сущностей. Модель опубликована в формате PyTorch под лицензией Apache-2.0. README не сообщает размер модели, длину контекста или конкретные ограничения качества.

stanfordnlp/stanza-fa — модель из набора Stanza, разработанного Stanford NLP для лингвистического анализа персидского языка. Она предназначена для обработки текста в конвейере Stanza; в карточке Hugging Face указана задача классификации токенов, а описание семейства упоминает синтаксический анализ и распознавание сущностей. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache-2.0. Карточка не сообщает размер модели и длину контекста. Модель рассчитана на персидский язык; сведений о поддержке других языков нет. Для использования требуется текст на входе, результатом служат метки для токенов. Возможности конкретного чекпойнта за пределами классификации токенов карточка подробно не раскрывает.

stanfordnlp/stanza-ga — модель Stanza для ирландского языка (ga), разработанная проектом Stanza при Stanford NLP. Она предназначена для лингвистического анализа текста и относится к задаче классификации токенов; Stanza также описывается как набор инструментов для синтаксического анализа и распознавания сущностей. Модель распространяется в формате PyTorch и предназначена для использования с библиотекой Stanza. Лицензия — Apache-2.0. Карточка не раскрывает отдельные характеристики архитектуры, размер модели, контекстное окно или конкретные метрики качества.

QuantFactory/Tongda1-1.5B-BKI-GGUF — квантованная версия модели Tongda1-1.5B-BKI, созданная QuantFactory с использованием llama.cpp. Исходная модель дообучена на базе Qwen2-1.5B-Instruct методом LoRA и предназначена для извлечения структурированной информации из китайских объявлений о торгах и государственных закупках. Модель извлекает из текста название проекта, тип объявления, отраслевую категорию, дату публикации, бюджет, заказчика, срок подачи документов, адрес вскрытия заявок и регион. Она также ориентирована на проверку денежных значений, преобразование единиц и выдачу результата в JSON с использованием заданных категорий. Это делает её подходящей для автоматизации обработки закупочной документации и последующего наполнения структурированных баз данных. Архитектура основана на Qwen2-1.5B-Instruct; размер — около 1,5 млрд параметров, а адаптация выполнена с помощью параметрически эффективного метода LoRA. Модель работает с текстом и ориентирована преимущественно на китайский язык и домен объявлений о торгах. В README приведены высокие значения ROUGE и BLEU на заявленных тестах, однако производительность на других языках, вне закупочной тематики и на документах, отличающихся от обучающих данных, может быть ограниченной. Указана лицензия Apache-2.0.

UmBERTo Commoncrawl Cased — итальянская языковая модель на архитектуре RoBERTa, разработанная командой Musixmatch. Модель обучена на итальянской части корпуса OSCAR: дедуплицированном наборе объёмом 70 ГБ, содержащем около 210 млн предложений и 11 млрд слов. Она использует токенизатор SentencePiece с размером словаря 32 тыс. токенов и Whole Word Masking; число параметров — 137,8 млн, контекст — до 514 токенов. Основная задача модели — предсказание замаскированных токенов в итальянском тексте. Её также можно использовать как основу для извлечения признаков и дообучения под итальянскую разметку, например распознавание именованных сущностей и определение частей речи; README приводит результаты на нескольких итальянских наборах данных. Модель предназначена для NLP-сценариев с итальянским языком. В метаданных указан формат PyTorch и язык it. Сведения о лицензии в предоставленных материалах отсутствуют. Результаты на downstream-задачах приведены для модели семейства UmBERTo и не гарантируют такое же качество без соответствующего дообучения.

Koichi Yasuoka разработал японскую модель BERT large для морфологического анализа текста. Она дообучена на основе KoichiYasuoka/bert-large-japanese-char-extended и предназначена для разметки частей речи по универсальной схеме UPOS и морфологических признаков FEATS на уровне длинных единиц слов; также указана задача синтаксического анализа зависимостей. Модель использует архитектуру BertForTokenClassification, содержит 409,1 млн параметров и поддерживает контекст до 512 токенов. Она обучалась на текстах японской Википедии и связана с датасетом Universal Dependencies. Для загрузки и применения в README приведён пример с Transformers и PyTorch. Лицензия — CC BY-SA 4.0. Описание не содержит оценок качества или подробностей об ограничениях разметки.

Koichi Yasuoka выпустил модель DeBERTa-v2 для разметки частей речи в китайском тексте. Она дообучена на базе IDEA-CCNL/Erlangshen-DeBERTa-v2-97M-Chinese и присваивает каждому слову тег UPOS из набора Universal Dependencies. Модель подходит для морфосинтаксической разметки упрощённого и традиционного китайского; в карточке также заявлен сценарий синтаксического анализа зависимостей. Модель содержит 125,6 млн параметров, принимает текст и имеет контекстное окно до 512 токенов. Опубликована в формате PyTorch под лицензией Apache-2.0. Карточка не приводит оценок качества; результат зависит от корректной токенизации и разбиения текста на слова.

Koichi Yasuoka разработал эту модель на архитектуре DeBERTa V2 для морфологической разметки японского текста. Она присваивает UPOS-теги (универсальные части речи) длинным единицам слов и предназначена для задач японского NLP, включая разметку частей речи и синтаксический анализ зависимостей. Модель дообучена на базе KoichiYasuoka/deberta-small-japanese-aozora, предварительно обученной на текстах библиотеки «Аодзора Бунко»; в репозитории указано 18,4 млн параметров и контекст до 128 токенов. Модель принимает японский текст и выдаёт метки токенов. Для практического применения её можно использовать для автоматической морфологической разметки и как компонент конвейера синтаксического анализа. Опубликована в формате PyTorch по лицензии CC BY-SA 4.0.

Koichi Yasuoka разработал небольшую модель DeBERTa V2 для анализа японского текста. Она дообучена на базе KoichiYasuoka/deberta-small-japanese-aozora и размечает каждое короткое слово тегом части речи по стандарту UPOS; модель также предназначена для синтаксического анализа зависимостей. Модель содержит 18,4 млн параметров, принимает текст на японском языке и имеет контекст длиной до 128 токенов. Её можно использовать для автоматической разметки частей речи и анализа структуры японских предложений. Модель распространяется под лицензией CC BY-SA 4.0.

ethicalabs разработала Echo-DSRN-114M-v0.1.2 — экспериментальную плотную языковую модель для генерации текста и небольших задач на устройствах с ограниченными ресурсами. Архитектура Echo-DSRN сочетает рекуррентные быстрые и медленные состояния; в карточке указаны 8 слоёв и размер скрытого состояния 512. Модель дообучена на наборе naufalso/smoltalk2_non_thinking и рассчитана на диалоговое использование. Метаданные указывают 49,9 млн параметров, тогда как README приводит 114,69 млн; поэтому размер модели в карточке противоречив. Заявленные сценарии включают маршрутизацию запросов, извлечение сущностей и классификацию, преобразование текста в JSON, очистку персональных данных и локальное автодополнение. Карточка также заявляет постоянное потребление памяти O(1) и запуск на CPU, NPU и GPU. Указаны английский язык и контекст 2048 токенов. README характеризует модель как исследовательский прототип: генерация может быть беглой, но фактическая точность, следование инструкциям и здравый смысл ограничены. Лицензия — Apache-2.0; авторы предупреждают, что модель не предназначена для производственного применения и важных решений.

enemBERT — модель akagabi для выделения пяти элементов предложения по вмешательству в заключении эссе ENEM: агента, действия, способа, эффекта и детализации. Это дообученная BERTimbau Base на основе neuralmind/bert-base-portuguese-cased, использующая архитектуру BERT для классификации токенов. Модель принимает текстовый абзац и размечает в нём соответствующие фрагменты по схеме BIO; она не выставляет оценку эссе, не исправляет и не переписывает текст и не анализирует остальные компетенции ENEM. Модель предназначена для анализа заключений эссе ENEM и исследовательских сценариев, связанных с разметкой компонентов аргументации. Обучающие метки созданы LLM методом слабой супервизии и не проверялись людьми, поэтому предсказания могут наследовать ошибки разметчика; границы фрагментов также могут быть неточными. Внешняя проверка на 30 опубликованных эссе показала более слабую связь числа найденных элементов с оценкой, чем на исходном тестовом корпусе, поэтому число элементов нельзя использовать как оценку. Модель рассчитана на бразильский португальский, имеет контекст 512 токенов и опубликована под лицензией Apache-2.0.

ania3000/glot500-base-kuoss-morph — дообученная модель XLM-RoBERTa для классификации токенов. Она основана на cis-lmu/glot500-base, многоязычной модели, предварительно обученной на 500 и более языках. Модель содержит 421,3 млн параметров, принимает текст и имеет контекстное окно 514 токенов. В карточке указаны результаты оценки на тестовом наборе: точность 92,68%, точность на уровне предложений 49,61% и значение функции потерь 0,6143. Данные обучения, конкретная схема разметки и предполагаемые сценарии применения не описаны, поэтому результаты не позволяют определить, какие именно метки предсказывает модель и насколько она подходит для конкретной задачи. Распространяется по лицензии Apache-2.0.

Koichi Yasuoka разработал модель GPT-2 для морфологического анализа японского текста. Она дообучена на основе ku-nlp/gpt2-medium-japanese-char и присваивает каждому короткому слову универсальную часть речи UPOS и признаки FEATS; карточка также указывает поддержку синтаксического разбора зависимостей. Модель предназначена для разметки японских предложений и может использоваться в конвейерах анализа текста через Transformers. Модель использует плотную архитектуру GPT-2 и принимает текст, выдавая токенную разметку. Контекст составляет 1024 токена. Репозиторий содержит веса PyTorch, лицензия — CC BY-SA 4.0. README предлагает запуск через pipeline с пользовательским кодом.

myawesomewnutmodel — дообученная модель DistilBERT от автора hope613 для классификации токенов. Она предназначена для присвоения меток отдельным токенам текста; название репозитория указывает на связь с WNUT, однако README не подтверждает датасет или конкретную схему меток. Модель основана на distilbert/distilbert-base-uncased, использует архитектуру DistilBertForTokenClassification и формат safetensors; максимальный контекст составляет 512 токенов. В README приведены результаты оценки: F1 0,4139, точность (precision) 0,5835, полнота (recall) 0,3207 и accuracy 0,9426. Датасет и предназначенные сценарии применения не описаны, поэтому качество и пригодность для конкретных видов разметки следует оценивать на целевых данных. Лицензия — Apache-2.0.

OpenMed разработала эту специализированную модель распознавания клинических сущностей, дообучив BioClinical-ModernBERT-large для выявления терминов, связанных с хроническим лимфоцитарным лейкозом (ХЛЛ). Модель находит такие упоминания в медицинских записях, научных статьях и других биомедицинских текстах и присваивает токенам метки BIO-классов B-CL и I-CL. Модель основана на архитектуре ModernBERT, содержит около 394,7 млн параметров и поддерживает контекст длиной до 8192 токенов. Она принимает токенизированный текст и выдаёт разметку токенов; карточка указывает английский язык и лицензию Apache-2.0. Заявленные сценарии применения включают поиск упоминаний ХЛЛ в медицинских документах и научной литературе, а также поддержку анализа гематологических и онкологических данных. В карточке приведены F1 0,72, точность 0,70, полнота 0,74 и accuracy 0,95 на датасете CLL. Эти результаты относятся к указанному корпусу и не гарантируют качество на других источниках; модель предназначена для извлечения сущностей, а не для постановки диагноза или принятия клинических решений.

OpenMed разработала ElectraMed-33M — модель на базе трансформера семейства BERT, дообученную для распознавания упоминаний генов и белков в биомедицинском тексте. Она классифицирует токены с BIO-разметкой и предназначена для анализа научных публикаций, клинических записей и других медицинских документов. Модель обучена на корпусе BC2GM и распознаёт сущности типов B-GENE/PROTEIN и I-GENE/PROTEIN. Метаданные указывают 40 млн параметров и контекст до 512 токенов. В README приведены показатели на BC2GM: F1 0,80, точность 0,77, полнота 0,84 и accuracy 0,94. Она подходит для извлечения генов и белков при поиске по литературе, анализе медицинских записей и построении биомедицинских баз знаний. Модель поддерживает английский язык и распространяется под лицензией Apache-2.0. Результаты относятся к задаче и корпусу BC2GM; перенос на другие типы документов и извлечение химических соединений или лекарств отдельно не подтверждены.

OpenMed-NER-GenomicDetect-BigMed-278M — модель OpenMed для распознавания и классификации упоминаний генетических сущностей в биомедицинском тексте. Это дообученная для token classification модель на архитектуре XLM-RoBERTa; в метаданных указано 305,2 млн параметров, а базовая архитектура в README названа xlm-roberta-base. Для обработки текст делится на токены, а модель возвращает BIO-разметку. Контекст ограничен 514 токенами. Модель предназначена для извлечения генетических сущностей из научной литературы и других биомедицинских текстов, например для геномного текстового поиска и построения баз знаний. README сообщает об обучении на корпусе GELLUS, однако перечисленные выходные метки ограничены типом Cell-line-name, поэтому заявленные в карточке более широкие сценарии извлечения генов и генетических вариантов требуют проверки на целевых данных. Указанные в README высокие показатели качества относятся к оценке на GELLUS и не гарантируют такую же точность на клинических документах или других корпусах. Модель работает с английским текстом и распространяется по лицензии Apache-2.0.

OpenMed-NER-OncologyDetect-BioPatient-108M — специализированная модель OpenMed для распознавания и классификации биомедицинских сущностей в текстах об онкологии и генетике рака. Это дообученный BERT с архитектурой BertForTokenClassification, примерно 135,5 млн параметров и контекстом до 512 токенов. Модель принимает токенизированный текст и выдаёт BIO-метки для сущностей, включая гены и продукты генов, виды рака, клетки, ткани и химические соединения. Модель предназначена для извлечения сущностей из медицинских записей и научной литературы, а также для анализа данных исследований рака и геномики. В README указана обучающая выборка BioNLP 2013 CG и F1 0,81 на этом датасете. Метаданные указывают английский язык. Модель распространяется по лицензии Apache-2.0. Качество на других типах текстов и вне онкологической тематики не подтверждено указанными данными. Результаты распознавания следует проверять перед использованием в клинических или исследовательских процессах; модель не предназначена для самостоятельной постановки диагноза или выбора лечения.

OpenMed-NER-SpeciesDetect-ElectraMed-560M — модель OpenMed для распознавания названий видов и организмов в тексте. Это дообученный трансформер для токенной классификации с архитектурой XLM-RoBERTa и примерно 658,7 млн параметров; модель размечает найденные упоминания тегами B-SPECIES и I-SPECIES. Она предназначена для анализа биомедицинской литературы и других текстов, где нужно находить научные и общеупотребительные названия организмов. В карточке указано обучение на корпусе LINNAEUS; заявленные метрики на наборе данных — F1 0,76, точность 0,72 и полнота 0,82. Модель принимает токенизированный текст, выдаёт BIO-разметку и поддерживает английский язык. Контекст составляет 514 токенов. Лицензия — Apache-2.0. Подходящие сценарии — извлечение упоминаний видов из научных статей, поиск организмов в биомедицинских текстах и подготовка данных для таксономических исследований. Указанные в README применения шире целевой разметки видов: модель размечает только сущности SPECIES, поэтому заявления о выделении лекарств, химических соединений или лекарственных взаимодействий не подтверждаются перечисленными типами сущностей. Заявление о готовности к промышленному использованию сопровождается умеренными показателями F1 и не заменяет независимую проверку на целевых текстах.

OpenMed/OpenMed-ZeroShot-NER-Species-Medium-209M — специализированная модель OpenMed для распознавания упоминаний видов и организмов в тексте. Она основана на архитектуре GLiNER и дообучена на корпусе LINNAEUS для извлечения сущностей SPECIES, включая научные и общеупотребительные названия, а также сокращения. Модель предназначена для анализа научной и биомедицинской литературы, отчетов метагеномики и подготовки материалов для таксономической разметки. Модель принимает текст и возвращает найденные фрагменты сущностей с метками. Заявлена поддержка zero-shot извлечения типов сущностей, задаваемых пользователем, однако карточка конкретно описывает обучение и оценку для распознавания видов. В README приведен результат F1 0,9751 на тестовой части LINNAEUS, исключенной из обучения; это показатель из карточки, а не независимая оценка. Метаданные указывают библиотеку PyTorch и английский язык карточки. Модель распространяется по лицензии Apache-2.0.

Koichi Yasuoka разработал англоязычную модель разметки текста на основе RoBERTa-large, дообученную на UD_English. Она присваивает каждому слову тег UPOS из универсальной системы частей речи и предназначена для морфологической разметки английского текста; карточка также указывает на применение для синтаксического анализа зависимостей. Модель содержит 454,1 млн параметров, принимает текст с контекстом до 514 токенов и доступна в формате PyTorch для Transformers. Лицензия — CC-BY-SA-4.0. Модель полезна для лингвистического анализа и предварительной разметки английских текстов. Указанная область применения ограничена английским языком и задачами токенной классификации; README не приводит метрик качества.

Модель Stanza для тамильского языка разработана Stanford NLP и предназначена для лингвистического анализа текста. В рамках набора инструментов Stanza она поддерживает обработку текста для анализа языка; задача модели в каталоге и метаданных Hugging Face — классификация токенов. Модель распространяется в формате PyTorch и под лицензией Apache-2.0. Карточка относит её к моделям Stanza для анализа тамильского языка, однако конкретная схема меток и дополнительные характеристики не описаны.

UmBERTo Wikipedia Uncased — языковая модель на архитектуре RoBERTa/CamemBERT, разработанная авторами из Musixmatch и обученная на итальянской Википедии. Это версия для заполнения пропусков в тексте: модель предсказывает замаскированные токены и формирует контекстные представления текста. Модель содержит 137,8 млн параметров, использует токенизатор SentencePiece с словарём 32 тыс. токенов и Whole Word Masking. По метаданным, максимальная длина контекста составляет 514 токенов. Она предназначена для итальянского языка; в README также приведены результаты для распознавания именованных сущностей и определения частей речи, но для этих задач потребуются соответствующие downstream-головы или дообучение. Репозиторий содержит веса PyTorch. README не сообщает лицензию, поэтому условия использования по имеющимся сведениям определить нельзя. Модель обучалась на сравнительно небольшом корпусе итальянской Википедии, что может ограничивать её работу с текстами других жанров и областей.

JuanC513/xlmroberta-ner-prostata-bs16 — модель XLM-RoBERTa Large, дообученная для классификации токенов и распознавания сущностей в текстах о простате. Она предназначена для выделения и маркировки упоминаний, связанных с этой тематикой. В README приведены результаты оценки: F1 0,9681, точность 0,9667 и полнота 0,9696; набор данных для обучения не описан. Модель содержит 658,7 млн параметров, принимает текст и выдаёт метки для токенов. Контекст — до 514 токенов. Использует библиотеку Transformers и формат весов Safetensors. Лицензия — MIT.

Zhinao-ChineseModernBert — базовая модель понимания китайского языка, разработанная командой Zhinao и опубликованная под идентификатором qihoo360/Zhinao-ChineseModernBert. Это плотная двунаправленная ModernBERT-модель с архитектурой ModernBertForMaskedLM и 227 млн параметров; она обучена с нуля на больших китайско-английских корпусах с целью masked language modeling и использует токенизатор Qwen2. Модель предназначена для заполнения пропусков в тексте и может служить базой для последующей адаптации к задачам понимания языка. В карточке указано окно контекста 8192 токена. README описывает базовую модель как ориентированную прежде всего на китайский язык, с дополнительными англоязычными данными, и приводит сценарии классификации текста, распознавания сущностей, анализа тональности и извлечения отношений после дообучения. Заявлены высокая скорость вывода и умеренное потребление памяти для своего класса; версия Embedding в том же семействе является отдельной моделью и не описывает назначение этого репозитория. Модель распространяется по лицензии Apache 2.0, разрешающей академическое и коммерческое использование. Для прикладных задач понимания языка базовую версию необходимо дообучить; для чисто англоязычных профессиональных текстов README рекомендует выбирать модель, обученную преимущественно на английском.

AU-clarification_gemma-2-9b-it — языковая модель Gemma 2 с 9 млрд параметров, дообученная LequeuISIR на наборе данных GDN-CC для уточнения аргументативных единиц. Модель предназначена для автоматической разметки и пояснения аргументативных единиц; авторы называют её лучшей в своей задаче и использовали для аннотирования GDN-CC-large. Модель имеет архитектуру Gemma2ForCausalLM и принимает текст, выдавая текст. Контекст составляет 8192 токена. В качестве базовой использована google/gemma-2-9b-it; для запуска авторы рекомендуют vLLM. Метаданные указывают французский язык и наборы данных GDN-CC и GDN-CC-large. Сведения о лицензии в предоставленных источниках отсутствуют.

Avey-B Sindhi 25M — компактный энкодерный языковой модельный чекпойнт, разработанный DanishMahdi и обученный с нуля методом masked language modeling на текстах на синдхи. Это не чат-модель и не генератор свободного текста: модель предназначена для дообучения на классификацию и разметку токенов, извлечения представлений, предсказания скрытых токенов и продолжения предобучения. Модель использует архитектуру Avey-B с энкодером для masked language modeling, содержит 24,9 млн параметров и обучена на корпусе HPLT 3.0 на синдхи с 32-тысячным WordPiece-словарём. Длина обучающих последовательностей составляла 512 токенов. В README приведены результаты предсказания скрытых токенов и эксперимента NER, однако автор отмечает, что выборка Sindhi WikiANN очень мала и результаты NER служат лишь ориентиром для низкоресурсного сценария. Модель подойдёт для экспериментов и прикладного дообучения на задачах для языка синдхи. Качество следует проверять на целевых данных: предобучающий корпус представляет собой отфильтрованный веб-текст, а оценочное покрытие ограничено MLM-тестом и малой автоматически размеченной выборкой WikiANN. Репозиторий распространяется по лицензии Apache-2.0.