I.3Извлечение и структурирование данных

stanfordnlp/stanza-lt — модель литовского языка из набора инструментов Stanza, разработанного Stanford NLP. Она предназначена для лингвистического анализа текста, в том числе для задач разметки токенов; Stanza также предоставляет инструменты синтаксического анализа и распознавания сущностей. Репозиторий содержит веса PyTorch и опубликован под лицензией Apache 2.0.

Модель Stanza для сербского языка разработана группой Stanford NLP. Это компонент набора инструментов Stanza для лингвистического анализа текста: он относится к задаче классификации токенов и используется в конвейере обработки сербского текста. Stanza предназначена для анализа текста от исходной строки до синтаксического разбора и распознавания сущностей. Репозиторий содержит веса PyTorch; модель подключается через библиотеку Stanza. Лицензия — Apache-2.0. Карточка не уточняет размер модели, контекстное окно и отдельные ограничения качества. Для практического применения модель ориентирована на сербский язык.

TAPEX large — модель Microsoft на архитектуре BART, разработанная для развития навыков рассуждения по таблицам с помощью предобучения на синтетических SQL-запросах. Чекпойнт содержит около 252,8 млн параметров и рассчитан на дообучение для последующих задач, включая ответы на вопросы по таблицам; сам по себе он не предназначен для выполнения SQL-запросов над таблицей. Модель принимает таблицу и текстовый вопрос и формирует ответ текстом. В метаданных указан английский язык и контекст до 1024 токенов. Для практического применения чекпойнт нужно дообучить на целевой задаче. Модель распространяется по лицензии MIT.

Urdu BERT (64k vocab) — базовая модель BERT-base, разработанная Farah Adeeba и обученная с нуля на корпусе текстов на урду. Она предназначена для предсказания замаскированных токенов, извлечения контекстных представлений и дообучения для задач обработки урду. Модель содержит 162,4 млн параметров, 12 слоёв, скрытый размер 768 и словарь WordPiece на 64 000 токенов; максимальная длина последовательности — 512 токенов. Предобучение проводилось 20 эпох только с целью masked language modeling. В карточке сообщается, что модель превзошла multilingual BERT на проверках NER и анализа тональности, однако подробные результаты обещаны отдельно. Это базовая модель без дообучения под прикладные задачи; pooler не обучался, поэтому pooler_output нельзя надёжно использовать без дополнительного дообучения. Лицензия — Apache-2.0.

ghadeermobasher/BC4-Original-bluebert_pubmed_uncased_L-12_H-768_A-12 — дообученная для токен-классификации модель BlueBERT, разработанная на основе BlueBERT от NCBI. Базовая модель представляет собой BERT-base без учета регистра, предварительно обученный на англоязычных аннотациях PubMed; исходный BlueBERT разработан для переноса обучения в задачах биомедицинской обработки естественного языка. Модель предназначена для извлечения сущностей из биомедицинских текстов в рамках набора BC4CHEMD, в частности для распознавания упоминаний химических веществ и лекарственных соединений. Она использует архитектуру BERT с 12 слоями, размером скрытого представления 768 и 12 головами внимания; объем модели по метаданным составляет 136,7 млн параметров, а максимальная длина входа — 512 токенов. Модель работает с англоязычным текстом и предназначена для использования через Transformers/PyTorch. Сильной стороной является специализация на научно-медицинской лексике PubMed и задаче извлечения химических сущностей. Модель не является генеративной и не предназначена для свободного диалога, суммаризации или перевода; качество вне биомедицинских англоязычных текстов и за пределами распределения BC4CHEMD может снижаться. Лицензия для производной модели в доступных источниках не установлена.

dbmdz/bert-base-german-cased — немецкоязычная модель BERT от команды MDZ Digital Library Баварской государственной библиотеки. Это плотная трансформерная модель с 137,1 млн параметров, обученная для предсказания замаскированных токенов. Она сохраняет регистр немецких слов и подходит для заполнения пропусков в тексте и как основа для последующей настройки под задачи обработки немецкого языка. Обучение проводилось на корпусе объёмом 16 ГБ и примерно 2,35 млрд токенов из Википедии, EU Bookshop, Open Subtitles, CommonCrawl, ParaCrawl и News Crawl. Модель обучалась на последовательностях длиной до 512 токенов. Доступны веса в форматах PyTorch, TensorFlow и Flax, а также Safetensors. Лицензия — MIT. Модель рассчитана прежде всего на немецкий язык и учитывает регистр, что полезно для сохранения различий между заглавными и строчными буквами. Основное назначение — предсказание скрытых токенов; карточка также упоминает применение BERT для последующей настройки на распознавание сущностей и разметку частей речи. Ограничение контекста составляет 512 токенов, а качество для конкретных прикладных задач зависит от дополнительной настройки.

QCRI/bert-base-multilingual-cased-pos-english — модель QCRI на архитектуре BERT, дообученная для разметки частей речи в английском тексте. Она присваивает токенам метки частей речи и подходит для автоматического POS-теггинга предложений и корпусов. Модель содержит 205,1 млн параметров, использует формат PyTorch и принимает последовательности длиной до 512 токенов. В README указана оценка F1 96,69 на Penn TreeBank. Модель основана на многоязычном BERT с сохранением регистра, но её назначение — английская разметка частей речи. Для использования подходит Transformers. Лицензия CC BY-NC 3.0 допускает использование с ограничениями, включая некоммерческий характер лицензии.

BidirLM-270M-Base — промежуточная модель семейства BidirLM от авторов репозитория BidirLM, созданная на основе Google Gemma 3 270M. Авторы преобразовали причинное внимание Gemma 3 в двунаправленное и обучили модель методом Masked Next Token Prediction на 30 млрд токенов из многодоменного корпуса, после чего объединили её веса с исходными весами Gemma 3 в пропорции 50/50. Модель имеет плотную архитектуру BidirLMForMaskedLM, около 257 млн параметров и контекст до 32 768 токенов. Модель предназначена для заполнения масок и получения двунаправленных текстовых представлений; метаданные также относят её к задачам классификации текста и токенов. Она поддерживает множество языков, включая английский, русский и другие языки, перечисленные в метаданных. Для общих эмбеддингов и дообучения на прикладные задачи авторы рекомендуют отдельную контрастивно обученную модель BidirLM-270M-Embedding. Для загрузки требуется Transformers с параметром trust_remote_code=True. Лицензия — Apache-2.0. В README указаны различия совместимости между Transformers 4.x и 5.x; также модель обозначена как промежуточный чекпойнт, а не рекомендованный авторами вариант для общих эмбеддингов.

alvaroalon2/biobert_genetic_ner — модель на базе BioBERT, дообученная для распознавания генетических сущностей в биомедицинских текстах. Разработчик подготовил её для использования в системе BioNER/BioNEN; обучение проводилось на корпусах JNLPBA и BC2GM. Модель использует архитектуру BERT с классификационной головой для разметки токенов, содержит 135,5 млн параметров и принимает контекст длиной до 512 токенов. Она предназначена для извлечения упоминаний генетических сущностей из англоязычных текстов. Доступна в формате PyTorch под лицензией Apache-2.0.

Модель luhua/chinese_pretrain_mrc_roberta_wwm_ext_large разработана как дообученная версия RoBERTa WWM Ext Large, обученная на большом объёме китайских данных для машинного чтения с пониманием текста (MRC). В метаданных архитектура указана как BERT с классом BertForQuestionAnswering; модель содержит 424,3 млн параметров и принимает последовательности длиной до 512 токенов. Основное назначение — отвечать на вопросы по предоставленному тексту и решать задачи китайского чтения с пониманием. В README также заявлено улучшение результатов в задачах классификации и приведены упоминания высоких мест участников соревнований DuReader-2021 и Tencent Medical, однако полные таблицы результатов в доступном тексте отсутствуют. Модель работает с текстом на китайском языке и опубликована в формате PyTorch. Лицензия — Apache-2.0. README не приводит подробностей о конкретной процедуре обучения или ограничениях качества за пределами указанных задач.

mrm8488/codebert-base-finetuned-stackoverflow-ner — модель семейства RoBERTa для распознавания именованных сущностей в тексте, дообученная для NER на данных Stack Overflow. Она принимает текст и классифицирует токены, что подходит для извлечения сущностей из вопросов и ответов о программировании. Модель содержит 151,8 млн параметров, имеет контекстное окно 514 токенов и доступна в форматах PyTorch и Flax. В карточке приведены оценки на наборе проверки: accuracy 0,943, precision 0,605, recall 0,610 и F1 0,607. Лицензия — MIT. Язык карточки — английский; поддержка других языков не подтверждена.

condeg/cvm-bertimbau-sentence-transformer — модель Sentence Transformer на базе BERTimbau, дообученная для получения плотных векторных представлений фрагментов финансовой отчётности бразильских публичных компаний из документов CVM ITR/DFP. Она предназначена для поиска и сопоставления тематически близких абзацев в корпусах таких отчётов; обучение проводилось на парах соседних фрагментов одного раздела с использованием MultipleNegativesRankingLoss. Модель содержит 136,1 млн параметров, принимает текст, выдаёт эмбеддинги, поддерживает контекст до 512 токенов по метаданным; в карточке указано ограничение длины 256 токенов, после которого текст обрезается. Основной язык — бразильский португальский. По оценке на синтетических запросах модель уступала BM25 в поиске по схеме «запрос—документ» из-за обучения на парах «документ—документ»; автор отмечает, что дообучение GPL на синтетических парах запрос—фрагмент улучшает такой поиск. На других предметных областях качество снижается. Лицензия — MIT.

syarulzaffi/date2format-v2 — модель классификации текста на базе DistilBERT, дообученная с помощью AutoTrain на основе syarulzaffi/date2format. Она предназначена для классификации текстовых входов; название базовой модели указывает на задачу преобразования дат в форматы, но README не описывает метки классов и точный сценарий применения. Для версии опубликованы метрики валидации: accuracy 0,91 и macro F1 0,90. Контекст модели составляет 512 токенов. Модель принимает текст и выдаёт метку класса. Лицензия в предоставленных данных не указана.

Koichi Yasuoka разработал модель DeBERTa V2 large для разметки частей речи в японском тексте. Она дообучена на текстах 青空文庫 на основе KoichiYasuoka/deberta-large-japanese-aozora и присваивает каждому короткому слову тег UPOS из набора Universal Dependencies. Модель также предназначена для синтаксического анализа зависимостей. Модель содержит 435,4 млн параметров, принимает текст и выдаёт метки токенов; размер контекста — 512 токенов. Для использования доступны веса PyTorch и библиотека Transformers. Лицензия — CC BY-SA 4.0. Модель рассчитана на японский язык и подходит для разметки японских текстов. Её возможности ограничены указанными задачами и длиной контекста; сведения о точности в карточке не приведены.

ClimateBERT — дообученная языковая модель на базе RoBERTa с классификационной головой для определения, относится ли абзац о климате к конкретным или неконкретным. Модель разработана для классификации климатических текстов и дообучена на наборе данных climatebert/climate_specificity, начиная с climatebert/distilroberta-base-climate-f. Модель содержит 95,4 млн параметров, принимает текст и выдаёт метку класса. Контекст — до 514 токенов. Она предназначена для анализа абзацев; на отдельных предложениях качество может быть ниже. Лицензия — Apache-2.0.

Карточка модели EdgeAIMed/EdgeAIMed-NER-ChemicalDetect-PubMed-335M на Hugging Face совпадает с карточкой OpenMed/OpenMed-NER-ChemicalDetect-PubMed-335M, поэтому описание составлено по ней. OpenMed-NER-ChemicalDetect-PubMed-335M — модель OpenMed для распознавания химических сущностей в биомедицинских текстах. Это дообученный трансформер архитектуры BERT с 433,9 млн параметров, основанный на BiomedNLP-BiomedBERT-large-uncased-abstract. Модель принимает токенизированный текст и присваивает токенам BIO-метки B-CHEM и I-CHEM; максимальная длина контекста — 512 токенов. Модель обучена на корпусе BC4CHEMD с аннотациями химических упоминаний в научных публикациях PubMed. Её можно применять для извлечения названий соединений из биомедицинской литературы и медицинских записей, поиска упоминаний лекарств и подготовки данных для фармакологических исследований и графов знаний. В README приведены результаты на BC4CHEMD: F1 0,954, точность 0,950 и полнота 0,958. Карточка указывает совместимость с Transformers и лицензию Apache-2.0. Модель рассчитана на английские биомедицинские тексты и химические сущности; качество на других языках и вне этой области не подтверждено. Результаты из карточки относятся к указанному корпусу и не гарантируют качество в каждом клиническом или исследовательском сценарии.

Карточка модели EdgeAIMed/EdgeAIMed-NER-SpeciesDetect-BioClinical-108M на Hugging Face совпадает с карточкой OpenMed/OpenMed-NER-SpeciesDetect-BioClinical-108M, поэтому описание составлено по ней. OpenMed-NER-SpeciesDetect-BioClinical-108M — модель OpenMed для распознавания упоминаний видов и организмов в биомедицинских текстах. Это дообученная Bio_ClinicalBERT с архитектурой BERT для классификации токенов; она выделяет названия видов, помечая их тегами B-SPECIES и I-SPECIES. Веса представлены в формате safetensors, число параметров — 135,5 млн, длина контекста — до 512 токенов. Модель предназначена для извлечения названий организмов из клинических документов и научной литературы, а также для биомедицинского текстового анализа и построения баз знаний. По README, она обучена на корпусе LINNAEUS и показывает F1 0,93, точность 0,91 и полноту 0,95 на описанной оценке. Это специализированный распознаватель видов, поэтому заявленные в карточке сценарии поиска лекарств и извлечения медикаментов не следует считать его прямыми задачами. Модель поддерживает английский язык. Лицензия — Apache-2.0. Результаты могут зависеть от домена текста и написания названий; контекст ограничен 512 токенами.

GalaxyLM-TestRepo-r33 — репозиторий с моделью, в README описанной как обновлённая версия разговорной модели GalaxyLM от разработчиков GalaxyLM. Карточка заявляет улучшения в рассуждениях, математике, программировании и логике, а также поддержку вызова функций; приведены результаты бенчмарков, включая 87,5% на AIME 2025. README рекомендует температуру 0,6 и содержит шаблоны для сценариев с файлами и веб-поиском. Метаданные Hugging Face классифицируют опубликованный артефакт как BERT-модель для извлечения признаков на Transformers и PyTorch, с файлами в формате PyTorch и лицензией MIT. Это расходится с описанием разговорной генеративной модели в README: архитектура указана как BertModel, а pipeline_tag — feature-extraction. Поэтому заявленные в README возможности рассуждения и чата нельзя уверенно связать с представленным артефактом.

Immerwinter/gelectra-large-privacy-policy-content-audience — модель классификации текста на базе немецкоязычной ELECTRA deepset/gelectra-large. Она предназначена для анализа содержания политик конфиденциальности, в частности для классификации по темам и аудитории в рамках указанного в README аналитического конвейера. Архитектура — ElectraForSequenceClassification; размер — 434,5 млн параметров, контекст — до 512 токенов. Репозиторий содержит веса в форматах Safetensors и ONNX. Модель дообучена для специализированной классификации текстов политик конфиденциальности. Метаданные указывают немецкий язык; README упоминает английскую версию, но не подтверждает, что модель обучена классифицировать английский текст. Лицензия — Apache-2.0. Карточка краткая и не описывает метрики качества или ограничения применимости.

ania3000/glot500-base-oss-morph — дообученная модель на базе cis-lmu/glot500-base, разработанная автором репозитория ania3000. Она предназначена для классификации токенов в тексте; название репозитория указывает на морфологическую разметку, но README не уточняет набор меток и конкретные сценарии. Модель использует архитектуру XLM-RoBERTa, содержит 421,3 млн параметров и принимает текст с контекстом до 514 токенов. В README приведены результаты на оценочной выборке: accuracy 95,0787%, точность на уровне предложений 55,7798% и loss 0,3215. Базовая модель предварительно обучена на 500 и более языках, однако целевые языки этой дообученной модели не уточнены. Модель распространяется под лицензией Apache-2.0.

Koichi Yasuoka разработал эту модель на основе японской GPT-2 gpt2-small-japanese и дообучил её для морфосинтаксической разметки. Модель определяет для каждого слова часть речи по универсальной схеме UPOS и дополнительные грамматические признаки FEATS; для токенизации требуется библиотека fugashi. Модель предназначена для анализа японских текстов, например для подготовки корпусов и извлечения грамматических характеристик слов. Это плотная архитектура GPT-2 для классификации токенов с контекстом до 1024 токенов. Репозиторий содержит веса PyTorch, карточка указывает японский язык и лицензию CC BY-SA 4.0.

indonesian-roberta-base-posp-tagger — модель RoBERTa с 151,8 млн параметров, дообученная w11wo на наборе данных indonlu на основе flax-community/indonesian-roberta-base. Она предназначена для токенной классификации индонезийского текста; название указывает на разметку частей речи (POS-теггинг). Контекст модели — до 514 токенов. На оценочном наборе indonlu модель достигла точности, полноты и F1 0,9625. Доступны веса в форматах PyTorch, Safetensors и TensorFlow. Лицензия — MIT.

kl3m-003-1.7b — компактная языковая модель ALEA Institute, первоначально разработанная 273 Ventures. Это плотная авторегрессионная модель GPT-NeoX с 2,2 млрд параметров по метаданным и контекстом 8 192 токена. Она обучалась на английских текстах, преимущественно из юридической области, с заявленным использованием юридически допустимых данных и низкой токсичностью. Модель предназначена для юридических, регуляторных и финансовых рабочих процессов: генерации текста, черновиков положений договоров, базовых ответов на вопросы и извлечения сведений в структурированный JSON. Её также предлагают использовать как основу для дообучения специализированных моделей и при обучении более крупных моделей. Модель не настроена на выполнение инструкций; для запуска доступен формат safetensors в Transformers. Лицензия — CC-BY 4.0. Небольшой размер ограничивает общие знания и качество вне целевых областей. Модель может уверенно генерировать ошибочные юридические или регуляторные сведения, поэтому результаты требуют проверки специалистом и не заменяют профессиональную консультацию.

Koichi Yasuoka разработал GPT-2-подобную модель для разметки японского текста. Она присваивает каждому короткому слову тег части речи UPOS и признаки FEATS из набора Universal Dependencies; модель дообучена на базе llm-jp/llm-jp-1.3b-v1.0 и предназначена для морфосинтаксического анализа японских предложений. Модель содержит 1,3 млрд параметров, принимает текст, выдаёт разметку токенов и поддерживает контекст длиной до 2048 токенов. Распространяется в формате PyTorch по лицензии Apache-2.0.

DeepMount00/mamba_790_hf_qa — языковая модель семейства Mamba, разработанная DeepMount00 и предназначенная для ответов на вопросы по тексту. По результатам оценки на итальянском наборе SQuAD-it модель показала F1 75,89% и Exact Match 66,71%. Модель содержит около 983,2 млн параметров и опубликована в формате Safetensors. Модель подходит для извлечения ответов из контекста и задач чтения с пониманием текста на итальянском языке. Архитектура Mamba с причинной языковой моделью также позволяет использовать её для генерации текста. Репозиторий указывает лицензию Apache-2.0.

Koichi Yasuoka разработал ModernBERT-модель для разметки японского текста. Она дообучена на основе KoichiYasuoka/modernbert-base-japanese-wikipedia и предварительно обучалась на японской Википедии и текстах 青空文庫. Модель присваивает каждому длинному слову части речи по схеме UPOS и признаки FEATS; карточка также указывает назначение для синтаксического анализа зависимостей. Модель имеет плотную архитектуру ModernBERT с 160,2 млн параметров и контекстом до 8192 токенов. Её можно применять для морфологического и синтаксического анализа японских текстов, например в NLP-конвейерах на базе Transformers. Для запуска в примере README используется trust_remote_code=True. Лицензия — Apache-2.0.

Карточка модели Muse-research/Muse2-125M-Base на Hugging Face совпадает с карточкой Muse-research/Muse2-125M, поэтому описание составлено по ней. Muse2-125M — компактная авторегрессионная языковая модель Muse Research с 135,3 млн параметров. В репозитории представлена версия Instruct, дообученная методом SFT с маскированием потерь для токенов вне ответа; RLHF и DPO не применялись. Архитектура Muse2 реализована на PyTorch с нуля и сочетает свёрточные блоки и полное внимание: 7 причинных depthwise-свёрток чередуются с 5 блоками внимания, используется grouped-query attention. Заявленный контекст — до 128 тысяч токенов, при этом карточка указывает 8 тысяч как базовую длину. Модель рассчитана на английский текст, включая код и математические записи. Её предполагаемые сценарии — изучение компактных гибридных архитектур, локальный запуск на устройствах с ограниченными ресурсами, извлечение структурированных данных в JSON и дальнейшее дообучение. Для диалоговых задач она может служить небольшим ассистентом, когда важнее компактность, чем фактическая надёжность. Лицензия весов — Apache-2.0. Это исследовательская модель без safety fine-tuning, red-teaming и фильтрации контента. Проверки возможностей и безопасности ограничены качественной оценкой; модель может выдавать неточные, предвзятые, повторяющиеся или нежелательные ответы и часто галлюцинирует. Разработчик не рекомендует полагаться на неё в критичных, медицинских, юридических или иных требующих точности сценариях без собственной оценки и защитных механизмов.

OpenMed-NER-ChemicalDetect-PubMed-335M — модель OpenMed для распознавания химических сущностей в биомедицинских текстах. Это дообученный трансформер архитектуры BERT с 433,9 млн параметров, основанный на BiomedNLP-BiomedBERT-large-uncased-abstract. Модель принимает токенизированный текст и присваивает токенам BIO-метки B-CHEM и I-CHEM; максимальная длина контекста — 512 токенов. Модель обучена на корпусе BC4CHEMD с аннотациями химических упоминаний в научных публикациях PubMed. Её можно применять для извлечения названий соединений из биомедицинской литературы и медицинских записей, поиска упоминаний лекарств и подготовки данных для фармакологических исследований и графов знаний. В README приведены результаты на BC4CHEMD: F1 0,954, точность 0,950 и полнота 0,958. Карточка указывает совместимость с Transformers и лицензию Apache-2.0. Модель рассчитана на английские биомедицинские тексты и химические сущности; качество на других языках и вне этой области не подтверждено. Результаты из карточки относятся к указанному корпусу и не гарантируют качество в каждом клиническом или исследовательском сценарии.

OpenMed разработала OpenMed-NER-GenomicDetect-BioClinical-108M — модель на базе Bio_ClinicalBERT, дообученную для распознавания и классификации биомедицинских сущностей в тексте. Она выполняет токенную классификацию и выделяет сущности типа Cell-line-name; README описывает её назначение как распознавание генов и связанных с ними сущностей в корпусе GELLUS. Модель принимает токенизированный текст и возвращает BIO-разметку. Она рассчитана на англоязычные клинические документы и научную литературу по геномике и молекулярной биологии; максимальный контекст — 512 токенов, размер — 135,5 млн параметров. Подходит для извлечения упоминаний клеточных линий и генетических сущностей при анализе медицинских записей и публикаций. В README заявлены высокие показатели на GELLUS, но приведённые результаты и описание классов сущностей требуют проверки на целевых данных: список меток содержит только Cell-line-name и не подтверждает распознавание лекарств или химических соединений. Лицензия — Apache-2.0.

OpenMed-NER-GenomicDetect-ModernClinical-395M — модель OpenMed для распознавания и классификации биомедицинских сущностей в тексте. Это дообученный чекпойнт архитектуры ModernBERT для задачи NER; в карточке указана базовая архитектура BioClinical-ModernBERT-large. Модель содержит 394,7 млн параметров, принимает токенизированный текст и выдаёт BIO-разметку токенов. Контекст — до 8192 токенов. Модель предназначена для извлечения упоминаний генов и связанных сущностей из клинических документов и научной литературы, а также для текстового поиска в геномике и молекулярной биологии. README перечисляет метки B-Cell-line-name и I-Cell-line-name и указывает обучение на корпусе GELLUS; описанные результаты на этом корпусе не гарантируют качества на других данных. В метаданных указан английский язык и лицензия Apache-2.0.