I.3Извлечение и структурирование данных

Модель SpanMarker для распознавания именованных сущностей в биомедицинских текстах. Она разработана на основе bert-base-uncased и обучена на наборе BioNLP2004; модель выделяет, в частности, упоминания ДНК, РНК и клеточных линий. Модель предназначена для автоматической разметки сущностей в научных текстах, например для извлечения биомедицинских терминов из статей. Максимальная длина последовательности — 256 токенов, максимальная длина сущности — 8 слов. В README приведена общая оценка F1 0,7621 на BioNLP2004. Для работы используется библиотека SpanMarker; веса доступны в форматах PyTorch и safetensors. Лицензия указана как other, поэтому условия использования следует сверить с лицензией репозитория.

TAPEX-large-finetuned-WikiSQL — модель Microsoft для ответов на вопросы по таблицам. Она дообучена на WikiSQL и использует архитектуру BART: трансформер с двунаправленным кодировщиком и авторегрессионным декодировщиком. Модель содержит 252,8 млн параметров, принимает таблицу и вопрос в текстовом представлении и генерирует ответ; заявленная длина контекста — 1024 токена. Модель рассчитана на относительно простые вопросы к табличным данным, например поиск значения, подсчёт и извлечение сведений из строк и столбцов. Для сложных составных запросов README не заявляет поддержку. Репозиторий распространяется под лицензией MIT.

TEMPURA-InternVL3-8B — дообученная видеоязыковая модель на базе OpenGVLab/InternVL3-8B-hf, представленная в проекте TEMPURA (Temporal Event Masked Prediction and Understanding for Reasoning in Action). Она предназначена для анализа видео и рассуждений о временной структуре событий. Модель создаёт подробные описания последовательных событий с временными метками в неразмеченном видео, предсказывает содержание скрытых фрагментов и находит моменты, соответствующие текстовому запросу, включая выделение ярких эпизодов. Видео подаётся как последовательность кадров с отметками времени, подготовленная с частотой 0,5 кадра в секунду. Модель основана на мультимодальной архитектуре InternVL и распространяется в формате safetensors. Карточка связывает модель с набором данных TEMPURA-VER и описывает оценку на задачах временной локализации Charades-STA и обнаружения ярких моментов QVHighlights. Лицензия указана как other; конкретные условия следует проверять в репозитории модели. Практическое использование зависит от подачи кадров и временных меток в ожидаемом формате.

TinyBERT_General_4L_312D-squad — модель на архитектуре BERT, дообученная на наборе SQuAD для ответов на вопросы по тексту. Её разработчик — владелец репозитория haritzpuerto; базовая модель — huawei-noah/TinyBERT_General_4L_312D. Модель содержит 15,6 млн параметров, принимает текстовые вопросы и контекст и выдаёт текстовый ответ. Максимальная длина контекста — 512 токенов. На оценочной выборке SQuAD модель показала exact match 33,30 и F1 45,04. Она подходит для извлечения ответов из предоставленного фрагмента текста, но оценочные результаты указывают на ограниченную точность; карточка не описывает поведение вне этого сценария. Файлы опубликованы в формате PyTorch. Сведения о лицензии в предоставленных данных отсутствуют.

tiny-bert-qa-es — компактная модель для ответов на вопросы на основе архитектуры ALBERT. Её разработчик дообучил CenIA/albert-tiny-spanish на наборе данных squad_es; модель содержит 15,9 млн параметров и принимает контекст длиной до 512 токенов. Модель предназначена для извлечения ответа из предоставленного текста в системах вопросно-ответного поиска и справочных помощниках на испанском языке. В репозитории указаны веса PyTorch. Подробности об оценке качества и условиях использования в доступных материалах отсутствуют.

deepset/tinyroberta-6l-768d — компактная языковая модель на архитектуре RoBERTa, разработанная deepset и полученная дистилляцией roberta-base методом TinyBERT. Модель содержит 95,2 млн параметров, принимает текст и рассчитана на английский язык; при обучении использовались данные The PILE. По карточке Hugging Face, модель предназначена для задачи question answering, а её контекст ограничен 514 токенами. Модель может служить компактной основой для задач обработки текста и дальнейшего дообучения для извлечения ответов из контекста. Она не проходила специализированную дистилляцию под конкретную задачу; deepset указывает на tinyroberta-squad2 как на вариант, уже дообученный для extractive QA. Весовые файлы доступны в форматах PyTorch и safetensors. Лицензия — CC BY 4.0.

cyttic/trocr-small-BY5-bridgeinit-selfinit — дообученная модель cyttic на базе cyttic/trocr-hebrew-small-untrained. Это модель архитектуры VisionEncoderDecoder для преобразования изображения в текст; репозиторий содержит веса в формате Safetensors. В README приведены результаты оценки: loss 6,0410, CER 0,7729 и WER 1,1879; описание обучения и набора данных отсутствует. По названию модели можно предположить связь с письмом BY5, но README и метаданные не раскрывают целевую задачу или поддерживаемый язык достаточно надёжно для такого вывода. Условия лицензии в предоставленных данных не указаны.

Aditya109/us-openfda-drug-embed-v1 — экспериментальная текстовая модель Sentence Transformers, разработанная дообучением FremyCompany/BioLORD-2023 на парах и триплетах записей о лекарственных препаратах из каталога openFDA National Drug Code Directory. Модель на базе MPNet с 136,7 млн параметров преобразует описания препаратов в плотные векторы размерностью 768 для поиска семантически близких записей и сопоставления продуктов. В обучающих текстах используются торговое название, действующие вещества, дозировка, лекарственная форма и путь введения; указанная в README максимальная длина последовательности — 32 токена, а метаданные указывают контекст в 514 токенов. Для сравнения векторов применяется косинусное сходство. Модель предназначена для исследовательских экспериментов по поиску и сопоставлению записей о препаратах. README приводит точность поиска точного продукта методом ближайшего соседа 0,8171 и точность на триплетах 0,9416 на отложенной оценке. Данные openFDA обычно доступны на условиях CC0 или общественного достояния, но лицензии базовой модели и программных зависимостей сохраняют собственные условия. Модель не предназначена для диагностики, назначения лечения, выбора дозировки, проверки взаимодействий или автоматической замены лекарств.

VecGlypher-27b-it — дообученная мультимодальная модель VecGlypher на базе Gemma 3 27B IT. Она принимает текст и изображения и предназначена для диалоговых сценариев с визуальным вводом: например, чтобы задавать вопросы об изображении и получать текстовые ответы. Модель использует плотную архитектуру Gemma 3 для условной генерации текста и распространяется в формате safetensors для библиотеки Transformers. Модель создана на основе gemma-3-27b-it; карточка называет её весами VecGlypher, но не описывает конкретные данные и методику дообучения, измеренные качества или дополнительные ограничения. Лицензия указана как other, поэтому условия использования следует уточнять в репозитории модели и базовой модели.

Это модель классификации видео на основе VideoMAE Large, разработанная автором репозитория sangdeptraivcl. Она является дообученной версией sangdeptraivcl/videomae-large-finetuned-ucf101-subset; указанный датасет дополнительного дообучения неизвестен. Модель предназначена для отнесения видео к категориям по содержимому. Веса опубликованы в формате Safetensors, размер модели составляет около 402,7 млн параметров. Модель принимает видео и выдаёт метки классов. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства и ограничивает коммерческое применение. Карточка не сообщает набор классов, параметры видеовхода или результаты оценки, поэтому пригодность для конкретных категорий и качество предсказаний следует проверять отдельно.

poltextlab/xlm-roberta-large-ontolisst-major-v5 — модель классификации текста, созданная командой PolTextLab на основе XLM-RoBERTa Large и предназначенная для анализа политических и общественных текстов в CAP Babel Machine — бесплатном инструменте для сравнительных исследований. Модель относит текст к одной из тематических категорий; среди указанных классов — окружающая среда и жильё, здравоохранение и социальные услуги, занятость и труд. В README приведены результаты оценки: точность 93%, macro F1 0,91 и weighted F1 0,93. Модель дообучена на FacebookAI/xlm-roberta-large и распространяется в формате safetensors. Карточка показывает поддержку английского языка. Для работы используется токенизатор SentencePiece; README указывает, что для запуска с версиями Transformers ниже 4.27 его нужно установить отдельно. Лицензия — CC BY 4.0. Результаты и тематическая применимость за пределами описанных категорий и данных оценки в карточке не раскрыты.

XLM-R-SloBertić — языковая модель, созданная разработчиками CLASSLA путём дополнительного предобучения XLM-RoBERTa-large на корпусе XLM-R-BERTić для южнославянских языков. Это энкодерная модель архитектуры XLM-RoBERTa с 658,7 млн параметров и контекстом до 514 токенов; в репозитории представлены веса PyTorch. Модель предназначена для заполнения пропусков в тексте и может служить основой для дообучения под прикладные задачи. В карточке приведены результаты отдельных дообученных вариантов для распознавания именованных сущностей, оценки тональности и выбора правдоподобной альтернативы. Эти оценки относятся к конкретным экспериментам и датасетам, а не гарантируют качество исходной модели на произвольных данных. Модель ориентирована на хорватский, словенский, боснийский и сербский языки. Распространяется по лицензии CC-BY-SA-4.0.

vish88 выпустил дообученную модель классификации текста на базе clevrly/xlnet-base-mnli-finetuned. Она использует архитектуру XLNetForSequenceClassification и содержит 137,8 млн параметров. В README указаны результаты оценки: loss 0,1542 и F1 0,6957. Модель подходит для классификации текста; конкретные метки классов и целевая предметная область в карточке не описаны. Данные для дообучения обозначены как None, поэтому установить назначение суффикса «orgs» по карточке нельзя. Репозиторий содержит веса PyTorch и распространяется по лицензии MIT.

adlhw1qamodellert — модель на архитектуре BERT, дообученная на основе hfl/chinese-lert-base для ответов на вопросы. Она предназначена для извлечения ответа из предоставленного контекста по заданному вопросу. В репозитории указаны 129,5 млн параметров, контекст до 512 токенов и формат весов safetensors; базовая модель рассчитана на обработку китайского языка. В README приведено значение loss 0,6023 на оценочном наборе, но датасет, методика оценки и подробные сценарии применения не описаны. Модель выпущена под лицензией Apache-2.0.

Amicus NER v2 — модель распознавания именованных сущностей в юридических текстах Нигерии, разработанная WhiteRoomProdigy. Она выделяет восемь типов сущностей в судебных решениях, юридических документах и кратких изложениях дел, включая названия дел, ссылки на судебные отчёты и законодательные акты. Модель построена на BERT-base nlpaueb/legal-bert-base-uncased и дообучена методом LoRA на базе Amicus NER v1; архитектура для классификации токенов содержит 136,7 млн параметров и рассчитана на контекст до 512 токенов. Обучающие данные включают автоматически размеченные примеры из нигерийских юридических баз и 600 синтетических предложений с юридическими сущностями. Модель принимает текст и возвращает метки сущностей для его токенов. Карточка заявляет готовность к производственному использованию; лицензия — Apache-2.0. Основной язык — английский, а область применения ограничена юридическими текстами Нигерии.

ArabicMedicalBERT-QA-82 — модель классификации арабских медицинских текстов, разработанная Глебом Шаншиным и дообученная на базе AymanElbery/arabic-medical-classifier-arabertv2. Она использует архитектуру BERT и содержит 162,4 млн параметров; максимальная длина входа — 512 токенов. Модель предназначена для отнесения медицинских вопросов и ответов на арабском языке к медицинским категориям. В карточке приведён список категорий, включающий, например, аллергию, генетику, патологию и детские заболевания. Модель подходит для тематической сортировки арабских медицинских обращений и текстов, а также для распределения медицинских вопросов по категориям. README указывает на исследование, посвящённое проблеме дисбаланса классов при классификации арабских медицинских текстов. Данные обучения, точные метрики качества и условия лицензии в доступных сведениях не описаны.

Asclepius-Mistral-7B-v0.3 — клиническая языковая модель на 7,1 млрд параметров, разработанная авторами проекта Asclepius и дообученная на базе Mistral-7B-v0.3. Она предназначена для выполнения клинических NLP-задач по медицинским записям на английском языке: распознавания сущностей, раскрытия сокращений, извлечения отношений и временной информации, разрешения кореференции, перефразирования, суммаризации и ответов на вопросы. Модель использует плотную архитектуру MistralForCausalLM; длина контекста в метаданных — 32 768 токенов. Модель подходит для исследований и прототипирования анализа клинических заметок. Карточка ограничивает её использование исследовательскими целями; она не подтверждает пригодность для клинических решений. Репозиторий содержит веса safetensors, лицензия — CC-BY-NC-SA 4.0, предусматривающая некоммерческое использование и распространение на тех же условиях.

Модель создана с помощью AutoTrain и дообучена на базе neuralmind/bert-base-portuguese-cased для классификации текстов. Она использует архитектуру BERT для классификации последовательностей, содержит 136,1 млн параметров и принимает текст длиной до 512 токенов. Карточка приводит метрики на валидации: accuracy 0,689 и macro F1 0,693; без сведений о классах и домене нельзя определить более конкретное назначение.

Barbet 1B Structured SFT — это дообученная OpenFormosa модель на 1 млрд параметров с плотной смешанной архитектурой attention/Mamba и 29 слоями. Она обучена за одну эпоху полного параметрического SFT на 980 тыс. примеров набора voidful/barbet-sft и предназначена как текстовая основа для последующего обучения систем обработки кандидатов распознавания речи, чтения текста для синтеза речи, OCR и перевода. Поддерживает китайский и английский языки. Заявленный предел контекста — 1 048 576 токенов, однако эта версия отдельно не подтверждала качество на таком объёме; максимальный обучающий пример содержал 168 442 токена. На структурированных запросах из синтетического обучающего распределения модель хорошо соблюдала формат и правильно выдавала поля решения и свидетельств в проведённых проверках. Это не означает, что она сама распознаёт аудио, синтезирует речь или видит изображения: обучение было только на текстовых данных, поэтому для таких сценариев нужны нижестоящие кодировщики или декодировщики. Свободные инструкции в небольшой проверке не выполнялись надёжно; также отмечено ухудшение показателей на коде и математике. Уверенность в ответах основана на синтетическом априорном распределении и не является откалиброванной вероятностью. Весам и сопутствующим материалам этой версии назначена лицензия Apache-2.0; сторонние компоненты и отдельно опубликованный датасет могут иметь собственные условия. Для применения рекомендуется использовать предусмотренный загрузчик с сохранением точности параметров Mamba.

Mediocre-Judge/bengali_qa_model_AGGRO_banglabert — дообученная модель на базе csebuetnlp/banglabert для ответов на вопросы на бенгальском языке. Она построена на архитектуре ELECTRA и содержит 137,8 млн параметров; формат весов — Safetensors, длина контекста — до 512 токенов. Модель предназначена для извлечения ответа из контекста по заданному вопросу. В README приведены результаты оценки на неизвестном наборе данных: Exact Match 98,57 и F1 99,01; состав и методика оценки не описаны. Модель опубликована 9 декабря 2024 года. Лицензия в доступных сведениях не указана. Оценивать качество на других наборах данных и сценариях по приведённым метрикам нельзя; также не описаны обучающие данные и ограничения применения.

dbmdz/bert-base-historic-multilingual-cased — многоязычная модель BERT от команды dbmdz, предварительно обученная на исторических текстах для задач распознавания именованных сущностей. Обучающие данные включают немецкие и французские корпуса Europeana, английский корпус British Library, а также финские и шведские тексты Europeana; общий объём корпусов составляет 130 ГБ. Для OCR-текстов использовалась фильтрация по уверенности распознавания. Модель имеет архитектуру BERT для masked language modeling, около 137,8 млн параметров и контекст до 512 токенов. Карточка указывает поддержку немецкого, французского, английского, финского и шведского языков; метаданные классифицируют модель для заполнения маски. Она может служить языковой основой для анализа исторических текстов и извлечения сущностей, однако конкретные показатели качества NER не приведены. Модель распространяется по лицензии MIT.

ParsBERT v2.0 — одноязычная модель понимания персидского языка от HooshvareLab на архитектуре Google BERT. Она предварительно обучена на персидских текстах из разных жанров и предметных областей; авторы описывают корпус объёмом более 3,9 млн документов, 73 млн предложений и 1,3 млрд слов. Модель содержит 190 млн параметров и принимает последовательности длиной до 512 токенов. Основная задача модели в этом репозитории — предсказание замаскированных токенов. Её можно использовать для заполнения пропусков в персидском тексте и дообучать для классификации, анализа тональности и распознавания именованных сущностей. В карточке приведены результаты на наборах данных для этих задач, но сама модель не является готовым классификатором или NER-моделью. Модель доступна в форматах PyTorch, TensorFlow и Flax и распространяется по лицензии Apache-2.0. Она рассчитана на персидский язык; контекст ограничен 512 токенами, а применение для downstream-задач обычно требует отдельного дообучения.

Модель anhcanvasasia/bert-large-japanese-wikipedia-ud-head-finetuned-inquiry — вариант BERT-large, дообученный на базе KoichiYasuoka/bert-large-japanese-wikipedia-ud-head для ответа на вопросы. В README набор данных для дообучения не назван; архитектура — плотная модель BERT с головой BertForQuestionAnswering, размер составляет 409,1 млн параметров, контекст — до 512 токенов. Модель предназначена для извлечения ответов на вопросы из предоставленного текста на японском языке, что подходит, например, для поиска ответов в японских статьях Википедии. В README приведён результат оценки Loss 1,9130, но подробности набора данных и методики оценки отсутствуют. Модель распространяется по лицензии CC BY-SA 4.0. Практическое качество на иных данных не подтверждено; для применения стоит проверить её на целевых текстах и вопросах.

oracat/bert-paper-classifier-arxiv — дообученная модель на базе microsoft/BiomedNLP-PubMedBERT-base-uncased-abstract для классификации научных статей по таксономии arXiv. Она принимает заголовок статьи и, при наличии, аннотацию и предсказывает подходящие категории arXiv, например cs.CL для статьи о Transformers. Модель ориентирована на статьи по математике, информатике, физике и смежным областям. Модель использует архитектуру BERT для классификации последовательностей, содержит 136,7 млн параметров и рассчитана на контекст до 512 токенов. Опубликована в формате PyTorch и распространяется по лицензии MIT. README не сообщает о точности и других результатах оценки модели.

BigBird large — предварительно обученная языковая модель Google на основе трансформера с разреженным блочным вниманием. Она содержит 454,2 млн параметров и обучена на английском языке с задачей masked language modeling на корпусах книг, новостей, историй и Википедии. Модель доступна в форматах PyTorch и Flax по лицензии Apache-2.0. Модель предназначена для заполнения пропусков в тексте и получения текстовых признаков. Благодаря блочному разреженному вниманию она обрабатывает последовательности длиной до 4096 токенов с меньшими вычислительными затратами, чем стандартное полное внимание; это делает её подходящей для текстов и документов увеличенной длины. В карточке отмечены результаты на задачах суммаризации и ответов на вопросы с длинным контекстом, но основной тег модели — fill-mask. Модель рассчитана на английский текст. Она является базовой предварительно обученной моделью, а не специализированным решением для конкретной отрасли; качество на языках, отличных от английского, не подтверждено. Лицензия Apache-2.0 допускает использование на её условиях.

BioMistral-7B-Natural-Products-RE-Diversity-1000-synt-v1.2 — дообученная языковая модель mdelmas для извлечения отношений между природными продуктами и организмами из научных текстов. Она предназначена для автоматизации аннотирования связей, полезных при поиске и разработке лекарств, в том числе для дополнения существующих биологических ресурсов. Модель основана на BioMistral-7B и использует плотную авторегрессионную архитектуру Mistral с 7,1 млрд параметров. Она дообучена на синтетических данных, созданных Mixtral-8x7B-Instruct-v0.1, поддерживает чатовый формат, принимает текст и генерирует текст. Контекст — до 32 768 токенов; в карточке указан английский язык. Модель распространяется в формате safetensors по лицензии Apache-2.0.

jiangg/chembert_cased — предварительно обученная модель BERT, представленная в работе «Automated Chemical Reaction Extraction from Scientific Literature». Она разработана для анализа химической научной литературы и обучена на корпусе примерно из 200 тысяч публикаций ACS. Модель содержит 135,5 млн параметров, работает с текстом и поддерживает контекст до 512 токенов. Модель предназначена как языковая основа для извлечения сведений о химических реакциях из научных публикаций и смежных задач обработки химических текстов. В карточке указана реализация на PyTorch. Авторы просят цитировать публикацию Guo и соавторов 2021 года при использовании модели. Специализированные ограничения и условия лицензирования в предоставленных сведениях не описаны.

Cyber-Prime 1.1 — дообученная инструктивная модель семейства Liquid Foundation Model (LFM2), разработанная для задач кибербезопасности. Это плотная авторегрессионная модель с 2,6 млрд параметров, принимающая текст и генерирующая текст; метаданные указывают контекст до 131 072 токенов и поддержку чата. Модель дообучена на более чем 75 000 примерах с использованием supervised fine-tuning и методов постобучения с подкреплением и reward-guided настройкой. Модель предназначена для защитного анализа: извлечения сущностей из отчетов об угрозах и логов, классификации фишинговых писем и аномальных HTTP-запросов, ответов на вопросы и генерации кратких заголовков для threat intelligence. В README приведены результаты отдельных бенчмарков, но сравнение с опубликованными базовыми моделями не полностью сопоставимо из-за разного числа примеров в контексте. Модель поддерживает английский язык; перенос результатов на другие языки и среды не подтвержден. Выводы модели могут быть неверными, устаревшими или чрезмерно уверенными; результаты классификации и рекомендации требуют независимой проверки специалистом. Модель предназначена для помощи человеку, а не для автономной оценки уязвимостей или проведения атак. Лицензия указана как «other», конкретные условия использования в предоставленных данных не раскрыты.

Карточка модели FinanceInc/finbert_fls на Hugging Face совпадает с карточкой yiyanghkust/finbert-fls, поэтому описание составлено по ней. FinBERT-FLS — модель на архитектуре BERT, разработанная исследователями HKUST и дообученная для классификации финансовых высказываний о будущих событиях. Она различает конкретные прогнозные заявления, неконкретные прогнозные заявления и фрагменты, которые не являются прогнозными заявлениями. Модель обучена на 3 500 вручную размеченных предложениях из разделов Management Discussion and Analysis годовых отчётов компаний Russell 3000. Модель предназначена для анализа корпоративной отчётности и выявления прогнозных заявлений, которые могут быть полезны инвесторам и аналитикам при оценке финансовых документов. Она принимает финансовый текст на английском языке и возвращает одну из трёх категорий. Размер модели — 137 млн параметров, максимальная длина контекста — 512 токенов; доступен формат PyTorch. Результаты отражают классы, предусмотренные обучающей разметкой, и сами по себе не являются инвестиционной рекомендацией или оценкой точности прогноза компании. Карточка не содержит сведений о лицензии.

Это конвертированная в формат MLX версия Gemma 3 27B IT, подготовленная сообществом mlx-community на основе google/gemma-3-27b-it. Модель представляет собой плотную мультимодальную архитектуру Gemma 3 с 27 млрд параметров и предназначена для диалогов, в которых нужно понимать изображения и создавать текст; метаданные также отмечают возможность чата и vision. README рекомендует использовать её с библиотекой mlx-vlm. Модель подходит для ответов на вопросы об изображениях и мультимодальных диалогов. Репозиторий содержит веса в формате safetensors. Указана лицензия Gemma; условия применения определяются её положениями.