/ Профессии
Универсальные способности и операции

I.3Извлечение и структурирование данных

В разделе собраны самостоятельные задачи, где AI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.

ЭмбеддингиТекст
AI-задач
18
в этой профессии
Подходящих моделей
25 791
по типу задач и модальности
Категория
I. Универсальные способности
Основные типы
ЭмбеддингиТекст

Рекомендованные модели

25 791 модель
Загрузки
Лайки
Дата выхода
1 021–1 050 из 25 791
make1love
Qwen3-0.6B-JSON-SFT

make1love/Qwen3-0.6B-JSON-SFT — текстовая генеративная модель семейства Qwen3, опубликованная в формате Transformers и дообученная методом supervised fine-tuning (SFT). По названию модели она ориентирована на генерацию структурированных ответов в формате JSON, а метаданные также обозначают её как conversational-модель.

600авг. 2026ctx41K
texthugging-face
alhparsa
qwen35-extract-tsv-v2

alhparsa/qwen35-extract-tsv-v2 — дообученная модель семейства Qwen3.5 для извлечения фактов из изображений страниц медицинских документов, например приёмных и клинических записей. Она принимает изображения вместе с текстовыми инструкциями и выдаёт компактный TSV: контекстную строку с идентификационными данными пациента и строки с фактами, временными данными, тегами и оценкой уверенности. Модель может использовать только теги из списка, переданного во входном сообщении. README описывает полное выборочное дообучение Qwen3.5-9B и гибридную архитектуру с GatedDeltaNet, блоками полного внимания и зрительным модулем. Для обслуживания рекомендуются vLLM, длина контекста 32768 токенов и параметры обработки изображений из карточки; указаны также режимы ускоренного декодирования DFlash/MTP. По оценке авторов, на их проверке извлечение достигает примерно 98–100% полноты и около 100% точности после удаления дублей; заявленная скорость — 4,4–4,9 секунды на страницу на двух H100. Эти показатели относятся к проверке автора и не гарантируют такое же качество на других документах. Модель предназначена для извлечения структурированных сведений из медицинских документов, в том числе из многостраничных PDF после преобразования страниц в изображения. Для полноты авторы рекомендуют обрабатывать перекрывающиеся окна страниц и объединять результаты с последующим удалением смысловых дублей. Лицензия в метаданных обозначена как other; конкретные условия использования в предоставленных данных не раскрыты.

130июль 2026ctx262.1K
textimageotherhugging-face
coder3101
Qwen3-VL-4B-Thinking-heretic

coder3101/Qwen3-VL-4B-Thinking-heretic — дообученная методом abliteration версия мультимодальной модели Qwen3-VL-4B-Thinking от Qwen. Она принимает текст и изображения, поддерживает диалог и предназначена для визуальных вопросов и ответов, анализа изображений и видео, распознавания текста на изображениях, пространственного рассуждения и взаимодействия с графическими интерфейсами. Архитектура — плотная Qwen3-VLForConditionalGeneration; веса опубликованы в формате safetensors. Базовая модель заявляет контекст до 256 тысяч токенов с возможностью расширения до 1 миллиона и поддержку OCR на 32 языках, однако эти характеристики в README относятся к исходной модели и отдельно для производной версии не подтверждены. README описывает уменьшение числа отказов: 3 отказа из 100 против 97 у исходной модели, при KL-дивергенции 0,0259. Это указывает на ослабление отказного поведения, но не гарантирует отсутствие отказов или точность ответов. Модель распространяется по лицензии Apache-2.0.

1830янв. 2026ctx262.1K
textimageapache-2.0hugging-face
Winuim
qwen3-vl-8b-invoice-sft

Winuim/qwen3-vl-8b-invoice-sft — дообученная модель Winuim на архитектуре Qwen3-VL для работы с изображениями и текстом. Она предназначена для диалогового анализа изображений, в частности документов и счетов, что отражено в названии модели. Модель выдаёт текстовые ответы; репозиторий содержит веса в формате safetensors и поддерживает интерфейс чата и вызова инструментов. Модель лицензирована по Apache-2.0. В карточке указано, что при обучении использовались Unsloth и библиотека Hugging Face TRL. Подробности обучающих данных, точность извлечения полей и поддерживаемые языки документов не описаны.

120июнь 2026ctx262.1K
textimageapache-2.0hugging-face
rickix84
recall-honcho-8b

Карточка модели rickix84/recall-honcho-8b на Hugging Face совпадает с карточкой dman1011/recall-honcho-8b, поэтому описание составлено по ней. recall-honcho-8b — дообученная модель на базе Qwen/Qwen3-8B от автора репозитория dman1011. Она предназначена для этапа явного извлечения выводов в Honcho: по идентификатору собеседника и сообщениям диалога формирует атомарные, самодостаточные и правильно атрибутированные факты в JSON-схеме Honcho. Модель рассчитана на интеграцию как локальный компонент deriver; для последующих диалогических рассуждений автор рекомендует использовать более крупную модель. Модель использует плотную архитектуру Qwen3ForCausalLM, содержит 7,6 млрд параметров и имеет контекст до 40 960 токенов. Веса доступны в safetensors; README также описывает отдельный LoRA-адаптер. Обучение выполнено методом LoRA на 7 160 синтетических примерах с метками, дистиллированными из Claude Opus 4.8. В проверочной выборке из 298 примеров указаны точность токенов 93,8% и eval loss 0,201. Модель обучена для английского языка. Модель извлекает только явно высказанные сведения и не предназначена для дедуктивных, индуктивных или абдуктивных выводов. Она оптимизирована под точный prompt Honcho, поэтому на запросах другого формата дисциплина вывода может ухудшиться. Лицензия — Apache-2.0.

240авг. 2026ctx41K
textapache-2.0hugging-face
pysentimiento
robertuito-ner

robertuito-ner — модель распознавания именованных сущностей, разработанная авторами библиотеки pysentimiento. Она дообучена на испанско-английской части корпуса LinCE для анализа текстов со смешением языков и основана на RoBERTuito — модели RoBERTa, обученной на испанских твитах. Модель содержит 136,3 млн параметров и принимает контекст до 130 токенов. Модель размечает сущности в тексте на испанском и английском языках, в том числе в сообщениях с переключением между ними. Для использования авторы рекомендуют библиотеку pysentimiento: токенизация может вызывать проблемы при запуске через стандартный pipeline. В таблице результатов LinCE показатель NER для модели составляет 68,5; README не уточняет метрику. Репозиторий содержит веса PyTorch. Условия лицензии в предоставленных источниках не описаны.

1.2K2июль 2022ctx130
texthugging-face
segment-any-text
sat-12l

sat-12l — многоязычная модель сегментации текста на предложения из проекта Segment any Text, разработанная для wtpsplit. Она относит токены к классам для определения границ предложений и предназначена для разбиения сплошного текста на предложения в системах обработки документов и текста. Модель использует архитектуру XLM для классификации токенов и содержит 12 слоёв трансформера, около 305,2 млн параметров и контекст длиной 514 токенов. Доступны веса PyTorch и ONNX. Метаданные указывают поддержку многих языков, включая английский, немецкий, французский, испанский, арабский, китайский?

8.7K7июнь 2024ctx514
textmithugging-face
segment-any-text
sat-12l-sm

sat-12l-sm — модель семейства Segment Any Text для сегментации текста на предложения, разработанная для использования с библиотекой wtpsplit. Она определяет границы предложений на уровне токенов и построена на архитектуре XLM с 12 слоями Transformer; размер модели — 305,2 млн параметров, контекст — 514 токенов. В карточке заявлено качество уровня state of the art. Метаданные указывают поддержку множества языков, включая английский, арабский, китайский и другие; лицензия — MIT.

130K29июнь 2024ctx514
textmithugging-face
schift-io
schift-ko-pii-v4

schift-io/schift-ko-pii-v4 — модель распознавания персональных данных в корейском тексте, разработанная Schift и дообученная с LoRA на основе klue/roberta-base. Это RoBERTa-модель для классификации токенов с разметкой BIES; в метаданных указано 137,8 млн параметров, а длина контекста составляет 514 токенов. README сообщает о публикации весов в формате bf16 safetensors и максимальной длине входа 512 токенов. Модель предназначена для выявления имён, телефонов, адресов, идентификаторов и других PII в корейских юридических, финансовых и административных документах. Дополнительная постобработка может проверять структурированные номера, объединять фрагменты сущностей и подавлять некоторые ложные срабатывания. README приводит результаты внутренних бенчмарков, однако они не гарантируют такую же точность на других данных. Лицензия в метаданных обозначена как other, поэтому перед использованием следует проверить условия в карточке модели.

130авг. 2026ctx514
textotherhugging-face
scholarly360
setfit-contracts-clauses

Модель scholarly360/setfit-contracts-clauses — классификатор договорных положений на базе SetFit. Она дообучена на sentence-transformers/all-MiniLM-L6-v2: энкодер предложений использует контрастивное обучение, а классификационную голову образует LogisticRegression. Модель различает 100 классов положений, включая применимое право и количество экземпляров договора; в README приведена точность 0,9425 для всего набора меток. Модель предназначена для классификации фрагментов договоров и извлечения типа положения из текста. Она принимает текстовые последовательности; метаданные указывают контекст до 512 токенов, а README — максимальную длину последовательности 256 токенов. Базовый энкодер ориентирован на английский язык, а примеры меток также англоязычные. Репозиторий использует библиотеку SetFit и формат весов safetensors. Условия лицензии в предоставленных данных не приведены.

186май 2024ctx512
texthugging-face
stanfordnlp
stanza-pl

Stanza для польского языка — набор моделей лингвистического анализа текста, разработанный Stanford NLP Group. Он предназначен для обработки текста от исходных строк до синтаксического анализа и распознавания именованных сущностей; в метаданных этой модели указана задача классификации токенов. Модель распространяется в формате PyTorch и доступна по лицензии Apache-2.0. Stanza ориентирована на точный и эффективный NLP для польского языка. Карточка не сообщает размер модели, длину контекста или отдельные ограничения качества, поэтому эти характеристики не приводятся.

3.9K3март 2022
textapache-2.0hugging-face
RUCKBReasoning
TableLLM-7b

Карточка модели RUCKBReasoning/TableLLM-7b на Hugging Face совпадает с карточкой RUCKBReasoning/TableLLM-13b, поэтому описание составлено по ней. TableLLM-13B — модель RUCKBReasoning для манипуляций с табличными данными в электронных таблицах и документах. Это плотная авторегрессионная модель семейства Llama на 12,9 млрд параметров, дообученная на основе CodeLlama-13b-Instruct-hf; веса доступны в формате safetensors. Контекст модели составляет 16 384 токена. Модель принимает описание таблицы и вопрос на естественном языке, после чего генерирует Python-код для операций с таблицами в электронных таблицах — добавления, удаления, обновления, запросов, объединения и построения графиков — либо текстовый ответ на вопрос о небольшой таблице в документе. В README приведены оценки на наборах WikiSQL, Spider, WikiTQ, TAT-QA, FeTaQA и OTTQA; модель предназначена для задач работы с таблицами в офисных сценариях. Карточка указывает лицензию Llama 2. Описание не уточняет ограничения по точности и практическим условиям использования; сгенерированный код и ответы следует проверять перед применением.

3016февр. 2024ctx16.4K
textllama2hugging-face
apkonsta
table-transformer-detection-ifrs

Модель apkonsta/table-transformer-detection-ifrs — дообученная версия Table Transformer от автора apkonsta для обнаружения таблиц в PDF-документах и сканах по стандартам МСФО (IFRS). Она основана на microsoft/table-transformer-detection и использует архитектуру Table Transformer для детекции объектов. Модель обучена на 2359 сканах IFRS, в том числе для поиска таблиц без границ; распознаёт два класса: обычные и повёрнутые таблицы. Репозиторий содержит веса safetensors и рассчитан на использование с библиотекой Transformers. Модель подходит для нахождения областей таблиц на страницах финансовой отчётности перед последующим извлечением их структуры и содержимого. Она выдаёт рамки объектов, а не распознанный текст или готовые табличные данные. Специализация на документах IFRS и сканах с таблицами без границ может ограничивать качество на других типах документов; сведения о лицензии в предоставленных источниках отсутствуют.

175нояб. 2024
imagehugging-face
nsugianto
tabletransstructrecog_finetuned_pubt1m_lstabletransstrucrecogv1_session6

Это модель обнаружения объектов на базе архитектуры Table Transformer с 6,3 млн параметров. Она предназначена для распознавания объектов в таблицах на изображениях, однако README не содержит сведений о конкретных классах объектов, наборе данных, обучении или оценке качества. Модель сохранена в формате safetensors; метаданные указывают контекст длиной 1024 токена. Карточка сообщает, что модель обучена с нуля, поэтому базовая модель не указана. Лицензия и поддерживаемые языки в доступных данных не приведены.

320май 2024ctx1K
imagehugging-face
turkish-nlp-suite
tr_core_news_lg

tr_core_news_lg — крупная языковая модель для обработки турецкого языка в экосистеме spaCy, разработанная Duygu Altinok для проекта TrSpaCy. Она предназначена для лингвистического анализа турецких текстов и доступна в виде официального репозитория на Hugging Face. Модель включает компоненты tok2vec, tagger, morphologizer, trainable_lemmatizer и parser, а также поддерживает распознавание именованных сущностей через компонент NER. Она выполняет токенизацию, частеречную разметку, морфологический анализ, лемматизацию, синтаксический разбор зависимостей, выделение предложений и распознавание сущностей. Модель работает с турецким языком, содержит 200 000 уникальных векторов размерности 300 и поддерживает spaCy версий от 3.4.2 до 3.5.0. По приведенным оценкам, F-мера NER составляет 0,889, точность UPOS — 0,907, XPOS — 0,912, морфологической разметки — 0,891, лемматизации — 0,823, определения границ предложений — 0,845, UAS — 0,735, а LAS — 0,637. Это делает модель пригодной для автоматической предварительной обработки и структурного анализа турецких текстов, однако качество синтаксического разбора и лемматизации ниже, чем у частеречной и морфологической разметки. Модель распространяется по лицензии CC BY-SA 4.0.

3.6K9нояб. 2022
textcc-by-sa-4.0hugging-face
team-lucid
trocr-small-korean

team-lucid/trocr-small-korean — корейская модель распознавания текста на изображениях семейства TrOCR, разработанная на архитектуре VisionEncoderDecoder. Она состоит из визуального трансформерного энкодера, инициализированного весами DeiT, и текстового трансформерного декодера с собственными весами RoBERTa. Модель обучалась на 6 млн синтетических изображений, созданных с помощью SynthTiger, при поддержке Google TPU Research Cloud. Модель предназначена для извлечения текста из изображений, прежде всего для распознавания корейского текста. Может применяться для оцифровки изображений с текстом и распознавания строк. Репозиторий содержит веса PyTorch, Flax и Safetensors. Лицензия — Apache 2.0.

6.4K18июнь 2023
textimageapache-2.0hugging-face
Casually
uie-micro

Casually/uie-micro — это реализация на PyTorch модели UIE Micro от PaddlePaddle. Она предназначена для извлечения структурированной информации из китайского текста по заданной схеме: например, извлечения сущностей и отношений, а также информации о событиях. Интерфейс принимает текст и схему извлечения и возвращает найденные фрагменты с позициями и оценками вероятности. Модель основана на архитектуре ERNIE с классом UIE, содержит 24,8 млн параметров и имеет контекстное окно 2048 токенов. Репозиторий содержит веса PyTorch и Safetensors; задача в метаданных Hugging Face указана как feature-extraction. Лицензия — Apache-2.0. README описывает PyTorch-реализацию исходной модели PaddlePaddle/uie-micro; данных о сравнительных оценках качества нет.

863дек. 2023ctx2K
textembeddingapache-2.0hugging-face
ahmed-masry
unichart-base-960

UniChart-Base — модель семейства UniChart для понимания и анализа диаграмм, представленная Ahmed Masry. Она принимает изображение диаграммы и по текстовому запросу генерирует ответ на естественном языке. Модель предназначена для суммаризации диаграмм и преобразования их данных в таблицу; семейство UniChart также обучалось для ответов на вопросы по диаграммам. Модель использует архитектуру vision-encoder-decoder и распространяется в формате PyTorch. В карточке указана поддержка английского языка. Лицензия — GPL-3.0. Карточка не сообщает размер модели и длину контекста.

1713май 2023
textimagegpl-3.0hugging-face
5CD-AI
Vintern-3B-R-beta

Vintern-3B-R-beta — мультимодальная языковая модель с архитектурой InternVLChatModel, разработанная 5CD-AI. Это базовая версия модели рассуждений до дополнительного обучения с подкреплением. Она принимает изображения и текстовые запросы и генерирует текстовые ответы с пошаговым разбором сложных вопросов по изображениям. Модель предназначена для ответов на вопросы по изображениям и сложным структурированным документам, включая сценарии с OCR. В README отмечены улучшения относительно предыдущих версий и ориентация на сложные задачи рассуждения. Репозиторий использует Transformers и формат safetensors; лицензия — MIT. Метаданные указывают поддержку вьетнамского, английского и китайского языков.

43321март 2025ctx2.3K
textmithugging-face
benjamin
wtp-canine-s-12l

wtp-canine-s-12l — модель токен-классификации семейства La-CANINE, опубликованная пользователем benjamin и предназначенная для библиотеки wtpsplit. Она определяет границы предложений в тексте, чтобы разбивать его на предложения в многоязычных сценариях. Модель содержит 113,2 млн параметров, принимает текст и выдаёт метки токенов. В карточке Hugging Face заявлена поддержка 85 языков; метаданные также указывают контекст до 16 384 токенов. Модель распространяется по лицензии MIT. Практическое ограничение — качество сегментации может зависеть от языка и особенностей текста.

4.2K4май 2023ctx16.4K
textmithugging-face
DS4AI-UPB
xlmr-base-ro-re

xlmr-base-ro-re — модель-классификатор отношений между сущностями, разработанная Dragoș Mitruț Vasile, Elena-Simona Apostol, Stefan-Adrian Toma, Adrian Paschke и Ciprian-Octavian Truică. Это дообученный энкодер xlm-roberta-base с классификационной головой для задачи Relation Classification на румынском переводе датасета SemEval-2010 Task 8. Модель принимает предложение с двумя явно размеченными сущностями и предсказывает одно из 19 направленных отношений, которые сводятся к 10 типам отношений SemEval. Модель поддерживает румынский и английский языки. В тесте SemEval-2010 Task 8 указаны macro F1 0,822 для румынского и 0,853 для английского. Обучающие данные получены машинным переводом и прошли автоматическую постпроверку, поэтому их качество не эквивалентно ручной экспертной разметке. Лицензия модели — MIT.

261июнь 2026ctx514
textmithugging-face
DS4AI-UPB
xlmr-large-ro-re

xlmr-large-ro-re — модель классификации отношений между двумя отмеченными сущностями в предложении, разработанная авторами из DS4AI-UPB. Это дообученный энкодер XLM-RoBERTa Large с классификационной головой; в метаданных указано 658,7 млн параметров и контекст 514 токенов. Модель поддерживает румынский и английский языки и предсказывает одну из 19 направленных меток отношений SemEval-2010 Task 8, которые соответствуют 10 укрупнённым типам отношений. Для оценки на английском и румынском тестовых данных SemEval авторы сообщают macro F1 0,875 и 0,857 соответственно. На вход подаётся предложение с двумя сущностями, выделенными специальными маркерами; на выходе — метка отношения и его направление. Модель подходит для извлечения причинно-следственных и других семантических связей между сущностями в румынском или английском тексте. Обучающие данные основаны на машинном переводе набора SemEval, поэтому их качество не эквивалентно проверенной вручную золотой разметке. Репозиторий распространяется под лицензией MIT.

221июнь 2026ctx514
textmithugging-face
asanka25
xlm-roberta-base-finetuned-conll03-english-finetuned-sinhala

Модель asanka25/xlm-roberta-base-finetuned-conll03-english-finetuned-sinhala — модель XLM-RoBERTa для распознавания именованных сущностей. Автор сначала дообучил xlm-roberta-base на датасете CoNLL 2003, а затем повторно обучил модель на данных для распознавания сущностей на сингальском языке, приведённых к формату CoNLL. Архитектура — XLMRobertaForTokenClassification, размер — 305,2 млн параметров, контекст — до 514 токенов. Модель предназначена для разметки токенов текста тегами сущностей, в частности для NER на сингальском языке; также в истории обучения указана английская версия CoNLL 2003. Репозиторий содержит веса PyTorch. Лицензия в предоставленных данных не указана.

4.7K1март 2022ctx514
texthugging-face
Davlan
xlm-roberta-large-masakhaner

Davlan/xlm-roberta-large-masakhaner — модель распознавания именованных сущностей, созданная на основе XLM-RoBERTa large и дообученная на наборах данных MasakhaNER. Она размечает в тексте даты и время, местоположения, организации и имена людей; рассчитана на извлечение сущностей из новостных текстов на африканских языках. Модель содержит 658,7 млн параметров, использует архитектуру XLM-RoBERTa для классификации токенов и поддерживает контекст до 514 токенов. В карточке перечислены амхарский, хауса, игбо, киньяруанда, луганда, луо, нигерийский пиджин, суахили, волоф и йоруба; результаты оценки приведены для всех десяти языков. Модель подходит для извлечения сущностей из новостей на этих языках, но обучение на размеченных новостных статьях ограниченного периода может ухудшить качество в других жанрах и предметных областях. Сведения о лицензии в предоставленных данных отсутствуют.

462март 2022ctx514
texthugging-face
Zyphra
ZAYA1-VL-8B

ZAYA1-VL-8B — открытая vision-language модель Zyphra для диалога и ответов на вопросы по изображениям. Она использует ZAYA1-8B как текстовый декодер и визуальный энкодер Qwen2.5-VL; архитектура включает специализированные LoRA-параметры для обработки зрительных токенов и двунаправленное внимание к токенам изображения. В карточке указано 3 млрд параметров, контекст до 32 768 токенов и поддержка изображений и текста. Модель предназначена для анализа изображений, диаграмм и документов, а также визуальных вопросов и ответов. В README приведены результаты на наборах AI2D, ChartQA и DocVQA. Для запуска требуется форк Transformers с веткой zaya1-vl и дополнительные зависимости, включая qwen-vl-utils и flash_attn. Модель распространяется по лицензии Apache 2.0.

166K42апр. 2026ctx32.8K
textimageapache-2.0hugging-face
jondurbin
airoboros-3b-3p11

airoboros-3b-3p11 — экспериментальная языковая модель jondurbin для генерации текста и диалогов по инструкциям. Она основана на архитектуре StableLM Epoch и содержит 2,7 млрд параметров; модель обучена на наборе airoboros-3.1 с преимущественно синтетическими данными. Контекст составляет до 4096 токенов, для диалогов используется формат Llama 2 Chat. Модель рассчитана на следование инструкциям, ответы на вопросы по предоставленному контексту, суммаризацию и помощь с кодом. Среди специализированных примеров обучения — структурированное представление математических решений в MathJSON, извлечение полей из журналов, обезличивание текста и генерация аргументов функций в JSON или YAML. Для этих сценариев в README рекомендуются явно заданный формат запроса и низкая температура генерации. Это общая экспериментальная модель, ориентированная на выполнение инструкций, а не на непринуждённое общение или ролевые диалоги. Карточка указывает на ограничения качества отдельных инструментов обработки MathJSON. Лицензия — CC BY-SA 4.0.

345окт. 2023ctx4.1K
textcc-by-sa-4.0hugging-face
Ali-0111
applied-nlp-ner-stage3-distilbert

Модель Ali-0111/applied-nlp-ner-stage3-distilbert — дообученная Ali-0111 модель DistilBERT для распознавания именованных сущностей и классификации токенов. Она обучена на distilbert-base-cased на 644 примерах с разметкой BIO и использует 8 типов сущностей, включая суммы, профессии и местоположения. Выбор регистрозависимой версии помогает использовать заглавные буквы как сигнал при извлечении сущностей. Модель содержит около 65,2 млн параметров, сохранена в формате safetensors и обрабатывает последовательности длиной до 512 токенов. На тестовой выборке получен общий F1 0,803; показатели для JOB и LOCATION ниже, чем для AMOUNT. Небольшой обучающий набор и заметный разрыв между обучающей и тестовой оценками указывают на риск переобучения. Лицензия в метаданных указана как unknown.

50авг. 2026ctx512
textunknownhugging-face
google-bert
bert-base-cased

BERT base cased — базовая предобученная модель Google для английского языка на архитектуре Transformer с двунаправленными представлениями. Она обучалась предсказывать замаскированные токены и определять связь между парами предложений на корпусах BookCorpus и английской Википедии. Модель содержит 135,5 млн параметров, использует регистрозависимую токенизацию WordPiece со словарём из 30 000 токенов и поддерживает контекст до 512 токенов. Модель предназначена прежде всего для дообучения под задачи понимания текста, например классификации последовательностей и токенов, ответов на вопросы и извлечения признаков. В исходном виде её можно применять для восстановления замаскированных слов; это не авторегрессионная модель для генерации связного текста. Предоставляются варианты весов для PyTorch, TensorFlow, JAX и Flax. Модель лицензирована по Apache-2.0. Предсказания могут отражать смещения обучающих данных, поэтому результаты требуют проверки в целевом сценарии.

3.6M390март 2022ctx512
textapache-2.0hugging-face
dannashao
bert-base-uncased-finetuned-advanced-srl_arg

Модель dannashao/bert-base-uncased-finetuned-advanced-srl_arg — дообученная версия BERT от Google для семантической разметки ролей (SRL) в английских предложениях. Она присваивает токенам метки, обозначающие их семантические роли относительно предиката. Для обозначения предиката в предложении перед ним нужно добавить специальный токен [V], который вместе с предикатом рассматривается как единый фрагмент. Модель построена на архитектуре BERT и содержит 136,7 млн параметров; максимальная длина контекста — 512 токенов. Обучение проводилось на английском датасете Universal Proposition Bank v1.0. В README приведены результаты на тестовой выборке: F1 0,8669 и точность 0,9812. Модель распространяется по лицензии Apache-2.0.

5.2K1март 2024ctx512
textapache-2.0hugging-face
TweebankNLP
bertweet-tb2_wnut17-ner

Модель TweebankNLP/bertweet-tb2_wnut17-ner — модель распознавания именованных сущностей в сообщениях Twitter, разработанная проектом TweebankNLP. Это RoBERTa-модель для классификации токенов с 162,4 млн параметров и контекстом до 130 токенов. Она обучена на объединённых обучающих данных Tweebank-NER и WNUT 17; в статье названа HuggingFace-BERTweet (TB2+W17). Для лучшего качества твиты рекомендуется предварительно обрабатывать с помощью TweetTokenizer. В README сообщается результат 74,35% Entity-Level F1 на бенчмарке Tweebank V2 NER. Модель подходит для извлечения сущностей из коротких сообщений в социальных сетях. Лицензия CC BY-NC 4.0 разрешает использование с атрибуцией, но ограничивает коммерческое применение.

275май 2022ctx130
textcc-by-nc-4.0hugging-face

Задачи профессии

18 задач
37Извлечение имён, организаций, мест, дат, сумм, идентификаторов и других сущностей. — AI разбирает неструктурированный источник на элементы и связывает каждое извлечённое значение с местом его происхождения. К исходным данным относятся журналы, сообщения, разнородные записи и неструктурированный текст. Формат результата: структурированные данные, полученные в рамках «Извлечение имён, организаций, мест, дат, сумм, идентификаторов и других сущностей», с нормализованными значениями и ссылками на исходные фрагменты. Надёжность оценивают посимвольной или пополевой сверкой с оригиналом и проверкой обязательных полей; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
38Извлечение отношений между сущностями. — Для этой задачи система выделяет сущности, числа и отношения, нормализует формат и формирует машиночитаемую запись. Рабочие входы: сообщения, разнородные записи, неструктурированный текст и таблицы. Формат результата: структурированные данные, полученные в рамках «Извлечение отношений между сущностями», с нормализованными значениями и ссылками на исходные фрагменты. Критерии приёмки: посимвольной или пополевой сверкой с оригиналом и проверкой обязательных полей; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
39Извлечение событий, их участников, времени, места и результата. — Практическая реализация: AI находит нужные фрагменты в исходном материале, распознаёт их роль и переносит в заданные структурированные поля. Входной контекст включает разнородные записи, неструктурированный текст, таблицы и журналы. Формат результата: структурированные данные, полученные в рамках «Извлечение событий, их участников, времени, места и результата», с нормализованными значениями и ссылками на исходные фрагменты. Ошибки выявляют посимвольной или пополевой сверкой с оригиналом и проверкой обязательных полей; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
40Извлечение обязательств, требований, условий, исключений и сроков. — Механизм: AI разбирает неструктурированный источник на элементы и связывает каждое извлечённое значение с местом его происхождения. Исходные данные: неструктурированный текст, таблицы, журналы и сообщения. Формат результата: структурированные данные, полученные в рамках «Извлечение обязательств, требований, условий, исключений и сроков», с нормализованными значениями и ссылками на исходные фрагменты. Проверка: посимвольной или пополевой сверкой с оригиналом и проверкой обязательных полей; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
41Извлечение числовых показателей и единиц измерения. — AI выделяет сущности, числа и отношения, нормализует формат и формирует машиночитаемую запись. К исходным данным относятся таблицы, журналы, сообщения и разнородные записи. Формат результата: структурированные данные, полученные в рамках «Извлечение числовых показателей и единиц измерения», с нормализованными значениями и ссылками на исходные фрагменты. Надёжность оценивают посимвольной или пополевой сверкой с оригиналом и проверкой обязательных полей; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
42Извлечение таблиц, списков и иерархий из неструктурированного контента. — Для этой задачи система находит нужные фрагменты в исходном материале, распознаёт их роль и переносит в заданные структурированные поля. Предметная логика: восстанавливает визуальную и логическую структуру, связывая ячейки, заголовки и подписи. Рабочие входы: геометрия страницы, журналы, сообщения, разнородные записи и неструктурированный текст. Формат результата: структурированные данные, полученные в рамках «Извлечение таблиц, списков и иерархий из неструктурированного контента», с нормализованными значениями и ссылками на исходные фрагменты. Критерии приёмки: посимвольной или пополевой сверкой с оригиналом и проверкой обязательных полей; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
43Преобразование свободного текста в JSON, XML, CSV или другую заданную схему. — Практическая реализация: AI сначала определяет элементы, которые должны сохраниться, затем перестраивает форму представления и отмечает внесённые изменения. Входной контекст включает сообщения, разнородные записи, неструктурированный текст и таблицы. Формат результата: преобразованный материал по задаче «Преобразование свободного текста в JSON, XML, CSV или другую заданную схему» с сохранённым содержанием и журналом значимых изменений. Ошибки выявляют сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
44Нормализация дат, адресов, телефонов, валют и единиц измерения. — Механизм: AI переводит объект в новый формат или вид, контролируя потери информации и нежелательные артефакты. Исходные данные: разнородные записи, неструктурированный текст, таблицы и журналы. Формат результата: преобразованный материал по задаче «Нормализация дат, адресов, телефонов, валют и единиц измерения» с сохранённым содержанием и журналом значимых изменений. Проверка: сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
45Сопоставление разных написаний одной и той же сущности. — AI нормализует сравниваемые объекты, выравнивает их по общим признакам и показывает совпадения, различия и связи. К исходным данным относятся неструктурированный текст, таблицы, журналы и сообщения. Формат результата: карта соответствий и различий для «Сопоставление разных написаний одной и той же сущности», где элементы приведены к единым критериям и связаны с первичными данными. Надёжность оценивают экспертной сверкой соответствий и проверкой, что различия не вызваны несовместимыми форматами; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
46Разрешение неоднозначных упоминаний и местоименных ссылок. — Для этой задачи система строит единое пространство признаков и устанавливает соответствия между элементами, которые описаны по-разному. Рабочие входы: таблицы, журналы, сообщения и разнородные записи. Формат результата: карта соответствий и различий для «Разрешение неоднозначных упоминаний и местоименных ссылок», где элементы приведены к единым критериям и связаны с первичными данными. Критерии приёмки: экспертной сверкой соответствий и проверкой, что различия не вызваны несовместимыми форматами; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
47Автоматическое присвоение метаданных, тегов и ключевых слов. — Практическая реализация: AI строит границы между категориями и ранжирует объекты так, чтобы наиболее важные или срочные обрабатывались раньше. Входной контекст включает журналы, сообщения, разнородные записи и неструктурированный текст. Формат результата: результат «Автоматическое присвоение метаданных, тегов и ключевых слов» в виде метки, класса, ранга или тематического слоя с уверенностью и объясняющими признаками. Ошибки выявляют по матрице ошибок, калибровке уверенности и отдельному анализу пограничных классов; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
48Построение таксономии по коллекции материалов. — Механизм: AI создаёт вычислительное представление объекта или процесса и проигрывает на нём альтернативные сценарии. Исходные данные: сообщения, разнородные записи, неструктурированный текст и таблицы. Формат результата: вычислительная модель или карта для «Построение таксономии по коллекции материалов» с результатами сценариев и анализом чувствительности. Проверка: сопоставлением с наблюдениями, тестами чувствительности и воспроизводимостью вычислений; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
49Построение онтологии или графа знаний. — AI восстанавливает скрытые связи между параметрами и использует модель для виртуальных экспериментов. К исходным данным относятся разнородные записи, неструктурированный текст, таблицы и журналы. Формат результата: вычислительная модель или карта для «Построение онтологии или графа знаний» с результатами сценариев и анализом чувствительности. Надёжность оценивают сопоставлением с наблюдениями, тестами чувствительности и воспроизводимостью вычислений; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
50Выделение тем и под-тем в больших массивах текста. — Для этой задачи система выделяет сущности, числа и отношения, нормализует формат и формирует машиночитаемую запись. Рабочие входы: неструктурированный текст, таблицы, журналы и сообщения. Формат результата: структурированные данные, полученные в рамках «Выделение тем и под-тем в больших массивах текста», с нормализованными значениями и ссылками на исходные фрагменты. Критерии приёмки: посимвольной или пополевой сверкой с оригиналом и проверкой обязательных полей; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
51Кластеризация материалов по смысловой близости. — Практическая реализация: AI извлекает признаки, относит каждый объект к подходящей категории или уровню приоритета и оценивает уверенность. Предметная логика: сопоставляет не только одинаковые слова, но и намерение, контекст и близкие понятия. Входной контекст включает текст запроса, таблицы, журналы, сообщения и разнородные записи. Формат результата: результат «Кластеризация материалов по смысловой близости» в виде метки, класса, ранга или тематического слоя с уверенностью и объясняющими признаками. Ошибки выявляют по матрице ошибок, калибровке уверенности и отдельному анализу пограничных классов; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
52Обнаружение точных и смысловых дублей. — Механизм: AI анализирует поток наблюдений и локализует признаки, которые отличают целевой объект или нарушение от обычного состояния. Предметная логика: сопоставляет не только одинаковые слова, но и намерение, контекст и близкие понятия. Исходные данные: текст запроса, журналы, сообщения, разнородные записи и неструктурированный текст. Формат результата: перечень объектов, событий или отклонений, относящихся к «Обнаружение точных и смысловых дублей», с локализацией, уверенностью и признаками срабатывания. Проверка: по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
53Сопоставление полей между несовместимыми схемами данных. — AI сопоставляет объекты по одинаковым критериям и отделяет содержательные различия от различий формата или терминологии. К исходным данным относятся сообщения, разнородные записи, неструктурированный текст и таблицы. Формат результата: карта соответствий и различий для «Сопоставление полей между несовместимыми схемами данных», где элементы приведены к единым критериям и связаны с первичными данными. Надёжность оценивают экспертной сверкой соответствий и проверкой, что различия не вызваны несовместимыми форматами; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
54Восстановление недостающей структуры у плохо оформленных данных. — Для этой задачи система преобразует исходный материал по заданным правилам, сохраняя смысл, структуру и критически важные детали. Рабочие входы: разнородные записи, неструктурированный текст, таблицы и журналы. Формат результата: преобразованный материал по задаче «Восстановление недостающей структуры у плохо оформленных данных» с сохранённым содержанием и журналом значимых изменений. Критерии приёмки: сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику. <a id="section-i-4"></a>

0 моделей