/ Профессии
Универсальные способности и операции

I.3Извлечение и структурирование данных

В разделе собраны самостоятельные задачи, где AI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.

ЭмбеддингиТекст
AI-задач
18
в этой профессии
Подходящих моделей
25 791
по типу задач и модальности
Категория
I. Универсальные способности
Основные типы
ЭмбеддингиТекст

Рекомендованные модели

25 791 модель
Загрузки
Лайки
Дата выхода
3 751–3 780 из 25 791
OsaurusAI
rampart-mlx

OsaurusAI/rampart-mlx — независимая конверсия модели Rampart в формат MLX, созданная для запуска на устройствах Apple Silicon. Это компактный энкодер BERT на базе MiniLM-L6 с 6 слоями, размером около 21,7 млн параметров по метаданным и контекстом до 512 токенов. Модель выполняет токенную классификацию: размечает текст по 35 BIO-классам, включая 17 типов персональных данных — имена, адреса, электронную почту, телефоны, идентификаторы и банковские реквизиты. Модель предназначена для локального обнаружения и редактирования персональных данных в пользовательском тексте, например на устройстве или на стороне клиента. В репозитории размещены веса fp16 в safetensors и автономная реализация на MLX. По README, результаты совпадают с исходной моделью ONNX на проверочных примерах: метки токенов совпали во всех случаях, а максимальное различие логитов составило около 1e-5. Это англоязычная модель; сведения о поддержке других языков не приведены. Она помечает фрагменты текста, но сама по себе не выполняет редактирование: для восстановления диапазонов символов и маскирования данных требуется декодирование BIO-разметки. Модель выпущена под лицензией CC BY 4.0; исходная Rampart указана как базовая дообученная модель.

1584июнь 2026ctx512
textcc-by-4.0hugging-face
phiyodr
roberta-large-finetuned-squad2

phiyodr/roberta-large-finetuned-squad2 — англоязычная модель ответов на вопросы, созданная дообучением RoBERTa-large на наборе SQuAD 2.0. Она предназначена для поиска ответа в предоставленном текстовом фрагменте и умеет распознавать вопросы, на которые в контексте нет ответа. Модель содержит около 454,1 млн параметров, использует архитектуру RoBERTa для извлечения ответа и рассчитана на контекст до 514 токенов. Модель подходит для извлечения фактов из англоязычных документов, справочных текстов и статей, а также для прототипов систем вопросно-ответного поиска. Доступны веса в форматах PyTorch и Flax. Сведения о лицензии в предоставленных данных отсутствуют.

1220март 2022ctx514
texthugging-face
surendirakrishna
salad

CHAI OCR — экспериментальная мультимодальная модель для распознавания текста и анализа документов, созданная на основе Qwen 3.5 4B VL. В ней применено слияние task arithmetic: адаптация визуального энкодера усилена коэффициентом 1,25, а языковая модель, MTP-голова и эмбеддинги сохранены от настроенного исходного чекпойнта. Изменены 297 тензоров визуального энкодера, около 333 млн параметров. Модель предназначена для OCR сканов, включая старые и повреждённые документы, а также для анализа структуры страниц, таблиц, форм и многоколоночных материалов. Она принимает изображения и текстовые запросы, выдаёт текстовые ответы. В README приведён экспериментальный результат бенчмарка, но модель обозначена как непроверенная; усиление визуальной адаптации может как улучшить OCR, так и ухудшить другие возможности. Лицензия в доступных данных не указана.

2413сент. 2026ctx262.1K
textimagehugging-face
pyannote-community
speaker-diarization-community-1

Community-1 — конвейер для диаризации речи от pyannote. Он принимает аудио и определяет, кто и когда говорит; результат включает временные интервалы с метками говорящих. Для входа используется монофоническое аудио с частотой 16 кГц: многоканальные записи автоматически сводятся к моно, а записи с другой частотой дискретизации пересчитываются до 16 кГц. По карточке модели, Community-1 улучшает назначение и подсчёт говорящих по сравнению с предыдущей версией pyannote speaker-diarization-3.1 и предоставляет эксклюзивную диаризацию, упрощающую сопоставление временных меток говорящих с временными метками транскрипции. Конвейер можно запускать локально, в том числе без подключения к интернету, или использовать через облачный сервис pyannoteAI. Для работы локально требуется pyannote.audio и токен Hugging Face с принятыми условиями доступа. Модель предназначена для анализа речи в записях с несколькими участниками, включая случаи перекрывающейся речи. В README приведены результаты на академических бенчмарках, но качество зависит от условий записи и домена. Метаданные указывают лицензию CC BY 4.0; при использовании следует соблюдать её условия.

20K10окт. 2025
textaudiocc-by-4.0hugging-face
hung200504
test-bert-3

hung200504/test-bert-3 — дообученная модель на архитектуре BERT для извлечения ответов на вопросы из текста. Она основана на hung200504/test-bert-2 и содержит 136,7 млн параметров; максимальная длина контекста составляет 512 токенов. Модель предназначена для сценариев, где нужно найти ответ на вопрос в предоставленном фрагменте текста. В README указан результат Loss 11,6031 на наборе оценки, но набор данных и подробности оценки не описаны. Базовая модель охарактеризована в каталоге как англоязычная, поэтому основным языком модели считается английский. Весы представлены в формате PyTorch; лицензия в предоставленных данных не указана.

60окт. 2023ctx512
texthugging-face
eleldar
theme-classification

eleldar/theme-classification — чекпойнт BART-large, дообученный на наборе MultiNLI для классификации текстов по заданным категориям без предварительного обучения на этих категориях. Модель сопоставляет текст с гипотезами, построенными на основе названий категорий, и оценивает вероятности следования и противоречия; пользователь может задавать собственный набор меток. Архитектура — BART для классификации последовательностей, размер — 252,8 млн параметров, максимальный контекст — 1024 токена. Доступны веса PyTorch и Flax. Модель подходит для тематической разметки и других задач классификации с пользовательскими категориями, особенно на английском языке, на котором обучен MultiNLI. Карточка также описывает применение метода для многометочной классификации, когда несколько категорий могут подходить одновременно. Репозиторий распространяется по лицензии MIT. Для других языков и узких предметных областей качество может отличаться; результаты зависят от формулировки меток и гипотез.

479май 2022ctx1K
textmithugging-face
WebOrganizer
TopicClassifier

WebOrganizer/TopicClassifier — англоязычный классификатор веб-страниц по темам, разработанный WebOrganizer на основе Alibaba-NLP/gte-base-en-v1.5. Модель принимает URL страницы и её текстовое содержимое и распределяет страницу по 24 категориям. Это дообученная плотная энкодерная модель с архитектурой sequence classification, примерно 136,7 млн параметров, максимальным контекстом 8192 токена и весами в формате safetensors. Модель предназначена для тематической организации веб-контента и классификации страниц при построении каталогов или обработке больших коллекций URL и текстов. Обучение проходило в два этапа на наборах WebOrganizer с аннотациями, созданными Llama 3.1: сначала на 1 млн документов, затем на 100 тыс. документов. README рекомендует для ускоренного вывода реализацию gte-base-en-v1.5 с unpadding и memory-efficient attention; для этого требуется xformers. Сведения о лицензии в предоставленных данных отсутствуют.

3.0K17февр. 2025ctx8.2K
texthugging-face
cyttic
trocr-bigram5-BY

cyttic/trocr-bigram5-BY — дообученная модель cyttic/exp2-frozen-benyehuda-cont для преобразования изображений с текстом в текст. Она использует архитектуру VisionEncoderDecoder и библиотеку Transformers; веса представлены в формате safetensors. По названию модели можно предположить связь с распознаванием биграмм и белорусским языком, однако README не подтверждает назначение суффикса BY или языковую поддержку. В карточке приведены результаты оценки: Loss 0.5955, CER 0.0292 и WER 0.0838. Датасет, сценарии применения, ограничения и условия лицензии не описаны, поэтому оценить качество за пределами указанного набора данных нельзя.

551сент. 2026ctx512
textimagehugging-face
Xenova
trocr-small-handwritten

Xenova/trocr-small-handwritten — версия модели microsoft/trocr-small-handwritten с весами в формате ONNX, подготовленная для работы через библиотеку Transformers.js. Модель предназначена для оптического распознавания рукописного текста: на вход подаётся изображение, а на выходе генерируется распознанная текстовая строка. Модель относится к семейству TrOCR и использует задачу image-to-text. В README не указаны точные сведения об архитектуре, количестве параметров, поддерживаемых языках и размере контекста. Пример демонстрирует распознавание короткой английской рукописной фразы, однако полноценный перечень языков и ограничений качества не приведён. Основное преимущество модели — совместимость с Transformers.js и возможность использования ONNX-весов в веб-сценариях. Лицензия в предоставленных данных не указана.

5.3K8окт. 2023
textimagehugging-face
mohammadalihumayun
trocr-ur-v2

mohammadalihumayun/trocr-ur-v2 — дообученная модель распознавания текста на изображениях на урду. Она использует архитектуру vision-encoder-decoder и предназначена для OCR: на вход принимает изображение с текстом, на выходе генерирует его текстовую расшифровку. В метаданных указаны библиотека Transformers и формат весов safetensors. На тестовом наборе в README приведены значения loss 2,2939 и CER 0,2622; набор данных не описан. Модель может применяться для распознавания урду в изображениях и сканах, однако карточка не раскрывает ограничения по качеству, условиям съёмки или способам использования. Сведения о лицензии отсутствуют в предоставленных данных.

2150дек. 2024ctx512
textimagehugging-face
robinhad
ukrainian-qa

robinhad/ukrainian-qa — модель для ответов на вопросы на основе XLM-RoBERTa, дообученная автором репозитория на украинском наборе UA-SQuAD от ukr-models/xlm-roberta-base-uk. Она предназначена для извлечения ответа на вопрос из предоставленного текста и может использоваться в системах поиска по документам и украинских справочных сервисах. Модель содержит 137,3 млн параметров, рассчитана на контекст до 514 токенов и использует архитектуру XLM-RoBERTa; указана поддержка украинского языка. В карточке приведено значение loss 1,4778 на оценочной выборке, но подробностей протокола оценки нет. Лицензия — MIT.

446июнь 2022ctx514
textmithugging-face
Werea-co
Werea-TR-QA

Werea-TR-QA — Werea tarafından yayımlanan, Türkçe bağlamlı çıkarımsal soru-cevap modeli. BERTurk tabanlı BERT-энкодер, дообученный для выбора ответа в виде фрагмента текста из предоставленного контекста; в карточке заявлено обучение в стиле SQuAD в течение двух эпох. Модель рассчитана на поиск ответов в текстах, в том числе в составе RAG-систем. Модель содержит 137,8 млн параметров, принимает текст вопроса и контекста, поддерживает контекст до 512 токенов и сохранена в формате safetensors. В README приведены результаты на турецких наборах TQuAD2 и XQuAD-tr: EM 53,8% и 46,1%, F1 72,7% и 64,5% соответственно. Базовая модель — dbmdz/bert-base-turkish-cased, лицензия MIT.

170авг. 2026ctx512
textmithugging-face
FacebookAI
xlm-roberta-base

XLM-RoBERTa base — многоязычная трансформерная модель FacebookAI, впервые выпущенная в этом репозитории. Она предварительно обучена на 2,5 ТБ отфильтрованных данных CommonCrawl на 100 языках с целью masked language modeling: модель восстанавливает замаскированные слова, используя контекст с обеих сторон. Это базовая модель архитектуры XLM-RoBERTa с 305,2 млн параметров и контекстом до 514 токенов. Модель подходит для предсказания пропущенных слов и получения текстовых представлений для последующей настройки на классификацию последовательностей и токенов, а также ответы на вопросы. Она поддерживает множество языков; метаданные перечисляют коды языков, среди которых английский, арабский, китайский здесь не указан, французский, немецкий, японский, корейский, русский также не указан. Для генерации связного текста модель не предназначена. Лицензия — MIT.

10.4M958март 2022ctx514
textmithugging-face
Z-Jafari
xlm-roberta-base-finetuned-nestedRewrite_QA

Z-Jafari/xlm-roberta-base-finetuned-nestedRewrite_QA — модель для извлечения ответа на вопрос из предоставленного текста. Она создана дообучением многоязычной XLM-RoBERTa base от Facebook AI и содержит около 305,2 млн параметров. Модель принимает текст с контекстом и вопросом и предсказывает ответ в формате задачи question-answering; максимальная длина контекста составляет 514 токенов. В README приведены результаты оценки: exact match 76,9 и F1 79,7, однако набор данных и условия тестирования не описаны, поэтому эти показатели нельзя напрямую переносить на другие сценарии. Модель опубликована в формате safetensors и распространяется по лицензии MIT. Языки и область применения конкретного дообучения не уточнены.

1090сент. 2026ctx514
textmithugging-face
facebook
xlm-roberta-xl

XLM-RoBERTa-XL — крупная многоязычная модель на архитектуре RoBERTa, разработанная авторами статьи Naman Goyal, Jingfei Du, Myle Ott, Giri Anantharaman и Alexis Conneau. Она предварительно обучена на 2,5 ТБ отфильтрованных данных CommonCrawl на 100 языках с целью masked language modeling: модель восстанавливает замаскированные слова, используя контекст с обеих сторон. Число параметров — 4,4 млрд, максимальная длина контекста — 514 токенов. Модель подходит для заполнения пропусков в тексте и извлечения многоязычных представлений для дообучения под классификацию последовательностей и токенов, а также ответы на вопросы. Она предназначена прежде всего для задач, анализирующих предложение целиком; для генерации связного текста README рекомендует авторегрессионные модели. Модель распространяется под лицензией MIT.

83K37март 2022ctx514
textmithugging-face
TaichuAI
ZDTaichu5.0-9B-GGUF

ZDTaichu5.0-9B-GGUF — мультимодальная foundation-модель, разработанная командой Taichu AI. Она предназначена для общего визуального понимания, пространственного рассуждения, агентского использования инструментов и исследований в области embodied AI. Модель работает с текстом, отдельными и множественными изображениями, а также видео; заявлена поддержка английского и китайского языков. В основе используется языковой декодер Qwen3.5-9B и vision-энкодер C-RADIOv4-H. Модель поддерживает контекст до 128K токенов и визуальный ввод произвольного разрешения. Она рассчитана на понимание изображений, документов, таблиц, графиков, диаграмм и OCR, визуальную математику, ответы на вопросы с опорой на визуальные данные, анализ нескольких ракурсов и видео, локализацию объектов, координаты и bounding boxes, 2D- и 3D-пространственные отношения, перспективу, планирование действий и понимание affordances. К сильным сторонам относятся широкий профиль визуальных возможностей, пространственное и embodied-рассуждение, многошаговое и многотуровое использование инструментов, а также Entropy-Gated Adaptive Recurrent Reasoning, динамически выделяющий дополнительные итерации обработки для сложных токенов. GGUF-артефакты совместимы с llama.cpp, Ollama и другими GGUF-инструментами; доступны варианты квантования языковой модели и vision-энкодера для CPU и NVIDIA GPU с CUDA. Исполнение инструментов моделью самостоятельно не выполняется и должно быть реализовано и защищено окружающим приложением. Лицензия в представленном README не указана.

8.3K4сент. 2026
textimagehugging-face
AIR-CAS-kx
Zhimu-1.0

Zhimu-1.0 — диалоговая мультимодальная модель AIR-CAS-kx, дообученная на базе Qwen/Qwen3-VL-8B-Instruct. Она принимает текст и изображения и формирует текстовые ответы; архитектура относится к семейству Qwen3-VL и реализована классом Qwen3VLForConditionalGeneration. Базовая модель предназначена для диалога, анализа изображений и видео, OCR и визуального рассуждения. Модель можно применять для вопросов по изображениям, извлечения текста с изображений и визуального диалога. В карточке Zhimu-1.0 подробности о целевых сценариях и результатах оценки не приведены. Указана лицензия other; конкретные условия использования следует сверять с лицензией репозитория и базовой модели.

363авг. 2026ctx262.1K
textotherhugging-face
Palak
albert-base-v2_squad

Palak/albert-base-v2_squad — модель ALBERT дообученная разработчиком Palak на albert-base-v2 для ответов на вопросы по контексту. Она предназначена для сценариев извлечения ответа из текста, например для поиска ответа в документе или фрагменте статьи. Модель содержит 136,3 млн параметров, использует архитектуру AlbertForQuestionAnswering и принимает контекст длиной до 512 токенов. Веса представлены в формате PyTorch; лицензия — Apache-2.0. На наборе SQuAD v1 модель показала exact match 82,7 и F1 90,1 по оценке в карточке. Эти результаты относятся к тестированию на SQuAD и не гарантируют аналогичное качество на других языках, предметных областях или форматах контекста.

431март 2022ctx512
textapache-2.0hugging-face
orucexe
azocr

AZOCR — модель оптического распознавания символов для документов на азербайджанском языке, созданная на основе GLM-OCR. Модель дообучена методом LoRA на 6 699 примерах страниц в течение двух эпох. Она принимает изображения документов и преобразует их содержимое в текст. Модель предназначена для распознавания азербайджанского текста в документах; репозиторий содержит веса в формате Safetensors и использует библиотеку Transformers. Модель распространяется по лицензии Apache-2.0. Карточка не сообщает метрики качества, поэтому точность распознавания для разных типов документов оценить по имеющимся сведениям нельзя.

191авг. 2026ctx655.4K
textimageapache-2.0hugging-face
Open-Bee
Bee-8B-RL

Bee-8B-RL — мультимодальная языковая модель Open-Bee на 8 млрд параметров, созданная на базе Qwen/Qwen3-8B. Она дообучена для диалогов и работы с изображениями и текстом; поддерживает режимы с рассуждением и без него. Модель предназначена для анализа изображений, сложных рассуждений, математических задач, понимания документов и диаграмм, а также генерации ответов в чате. В метаданных указана архитектура BeeForConditionalGeneration и формат safetensors; README описывает обучение на корпусе Honey-Data-15M с примерами, обогащёнными рассуждениями CoT. По заявлению разработчиков, Bee-8B показывает сильные результаты среди полностью открытых мультимодальных моделей, в частности на задачах математики, логики, анализа диаграмм и документов. Эти оценки основаны на бенчмарках и не гарантируют точность в каждом пользовательском сценарии. Модель рассчитана на английский язык согласно языковым метаданным; карточка не сообщает размер контекста. Лицензия — Apache-2.0.

12K78окт. 2025ctx131.1K
textapache-2.0hugging-face
antoniocappiello
bert-base-italian-uncased-squad-it

Это итальянская модель BERT для ответов на вопросы, созданная на основе dbmdz/bert-base-italian-uncased и дообученная на задаче question answering. Она предназначена для извлечения ответа из предоставленного текста по вопросу и может применяться в системах поиска по документам и справочных материалах на итальянском языке. Модель имеет архитектуру BertForQuestionAnswering, содержит 137,1 млн параметров и поддерживает контекст длиной до 512 токенов. Для обучения использован набор SQuAD-it — итальянская версия SQuAD, полученная полуавтоматическим переводом исходного датасета. В карточке приведены результаты EM 63,8 и F1 75,30. Модель принимает вопрос и контекст в виде текста и возвращает текстовый ответ, обычно извлечённый из контекста. Лицензия в предоставленных данных не указана.

615март 2022ctx512
texthugging-face
MMG
bert-base-spanish-wwm-cased-finetuned-spa-squad2-es-finetuned-sqac

MMG выпустил испаноязычную модель вопросно-ответной системы на базе BERT. Она дообучена на наборе SQAC поверх mrm8488/bert-base-spanish-wwm-cased-finetuned-spa-squad2-es и предназначена для извлечения ответа на вопрос из предоставленного текста. Модель содержит 137,1 млн параметров, использует архитектуру BertForQuestionAnswering и принимает контекст до 512 токенов; веса доступны в форматах PyTorch и Safetensors. На оценочном наборе SQAC указаны exact match 65,02 и F1 81,67. Модель подходит для испаноязычных систем поиска ответов по текстам. Лицензия в предоставленных данных не указана.

1936март 2022ctx512
texthugging-face
kaito2006
bert-finetuned-squad

kaito2006/bert-finetuned-squad — дообученная модель BERT, разработанная автором репозитория kaito2006 на основе google-bert/bert-base-cased. Она предназначена для извлечения ответа на вопрос из предоставленного текста и классифицируется как модель question answering. Архитектура — плотная BertForQuestionAnswering, размер — 135,5 млн параметров, формат весов — safetensors; максимальная длина контекста составляет 512 токенов. Модель подходит для поиска фактических ответов в текстовых фрагментах и для прототипов систем вопросно-ответного поиска. Она дообучена на SQuAD согласно названию репозитория, однако README сообщает, что обучающий датасет неизвестен, поэтому это указание нельзя считать подтверждённым. Лицензия — Apache-2.0. В карточке не приведены сведения об оценке качества или подробные ограничения; базовая модель cased ориентирована на английский текст.

50июль 2026ctx512
textapache-2.0hugging-face
merthacioglu
bert-finetuned-squad

merthacioglu/bert-finetuned-squad — модель на архитектуре BERT, дообученная для ответа на вопросы. Она принимает текст вопроса и контекст и предсказывает ответный фрагмент из контекста. Модель содержит 135,5 млн параметров и рассчитана на контекст длиной до 512 токенов. Карточка связывает её с SQuAD, однако подробности о данных обучения, языках, оценках качества и рекомендованных сценариях не приведены. Модель опубликована в формате PyTorch; условия лицензии в доступных сведениях не указаны.

100янв. 2024ctx512
texthugging-face
deepset
bert-large-uncased-whole-word-masking-squad2

deepset разработала модель на архитектуре BERT Large и дообучила её на SQuAD 2.0 для извлекающего ответа на вопросы. Модель получает вопрос и текстовый фрагмент, а затем выделяет ответ непосредственно из этого текста; если ответа в контексте нет, обучение на SQuAD 2.0 позволяет модели воздерживаться от ответа. Модель подходит для поиска ответов в документах и для систем вопросно-ответного поиска, в том числе с использованием Haystack. Она содержит 433,9 млн параметров, рассчитана на английский язык и поддерживает контекст длиной до 512 токенов. Доступны реализации в PyTorch, TensorFlow и Flax, включая веса Safetensors. Лицензия — CC BY 4.0. Модель предназначена для извлечения ответа из предоставленного контекста, а не для свободной генерации развернутых ответов или поиска сведений во внешних источниках. Контекст ограничен 512 токенами; качество за пределами английского языка и обучающего домена SQuAD 2.0 не подтверждено.

206K31март 2022ctx512
textcc-by-4.0hugging-face
llmware
bling-cerebras-1.3b-0.1

BLING-cerebras-1.3b-0.1 — компактная инструкционная языковая модель, разработанная llmware на базе Cerebras-GPT-1.3B. Модель относится к семейству GPT-2 и рассчитана на запуск на процессоре ноутбука без специальных оптимизаций квантования; объём контекста — 2048 токенов. В карточке заявлена поддержка английского языка. Модель предназначена для локального прототипирования и автоматизации узкого круга задач, особенно в сценариях RAG с чувствительными данными. Она умеет отвечать на вопросы по переданному текстовому контексту, извлекать значения и составлять краткие сводки. Лицензия — Apache 2.0. Модель компактна и ориентирована на фактические ответы по предоставленному контексту, однако, как и другие языковые модели, может выдавать неточную или неполную информацию. Результаты следует проверять; качество за пределами целевых инструкционных задач не гарантируется.

205окт. 2023ctx2K
textapache-2.0hugging-face
sophiaqho
boolq_finetuned_v1

sophiaqho/boolq_finetuned_v1 — дообученная модель на основе PrimeQA/tydiqa-boolean-answer-classifier для классификации текста. Базовая модель XLM-RoBERTa имеет около 658,7 млн параметров; репозиторий содержит веса в формате safetensors и рассчитан на контекст до 514 токенов. Модель подходит для классификации ответов на вопросы формата «да/нет» по текстовому контексту: базовый чекпойнт различает yes, no и no-answer. В карточке указана оценка loss 0,7342 на тестовом наборе, но название обучающего датасета приведено как None, а подробности данных и сценариев применения отсутствуют. Модель распространяется по лицензии Apache-2.0.

110дек. 2023ctx514
textapache-2.0hugging-face
davanstrien
chat_topics

davanstrien/chat_topics — модель тематического моделирования на базе BERTopic, разработанная пользователем davanstrien. Она предназначена для автоматического выявления и интерпретации тематик в больших коллекциях текстов, в частности для анализа сообщений и диалогов. Модель обучена на 63 530 документах из датасета OpenAssistant/oasst1 и выделяет 75 тем. Модель работает с текстом на английском языке и может применяться для кластеризации сообщений, тематической классификации, анализа интересов пользователей и обзора содержания корпусов диалогов. Среди выявленных тематик — Generative AI, программирование, веб-разработка, Linux, физика, музыка, финансы, климат и другие; предусмотрена также категория -1 для документов, не отнесённых к основной теме. README не содержит сведений о конкретной embedding-модели, размере параметров, длине контекста или поддержке других модальностей и языков. Сильной стороной является интерпретируемость результатов: темы представлены ключевыми словами, частотами и метками, что удобно для исследовательского и аналитического использования. Ограничение модели состоит в зависимости от тем и языкового распределения обучающего корпуса: она ориентирована на английские тексты OpenAssistant и не является универсальной генеративной моделью. Для использования требуется библиотека BERTopic. Модель распространяется по лицензии MIT.

1.7K8май 2023
textmithugging-face
pucpr
clinicalnerpt-disease

Portuguese Clinical NER - Disease — модель для распознавания заболеваний в клинических текстах на португальском языке. Она входит в проект BioBERTpt, создана пользователем pucpr и обучена на бразильском клиническом корпусе SemClinBr; базой послужила BioBERTpt(all). Модель размечает текст по токенам в формате IOB2, а её архитектура — BERT с головой классификации токенов; размер составляет 205,1 млн параметров, контекст — до 512 токенов. Модель предназначена для извлечения упоминаний заболеваний из клинических записей и других медицинских текстов на бразильском португальском. Она решает задачу клинического NER и может использоваться в пайплайнах структурирования медицинских документов. Данные не содержат сведений о лицензии, поэтому условия использования определить нельзя.

869март 2022ctx512
texthugging-face
pucpr
clinicalnerpt-pharmacologic

Portuguese Clinical NER - Pharmacologic — модель распознавания фармакологических сущностей в клиническом тексте на португальском языке. Она входит в проект BioBERTpt: модели семейства обучались на бразильском клиническом корпусе SemClinBr в течение 10 эпох с разметкой IOB2; базовой моделью указана BioBERTpt(all). Архитектура — BERT для классификации токенов, размер — 205,1 млн параметров, длина контекста — 512 токенов. Модель предназначена для извлечения упоминаний фармакологических сущностей из клинических документов на бразильском португальском языке. Она может использоваться в медицинском анализе текста и при структурировании клинической информации. Карточка не уточняет полный перечень распознаваемых типов фармакологических сущностей и оценку качества. Лицензия в предоставленных данных не указана.

666март 2022ctx512
texthugging-face

Задачи профессии

18 задач
37Извлечение имён, организаций, мест, дат, сумм, идентификаторов и других сущностей. — AI разбирает неструктурированный источник на элементы и связывает каждое извлечённое значение с местом его происхождения. К исходным данным относятся журналы, сообщения, разнородные записи и неструктурированный текст. Формат результата: структурированные данные, полученные в рамках «Извлечение имён, организаций, мест, дат, сумм, идентификаторов и других сущностей», с нормализованными значениями и ссылками на исходные фрагменты. Надёжность оценивают посимвольной или пополевой сверкой с оригиналом и проверкой обязательных полей; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
38Извлечение отношений между сущностями. — Для этой задачи система выделяет сущности, числа и отношения, нормализует формат и формирует машиночитаемую запись. Рабочие входы: сообщения, разнородные записи, неструктурированный текст и таблицы. Формат результата: структурированные данные, полученные в рамках «Извлечение отношений между сущностями», с нормализованными значениями и ссылками на исходные фрагменты. Критерии приёмки: посимвольной или пополевой сверкой с оригиналом и проверкой обязательных полей; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
39Извлечение событий, их участников, времени, места и результата. — Практическая реализация: AI находит нужные фрагменты в исходном материале, распознаёт их роль и переносит в заданные структурированные поля. Входной контекст включает разнородные записи, неструктурированный текст, таблицы и журналы. Формат результата: структурированные данные, полученные в рамках «Извлечение событий, их участников, времени, места и результата», с нормализованными значениями и ссылками на исходные фрагменты. Ошибки выявляют посимвольной или пополевой сверкой с оригиналом и проверкой обязательных полей; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
40Извлечение обязательств, требований, условий, исключений и сроков. — Механизм: AI разбирает неструктурированный источник на элементы и связывает каждое извлечённое значение с местом его происхождения. Исходные данные: неструктурированный текст, таблицы, журналы и сообщения. Формат результата: структурированные данные, полученные в рамках «Извлечение обязательств, требований, условий, исключений и сроков», с нормализованными значениями и ссылками на исходные фрагменты. Проверка: посимвольной или пополевой сверкой с оригиналом и проверкой обязательных полей; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
41Извлечение числовых показателей и единиц измерения. — AI выделяет сущности, числа и отношения, нормализует формат и формирует машиночитаемую запись. К исходным данным относятся таблицы, журналы, сообщения и разнородные записи. Формат результата: структурированные данные, полученные в рамках «Извлечение числовых показателей и единиц измерения», с нормализованными значениями и ссылками на исходные фрагменты. Надёжность оценивают посимвольной или пополевой сверкой с оригиналом и проверкой обязательных полей; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
42Извлечение таблиц, списков и иерархий из неструктурированного контента. — Для этой задачи система находит нужные фрагменты в исходном материале, распознаёт их роль и переносит в заданные структурированные поля. Предметная логика: восстанавливает визуальную и логическую структуру, связывая ячейки, заголовки и подписи. Рабочие входы: геометрия страницы, журналы, сообщения, разнородные записи и неструктурированный текст. Формат результата: структурированные данные, полученные в рамках «Извлечение таблиц, списков и иерархий из неструктурированного контента», с нормализованными значениями и ссылками на исходные фрагменты. Критерии приёмки: посимвольной или пополевой сверкой с оригиналом и проверкой обязательных полей; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
43Преобразование свободного текста в JSON, XML, CSV или другую заданную схему. — Практическая реализация: AI сначала определяет элементы, которые должны сохраниться, затем перестраивает форму представления и отмечает внесённые изменения. Входной контекст включает сообщения, разнородные записи, неструктурированный текст и таблицы. Формат результата: преобразованный материал по задаче «Преобразование свободного текста в JSON, XML, CSV или другую заданную схему» с сохранённым содержанием и журналом значимых изменений. Ошибки выявляют сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
44Нормализация дат, адресов, телефонов, валют и единиц измерения. — Механизм: AI переводит объект в новый формат или вид, контролируя потери информации и нежелательные артефакты. Исходные данные: разнородные записи, неструктурированный текст, таблицы и журналы. Формат результата: преобразованный материал по задаче «Нормализация дат, адресов, телефонов, валют и единиц измерения» с сохранённым содержанием и журналом значимых изменений. Проверка: сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
45Сопоставление разных написаний одной и той же сущности. — AI нормализует сравниваемые объекты, выравнивает их по общим признакам и показывает совпадения, различия и связи. К исходным данным относятся неструктурированный текст, таблицы, журналы и сообщения. Формат результата: карта соответствий и различий для «Сопоставление разных написаний одной и той же сущности», где элементы приведены к единым критериям и связаны с первичными данными. Надёжность оценивают экспертной сверкой соответствий и проверкой, что различия не вызваны несовместимыми форматами; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
46Разрешение неоднозначных упоминаний и местоименных ссылок. — Для этой задачи система строит единое пространство признаков и устанавливает соответствия между элементами, которые описаны по-разному. Рабочие входы: таблицы, журналы, сообщения и разнородные записи. Формат результата: карта соответствий и различий для «Разрешение неоднозначных упоминаний и местоименных ссылок», где элементы приведены к единым критериям и связаны с первичными данными. Критерии приёмки: экспертной сверкой соответствий и проверкой, что различия не вызваны несовместимыми форматами; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
47Автоматическое присвоение метаданных, тегов и ключевых слов. — Практическая реализация: AI строит границы между категориями и ранжирует объекты так, чтобы наиболее важные или срочные обрабатывались раньше. Входной контекст включает журналы, сообщения, разнородные записи и неструктурированный текст. Формат результата: результат «Автоматическое присвоение метаданных, тегов и ключевых слов» в виде метки, класса, ранга или тематического слоя с уверенностью и объясняющими признаками. Ошибки выявляют по матрице ошибок, калибровке уверенности и отдельному анализу пограничных классов; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
48Построение таксономии по коллекции материалов. — Механизм: AI создаёт вычислительное представление объекта или процесса и проигрывает на нём альтернативные сценарии. Исходные данные: сообщения, разнородные записи, неструктурированный текст и таблицы. Формат результата: вычислительная модель или карта для «Построение таксономии по коллекции материалов» с результатами сценариев и анализом чувствительности. Проверка: сопоставлением с наблюдениями, тестами чувствительности и воспроизводимостью вычислений; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
49Построение онтологии или графа знаний. — AI восстанавливает скрытые связи между параметрами и использует модель для виртуальных экспериментов. К исходным данным относятся разнородные записи, неструктурированный текст, таблицы и журналы. Формат результата: вычислительная модель или карта для «Построение онтологии или графа знаний» с результатами сценариев и анализом чувствительности. Надёжность оценивают сопоставлением с наблюдениями, тестами чувствительности и воспроизводимостью вычислений; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
50Выделение тем и под-тем в больших массивах текста. — Для этой задачи система выделяет сущности, числа и отношения, нормализует формат и формирует машиночитаемую запись. Рабочие входы: неструктурированный текст, таблицы, журналы и сообщения. Формат результата: структурированные данные, полученные в рамках «Выделение тем и под-тем в больших массивах текста», с нормализованными значениями и ссылками на исходные фрагменты. Критерии приёмки: посимвольной или пополевой сверкой с оригиналом и проверкой обязательных полей; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
51Кластеризация материалов по смысловой близости. — Практическая реализация: AI извлекает признаки, относит каждый объект к подходящей категории или уровню приоритета и оценивает уверенность. Предметная логика: сопоставляет не только одинаковые слова, но и намерение, контекст и близкие понятия. Входной контекст включает текст запроса, таблицы, журналы, сообщения и разнородные записи. Формат результата: результат «Кластеризация материалов по смысловой близости» в виде метки, класса, ранга или тематического слоя с уверенностью и объясняющими признаками. Ошибки выявляют по матрице ошибок, калибровке уверенности и отдельному анализу пограничных классов; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
52Обнаружение точных и смысловых дублей. — Механизм: AI анализирует поток наблюдений и локализует признаки, которые отличают целевой объект или нарушение от обычного состояния. Предметная логика: сопоставляет не только одинаковые слова, но и намерение, контекст и близкие понятия. Исходные данные: текст запроса, журналы, сообщения, разнородные записи и неструктурированный текст. Формат результата: перечень объектов, событий или отклонений, относящихся к «Обнаружение точных и смысловых дублей», с локализацией, уверенностью и признаками срабатывания. Проверка: по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
53Сопоставление полей между несовместимыми схемами данных. — AI сопоставляет объекты по одинаковым критериям и отделяет содержательные различия от различий формата или терминологии. К исходным данным относятся сообщения, разнородные записи, неструктурированный текст и таблицы. Формат результата: карта соответствий и различий для «Сопоставление полей между несовместимыми схемами данных», где элементы приведены к единым критериям и связаны с первичными данными. Надёжность оценивают экспертной сверкой соответствий и проверкой, что различия не вызваны несовместимыми форматами; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
54Восстановление недостающей структуры у плохо оформленных данных. — Для этой задачи система преобразует исходный материал по заданным правилам, сохраняя смысл, структуру и критически важные детали. Рабочие входы: разнородные записи, неструктурированный текст, таблицы и журналы. Формат результата: преобразованный материал по задаче «Восстановление недостающей структуры у плохо оформленных данных» с сохранённым содержанием и журналом значимых изменений. Критерии приёмки: сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику. <a id="section-i-4"></a>

0 моделей