/ Профессии
Разработка ПО, данные, AI и инфраструктура

II.8Инженерия данных и аналитика

В разделе собраны самостоятельные задачи, где AI помогает готовить надёжные данные и превращать их в понятную аналитику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.

ЭмбеддингиТекст
AI-задач
22
в этой профессии
Подходящих моделей
23 488
по типу задач и модальности
Категория
II. Разработка и данные
Основные типы
ЭмбеддингиТекст

Рекомендованные модели

23 488 моделей
Загрузки
Лайки
Дата выхода
4 981–5 010 из 23 488
waterabbit114
my-setfit-classifier_toxic

waterabbit114/my-setfit-classifier_toxic — модель классификации текста на основе SetFit, дообученная автором на sentence-transformers/paraphrase-mpnet-base-v2. Она использует MPNet для получения представлений текста и классификатор LogisticRegression; обучение выполнено методом few-shot с контрастивным дообучением Sentence Transformer и последующим обучением классификационной головы. Модель различает два класса: примеры токсичных сообщений и примеры, отнесённые к другому классу. Модель предназначена для классификации коротких текстов, например комментариев и сообщений, по признаку токсичности. В README указана максимальная длина последовательности 512 токенов; метаданные сообщают о 136,7 млн параметров. Для запуска требуется библиотека SetFit. Лицензия в предоставленных данных не указана.

2.8K0июнь 2024ctx514
texthugging-face
fredzzp
plaidq-0.7b

plaidq-0.7b — модель генерации текста семейства PlaidQ, построенная на дообученном Qwen3-0.6B. Вместо последовательного предсказания токенов слева направо она использует непрерывную гауссову латентную диффузию: целая последовательность представляется в 16-мерном пространстве, а двунаправленный Qwen3-0.6B последовательно её уточняет. Генерация выполняется параллельно по позициям, а число шагов денойзинга можно выбирать при семплировании. Чекпойнт содержит 717,4 млн параметров в формате fp32 и рассчитан на последовательности до 2048 токенов. README описывает оценки на задачах генерации и заполнения кода, поэтому модель подходит для экспериментов с генерацией и инфиллингом кода, а также с диффузионной генерацией текста. Для запуска нужны репозиторий PlaidQ и токенизатор Qwen/Qwen3-0.6B; это веса для инференса без состояния обучения. Модель выпущена по лицензии Apache-2.0.

841сент. 2026
textapache-2.0hugging-face
bucketresearch
politicalBiasBERT

PoliticalBiasBERT — англоязычная модель классификации текста на базе BERT, дообученная bucketresearch на примерах политически предвзятых текстов. Она предназначена для анализа текста и выявления политической предвзятости; архитектура — BertForSequenceClassification, размер — 135,5 млн параметров, контекст — до 512 токенов. Модель использует Transformers и доступна в форматах PyTorch и Safetensors. Модель подойдёт для предварительной разметки текстов и исследовательского анализа политической предвзятости. Она обучена на примерах предвзятых текстов, однако README не описывает классы, датасеты и качество на независимых данных, поэтому результаты следует проверять для конкретного применения. Лицензия — MIT.

54233янв. 2023ctx512
textmithugging-face
xiaowu0162
repoformer-3b

Repoformer-3B — личное воспроизведение модели, описанной в научной статье. По карточке, модель обучена примерно на 300 тысячах примеров продолжения фрагментов кода Python и функций, собранных из Stack. Она предназначена для генерации продолжений кода и функций Python по текстовому контексту. Модель использует плотную архитектуру GPTBigCodeForCausalLM и распространяется в формате PyTorch. Размер контекста — 8192 токена. Репозиторий создан в октябре 2024 года. Лицензия — MIT. Описание не уточняет качество модели, её ограничения или языки интерфейса помимо обучающих данных на Python; поэтому их нельзя оценить по карточке. Указание на личное воспроизведение статьи также не подтверждает эквивалентность исходной модели.

410окт. 2024ctx8.2K
textmithugging-face
KoichiYasuoka
rinna-gpt2-small-japanese-ud-causal

Koichi Yasuoka подготовил эту модель на базе rinna/japanese-gpt2-small для морфосинтаксического анализа японского текста. GPT-2 дообучена на корпусе UD_Japanese-GSDLUW и предназначена для определения частей речи и зависимостей между словами; в Hugging Face она классифицирована как модель разметки токенов. Модель принимает японский текст и выдаёт токенизированную разметку, включая грамматические теги и зависимости. Архитектура — GPT-2 с плотными слоями, формат весов — PyTorch, размер контекста — 1024 токена. Лицензия — MIT.

1550сент. 2024ctx1K
textmithugging-face
s-nlp
roberta_toxicity_classifier_v1

s-nlp/roberta_toxicity_classifier_v1 — классификатор токсичности текста на архитектуре RoBERTa, разработанный как копия SkolkovoInstitute/roberta_toxicity_classifier и обученный на непересекающемся с ним наборе данных. Модель предназначена для использования в алгоритмах детоксикации текста, в том числе описанных в работе Text Detoxification using Large Pre-trained Neural Models. Модель содержит 151,8 млн параметров, принимает текст с контекстом до 514 токенов и выдаёт классификационный результат. Карточка не сообщает поддерживаемые языки и лицензию; поэтому их условия и языковой охват здесь не уточняются.

290март 2022ctx514
texthugging-face
pysentimiento
robertuito-emotion-analysis

robertuito-emotion-analysis — модель pysentimiento для распознавания эмоций в испанских текстах. Она основана на RoBERTuito, архитектуре RoBERTa, обученной на испанских твитах, и дообучена на корпусе TASS 2020 Task 2. Модель содержит 136,3 млн параметров и принимает последовательности длиной до 130 токенов. Модель относит текст к одной из шести эмоций по Экману — гневу, отвращению, страху, радости, грусти или удивлению — либо к нейтральному классу. Она предназначена для анализа эмоций в публикациях и коротких сообщениях на испанском языке. В оценке pysentimiento на задаче распознавания эмоций модель показала Macro F1 0,560 ± 0,010. Это классификатор текста на PyTorch. Лицензия в предоставленных данных не указана.

168K20март 2022ctx130
texthugging-face
sshibinthomass
sam2-household-accuracy-v3-20260710-175456

SAM2 Household Accuracy V3 — модель сегментации изображений, дообученная sshibinthomass на базе facebook/sam2.1-hiera-small для выделения бытовых объектов масками по подсказкам в виде ограничивающих рамок. Она возвращает несколько вариантов масок и оценки их IoU; в описанном режиме выбирается вариант с наибольшей предсказанной оценкой IoU. Модель построена на архитектуре SAM2 и предназначена для разметки бытовых объектов на изображениях. Для обучения использованы данные сегментации COCO 2017: 15 000 обучающих, 1 000 валидационных и 895 тестовых примеров. В README приведены IoU 0,782 на валидации и IoU 0,801 для выбранных кандидатов на тесте. Доступны веса safetensors для библиотеки Transformers. Лицензия — Apache-2.0.

90июль 2026
imageapache-2.0hugging-face
google
shieldgemma-2-4b-it

ShieldGemma 2 4B — модель Google на базе Gemma 3 4B IT для проверки безопасности изображений. Она принимает изображение и текстовую инструкцию с политикой безопасности и оценивает, нарушает ли изображение эту политику, выдавая оценки для ответов «Yes» и «No». Модель предназначена для модерации пользовательских изображений и результатов генерации, а также для фильтрации входов и выходов систем с поддержкой зрения. Она выявляет сексуально откровенный контент, опасные материалы и сцены насилия или жестокости. Модель содержит 4 миллиарда параметров и обучена на примерах с естественными и синтетическими изображениями; для синтетических данных указаны англоязычные сценарии. Результат зависит от формулировки заданной политики. Google предупреждает, что доступные наборы оценки могут не отражать реальные сценарии, а неоднозначные формулировки и языковые нюансы могут приводить к непредсказуемым оценкам. Условия использования определяются лицензией Gemma и правилами Google о запрещённом использовании.

8.7K180март 2025
textimagegemmahugging-face
desdesmond
trained_with_six_emotions

desdesmond/trained_with_six_emotions — модель классификации текста, созданная дообучением ykacer/bert-base-cased-imdb-sequence-classification. Она построена на архитектуре BERT и предназначена для отнесения текста к классам. Название репозитория указывает на шесть эмоциональных категорий, однако README не уточняет метки классов и обучающий набор данных. Модель содержит 135,5 млн параметров, принимает текст с контекстом до 512 токенов и распространяется в формате safetensors. На указанной в README оценочной выборке приведены loss 0,2450 и accuracy 0,9284; состав и методика оценки не описаны. Лицензия — Apache-2.0.

80нояб. 2024ctx512
textapache-2.0hugging-face
iravikr
trichronos-0.1B

TriChronos-0.1B — созданная с нуля модель для вероятностного прогнозирования временных рядов, разработанная автором репозитория iravikr. Это примерно 104 млн параметров, encoder-only Transformer на PyTorch с временным self-attention, вниманием между рядами и BitLinear FFN. Веса обучены с ternary-квантизацией BitNet-style {-1, 0, +1}; входные ряды разбиваются на патчи по 8 шагов, а модель выдаёт 21 квантиль для каждого шага прогноза. Модель предназначена для экспериментов с компактными квантованными моделями временных рядов и как лёгкий базовый ориентир для вероятностных прогнозов. На некоторых наборах данных она превзошла наивный baseline, в том числе на Weather и M3-Monthly; качество зависит от частоты данных и лучше на месячных и более частых рядах. Репозиторий указывает лицензию Apache-2.0. Модель обучалась на Salesforce/lotsa_data примерно 105 тысяч шагов с ограниченным вычислительным бюджетом и не позиционируется как модель уровня state of the art. Она не рекомендуется для годовых или очень коротких рядов, горизонтов существенно длиннее 24 шагов и задач, требующих подтверждённой калибровки метрик на исходных значениях. Усреднение представлений патчей в прогнозной голове может сглаживать детали при длинных горизонтах.

101авг. 2026
textapache-2.0hugging-face
tunis-ai
TunBERT

TunBERT — модель для классификации последовательностей на базе архитектуры BERT, опубликованная tunis-ai. Репозиторий содержит конвертированную из формата NeMo версию модели Instadeep в формате Safetensors; размер — 136,7 млн параметров, контекст — до 512 токенов. Для загрузки предусмотрена связка токенизатора и AutoModelForSequenceClassification из Transformers. Модель предназначена для классификации текстов на арабском языке. Она может применяться в задачах, где требуется присвоить тексту одну или несколько категорий; карточка не уточняет набор меток или конкретные сценарии. Модель распространяется по лицензии MIT. Классификация на иных языках и качество на конкретных данных не подтверждены карточкой.

20915нояб. 2023ctx512
textmithugging-face
dvs
videomae-base-finetuned-movienet

dvs/videomae-base-finetuned-movienet — модель классификации видео, полученная дообучением MCG-NJU/videomae-base. Она содержит 113,2 млн параметров и использует архитектуру VideoMAEForVideoClassification; веса опубликованы в формате PyTorch. Модель предназначена для присвоения видео категорий, однако README не описывает набор классов или конкретные сценарии применения MovieNet. В README приведены результаты оценки: accuracy 0,6823 и loss 1,2558 после 6,1 эпохи обучения. Данные обучения обозначены как неизвестный датасет, поэтому по карточке нельзя судить о составе категорий и обобщающей способности модели. Лицензия CC BY-NC 4.0 разрешает использование с атрибуцией, но ограничивает коммерческое применение.

150июль 2023
videocc-by-nc-4.0hugging-face
MCG-NJU
videomae-large-finetuned-kinetics

MCG-NJU/videomae-large-finetuned-kinetics — модель VideoMAE большого размера, опубликованная командой MCG-NJU и дообученная для классификации видео на наборе Kinetics-400. Она принимает видеокадры и относит ролик к одной из 400 категорий действий. Модель основана на Vision Transformer: видео представляется последовательностью патчей размером 16×16, а предварительное самообучение использует masked autoencoder для восстановления скрытых участков. В модели 402,7 млн параметров; веса доступны в форматах PyTorch и Safetensors. На тестовом наборе Kinetics-400 указана точность top-1 84,7% и top-5 96,5%. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

36K13авг. 2022
videocc-by-nc-4.0hugging-face
laion
vocalburst-captioning-whisper

laion/vocalburst-captioning-whisper — дообученная LAION модель на архитектуре Whisper-small encoder–decoder для создания текстовых описаний коротких неречевых вокализаций: смеха, вздохов, крика, кашля, плача, одышки и прочих подобных звуков. Она принимает аудиофрагмент и генерирует свободный текст на английском языке. Веса занимают 153,1 млн параметров; модель построена на Transformers и сохранена в формате safetensors. Модель подходит для автоматической подписи вокальных звуков в аудиозаписях и для конвейеров разметки аудио. Её можно использовать вместе с laion/vocalburst-locator: детектор находит временные границы вокализаций, после чего эта модель описывает каждый сегмент. На валидационной выборке авторы получили cosine similarity 0,2506 по метрике CLAP против 0,190 у базовой модели. Модель дообучена на синтетических примерах вокализаций; приведённые результаты относятся к этой валидационной выборке, а полнота обнаружения зависит от совместно используемого детектора. Лицензия — CC BY 4.0.

2.4K0июнь 2026ctx1K
audiocc-by-4.0hugging-face
facebook
w2v-bert-2.0

W2v-BERT 2.0 — речевой энкодер на архитектуре Conformer, разработанный Meta и лежащий в основе моделей Seamless. Он предварительно обучен на 4,5 млн часов неразмеченного аудио более чем на 143 языках и предназначен для извлечения речевых представлений, которые можно использовать в качестве основы для последующей настройки систем распознавания речи и классификации аудио. Это базовый чекпойнт без выходной головы для конкретной задачи: для ASR и классификации его необходимо дообучить. В каталоге указано 402,7 млн параметров; в README для версии модели указано 600 млн. Репозиторий содержит веса в формате safetensors. Лицензия — MIT.

1.1M240дек. 2023
textembeddingmithugging-face
Prasadrao
xlm-roberta-large-go-emotions-v1

Prasadrao разработал эту модель на базе XLM-RoBERTa Large, дообучив её для классификации эмоций в тексте на наборе данных GoEmotions. Она предназначена для определения эмоциональных категорий в тексте и может использоваться для анализа тональности сообщений, отзывов и реплик. Модель содержит 658,7 млн параметров, построена на архитектуре XLM-RoBERTa для классификации последовательностей и принимает контекст до 514 токенов. Опубликована в формате safetensors по лицензии MIT. На оценочном наборе указаны accuracy 0,4521 и F1 0,5170, поэтому качество предсказаний может быть ограниченным; карточка не описывает подробности обучающих данных, список меток и языков. Для корректного применения следует сверить выходные метки с конфигурацией модели и оценить качество на данных целевого сценария.

170февр. 2024ctx514
textmithugging-face
YoliGuadir
xlnet-tass-sentimientos

YoliGuadir/xlnet-tass-sentimientos — дообученная модель XLNet Base Cased для классификации тональности текстов на испанском языке. Она разработана автором репозитория и предназначена для определения тональности в задаче TASS. Модель содержит 137,8 млн параметров, построена на архитектуре XLNetForSequenceClassification и распространяется в формате safetensors; для работы используется Transformers. В карточке приведены результаты оценки: accuracy 0,5437, F1 Macro 0,5359 и F1 Weighted 0,5381. В описании также указано, что опубликованный вариант обучался с batch size 16 и показал F1 Macro 0,5339, не достигнув упомянутого baseline BETO в 64%. Лицензия — MIT. Датасет обозначен как None, поэтому детали обучающих данных неясны.

310июнь 2026
textmithugging-face
facebook
xmod-large-prenorm

facebook/xmod-large-prenorm — мультиязычная модель X-MOD размера large, разработанная Facebook и обученная на 81 языке. Она предназначена для заполнения пропусков в тексте: модель предсказывает замаскированные токены с учётом окружающего контекста и подходит для задач на основе masked language modeling. Модель содержит около 658,7 млн параметров, использует плотную архитектуру X-MOD и принимает текстовые последовательности с контекстом до 514 токенов. В метаданных перечислена поддержка языков от африкаанс до ория; карточка указывает обучение на 81 языке. Доступна в формате PyTorch по лицензии MIT.

2790дек. 2022ctx514
textmithugging-face
Maltehb
aelaectra-danish-electra-small-cased

Ælæctra Danish ELECTRA Small Cased — датская языковая модель на архитектуре ELECTRA, созданная Malte Højmark-Bertelsen в рамках бакалаврской работы по когнитивистике. Модель содержит 20,8 млн параметров, обучена на датском корпусе Danish Gigaword (DAGW) по схеме ELECTRA с задачей выявления заменённых токенов. Для обработки текста использует регистр букв и поддерживает контекст до 512 токенов. Модель предназначена для задач обработки датского языка и может служить компактной основой для дообучения, в частности для распознавания именованных сущностей. В оценке на DaNE её F1 ниже, чем у DaBERT и mBERT, но модель существенно меньше и требует меньше вычислительных ресурсов. Карточка рекомендует дальнейшую оценку на других задачах. Доступны веса PyTorch и TensorFlow; лицензия MIT.

9882март 2022ctx512
textmithugging-face
sercetexam9
afro-xlmr-base-afr-finetuned-augmentation-LUNAR

afro-xlmr-base-afr-finetuned-augmentation-LUNAR — модель классификации последовательностей, дообученная на основе Davlan/afro-xlmr-base. Она предназначена для присвоения тексту одной или нескольких категорий; конкретные категории и прикладной сценарий в карточке не описаны. Модель построена на архитектуре XLM-RoBERTa, содержит 305,2 млн параметров и рассчитана на контекст до 514 токенов. Базовая модель ориентирована на тексты на африканских языках. В карточке приведены результаты оценки: loss 0,2755, F1 0,5012, ROC AUC 0,6931 и accuracy 0,6908; без сведений о наборе данных, разбиении и методике оценки эти числа трудно интерпретировать. Модель выпущена под лицензией MIT.

110янв. 2025ctx514
textmithugging-face
ConnyGenz
artificially-natural-roberta

ConnyGenz/artificially-natural-roberta — модель классификации текста на базе RoBERTa, дообученная на основе openai-community/roberta-base-openai-detector. Она предназначена для определения классов текста; карточка указывает F1 0,98 и loss 0,146 на оценочном наборе, но не раскрывает сами классы, состав данных и методику оценки. Модель содержит 151,8 млн параметров, использует архитектуру RobertaForSequenceClassification и принимает контекст до 514 токенов. Распространяется в формате safetensors по лицензии MIT. Карточка не сообщает специальных ограничений или целевых сценариев, поэтому результаты следует проверять на данных конкретного применения.

70янв. 2024ctx514
textmithugging-face
nunuing
audio_cls_korean

nunuing/audio_cls_korean — модель классификации аудио на основе Wav2Vec2, дообученная на Kkonjeong/wav2vec2-base-korean. Она предназначена для отнесения аудиозаписей к классам; набор классов и обучающие данные в карточке не описаны. Модель содержит 113,3 млн параметров и распространяется в формате safetensors через библиотеку Transformers. На оценочном наборе указаны accuracy 0,8739 и loss 1,0013. Лицензия в предоставленных данных не указана.

150авг. 2026
texthugging-face
vietnamese-acsa
bamibert-res-acsa-multilabel

bamibert-res-acsa-multilabel — модель классификации текста на архитектуре RoBERTa с 129 млн параметров. Согласно карточке, она обучена с нуля на неизвестном наборе данных; подробности о назначении, классах и обучении отсутствуют. Метаданные указывают контекст длиной 2050 токенов и формат весов safetensors. Лицензия не указана в предоставленных данных.

310авг. 2026ctx2.1K
texthugging-face
linhnvhust
bge_m3_multiplenegativesrankingloss

linhnvhust/bge_m3_multiplenegativesrankingloss — модель эмбеддингов, дообученная на основе BAAI/bge-m3 для банковской области. Она предназначена для семантического поиска и извлечения документов, а также для оценки сходства текстов; пример в карточке посвящён запросу об условиях оформления кредитной карты. Архитектура — плотная модель на базе XLM-RoBERTa с 658,7 млн параметров, поддерживает многоязычный ввод и контекст до 8194 токенов. Для получения эмбеддингов карточка демонстрирует Sentence-Transformers с нормализацией векторов. Модель распространяется по лицензии Apache-2.0. Ограничение: специализация на банковских текстах может снижать качество на других темах; конкретные языки обучения в карточке не перечислены.

1260авг. 2025ctx8.2K
textembeddingapache-2.0hugging-face
Johnson8187
Chinese-Emotion-Small

Johnson8187/Chinese-Emotion-Small — модель классификации китайского текста по эмоциональному тону, дообученная на базе MoritzLaurer/mDeBERTa-v3-base-mnli-xnli. Это компактная версия семейства Chinese-Emotion; модель содержит 306 млн параметров, использует архитектуру DeBERTa-v2 и принимает последовательности длиной до 512 токенов. Модель относит фразу к одной из восьми категорий: нейтральный, обеспокоенный, радостный, сердитый, грустный, вопросительный, удивлённый или испытывающий отвращение тон. Она предназначена для анализа китайских высказываний, например мониторинга эмоций в обращениях в поддержку, анализа публикаций в соцсетях и классификации отзывов. Для дообучения использованы 4 000 вручную размеченных примеров на традиционном китайском языке из Chinese_Multi-Emotion_Dialogue_Dataset. Модель распространяется по лицензии MIT. Карточка не приводит метрик качества, поэтому точность на других жанрах текста и вариантах китайского языка по ней оценить нельзя.

3809дек. 2024ctx512
textmithugging-face
alexandrainst
da-subjectivivity-classification-base

Danish BERT Tone — модель на базе BERT, разработанная Alexandra Institute путём дообучения предварительно обученного датского BERT от BotXO. Она классифицирует датский текст как субъективный или объективный и подходит для анализа тональности высказываний, например сообщений в социальных сетях и фрагментов парламентских дебатов. Модель содержит 137,8 млн параметров, принимает текстовые последовательности длиной до 512 токенов и доступна в форматах PyTorch, Safetensors и TensorFlow. Для обучения использованы наборы DDSC/twitter-sent и DDSC/europarl. Модель распространяется по лицензии Apache-2.0. Она предназначена для датского языка; результаты на других языках и для текстов за пределами обучающих сценариев могут быть ненадёжными.

7782март 2022ctx512
textapache-2.0hugging-face
KoichiYasuoka
deberta-large-japanese-luw-upos

Koichi Yasuoka разработал модель DeBERTa V2 large для разметки японского текста частями речи по универсальной системе UPOS. Она дообучена на текстах Aozora Bunko на основе KoichiYasuoka/deberta-large-japanese-aozora и присваивает тег UPOS каждому длинному слову; модель также предназначена для анализа зависимостей. Модель принимает японский текст и выдаёт метки для токенов. Архитектура — DeBERTa V2 с 435,4 млн параметров, контекст — до 512 токенов. Репозиторий содержит веса PyTorch. Лицензия — CC BY-SA 4.0.

1341май 2022ctx512
textcc-by-sa-4.0hugging-face
HamzaNaser
Dialects-to-MSA-Transformer

Dialects-to-MSA-Transformer — модель Hamza Naser, дообученная на базе encoder-decoder модели facebook/m2m100_418M для преобразования арабских диалектных текстов в литературный арабский (MSA). Модель содержит 332,5 млн параметров, принимает текст и выдаёт текст; максимальный контекст составляет 1024 токена. Обучение проводилось на 800 тысячах пар предложений из арабских твитов и их преобразований, сгенерированных gpt-4o-mini. Лучше всего модель обучена на диалектах стран Персидского залива. Основной сценарий — нормализация диалектного арабского в MSA. Модель также может исправлять опечатки, расставлять пунктуацию и добавлять часть диакритических знаков; автор сообщает о возможности перевода с английского на арабский, хотя модель не дообучалась на англоязычных данных. Эти дополнительные возможности могут быть непоследовательными. Модель распространяется по лицензии Apache-2.0.

640авг. 2024ctx1K
textapache-2.0hugging-face
wsntxxn
effb2-trm-audiocaps-captioning

wsntxxn/effb2-trm-audiocaps-captioning — компактная модель для создания текстовых описаний звуков. Она использует энкодер EfficientNet-B2 и двухслойный декодер Transformer и обучена на AudioCaps и неразмеченных данных AudioSet. Модель предназначена для генерации англоязычных подписей к аудиозаписям; в метаданных Hugging Face указана задача feature-extraction, поэтому каталог классифицирует её как извлечение признаков. Модель опубликована 17 июня 2024 года в форматах PyTorch и safetensors под лицензией Apache-2.0. README характеризует её как лёгкую, но не приводит оценок качества или конкретных ограничений.

1.6K2июнь 2024
textembeddingapache-2.0hugging-face

Задачи профессии

22 задачи
400Профилирование нового набора данных. — Механизм: AI сопоставляет наблюдаемое состояние с эталонами, нормативами или историческими аналогами и оценивает степень соответствия. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. Исходные данные: таблицы и события, схемы и определения бизнес-метрик. Формат результата: оценка по задаче «Профилирование нового набора данных» в числовой или категориальной форме с расшифровкой факторов, допущений и неопределённости. Проверка: сверкой с экспертными оценками или фактическими исходами, а также анализом чувствительности к входным данным; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
401Определение вероятного смысла и типа столбцов. — AI сопоставляет наблюдаемые признаки с критериями и устанавливает требуемое значение, состояние или вариант. К исходным данным относятся таблицы, события, файлы и схемы. Формат результата: установленное значение или вариант по задаче «Определение вероятного смысла и типа столбцов» с оценкой уверенности и основаниями решения. Надёжность оценивают по точности относительно эталона, калибровке уверенности и разбору случаев, где источники расходятся; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
402Обнаружение пропусков, выбросов и невозможных значений. — Для этой задачи система анализирует поток наблюдений и локализует признаки, которые отличают целевой объект или нарушение от обычного состояния. Рабочие входы: события, файлы, схемы и каталоги данных. Формат результата: перечень объектов, событий или отклонений, относящихся к «Обнаружение пропусков, выбросов и невозможных значений», с локализацией, уверенностью и признаками срабатывания. Критерии приёмки: по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
403Выбор стратегии заполнения пропущенных данных. — Практическая реализация: AI объединяет историю, текущую ситуацию и обязательные условия, чтобы предложить следующий наиболее обоснованный шаг. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. Входной контекст включает таблицы и события, схемы и определения бизнес-метрик. Формат результата: несколько вариантов для «Выбор стратегии заполнения пропущенных данных», ранжированных по полезности, ограничениям и причинам выбора. Ошибки выявляют по полезности для пользователя, соблюдению ограничений и качеству результата после принятия рекомендации; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
404Очистка и стандартизация категориальных значений. — Механизм: AI преобразует исходный материал по заданным правилам, сохраняя смысл, структуру и критически важные детали. Исходные данные: схемы, каталоги данных, SQL и бизнес-метрики. Формат результата: преобразованный материал по задаче «Очистка и стандартизация категориальных значений» с сохранённым содержанием и журналом значимых изменений. Проверка: сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
405Сопоставление и объединение данных из разных источников. — AI строит единое пространство признаков и устанавливает соответствия между элементами, которые описаны по-разному. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. К исходным данным относятся таблицы и события, схемы и определения бизнес-метрик. Формат результата: карта соответствий и различий для «Сопоставление и объединение данных из разных источников», где элементы приведены к единым критериям и связаны с первичными данными. Надёжность оценивают экспертной сверкой соответствий и проверкой, что различия не вызваны несовместимыми форматами; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
406Автоматическое построение ETL/ELT-конвейера. — Для этой задачи система объединяет уравнения, эмпирические данные и обученные зависимости в модель, пригодную для анализа чувствительности. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. Рабочие входы: таблицы и события, схемы и определения бизнес-метрик. Формат результата: вычислительная модель или карта для «Автоматическое построение ETL/ELT-конвейера» с результатами сценариев и анализом чувствительности. Критерии приёмки: сопоставлением с наблюдениями, тестами чувствительности и воспроизводимостью вычислений; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
407Генерация преобразований данных по словесному описанию. — Практическая реализация: AI создаёт новый артефакт по требованиям, исходным фактам и примерам, сохраняя возможность последующего редактирования. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. Входной контекст включает таблицы и события, схемы и определения бизнес-метрик. Формат результата: редактируемый артефакт по задаче «Генерация преобразований данных по словесному описанию», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — аналитический набор или запрос. Ошибки выявляют по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
408Проверка качества данных по автоматически предложенным правилам. — Механизм: AI сверяет объект с эталоном, правилами и взаимными зависимостями, отмечая пропуски, конфликты и нарушения. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. Исходные данные: таблицы и события, схемы и определения бизнес-метрик. Формат результата: протокол выполнения «Проверка качества данных по автоматически предложенным правилам» с пройденными условиями, найденными нарушениями и спорными местами для ручного решения. Проверка: повторным запуском на эталонных примерах, ручной проверкой спорных случаев и полнотой контрольного покрытия; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
409Обнаружение нарушения контрактов данных. — AI сочетает обученные шаблоны с контрольными правилами, чтобы находить значимые случаи и не пропускать пограничные примеры. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. К исходным данным относятся таблицы и события, схемы и определения бизнес-метрик. Формат результата: перечень объектов, событий или отклонений, относящихся к «Обнаружение нарушения контрактов данных», с локализацией, уверенностью и признаками срабатывания. Надёжность оценивают по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
410Анализ происхождения показателя и цепочки преобразований. — Для этой задачи система разбирает данные по существенным признакам, выявляет связи и формирует выводы с привязкой к исходным свидетельствам. Рабочие входы: файлы, схемы, каталоги данных и SQL. Формат результата: объяснимые выводы по задаче «Анализ происхождения показателя и цепочки преобразований» с влияющими факторами, альтернативными трактовками и ссылками на данные. Критерии приёмки: воспроизводимостью расчётов, проверкой источников и сравнением выводов с альтернативными объяснениями; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
411Генерация SQL по вопросу на естественном языке. — Практическая реализация: AI собирает содержание и структуру из заданных ограничений, затем формирует несколько вариантов для выбора и доработки. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. Входной контекст включает таблицы и события, схемы и определения бизнес-метрик. Формат результата: редактируемый артефакт по задаче «Генерация SQL по вопросу на естественном языке», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — аналитический набор или запрос. Ошибки выявляют по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
412Объяснение SQL-запроса и поиск логических ошибок. — Механизм: AI агрегирует разрозненные сигналы в целостную картину и показывает, какие данные поддерживают каждый вывод. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. Исходные данные: таблицы и события, схемы и определения бизнес-метрик. Формат результата: объяснимые выводы по задаче «Объяснение SQL-запроса и поиск логических ошибок» с влияющими факторами, альтернативными трактовками и ссылками на данные. Проверка: воспроизводимостью расчётов, проверкой источников и сравнением выводов с альтернативными объяснениями; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
413Автоматическое построение подходящей визуализации. — AI создаёт вычислительное представление объекта или процесса и проигрывает на нём альтернативные сценарии. К исходным данным относятся SQL, бизнес-метрики, таблицы и события. Формат результата: вычислительная модель или карта для «Автоматическое построение подходящей визуализации» с результатами сценариев и анализом чувствительности. Надёжность оценивают сопоставлением с наблюдениями, тестами чувствительности и воспроизводимостью вычислений; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
414Создание смыслового слоя метрик. — Для этой задачи система собирает содержание и структуру из заданных ограничений, затем формирует несколько вариантов для выбора и доработки. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. Рабочие входы: таблицы и события, схемы и определения бизнес-метрик. Формат результата: редактируемый артефакт по задаче «Создание смыслового слоя метрик», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — аналитический набор или запрос. Критерии приёмки: по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
415Объяснение изменения показателя через декомпозицию факторов. — Практическая реализация: AI агрегирует разрозненные сигналы в целостную картину и показывает, какие данные поддерживают каждый вывод. Входной контекст включает таблицы, события, файлы и схемы. Формат результата: объяснимые выводы по задаче «Объяснение изменения показателя через декомпозицию факторов» с влияющими факторами, альтернативными трактовками и ссылками на данные. Ошибки выявляют воспроизводимостью расчётов, проверкой источников и сравнением выводов с альтернативными объяснениями; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
416Когортный анализ. — Механизм: AI разбирает данные по существенным признакам, выявляет связи и формирует выводы с привязкой к исходным свидетельствам. Исходные данные: события, файлы, схемы и каталоги данных. Формат результата: объяснимые выводы по задаче «Когортный анализ» с влияющими факторами, альтернативными трактовками и ссылками на данные. Проверка: воспроизводимостью расчётов, проверкой источников и сравнением выводов с альтернативными объяснениями; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
417Анализ воронки и точек потери. — AI сопоставляет наблюдения, отделяет устойчивые закономерности от случайных совпадений и объясняет влияющие факторы. К исходным данным относятся файлы, схемы, каталоги данных и SQL. Формат результата: объяснимые выводы по задаче «Анализ воронки и точек потери» с влияющими факторами, альтернативными трактовками и ссылками на данные. Надёжность оценивают воспроизводимостью расчётов, проверкой источников и сравнением выводов с альтернативными объяснениями; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
418Сегментация объектов по поведению. — Для этой задачи система строит границы между категориями и ранжирует объекты так, чтобы наиболее важные или срочные обрабатывались раньше. Рабочие входы: схемы, каталоги данных, SQL и бизнес-метрики. Формат результата: результат «Сегментация объектов по поведению» в виде метки, класса, ранга или тематического слоя с уверенностью и объясняющими признаками. Критерии приёмки: по матрице ошибок, калибровке уверенности и отдельному анализу пограничных классов; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
419Поиск статистически значимых зависимостей. — Практическая реализация: AI индексирует доступные материалы, понимает смысл запроса и ранжирует кандидатов по содержательному совпадению. Входной контекст включает каталоги данных, SQL, бизнес-метрики и таблицы. Формат результата: ранжированный список кандидатов по задаче «Поиск статистически значимых зависимостей» со ссылками на источники, оценкой соответствия и фрагментами подтверждения. Ошибки выявляют по релевантности, полноте, отсутствию недопустимых источников и точности ссылок на подтверждение; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
420Подготовка аналитического отчёта с выводами и оговорками. — Механизм: AI собирает содержание и структуру из заданных ограничений, затем формирует несколько вариантов для выбора и доработки. Исходные данные: SQL, бизнес-метрики, таблицы и события. Формат результата: редактируемый артефакт по задаче «Подготовка аналитического отчёта с выводами и оговорками», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — аналитический набор или запрос. Проверка: по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
421Естественно-языковой интерфейс к BI-системе. — AI обходит разрешённые источники, объединяет найденное и отсеивает нерелевантные либо дублирующиеся результаты. К исходным данным относятся бизнес-метрики, таблицы, события и файлы. Формат результата: ранжированный список кандидатов по задаче «Естественно-языковой интерфейс к BI-системе» со ссылками на источники, оценкой соответствия и фрагментами подтверждения. Надёжность оценивают по релевантности, полноте, отсутствию недопустимых источников и точности ссылок на подтверждение; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик. <a id="section-ii-9"></a>

0 моделей