/ Профессии
Разработка ПО, данные, AI и инфраструктура

II.8Инженерия данных и аналитика

В разделе собраны самостоятельные задачи, где AI помогает готовить надёжные данные и превращать их в понятную аналитику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.

ЭмбеддингиТекст
AI-задач
22
в этой профессии
Подходящих моделей
23 488
по типу задач и модальности
Категория
II. Разработка и данные
Основные типы
ЭмбеддингиТекст

Рекомендованные модели

23 488 моделей
Загрузки
Лайки
Дата выхода
1 651–1 680 из 23 488
shadowlilac
aesthetic-shadow

Aesthetic Shadow — визуальный трансформер ViT, предназначенный для оценки эстетического качества изображений в стиле аниме. По карточке модель содержит 1,1 млрд параметров; метаданные Hugging Face указывают 1,4 млрд. Она принимает изображения размером до 1024×1024 и выдаёт оценку эстетической привлекательности иллюстрации, учитывая детали, пропорции и визуальную согласованность. Модель может помогать отбирать изображения для наборов данных и фильтровать иллюстрации низкого качества. Автор предупреждает, что оценки могут быть неточными; сведения о лицензии в метаданных не определены. Автор просит указывать авторство при публичном использовании.

12936сент. 2023
imageunknownhugging-face
SuperAnnotate
ai-detector-low-fpr

SuperAnnotate AI Detector Low FPR — англоязычный классификатор текста, разработанный SuperAnnotate на основе RoBERTa Large и дообученный для бинарного определения, написан ли текст человеком или сгенерирован языковой моделью. Модель предназначена для проверки текстов в обучающих наборах данных, а также для выявления возможного мошенничества и случаев использования ИИ в научной и образовательной среде. При обучении использовались 44 тысячи сбалансированных пар человеческих и сгенерированных текстов из Википедии, Reddit ELI5, научных статей и подмножества RAID. Тексты были созданы разными моделями семейств GPT, LLaMA, Anthropic и Mistral; промпты не включались в обучающие входы. Модель нацелена на низкую долю ложноположительных результатов, чтобы реже помечать человеческий текст как сгенерированный. Разработчик сообщает о проверке на бенчмарке RAID. Модель использует архитектуру RoBERTa Large с одним выходным классом для бинарной классификации. В карточке указана лицензия SAIPL. Низкая доля ложноположительных срабатываний является целью обучения, а не гарантией безошибочного определения авторства; результаты могут зависеть от домена, генератора и изменений текста.

2270окт. 2024
textotherhugging-face
Berk
assay-compiled-base

Berk/assay-compiled-base — компактная модель принятия решений проекта Assay, разработанная как CPU-ориентированный вариант для классификационных вопросов. Она дообучена на Alibaba-NLP/gte-modernbert-base и использует архитектуру compiled с поздним взаимодействием: кодирует состояние в токенные эмбеддинги, а вопрос и варианты ответа — в запросы и векторы для сопоставления. Размер модели — 149 млн параметров, контекст — до 8192 токенов; генерации текста нет. Модель принимает текстовое состояние и типизированные вопросы с ответами «да/нет», выбором из вариантов или оценкой, выдавая вероятностное распределение и сигнал доказательности. Она предназначена для классификации текстов, включая темы, тональность и спам, а также для сценариев, где допустимо воздержаться от ответа: на невиданных задачах применяется конформное предсказание. В README указаны средняя точность 0,606 на отложенных невиданных задачах и работа на CPU; вопросы, требующие знаний, арифметики или многошаговых рассуждений, модель решает слабо. Поддерживается только английский язык. Лицензия — Apache-2.0.

1190сент. 2026ctx8.2K
textapache-2.0hugging-face
oferweintraub
bert-base-finance-sentiment-noisy-search

Модель oferweintraub/bert-base-finance-sentiment-noisy-search — дообученная автором версия bert-base-uncased для определения тональности финансовых новостей. Она использует архитектуру BERT для классификации текста и выдаёт один из трёх классов: Positive, Neutral или Negative. Автор сообщает, что после обучения на автоматически собранных поиском новостных примерах точность на отложенной выборке исходного набора Kaggle выросла примерно с 88% до более чем 95%; качество меток новых примеров заранее не проверялось. Модель предназначена для анализа заголовка вместе с первым абзацем новости либо её кратким пересказом; в README рекомендуется краткий текст объёмом до 64 токенов. Контекст модели составляет 512 токенов, всего в ней 136,7 млн параметров. Поддерживаемый язык — английский. Распространяется по лицензии Apache-2.0.

163март 2022ctx512
textapache-2.0hugging-face
mpalaval
bert-ner-3

mpalaval/bert-ner-3 — дообученная модель на базе BERT bert-base-cased для классификации токенов, в том числе разметки именованных сущностей. В карточке указан датасет None; сведения о его составе и типах меток отсутствуют. Модель содержит 135,5 млн параметров, использует архитектуру BERT и формат PyTorch. Максимальная длина контекста — 512 токенов. В README приведены результаты оценки: precision 0,1708, recall 0,4296, F1 0,2444 и accuracy 0,8849; эти показатели указывают на ограничения качества разметки. Лицензия — Apache-2.0.

60окт. 2023ctx512
textapache-2.0hugging-face
vinai
bertweet-large

BERTweet-large — крупная языковая модель для английских твитов, разработанная Dat Quoc Nguyen, Thanh Vu и Anh Tuan Nguyen. Это модель семейства RoBERTa с архитектурой RobertaForMaskedLM и 454,1 млн параметров; она обучена по процедуре предобучения RoBERTa на корпусе из 850 млн англоязычных твитов, опубликованных с января 2012 по август 2019 года, включая 5 млн твитов о пандемии COVID-19. Модель предназначена для заполнения пропусков в тексте и как языковая основа для задач анализа сообщений в Twitter и других коротких англоязычных текстов. Она принимает текст и предсказывает токены на месте маски. Контекст — до 514 токенов. Доступны веса в форматах PyTorch и TensorFlow. Специализация на твитах помогает учитывать стиль и лексику этой платформы, но модель обучена на англоязычных данных и не предназначена для генерации ответов в формате чат-бота. Дата публикации корпуса ограничена августом 2019 года, поэтому модель может хуже отражать более поздний язык и события. Лицензия — MIT; авторы просят цитировать научную публикацию при использовании результатов в исследованиях или включении модели в программное обеспечение.

4.6K13март 2022ctx514
textmithugging-face
manelalab
chrono-bert-v1-20161231

Карточка модели manelalab/chrono-bert-v1-20161231 на Hugging Face совпадает с карточкой manelalab/chrono-bert-v1-20041231, поэтому описание составлено по ней. ChronoBERT v1 20041231 — англоязычная модель Songrun He, Linying Lv, Asaf Manela и Jimmy Wu для анализа текста с учётом хронологии. Она основана на двунаправленной архитектуре ModernBERT, содержит 149 млн параметров и принимает контекст до 8192 токенов. Модель обучена на датированных текстовых данных, чтобы снизить риск утечки будущей информации и смещения заглядывания вперёд при историческом анализе. Модель предназначена для предсказания замаскированных токенов и получения представлений текста, а также для задач понимания языка и анализа исторических и финансовых текстов. Семейство ChronoBERT оценивалось на GLUE и на прогнозировании доходности акций; приведённые результаты относятся к указанным в карточке версиям, а не обязательно к этой конкретной контрольной точке. Доступны веса в формате safetensors для Transformers. Лицензия — MIT.

9260февр. 2025ctx8.2K
textmithugging-face
manelalab
chrono-bert-v1-20171231

ChronoBERT — серия англоязычных моделей на архитектуре ModernBERT, разработанная Songrun He, Linying Lv, Asaf Manela и Jimmy Wu. Версия chrono-bert-v1-20171231 предназначена для языкового моделирования с учётом времени: модели серии обучались на датированных текстах, чтобы уменьшить утечку будущих данных и смещение заглядывания вперёд при анализе исторических данных. Вариант использует двунаправленный трансформерный энкодер ModernBERT с 149 млн параметров и контекстом до 8192 токенов. Модель решает задачу предсказания пропущенного токена и может использоваться для извлечения текстовых эмбеддингов. ChronoBERT ориентирована на англоязычный текст; в README описаны оценки на GLUE и применение семейства для финансового прогнозирования. Репозиторий распространяется под лицензией MIT.

1.0K0февр. 2025ctx8.2K
textmithugging-face
manelalab
chrono-bert-v1-20191231

ChronoBERT — серия англоязычных моделей Songrun He, Linying Lv, Asaf Manela и Jimmy Wu для анализа текста с учётом хронологии. Эта версия — трансформерный двунаправленный энкодер ModernBERT с 149 млн параметров и контекстом до 8192 токенов; она предсказывает пропущенные токены в тексте и может извлекать текстовые эмбеддинги. Модель предварительно обучена на датированных открытых текстах, чтобы снижать риск утечки будущей информации и смещения заглядывания вперёд при анализе исторических данных. В README описаны оценки на GLUE и эксперименты по прогнозированию доходности акций; результаты серии показывают качество понимания языка выше стандартного BERT на GLUE. Модель работает с текстом на английском языке и распространяется под лицензией MIT. Она предназначена для языкового моделирования с маскированием и извлечения эмбеддингов, а не для генерации длинных ответов. Хотя хронологическое обучение полезно для исторических и финансовых сценариев, результаты бэктестов сами по себе не гарантируют точность будущих прогнозов.

1.1K0февр. 2025ctx8.2K
textmithugging-face
pucpr
clinicalnerpt-healthcare

Portuguese Clinical NER - HealthCare — модель распознавания клинических именованных сущностей, разработанная в рамках проекта BioBERTpt. Она дообучена на бразильском клиническом корпусе SemClinBr от базовой модели BioBERTpt(all); разметка представлена в формате IOB2, а сущности совместимы с UMLS. Модель основана на BERT и предназначена для классификации токенов в клинических текстах на португальском языке. Она содержит 205,1 млн параметров и поддерживает контекст до 512 токенов. Репозиторий предоставляет веса PyTorch. Условия лицензирования в использованных данных не приведены.

166март 2022ctx512
texthugging-face
HaniaEmaan
code-switching-codesaviours-si26-hania

Модель Hania Emaan — дообученная версия XLM-RoBERTa-base для поштучного определения языка токенов в текстах с переключением между Roman Urdu и английским. Она размечает токены метками URD, ENG и MIX и предназначена для анализа смешанных сообщений в социальных сетях и другой неформальной переписки. Архитектура — XLM-RoBERTa для классификации токенов, около 305,2 млн параметров; максимальная длина контекста — 514 токенов. Модель принимает текст и выдаёт метки для его токенов. В тестировании на отложенной выборке F1 составил 0,99 для английских токенов и 0,90 для Roman Urdu; для гибридной категории MIX указана оценка 0,00, поэтому распознавание таких слов ненадёжно. Карточка распространяет модель по лицензии MIT.

150авг. 2026ctx514
textmithugging-face
Hate-speech-CNERG
dehatebert-mono-english

Hate-speech-CNERG/dehatebert-mono-english — англоязычная модель классификации текста для выявления hate speech. Её разработали авторы исследования о многоязычном распознавании языка ненависти; версия mono обучалась только на англоязычных данных и дообучена на multilingual BERT. Модель использует архитектуру BERT для классификации последовательностей, содержит 194,6 млн параметров и принимает текст длиной до 512 токенов. Модель предназначена для автоматической проверки англоязычных сообщений и публикаций на наличие языка ненависти, в том числе как компонента модерации или исследовательского анализа. В работе для лучшего результата на валидации использовалась скорость обучения 2e-5; указанный результат — 0,726030, без уточнения метрики в карточке. Распространяется по лицензии Apache-2.0.

10K13март 2022ctx512
textapache-2.0hugging-face
wnic00
distilbert-p3

wnic00/distilbert-p3 — дообученная модель DistilBERT для классификации текста, созданная на основе wnic00/distilbert-p1. Она предназначена для присвоения тексту класса; конкретные категории и сценарии применения в карточке не описаны. Модель использует архитектуру DistilBertForSequenceClassification, веса в формате PyTorch и контекст до 512 токенов. Базовая модель описана как мультиязычная и предназначенная, в частности, для анализа тональности, но применимость этих возможностей к данной версии не подтверждена. На оценочном наборе указаны loss 1.1781 и accuracy 0.6667. Датасет и подробности обучения не раскрыты, поэтому эти результаты не позволяют оценить качество для конкретной задачи. Лицензия — Apache-2.0.

120нояб. 2023ctx512
textapache-2.0hugging-face
bookbot
distil-wav2vec2-adult-child-cls-52m

DistilWav2Vec2 Adult/Child Speech Classifier — модель аудиоклассификации, разработанная Wilson Wongso на основе архитектуры wav2vec 2.0. Это дистиллированная версия wav2vec2-adult-child-cls, дообученная на частном наборе аудиозаписей для классификации речи взрослых и детей. В модели около 56,6 млн параметров; она обучена с использованием PyTorch и распространяется в форматах PyTorch и Safetensors. Модель предназначена для определения, принадлежит ли речевая запись взрослому или ребёнку. В README приведены результаты оценки на наборе Adult/Child Speech Classification: точность 96,03% и F1 0,9639. Поддерживаемый язык — английский. Лицензия — Apache-2.0. Результаты могут зависеть от характеристик записи и смещения, унаследованного от данных предварительного обучения; обучающий набор указан как частный, поэтому его состав и репрезентативность нельзя проверить по карточке.

1270март 2022
textapache-2.0hugging-face
alger-ia
dziribert_sentiment

DziriBERT Sentiment — модель классификации тональности на основе BERT, разработанная командой alger-ia. Это дообученная версия DziriBERT, предварительно обученной специально на алжирском диалекте арабского языка. Модель предназначена для определения тональности текстов на алжирском диалекте. Модель обрабатывает алжирский текст, записанный как арабскими, так и латинскими символами, и использует архитектуру BertForSequenceClassification. В репозитории доступны веса PyTorch и Safetensors; максимальная длина контекста составляет 512 токенов. Для использования предусмотрена загрузка через Transformers. Карточка не сообщает метрики качества и конкретные ограничения классификации. Условия лицензии в предоставленных данных не указаны.

929дек. 2022ctx512
texthugging-face
YeRyeongLee
electra-base-discriminator-finetuned-filtered-0602

YeRyeongLee/electra-base-discriminator-finetuned-filtered-0602 — дообученная модель классификации последовательностей на базе google/electra-base-discriminator. Она предназначена для классификации текста; набор данных и конкретные классы в карточке не раскрыты. Архитектура — ELECTRA с плотными слоями, 136,7 млн параметров; модель использует PyTorch и принимает контекст до 512 токенов. В README приведены результаты на оценочной выборке: loss 0,1685, accuracy 0,9720 и F1 0,9721; без описания выборки и меток эти показатели сложно интерпретировать. Лицензия — Apache-2.0.

110июнь 2022ctx512
textapache-2.0hugging-face
feanet
eou-detector-russian

EOU Detector — модель Simplexphone для определения конца реплики в русскоязычных диалогах колл-центра. Она дообучена на 200 667 диалогах от Qwen2.5-0.5B-Instruct и оценивает вероятность завершения реплики по последнему токену текста, используя обычный языковой словарь без отдельной классификационной головы. Модель предназначена для голосовых помощников, IVR, аналитики колл-центров и диалоговых систем реального времени: по текстовой транскрипции она помогает определить, закончил ли говорящий фразу, чтобы передать её на следующий этап обработки. Архитектура — плотная Qwen2 causal language model с 494 млн параметров и контекстом 32 768 токенов. В README приведена оценка F1 0,851 на выборке из 200 примеров и указаны варианты развёртывания через ONNX Runtime. Модель принимает текст, а не аудио: перед её использованием нужны этапы распознавания речи и, при необходимости, обнаружения голосовой активности. На очень коротких репликах результаты могут быть ненадёжны; обучение ориентировано на русские транскрипты колл-центров, а качество на других языках низкое. Распространяется по лицензии Apache-2.0.

390июнь 2026ctx32.8K
textapache-2.0hugging-face
tartuNLP
EstRoBERTa

EstRoBERTa — модель обработки эстонского языка, разработанная tartuNLP и дообученная на базе XLM-RoBERTa base. Это плотная трансформерная модель с архитектурой XLM-RoBERTa и примерно 305,2 млн параметров; она принимает текст и может использоваться для извлечения признаков и предсказания замаскированных токенов. Контекст модели составляет до 514 токенов. Модель подходит для получения текстовых представлений и для задач, основанных на заполнении пропусков в эстонском тексте. Подробности об обучающих данных, метриках и ограничениях качества в карточке не приведены. Лицензия — CC BY 4.0.

1210авг. 2022ctx514
textcc-by-4.0hugging-face
Kenpache
finbert-multilingual

Kenpache разработала FinBERT-Multilingual — модель классификации тональности финансовых текстов на базе XLM-RoBERTa. Она присваивает тексту одну из трёх меток: отрицательная, нейтральная или положительная тональность. Модель адаптирована к финансовой тематике посредством дополнительного предобучения на финансовых текстах и последующего обучения классификации. Модель предназначена для анализа финансовых новостей и других финансовых текстов на английском, китайском, японском, немецком, французском и испанском языках. Архитектура — XLM-RoBERTa для классификации последовательностей; размер — 305,2 млн параметров, максимальный контекст — 514 токенов. В README сообщаются accuracy 0,8103 и взвешенная F1-мера 0,8102 на использованной авторами оценке. Лицензия Apache-2.0. Результаты оценки относятся к описанному набору финансовых данных и не гарантируют качество на других источниках или языковых вариантах; метки отражают тональность текста и сами по себе не являются инвестиционными рекомендациями.

1511апр. 2026ctx514
textapache-2.0hugging-face
mdraw
german-news-sentiment-bert

mdraw/german-news-sentiment-bert — модель классификации тональности немецких новостных текстов о миграции. Она создана дообучением BERT для проекта, изучающего изменение тональности статей немецких СМИ о миграции в период с 2007 по 2019 год. Модель предсказывает положительную, отрицательную или нейтральную тональность; её можно применять к необработанному тексту, а также получать дискретные метки классов: 0 — положительная, 1 — отрицательная, 2 — нейтральная. Модель содержит 136,3 млн параметров, использует архитектуру BertForSequenceClassification и принимает текст с контекстом до 512 токенов. Доступны веса PyTorch, Flax и safetensors. Модель ориентирована на немецкие новости о миграции, поэтому её пригодность для других тем и жанров может быть ограничена. Сведения о лицензии в предоставленных материалах отсутствуют.

1268март 2022ctx512
texthugging-face
jackmedda
google-long-t5-tglobal-base_finetuned_original

jackmedda/google-long-t5-tglobal-base_finetuned_original — дообученная модель на основе google/long-t5-tglobal-base, опубликованная автором jackmedda. Это плотная encoder-decoder модель семейства LongT5 с примерно 123,8 млн параметров; карточка указывает задачу классификации текста и контекст до 4096 токенов. В README приведены метрики на оценочном наборе: accuracy 0,7647, F1 0,8667, precision 0,7647 и recall 1,0; обучающий датасет обозначен как None. Модель предназначена для классификации текстовых входов. Базовый LongT5 разработан для работы с длинными текстами, однако конкретные классы, языки и предметная область этой дообученной версии не описаны. Распространяется под лицензией Apache-2.0.

2030февр. 2025ctx4.1K
textapache-2.0hugging-face
KoichiYasuoka
gpt2-medium-japanese-unidic-upos

Koichi Yasuoka разработал модель на базе японской GPT-2 japanese-gpt2-medium-unidic, дообучив её для морфосинтаксической разметки. Модель присваивает японским коротким словоформам теги UPOS и признаки FEATS, следуя универсальной схеме Universal Dependencies. Она предназначена для автоматической разметки частей речи и морфологических признаков в японском тексте, например при подготовке корпусов и анализе предложений. Архитектура — GPT-2 для классификации токенов; модель работает с текстом на японском языке, использует PyTorch и имеет контекст длиной 1024 токена. Для токенизации требуются fugashi и unidic-lite. Лицензия — CC BY-SA 4.0.

1030авг. 2024ctx1K
textcc-by-sa-4.0hugging-face
Mitchins
image-medium-classifier-efficientnetv2-s-v1

Mitchins/image-medium-classifier-efficientnetv2-s-v1 — модель классификации изображений на базе TF-EfficientNetV2-S из библиотеки timm, дообученная на распознавание аниме, фотографий и рендеров. Она принимает RGB-изображения размером 224×224 и относит их к одному из трёх классов: anime, real или rendered. В модели 21,5 млн параметров; заявленная точность на валидации — 97,55%. По данным карточки, распознавание рендеров сложнее, особенно для фотореалистичных игровых сцен; для них полнота составляет 90%. Модель можно применять для автоматической сортировки изображений и определения, является ли изображение фотографией, аниме или компьютерной графикой. Распространяется по лицензии OpenRAIL.

960янв. 2026
imageopenrailhugging-face
akmalluthfi
IndoBERTweet-Plutchik-Emotion-Classifier

IndoBERTweet-Plutchik-Emotion-Classifier — модель классификации текста на основе IndoBERTweet, разработанная akmalluthfi и дообученная на базе indolem/indobertweet-base-uncased. Она предназначена для определения эмоций в индонезийских текстах, вероятно, по модели эмоций Плутчика, что следует из названия репозитория; README не содержит описания меток или обучающего набора данных. Модель построена на архитектуре BERT, содержит 137,8 млн параметров и принимает последовательности длиной до 512 токенов. В README приведены результаты оценки: loss 0,9306 и F1 0,6540. Распространяется по лицензии Apache-2.0.

110июль 2026ctx512
textapache-2.0hugging-face
MAPAi
InflaBERT

MAPAi/InflaBERT — модель классификации текста для определения тональности новостей, связанных с инфляцией. Она разработана MAPAi на основе архитектуры RoBERTa и дообучена от mrm8488/distilroberta-finetuned-financial-news-sentiment-analysis на датасете MAPAi/inflation_news. Модель содержит 95,2 млн параметров, принимает последовательности длиной до 514 токенов и доступна в формате safetensors через Transformers. Модель предназначена для анализа англоязычных финансовых новостей и выделения тональности в контексте инфляции. Её можно применять для сортировки новостных сообщений и отслеживания настроений в материалах о ценах и инфляции. Лицензия MIT разрешает использование и распространение на её условиях.

600май 2024ctx514
textmithugging-face
internlm
JanusCoderV-8B

JanusCoderV-8B — мультимодальная модель для задач программирования по тексту и изображениям из семейства JanusCoder. Авторы описывают серию как набор открытых базовых моделей для единого визуально-программного интерфейса; эта версия использует архитектуру InternVL и предназначена для диалога с изображениями. Модель рассчитана на генерацию кода по текстовым инструкциям, визуальным входам или их сочетанию, а также на создание визуализаций данных, интерактивных веб-интерфейсов и анимаций и программное редактирование визуальных эффектов. В README указано обучение серии на мультимодальном корпусе JANUSCODE-800K. Доступная таблица результатов показывает оценку на отдельных задачах, включая построение диаграмм и генерацию и редактирование дизайна. Репозиторий содержит веса Safetensors и использует библиотеку Transformers. Лицензия — Apache-2.0. Размер модели, длина контекста и поддерживаемые естественные языки в предоставленных данных не определены; описанные сценарии включают код на нескольких языках программирования, но они не являются языками интерфейса модели.

25714окт. 2025ctx41K
textimageapache-2.0hugging-face
Bersk
japanese-roberta-base-finetuned-rinna

Bersk подготовил дообученную модель японского RoBERTa для классификации текста на основе rinna/japanese-roberta-base. Она содержит 137,8 млн параметров, использует архитектуру RoBERTa и принимает последовательности длиной до 514 токенов. Модель подходит для задач классификации японских текстов; конкретные категории и набор данных в карточке не описаны. На оценочной выборке указаны precision 0,8062, recall 0,8107 и F1 0,8071. Модель распространяется в формате PyTorch по лицензии MIT.

1381март 2023ctx514
textmithugging-face
zoro6u
marbert-arabic-dialect-id

Модель zoro6u/marbert-arabic-dialect-id — дообученная MARBERTv2 для определения одной из 18 странных разновидностей арабского диалекта по тексту. Это BERT-модель классификации последовательностей с 190 млн параметров и контекстом до 512 токенов; в обучении использовались короткие сообщения из Twitter, а для инференса рекомендуется удалять упоминания и URL, символы # и диакритические знаки, а также схлопывать пробелы. Модель предсказывает метки для Омана, Судана, Саудовской Аравии, Кувейта, Катара, Ливана, Иордании, Сирии, Ирака, Марокко, Египта, Палестины, Йемена, Бахрейна, ОАЭ, Туниса и Ливии. Макро-F1 на тесте составляет 0,614. Лучше всего модель распознаёт египетский, ливийский, ливанский, суданский и марокканский варианты; хуже — близкие варианты стран Персидского залива и йеменский диалект. Модель предназначена для классификации арабских сообщений по диалекту и стране, например для анализа публикаций в социальных сетях. Качество ограничено шумными метками, автоматически выведенными из профилей авторов, обучением только на твитах и небольшими тестовыми выборками для отдельных классов; на формальном тексте и в других жанрах точность может быть ниже. Лицензия — MIT.

800сент. 2026ctx512
textmithugging-face
IbrahimAmin
marbertv2-arabic-written-dialect-classifier

Это модель классификации письменных арабских диалектов, разработанная IbrahimAmin на базе MARBERTv2 и дообученная для распознавания пяти классов: магрибских диалектов, левантийского диалекта, современного литературного арабского, диалектов стран Залива и египетского диалекта. Модель использует архитектуру BERT и содержит около 190 млн параметров; максимальная длина контекста — 512 токенов. Модель принимает арабский текст и предсказывает региональную категорию. Она предназначена для определения диалекта в коротких сообщениях из соцсетей, форумов и других источников неформального письма, а также для лингвистических исследований и диалектно-ориентированных систем обработки естественного языка. В карточке указано обучение на более чем 850 тысячах арабских предложений из общедоступных наборов данных. Модель подходит для определения пяти широких региональных классов, но не различает отдельные страны или города внутри них. Результаты для коротких фрагментов, смешанного языка и диалектов, не представленных отдельными классами, могут быть неточными. Лицензия — Apache-2.0.

7406май 2025ctx512
textapache-2.0hugging-face
ManasKumar28
mimii-distilhubert-anomaly

ManasKumar28 разработал mimii-distilhubert-anomaly — дообученную модель для классификации аудио на базе ntu-spml/distilhubert. Она предназначена для выявления аномальных звуков в аудиозаписях; модель использует архитектуру HuBERT и содержит 18,9 млн параметров. В метаданных указан формат Safetensors, библиотека Transformers и датасет audiofolder. На оценочном наборе модель достигла accuracy 0,9327, precision 0,9382, recall 0,9327 и F1 0,9289. Эти результаты относятся только к указанному набору; README не описывает состав классов, данные обучения и условия оценки. Модель распространяется по лицензии Apache-2.0.

220авг. 2026
textapache-2.0hugging-face

Задачи профессии

22 задачи
400Профилирование нового набора данных. — Механизм: AI сопоставляет наблюдаемое состояние с эталонами, нормативами или историческими аналогами и оценивает степень соответствия. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. Исходные данные: таблицы и события, схемы и определения бизнес-метрик. Формат результата: оценка по задаче «Профилирование нового набора данных» в числовой или категориальной форме с расшифровкой факторов, допущений и неопределённости. Проверка: сверкой с экспертными оценками или фактическими исходами, а также анализом чувствительности к входным данным; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
401Определение вероятного смысла и типа столбцов. — AI сопоставляет наблюдаемые признаки с критериями и устанавливает требуемое значение, состояние или вариант. К исходным данным относятся таблицы, события, файлы и схемы. Формат результата: установленное значение или вариант по задаче «Определение вероятного смысла и типа столбцов» с оценкой уверенности и основаниями решения. Надёжность оценивают по точности относительно эталона, калибровке уверенности и разбору случаев, где источники расходятся; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
402Обнаружение пропусков, выбросов и невозможных значений. — Для этой задачи система анализирует поток наблюдений и локализует признаки, которые отличают целевой объект или нарушение от обычного состояния. Рабочие входы: события, файлы, схемы и каталоги данных. Формат результата: перечень объектов, событий или отклонений, относящихся к «Обнаружение пропусков, выбросов и невозможных значений», с локализацией, уверенностью и признаками срабатывания. Критерии приёмки: по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
403Выбор стратегии заполнения пропущенных данных. — Практическая реализация: AI объединяет историю, текущую ситуацию и обязательные условия, чтобы предложить следующий наиболее обоснованный шаг. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. Входной контекст включает таблицы и события, схемы и определения бизнес-метрик. Формат результата: несколько вариантов для «Выбор стратегии заполнения пропущенных данных», ранжированных по полезности, ограничениям и причинам выбора. Ошибки выявляют по полезности для пользователя, соблюдению ограничений и качеству результата после принятия рекомендации; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
404Очистка и стандартизация категориальных значений. — Механизм: AI преобразует исходный материал по заданным правилам, сохраняя смысл, структуру и критически важные детали. Исходные данные: схемы, каталоги данных, SQL и бизнес-метрики. Формат результата: преобразованный материал по задаче «Очистка и стандартизация категориальных значений» с сохранённым содержанием и журналом значимых изменений. Проверка: сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
405Сопоставление и объединение данных из разных источников. — AI строит единое пространство признаков и устанавливает соответствия между элементами, которые описаны по-разному. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. К исходным данным относятся таблицы и события, схемы и определения бизнес-метрик. Формат результата: карта соответствий и различий для «Сопоставление и объединение данных из разных источников», где элементы приведены к единым критериям и связаны с первичными данными. Надёжность оценивают экспертной сверкой соответствий и проверкой, что различия не вызваны несовместимыми форматами; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
406Автоматическое построение ETL/ELT-конвейера. — Для этой задачи система объединяет уравнения, эмпирические данные и обученные зависимости в модель, пригодную для анализа чувствительности. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. Рабочие входы: таблицы и события, схемы и определения бизнес-метрик. Формат результата: вычислительная модель или карта для «Автоматическое построение ETL/ELT-конвейера» с результатами сценариев и анализом чувствительности. Критерии приёмки: сопоставлением с наблюдениями, тестами чувствительности и воспроизводимостью вычислений; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
407Генерация преобразований данных по словесному описанию. — Практическая реализация: AI создаёт новый артефакт по требованиям, исходным фактам и примерам, сохраняя возможность последующего редактирования. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. Входной контекст включает таблицы и события, схемы и определения бизнес-метрик. Формат результата: редактируемый артефакт по задаче «Генерация преобразований данных по словесному описанию», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — аналитический набор или запрос. Ошибки выявляют по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
408Проверка качества данных по автоматически предложенным правилам. — Механизм: AI сверяет объект с эталоном, правилами и взаимными зависимостями, отмечая пропуски, конфликты и нарушения. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. Исходные данные: таблицы и события, схемы и определения бизнес-метрик. Формат результата: протокол выполнения «Проверка качества данных по автоматически предложенным правилам» с пройденными условиями, найденными нарушениями и спорными местами для ручного решения. Проверка: повторным запуском на эталонных примерах, ручной проверкой спорных случаев и полнотой контрольного покрытия; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
409Обнаружение нарушения контрактов данных. — AI сочетает обученные шаблоны с контрольными правилами, чтобы находить значимые случаи и не пропускать пограничные примеры. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. К исходным данным относятся таблицы и события, схемы и определения бизнес-метрик. Формат результата: перечень объектов, событий или отклонений, относящихся к «Обнаружение нарушения контрактов данных», с локализацией, уверенностью и признаками срабатывания. Надёжность оценивают по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
410Анализ происхождения показателя и цепочки преобразований. — Для этой задачи система разбирает данные по существенным признакам, выявляет связи и формирует выводы с привязкой к исходным свидетельствам. Рабочие входы: файлы, схемы, каталоги данных и SQL. Формат результата: объяснимые выводы по задаче «Анализ происхождения показателя и цепочки преобразований» с влияющими факторами, альтернативными трактовками и ссылками на данные. Критерии приёмки: воспроизводимостью расчётов, проверкой источников и сравнением выводов с альтернативными объяснениями; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
411Генерация SQL по вопросу на естественном языке. — Практическая реализация: AI собирает содержание и структуру из заданных ограничений, затем формирует несколько вариантов для выбора и доработки. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. Входной контекст включает таблицы и события, схемы и определения бизнес-метрик. Формат результата: редактируемый артефакт по задаче «Генерация SQL по вопросу на естественном языке», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — аналитический набор или запрос. Ошибки выявляют по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
412Объяснение SQL-запроса и поиск логических ошибок. — Механизм: AI агрегирует разрозненные сигналы в целостную картину и показывает, какие данные поддерживают каждый вывод. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. Исходные данные: таблицы и события, схемы и определения бизнес-метрик. Формат результата: объяснимые выводы по задаче «Объяснение SQL-запроса и поиск логических ошибок» с влияющими факторами, альтернативными трактовками и ссылками на данные. Проверка: воспроизводимостью расчётов, проверкой источников и сравнением выводов с альтернативными объяснениями; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
413Автоматическое построение подходящей визуализации. — AI создаёт вычислительное представление объекта или процесса и проигрывает на нём альтернативные сценарии. К исходным данным относятся SQL, бизнес-метрики, таблицы и события. Формат результата: вычислительная модель или карта для «Автоматическое построение подходящей визуализации» с результатами сценариев и анализом чувствительности. Надёжность оценивают сопоставлением с наблюдениями, тестами чувствительности и воспроизводимостью вычислений; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
414Создание смыслового слоя метрик. — Для этой задачи система собирает содержание и структуру из заданных ограничений, затем формирует несколько вариантов для выбора и доработки. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. Рабочие входы: таблицы и события, схемы и определения бизнес-метрик. Формат результата: редактируемый артефакт по задаче «Создание смыслового слоя метрик», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — аналитический набор или запрос. Критерии приёмки: по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
415Объяснение изменения показателя через декомпозицию факторов. — Практическая реализация: AI агрегирует разрозненные сигналы в целостную картину и показывает, какие данные поддерживают каждый вывод. Входной контекст включает таблицы, события, файлы и схемы. Формат результата: объяснимые выводы по задаче «Объяснение изменения показателя через декомпозицию факторов» с влияющими факторами, альтернативными трактовками и ссылками на данные. Ошибки выявляют воспроизводимостью расчётов, проверкой источников и сравнением выводов с альтернативными объяснениями; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
416Когортный анализ. — Механизм: AI разбирает данные по существенным признакам, выявляет связи и формирует выводы с привязкой к исходным свидетельствам. Исходные данные: события, файлы, схемы и каталоги данных. Формат результата: объяснимые выводы по задаче «Когортный анализ» с влияющими факторами, альтернативными трактовками и ссылками на данные. Проверка: воспроизводимостью расчётов, проверкой источников и сравнением выводов с альтернативными объяснениями; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
417Анализ воронки и точек потери. — AI сопоставляет наблюдения, отделяет устойчивые закономерности от случайных совпадений и объясняет влияющие факторы. К исходным данным относятся файлы, схемы, каталоги данных и SQL. Формат результата: объяснимые выводы по задаче «Анализ воронки и точек потери» с влияющими факторами, альтернативными трактовками и ссылками на данные. Надёжность оценивают воспроизводимостью расчётов, проверкой источников и сравнением выводов с альтернативными объяснениями; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
418Сегментация объектов по поведению. — Для этой задачи система строит границы между категориями и ранжирует объекты так, чтобы наиболее важные или срочные обрабатывались раньше. Рабочие входы: схемы, каталоги данных, SQL и бизнес-метрики. Формат результата: результат «Сегментация объектов по поведению» в виде метки, класса, ранга или тематического слоя с уверенностью и объясняющими признаками. Критерии приёмки: по матрице ошибок, калибровке уверенности и отдельному анализу пограничных классов; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
419Поиск статистически значимых зависимостей. — Практическая реализация: AI индексирует доступные материалы, понимает смысл запроса и ранжирует кандидатов по содержательному совпадению. Входной контекст включает каталоги данных, SQL, бизнес-метрики и таблицы. Формат результата: ранжированный список кандидатов по задаче «Поиск статистически значимых зависимостей» со ссылками на источники, оценкой соответствия и фрагментами подтверждения. Ошибки выявляют по релевантности, полноте, отсутствию недопустимых источников и точности ссылок на подтверждение; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
420Подготовка аналитического отчёта с выводами и оговорками. — Механизм: AI собирает содержание и структуру из заданных ограничений, затем формирует несколько вариантов для выбора и доработки. Исходные данные: SQL, бизнес-метрики, таблицы и события. Формат результата: редактируемый артефакт по задаче «Подготовка аналитического отчёта с выводами и оговорками», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — аналитический набор или запрос. Проверка: по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
421Естественно-языковой интерфейс к BI-системе. — AI обходит разрешённые источники, объединяет найденное и отсеивает нерелевантные либо дублирующиеся результаты. К исходным данным относятся бизнес-метрики, таблицы, события и файлы. Формат результата: ранжированный список кандидатов по задаче «Естественно-языковой интерфейс к BI-системе» со ссылками на источники, оценкой соответствия и фрагментами подтверждения. Надёжность оценивают по релевантности, полноте, отсутствию недопустимых источников и точности ссылок на подтверждение; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик. <a id="section-ii-9"></a>

0 моделей