/ Профессии
Разработка ПО, данные, AI и инфраструктура

II.8Инженерия данных и аналитика

В разделе собраны самостоятельные задачи, где AI помогает готовить надёжные данные и превращать их в понятную аналитику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.

ЭмбеддингиТекст
AI-задач
22
в этой профессии
Подходящих моделей
23 488
по типу задач и модальности
Категория
II. Разработка и данные
Основные типы
ЭмбеддингиТекст

Рекомендованные модели

23 488 моделей
Загрузки
Лайки
Дата выхода
4 801–4 830 из 23 488
StevenLimcorn
indonesian-roberta-base-emotion-classifier

Steven Limcorn разработал Indo RoBERTa Emotion Classifier на основе Indo-RoBERTa Base, дообучив её для классификации эмоций на наборе EmoT из бенчмарка IndoNLU. Модель содержит 151,8 млн параметров, использует архитектуру RoBERTa и принимает текст; максимальная длина контекста — 514 токенов. Она предназначена для определения эмоциональной категории в индонезийском тексте, например в коротких сообщениях и отзывах. В оценке на IndoNLU модель показала macro-F1 72,05% и accuracy 71,81%. Результаты зависят от данных и могут наследовать их смещения, а также смещения предобученной RoBERTa. Лицензия — MIT.

55415март 2022ctx514
textmithugging-face
gomyk
intent-student-L4_uniform_distilled

gomyk/intent-student-L4_uniform_distilled — компактный многоязычный энкодер предложений, созданный для классификации намерений. Модель разработана на основе paraphrase-multilingual-MiniLM-L12-v2 с прореживанием слоёв и словаря, а затем дистиллирована по эмбеддингам учителя. В README указана архитектура XLM-RoBERTa с 4 слоями и размерностью скрытого представления 384; метаданные классифицируют её как BERT с 24,2 млн параметров. Данные о структуре архитектуры в источниках расходятся. Модель кодирует короткие реплики для классификации намерений и сценариев, а также поддерживает извлечение признаков и сравнение сходства предложений. Она рассчитана на 18 языков: корейский, английский, японский, китайский, испанский, французский, немецкий, португальский, итальянский, русский, арабский, хинди, тайский, вьетнамский, индонезийский, турецкий, нидерландский и польский. Контекст — до 512 токенов. По приведённым результатам MTEB средний балл составляет 54,61%; лицензия — Apache-2.0.

1900март 2026ctx512
textembeddingapache-2.0hugging-face
stojchet
jk2

jk2 — дообученная модель для генерации текста, созданная на основе deepseek-ai/deepseek-coder-1.3b-base. Она использует плотную архитектуру семейства Llama и содержит 1,3 млрд параметров; указанный базовый контекст — 16 384 токена. В метаданных заявлена задача text-generation, а базовая модель предназначена для продолжения, автодополнения и заполнения пропусков в коде. В README приведены значения метрик оценки, но назначение дообучения, обучающие данные и конкретные сценарии использования не описаны. Модель опубликована в формате safetensors; лицензия в предоставленных данных не указана.

110июль 2024ctx16.4K
texthugging-face
monologg
kobert

KoBERT — корейская модель семейства BERT, опубликованная monologg. Она предназначена для извлечения признаков из текста и может служить основой для задач обработки корейского языка. Архитектура — плотная BertModel размером 119,4 млн параметров; максимальная длина контекста составляет 512 токенов. Репозиторий содержит веса PyTorch, Flax и safetensors. Для загрузки токенизатора через AutoTokenizer в Transformers требуется параметр trust_remote_code=True. Модель распространяется по лицензии Apache-2.0. Карточка содержит краткий пример импорта, но не приводит результаты оценки качества или подробностей обучения.

21K20март 2022ctx512
textembeddingapache-2.0hugging-face
KooAI
KooBERT

KooBERT — многоязычная модель BERT, разработанная совместно Koo India и AI4Bharat и предварительно обученная на публикациях Koo, коротких микроблогах длиной до 400 символов. Модель обучалась на задаче masked language modeling на данных платформы за период с января 2020 по ноябрь 2022 года; архитектура — BertForMaskedLM, размер — 211,6 млн параметров, словарь содержит 128 тысяч токенов, максимальная длина последовательности — 128 токенов. Основная задача модели — предсказывать замаскированные токены в текстах на английском и индийских языках. Её также можно дообучать для классификации публикаций и выявления токсичности, а с sentence-transformers использовать для построения многоязычных векторных представлений. Модель выпущена по лицензии MIT. Обучение на публикациях одной социальной платформы может ограничивать переносимость на другие жанры и предметные области, а особенности данных могут влиять на предсказания. В карточке указано, что модель ещё не прошла бенчмаркинг; качество для конкретной задачи следует оценивать отдельно.

216май 2023ctx128
textmithugging-face
sewoong
korean-neural-sparse-encoder

Korean Neural Sparse Encoder (V33-ecom-v6) — корейская модель для разреженного поиска документов и товаров, разработанная автором репозитория mateon01. Это SPLADE-max энкодер на базе skt/A.X-Encoder-base с архитектурой ModernBERT и примерно 148,7 млн параметров. Модель преобразует текст запросов и документов в разреженные векторы: применяет MLM-голову, log(1+ReLU) и max pooling. Для запросов указано около 40 ненулевых измерений, для документов — около 68; словарь содержит 50 тысяч токенов, из которых 48,4% — корейские. Модель дообучена для корейского поиска товаров в электронной коммерции, сохраняя возможности общего поиска. В README приведены результаты на e-commerce-ko и корейских наборах Ko-StrategyQA, MIRACL-ko и Mr.TyDi-ko. Подходит для построения поискового индекса и ранжирования товаров или документов по текстовому запросу. Базовый энкодер поддерживает контекст до 16 384 токенов. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. README отмечает, что при дообучении разреженных представлений методы MarginMSE/KD могут ухудшать их качество; показатели бенчмарков относятся к описанным наборам данных.

1442янв. 2026ctx16.4K
textapache-2.0hugging-face
OpenLemur
lemur-70b-v1

lemur-70b-v1 — языковая модель с архитектурой Llama, опубликованная OpenLemur. Она предназначена для генерации текста и кода; модель не обучалась на корпусе следования инструкциям, поэтому хуже подходит для диалога и ответов на прямые вопросы. Веса представлены в формате PyTorch, размер модели — 68,7 млрд параметров, контекст — до 4096 токенов. Карточка указывает лицензию Llama 2.

6845авг. 2023ctx4.1K
textllama2hugging-face
adaptive-classifier
llm-router

Adaptive Classifier — модель классификации текста с возможностью непрерывного обучения и добавления классов. Она основана на distilbert/distilbert-base-cased и использует эмбеддинги размерности 768; в текущем экземпляре настроены два класса: HIGH и LOW, на каждом из которых обучено по пять примеров. Модель предназначена для пользовательской классификации текстов, когда категории могут добавляться динамически, а представления классов обновляются по мере накопления данных. Репозиторий содержит форматы ONNX и safetensors. Лицензия — Apache-2.0. Для каждого класса требуется не менее трёх примеров, предусмотрено не более 500 примеров на класс. Прототипы обновляются каждые 50 примеров; текущий объём обучения невелик, поэтому качество классификации может быть ограничено.

489янв. 2025
textapache-2.0hugging-face
Jeevesh8
lp1e-3_ft_corr_init_shuff_clipped_warmed_wd0_pnt_01_seq_len_128_bert-base-uncased_mnli_ft_40

Jeevesh8/lp1e-3_ft_corr_init_shuff_clipped_warmed_wd0_pnt_01_seq_len_128_bert-base-uncased_mnli_ft_40 — модель классификации текста на базе BERT, опубликованная пользователем Jeevesh8 на Hugging Face. По названию она представляет собой вариант bert-base-uncased, дообученный в рамках эксперимента с MNLI, однако точное назначение меток и набор классов из доступных данных не установлены. Модель содержит около 136,7 млн параметров, использует архитектуру BERT и поддерживает контекст до 512 токенов. Она предназначена для задач text classification, включая классификацию или оценивание текстовых пар, если это соответствует использованной при дообучении постановке MNLI. Модель текстовая и не предназначена для генерации текста, распознавания речи или обработки изображений. К ограничениям относятся максимальная длина контекста 512 токенов, зависимость качества от данных и схемы меток дообучения, а также отсутствие подтвержденных сведений о языках, лицензии и точном наборе выходных классов.

360июль 2022ctx512
texthugging-face
Inabia-AI
modernBERT-large-claim-agent_v3

Inabia-AI/modernBERT-large-claim-agent_v3 — дообученная модель классификации текста на базе двунаправленного энкодера answerdotai/ModernBERT-large. Она содержит 394,7 млн параметров, использует архитектуру ModernBERT для классификации последовательностей и принимает текст длиной до 8192 токенов. Модель предназначена для классификации текста. В README приведены результаты оценки на тестовом наборе: accuracy 0,9397, precision 0,8961, recall 0,8846 и F1 0,8903; назначение классов и состав данных для обучения не описаны. Модель распространяется по лицензии Apache-2.0. Базовый ModernBERT-large описан как англоязычный энкодер; отдельные сведения о языках этой дообученной версии, её прикладной области и ограничениях не приведены.

110июнь 2026ctx8.2K
textapache-2.0hugging-face
Minibase
NER-Small

Minibase-NER-Small — компактная языковая модель, разработанная Minibase и дообученная для распознавания именованных сущностей в тексте. Она извлекает имена людей, организаций, географические названия и другие сущности, выдавая их нумерованным списком; типы сущностей в ответе не отмечаются. Модель построена на архитектуре LlamaForCausalLM и содержит 147,8 млн параметров по метаданным. Репозиторий содержит квантизированную версию GGUF Q8_0; контекст составляет 2048 токенов. Карточка сообщает о поддержке английского языка, локальном запуске через llama.cpp и среднем времени ответа 76,6 мс. На описанной в README оценке F1 составил 43,5%, точность — 63%, полнота — 34,3%. Подходит для локального извлечения сущностей из коротких англоязычных текстов и дальнейшего разбора результатов. Ограничения включают пропуски сущностей, нестабильный или повреждённый формат вывода, отсутствие меток типов и ограничение контекста. Лицензия — Apache-2.0.

3440окт. 2025ctx2K
textapache-2.0hugging-face
Den4ikAI
nonsense_gibberish_detector

Den4ikAI/nonsense_gibberish_detector — русскоязычная модель классификации текста от Den4ikAI, построенная на архитектуре BERT и обученная распознавать три категории: нормальный текст, текст с ошибками в склонениях или несвязным набором слов, а также бессмысленный набор символов или слов. Её можно применять для первичной проверки качества пользовательского текста и выявления бессвязных или искажённых сообщений. Модель содержит 140,9 млн параметров, принимает текстовые последовательности длиной до 512 токенов и выдаёт метку класса. В карточке указан датасет Den4ikAI/gibberish_dataset. Модель распространяется по лицензии Apache-2.0. Оценки точности и подробные сведения о том, как она обобщает за пределами обучающих данных, в предоставленной карточке не описаны.

1311янв. 2024ctx512
textapache-2.0hugging-face
allenai
Olmo-3-7B-RL-Zero-Code

Olmo 3 7B RL-Zero Code — англоязычная авторегрессионная Transformer-модель Allen Institute for AI (Ai2), дообученная на запросах по программированию методом обучения с подкреплением на основе проверяемых наград (RLVR) с набором Dolci-RLZero-Code-7B. Модель содержит 6,9 млрд параметров, принимает текст и генерирует текст; контекст — до 65 536 токенов. Для работы поддерживается библиотека Transformers версии 4.57.0 и выше. Модель предназначена для генерации кода и экспериментов по применению RLVR к задачам программирования. Это экспериментальная исследовательская модель семейства RL-Zero, а не универсальный помощник с заявленными гарантиями качества. Она может выдавать неточные ответы и небезопасный или предвзятый текст, поэтому результаты следует проверять. Лицензия Apache 2.0; Ai2 указывает на исследовательское и образовательное применение согласно своим рекомендациям по ответственному использованию.

1.9K18нояб. 2025ctx65.5K
textapache-2.0hugging-face
neulab
omnitab-large-finetuned-wtq

OmniTab Large fine-tuned на WikiTableQuestions — модель для ответов на вопросы по таблицам, разработанная исследовательской группой NeuLab. Она основана на архитектуре BART и инициализирована весами neulab/omnitab-large; в карточке указано 252,8 млн параметров и контекст до 1024 токенов. Модель обучена для интерпретации таблиц и генерации ответов на вопросы на естественном языке, в том числе в сценариях few-shot question answering. Модель предназначена для работы с таблицами на английском языке. Репозиторий содержит веса PyTorch. Лицензия в предоставленных данных не указана.

787окт. 2022ctx1K
texthugging-face
prithivMLmods
open-deepfake-detection

open-deepfake-detection — экспериментальная модель классификации изображений, созданная PrithivMLmods на базе Google SigLIP 2 Base Patch16 512 и дообученная для бинарного определения поддельных и подлинных изображений. Она использует архитектуру SiglipForImageClassification и обучалась на наборе OpenDeepfake-Preview. Модель предназначена для выявления изображений, сгенерированных или изменённых ИИ, проверки визуальной подлинности, предварительной модерации контента и отбора данных для наборов изображений. В карточке приведён отчёт на 19 999 примерах с точностью 94,44%; эти результаты относятся к указанной оценке и не гарантируют такую же точность на других данных. Модель принимает изображения и выдаёт метку класса «Fake» или «Real». Карточка помечает её как устаревшую и не рекомендует использовать; также модель обозначена как экспериментальная, поэтому результаты следует проверять, особенно при работе с новыми типами генерации и манипуляций. Лицензия — Apache-2.0.

3738май 2025
imageapache-2.0hugging-face
fcx-kilig
pretrain1

pretrain1 — модель классификации текста на базе BERT, дообученная авторами репозитория fcx-kilig на неизвестном датасете. Она предназначена для отнесения текста к классам и может использоваться в задачах, где требуется классификация последовательностей. Модель содержит 136,7 млн параметров, использует архитектуру BertForSequenceClassification, принимает текст и имеет контекст до 512 токенов. В README приведены результаты на оценочной выборке: accuracy 0,7783 и loss 1,0888. Названия классов и состав выборки не раскрыты, поэтому эти оценки не позволяют определить качество для конкретной прикладной задачи. Базовая модель — bert-base-uncased; лицензия — Apache-2.0.

150июнь 2022ctx512
textapache-2.0hugging-face
rd211
Qwen3-0.6B-Instruct

rd211/Qwen3-0.6B-Instruct — дообученная модель на основе Qwen/Qwen3-0.6B, представленная как классификатор последовательностей на базе архитектуры Qwen3. Она предназначена для классификации текста; карточка не уточняет набор классов или конкретные сценарии применения. Модель содержит 507,9 млн параметров, принимает текст и выдаёт результат классификации. Её нативный контекст составляет 40 960 токенов. Репозиторий использует библиотеку Transformers и формат Safetensors. Базовая Qwen3 описана как компактная многоязычная модель для генерации текста, диалогов, рассуждений и работы с инструментами, однако эти возможности не подтверждены как специализация данного классификационного чекпойнта. Модель выпущена rd211 и дообучена на датасете, обозначенном в README как None, поэтому сведения о тренировочных данных и оценке качества отсутствуют. Лицензия — Apache-2.0.

1182май 2025ctx41K
textapache-2.0hugging-face
gzh6
rbt3-chn-senti-corp

gzh6/rbt3-chn-senti-corp — компактная китайская BERT-модель, дообученная автором репозитория на неизвестном датасете для классификации текста. Она предназначена для присвоения меток китайским текстам; в карточке приведены результаты оценки: accuracy 0,9208 и loss 0,2704. Модель содержит 44,5 млн параметров, принимает последовательности длиной до 512 токенов и распространяется в формате safetensors для Transformers. Базовая модель — hfl/rbt3, предварительно обученная для обработки китайского текста. Модель подходит для классификации китайских текстов в приложениях и исследовательских прототипах. В карточке не названы набор меток, датасет и конкретная область применения, поэтому результаты оценки нельзя автоматически переносить на другие данные. Лицензия — Apache-2.0.

910окт. 2025ctx512
textapache-2.0hugging-face
speechbrain
resepformer-wsj02mix

RE-SepFormer — модель разделения аудиоисточников, разработанная командой SpeechBrain и обученная на наборе WSJ0-2Mix. Она предназначена для выделения отдельных речевых сигналов из смешанной записи; репозиторий предоставляет средства для запуска разделения на собственных аудиофайлах. Модель реализована на архитектуре RE-SepFormer с использованием SpeechBrain. На тестовом наборе WSJ0-2Mix указаны SI-SNRi 18,6 дБ и SDRi 18,9 дБ. Для входных записей требуются монофонический сигнал с частотой дискретизации 8 кГц; аудио с другой частотой нужно предварительно пересэмплировать. Модель поддерживает английскую речь и распространяется по лицензии Apache-2.0. Разработчики не гарантируют такую же производительность на других наборах данных, поэтому результаты на аудио за пределами WSJ0-2Mix могут отличаться.

1204июнь 2022
audioapache-2.0hugging-face
Afzalsiiit
results

Afzalsiiit/results — дообученная модель классификации изображений на основе Swin-Tiny, разработанной Microsoft. Она обучена на наборе данных, загруженном в формате imagefolder, и предназначена для отнесения изображений к категориям. В карточке указана потеря 0,0274 на оценочном наборе, но состав классов и подробности оценки не приведены. Модель содержит около 33 млн параметров, использует архитектуру Swin и сохранена в формате safetensors. Лицензия — Apache-2.0. Карточка не описывает конкретные сценарии применения или ограничения качества; результаты могут зависеть от соответствия новых изображений обучающим данным и классам.

60июль 2026
imageapache-2.0hugging-face
DTAI-KULeuven
robbert-2022-dutch-base

RobBERT-2022 — нидерландская языковая модель, разработанная группой DTAI-KULeuven. Это модель архитектуры RoBERTa с 146,1 млн параметров, предназначенная для заполнения пропусков в тексте и дальнейшей адаптации к задачам обработки нидерландского языка. Она продолжает предварительное обучение RobBERT v2 на версии набора OSCAR за 2022 год, поэтому лучше учитывает более новые слова и события, включая лексику, связанную с COVID-19. Модель принимает текст с маскированными токенами и предсказывает вероятные замены. Контекст составляет до 514 токенов. Её можно дообучать для классификации текста и разметки частей речи; в карточке отмечено, что на задачах без сведений новее 2019 года исходная RobBERT v2 иногда показывает лучшие результаты. Модель распространяется в форматах PyTorch и safetensors по лицензии MIT.

3129авг. 2022ctx514
textmithugging-face
ganchengguang
RoBERTa-base-japanese-sentencepiece

Это предварительно обученная языковая модель RoBERTa, созданная лабораторией Mori при Университете Йокогамы для работы с японскими текстами. Модель содержит 74,1 млн параметров, использует токенизатор SentencePiece и принимает последовательности длиной до 512 токенов; для дообучения в README рекомендована максимальная длина 510 токенов. Основная задача модели — предсказание замаскированных токенов в японском тексте. Её можно дообучать для языковых задач; в README также приведён результат 95,4% точности на бинарной классификации тональности JGLUE-marc_ja-v1.0. Доступны веса PyTorch, лицензия — Apache-2.0. README содержит пример загрузки токенизатора через класс AlbertTokenizer, поэтому совместимость этого примера с указанной архитектурой RoBERTa требует проверки.

5621авг. 2022ctx512
textapache-2.0hugging-face
AChierici84
sentiment-roberta-finetuned

Это англоязычная RoBERTa-base для анализа тональности, разработанная Anna Chierici. Модель дообучена на базе cardiffnlp/twitter-roberta-base-sentiment-latest на данных SemEval и твитах, отправленных аккаунту @AmazonHelp, и предназначена для оценки удовлетворённости клиентов и репутации компаний. Модель принимает текст и относит его к одному из трёх классов: отрицательная, нейтральная или положительная тональность. Её можно применять для анализа отзывов и клиентских сообщений, в том числе публикаций в Twitter. Архитектура — RoBERTa для классификации последовательностей, размер — 151,8 млн параметров, контекст — до 514 токенов. Модель работает с английским языком. Лицензия в предоставленных данных не указана. Качество за пределами описанных данных и сценариев не охарактеризовано; обучающие данные включают твиты, связанные с обращениями в поддержку Amazon.

180нояб. 2025ctx514
texthugging-face
asapp
sew-d-base-plus-400k-ft-ls100h

SEW-D-base+ — акустическая модель ASAPP Research на архитектуре SEW-D, разработанной как более эффективный вариант подходов wav2vec 2.0. Модель содержит 226,5 млн параметров и предварительно обучена на речевых аудиозаписях с частотой дискретизации 16 кГц; для распознавания речи входное аудио также должно быть приведено к 16 кГц. Модель предназначена для дообучения под распознавание речи и другие задачи анализа речи. В карточке описан сценарий транскрибирования аудио через CTC; как архитектурные преимущества SEW в статье указаны ускорение вывода и снижение частоты ошибок относительно wav2vec 2.0 в экспериментах на LibriSpeech. Поддерживаемый язык — английский, среди связанных данных указан LibriSpeech ASR. Лицензия — Apache-2.0. В карточке также отмечено, что базовую модель следует дообучать под целевую задачу.

2954март 2022ctx512
textaudioapache-2.0hugging-face
aufklarer
Silero-VAD-v5-MLX

aufklarer/Silero-VAD-v5-MLX — конвертированные веса Silero VAD v5 для запуска с библиотекой MLX на устройствах Apple Silicon. Модель предназначена для обнаружения речевой активности в аудиопотоке: принимает последовательные фрагменты по 512 отсчётов (32 мс при частоте 16 кГц) и выдаёт вероятность наличия речи от 0 до 1 для каждого фрагмента. Состояние LSTM сохраняется между фрагментами для потоковой обработки. Архитектура включает STFT, свёрточный энкодер из четырёх слоёв Conv1d с ReLU, LSTM со скрытым размером 128 и свёрточный декодер с сигмоидой; размер — около 309 тысяч параметров. Заявлена задержка менее миллисекунды. Репозиторий содержит веса safetensors, преобразованные из официальной JIT-модели Silero VAD v5; базовая модель — snakers4/silero-vad. Лицензия — MIT.

23K4февр. 2026
audiomithugging-face
funnel-transformer
small

Funnel Transformer Small — предварительно обученная модель семейства Funnel Transformer, представленная в научной работе и выпущенная авторами модели. Это компактная плотная трансформерная архитектура с конфигурацией B4-4-4 и декодером; модель обучалась на английских текстах без меток с целью распознавать заменённые токены. Она регистронезависимая и рассчитана на контекст до 512 токенов. Модель извлекает контекстные представления английского текста, которые можно использовать как признаки для классификаторов и других задач обработки целых предложений или токенов. Основные сценарии — подготовка признаков для классификации последовательностей, классификации токенов и ответов на вопросы; для генерации текста модель не предназначена. Доступны веса в форматах PyTorch и TensorFlow. Модель предобучена на BookCorpus, английской Википедии, ClueWeb, GigaWord и Common Crawl. Карточка рекомендует дообучать её под конкретную задачу; качество и пригодность для целевых данных зависят от такого дообучения. Лицензия — Apache-2.0.

9.8K6март 2022ctx512
textembeddingapache-2.0hugging-face
marcoyang
spear-xlarge-speech-audio-v2

SPEAR XLarge v2 — открытый энкодер SPEAR для обучения представлениям речи и общего аудио, разработанный авторами работы SPEAR и опубликованный как версия модели для статьи, принятой на ICML 2026. Это самонагружаемая модель с backbone Zipformer из 13 стеков и примерно 600 млн параметров. На вход подаются монофонические или пакетированные аудиосигналы с частотой 16 кГц; энкодер выдаёт покадровые представления размерностью 1280 примерно с частотой 50 Гц. Модель обучалась на неразмеченных данных: около 184 тысяч часов английской речи и 13 тысяч часов общего аудио. Версия v2 добавляет token mixing для повышения устойчивости к шуму, перекрывающейся речи и смешанным акустическим сценам. SPEAR предназначена как универсальный акустический энкодер для последующей настройки под распознавание речи, аудиотегирование и другие задачи понимания речи и звуков; сама предобученная модель не выдаёт транскрипции или метки без соответствующей downstream-модели или дообучения. Карточка сообщает о высоких результатах на SUPERB и HEAR, а также приводит результаты настройки на LibriSpeech и AudioSet. Модель распространяется по лицензии Apache-2.0.

1.3K8июнь 2026
textembeddingapache-2.0hugging-face
mariaantoniak
storyseeker

StorySeeker — модель классификации текста, созданная Maria Antoniak путём дообучения RoBERTa-base на датасете StorySeeker. Она определяет, содержит ли текст историю согласно определению из кодбука проекта. Модель рассчитана на анализ публикаций и комментариев в онлайн-сообществах, а также может применяться к другим наборам текстов. Архитектура — RoBERTa для классификации последовательностей, размер — 151,8 млн параметров, максимальная длина контекста — 514 токенов. На тестовой выборке авторы сообщают точность 0,8416 и значение функции потерь 0,4343. Модель дообучена на 301 публикации и комментарии Reddit с бинарными метками; её результаты на других типах текстов могут отличаться. Лицензия — MIT.

7531февр. 2024ctx514
textmithugging-face
monsoon-nlp
tamillion

TaMillion — вторая версия языковой модели для тамильского языка, обученная автором модели с использованием ELECTRA от Google Research. Это базовая модель с архитектурой ELECTRA, представленная как BertModel: она содержит 143,9 млн параметров и рассчитана на последовательности до 512 токенов. Модель обучалась на корпусе IndicCorp Tamil и дампе Википедии на тамильском языке; текущая версия прошла 224 000 шагов предобучения. Модель предназначена для извлечения признаков из тамильского текста и может служить основой для дообучения под классификацию, регрессию и ответы на вопросы. В приведённых автором результатах TaMillion превзошла mBERT на классификации новостей и немного — на анализе отзывов о фильмах, а на тематической классификации «Тируккурала» показала сопоставимую точность. Для прикладной системы под конкретную задачу потребуется отдельная настройка; карточка не описывает лицензию.

1243март 2022ctx512
textembeddinghugging-face
google
tapas-small-finetuned-wtq

google/tapas-small-finetuned-wtq — небольшая модель TAPAS от Google для ответов на вопросы по таблицам. Она построена на архитектуре Transformer, похожей на BERT, содержит 32,4 млн параметров и принимает вопрос вместе с таблицей, преобразованной в последовательность текста. Для выбора ответа модель использует головы выбора ячеек и агрегации; в стандартной версии позиции в таблице сбрасываются для каждой ячейки. Модель предварительно обучалась на англоязычных таблицах и текстах Википедии, а затем последовательно дообучалась на SQA, WikiSQL и WikiTable Questions. Она предназначена для извлечения ответа из содержимого таблицы и может учитывать числовые отношения. Контекст ограничен 512 токенами; заявленные данные обучения и карточка ориентированы на английский язык. Доступны веса PyTorch и TensorFlow. Модель распространяется по лицензии Apache-2.0. Карточка приводит результаты для крупных и базовой версий TAPAS, но не указывает оценку для этой небольшой версии; качество на иных типах таблиц и языках может отличаться.

7209март 2022ctx512
textapache-2.0hugging-face

Задачи профессии

22 задачи
400Профилирование нового набора данных. — Механизм: AI сопоставляет наблюдаемое состояние с эталонами, нормативами или историческими аналогами и оценивает степень соответствия. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. Исходные данные: таблицы и события, схемы и определения бизнес-метрик. Формат результата: оценка по задаче «Профилирование нового набора данных» в числовой или категориальной форме с расшифровкой факторов, допущений и неопределённости. Проверка: сверкой с экспертными оценками или фактическими исходами, а также анализом чувствительности к входным данным; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
401Определение вероятного смысла и типа столбцов. — AI сопоставляет наблюдаемые признаки с критериями и устанавливает требуемое значение, состояние или вариант. К исходным данным относятся таблицы, события, файлы и схемы. Формат результата: установленное значение или вариант по задаче «Определение вероятного смысла и типа столбцов» с оценкой уверенности и основаниями решения. Надёжность оценивают по точности относительно эталона, калибровке уверенности и разбору случаев, где источники расходятся; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
402Обнаружение пропусков, выбросов и невозможных значений. — Для этой задачи система анализирует поток наблюдений и локализует признаки, которые отличают целевой объект или нарушение от обычного состояния. Рабочие входы: события, файлы, схемы и каталоги данных. Формат результата: перечень объектов, событий или отклонений, относящихся к «Обнаружение пропусков, выбросов и невозможных значений», с локализацией, уверенностью и признаками срабатывания. Критерии приёмки: по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
403Выбор стратегии заполнения пропущенных данных. — Практическая реализация: AI объединяет историю, текущую ситуацию и обязательные условия, чтобы предложить следующий наиболее обоснованный шаг. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. Входной контекст включает таблицы и события, схемы и определения бизнес-метрик. Формат результата: несколько вариантов для «Выбор стратегии заполнения пропущенных данных», ранжированных по полезности, ограничениям и причинам выбора. Ошибки выявляют по полезности для пользователя, соблюдению ограничений и качеству результата после принятия рекомендации; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
404Очистка и стандартизация категориальных значений. — Механизм: AI преобразует исходный материал по заданным правилам, сохраняя смысл, структуру и критически важные детали. Исходные данные: схемы, каталоги данных, SQL и бизнес-метрики. Формат результата: преобразованный материал по задаче «Очистка и стандартизация категориальных значений» с сохранённым содержанием и журналом значимых изменений. Проверка: сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
405Сопоставление и объединение данных из разных источников. — AI строит единое пространство признаков и устанавливает соответствия между элементами, которые описаны по-разному. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. К исходным данным относятся таблицы и события, схемы и определения бизнес-метрик. Формат результата: карта соответствий и различий для «Сопоставление и объединение данных из разных источников», где элементы приведены к единым критериям и связаны с первичными данными. Надёжность оценивают экспертной сверкой соответствий и проверкой, что различия не вызваны несовместимыми форматами; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
406Автоматическое построение ETL/ELT-конвейера. — Для этой задачи система объединяет уравнения, эмпирические данные и обученные зависимости в модель, пригодную для анализа чувствительности. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. Рабочие входы: таблицы и события, схемы и определения бизнес-метрик. Формат результата: вычислительная модель или карта для «Автоматическое построение ETL/ELT-конвейера» с результатами сценариев и анализом чувствительности. Критерии приёмки: сопоставлением с наблюдениями, тестами чувствительности и воспроизводимостью вычислений; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
407Генерация преобразований данных по словесному описанию. — Практическая реализация: AI создаёт новый артефакт по требованиям, исходным фактам и примерам, сохраняя возможность последующего редактирования. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. Входной контекст включает таблицы и события, схемы и определения бизнес-метрик. Формат результата: редактируемый артефакт по задаче «Генерация преобразований данных по словесному описанию», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — аналитический набор или запрос. Ошибки выявляют по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
408Проверка качества данных по автоматически предложенным правилам. — Механизм: AI сверяет объект с эталоном, правилами и взаимными зависимостями, отмечая пропуски, конфликты и нарушения. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. Исходные данные: таблицы и события, схемы и определения бизнес-метрик. Формат результата: протокол выполнения «Проверка качества данных по автоматически предложенным правилам» с пройденными условиями, найденными нарушениями и спорными местами для ручного решения. Проверка: повторным запуском на эталонных примерах, ручной проверкой спорных случаев и полнотой контрольного покрытия; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
409Обнаружение нарушения контрактов данных. — AI сочетает обученные шаблоны с контрольными правилами, чтобы находить значимые случаи и не пропускать пограничные примеры. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. К исходным данным относятся таблицы и события, схемы и определения бизнес-метрик. Формат результата: перечень объектов, событий или отклонений, относящихся к «Обнаружение нарушения контрактов данных», с локализацией, уверенностью и признаками срабатывания. Надёжность оценивают по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
410Анализ происхождения показателя и цепочки преобразований. — Для этой задачи система разбирает данные по существенным признакам, выявляет связи и формирует выводы с привязкой к исходным свидетельствам. Рабочие входы: файлы, схемы, каталоги данных и SQL. Формат результата: объяснимые выводы по задаче «Анализ происхождения показателя и цепочки преобразований» с влияющими факторами, альтернативными трактовками и ссылками на данные. Критерии приёмки: воспроизводимостью расчётов, проверкой источников и сравнением выводов с альтернативными объяснениями; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
411Генерация SQL по вопросу на естественном языке. — Практическая реализация: AI собирает содержание и структуру из заданных ограничений, затем формирует несколько вариантов для выбора и доработки. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. Входной контекст включает таблицы и события, схемы и определения бизнес-метрик. Формат результата: редактируемый артефакт по задаче «Генерация SQL по вопросу на естественном языке», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — аналитический набор или запрос. Ошибки выявляют по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
412Объяснение SQL-запроса и поиск логических ошибок. — Механизм: AI агрегирует разрозненные сигналы в целостную картину и показывает, какие данные поддерживают каждый вывод. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. Исходные данные: таблицы и события, схемы и определения бизнес-метрик. Формат результата: объяснимые выводы по задаче «Объяснение SQL-запроса и поиск логических ошибок» с влияющими факторами, альтернативными трактовками и ссылками на данные. Проверка: воспроизводимостью расчётов, проверкой источников и сравнением выводов с альтернативными объяснениями; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
413Автоматическое построение подходящей визуализации. — AI создаёт вычислительное представление объекта или процесса и проигрывает на нём альтернативные сценарии. К исходным данным относятся SQL, бизнес-метрики, таблицы и события. Формат результата: вычислительная модель или карта для «Автоматическое построение подходящей визуализации» с результатами сценариев и анализом чувствительности. Надёжность оценивают сопоставлением с наблюдениями, тестами чувствительности и воспроизводимостью вычислений; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
414Создание смыслового слоя метрик. — Для этой задачи система собирает содержание и структуру из заданных ограничений, затем формирует несколько вариантов для выбора и доработки. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. Рабочие входы: таблицы и события, схемы и определения бизнес-метрик. Формат результата: редактируемый артефакт по задаче «Создание смыслового слоя метрик», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — аналитический набор или запрос. Критерии приёмки: по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
415Объяснение изменения показателя через декомпозицию факторов. — Практическая реализация: AI агрегирует разрозненные сигналы в целостную картину и показывает, какие данные поддерживают каждый вывод. Входной контекст включает таблицы, события, файлы и схемы. Формат результата: объяснимые выводы по задаче «Объяснение изменения показателя через декомпозицию факторов» с влияющими факторами, альтернативными трактовками и ссылками на данные. Ошибки выявляют воспроизводимостью расчётов, проверкой источников и сравнением выводов с альтернативными объяснениями; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
416Когортный анализ. — Механизм: AI разбирает данные по существенным признакам, выявляет связи и формирует выводы с привязкой к исходным свидетельствам. Исходные данные: события, файлы, схемы и каталоги данных. Формат результата: объяснимые выводы по задаче «Когортный анализ» с влияющими факторами, альтернативными трактовками и ссылками на данные. Проверка: воспроизводимостью расчётов, проверкой источников и сравнением выводов с альтернативными объяснениями; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
417Анализ воронки и точек потери. — AI сопоставляет наблюдения, отделяет устойчивые закономерности от случайных совпадений и объясняет влияющие факторы. К исходным данным относятся файлы, схемы, каталоги данных и SQL. Формат результата: объяснимые выводы по задаче «Анализ воронки и точек потери» с влияющими факторами, альтернативными трактовками и ссылками на данные. Надёжность оценивают воспроизводимостью расчётов, проверкой источников и сравнением выводов с альтернативными объяснениями; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
418Сегментация объектов по поведению. — Для этой задачи система строит границы между категориями и ранжирует объекты так, чтобы наиболее важные или срочные обрабатывались раньше. Рабочие входы: схемы, каталоги данных, SQL и бизнес-метрики. Формат результата: результат «Сегментация объектов по поведению» в виде метки, класса, ранга или тематического слоя с уверенностью и объясняющими признаками. Критерии приёмки: по матрице ошибок, калибровке уверенности и отдельному анализу пограничных классов; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
419Поиск статистически значимых зависимостей. — Практическая реализация: AI индексирует доступные материалы, понимает смысл запроса и ранжирует кандидатов по содержательному совпадению. Входной контекст включает каталоги данных, SQL, бизнес-метрики и таблицы. Формат результата: ранжированный список кандидатов по задаче «Поиск статистически значимых зависимостей» со ссылками на источники, оценкой соответствия и фрагментами подтверждения. Ошибки выявляют по релевантности, полноте, отсутствию недопустимых источников и точности ссылок на подтверждение; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
420Подготовка аналитического отчёта с выводами и оговорками. — Механизм: AI собирает содержание и структуру из заданных ограничений, затем формирует несколько вариантов для выбора и доработки. Исходные данные: SQL, бизнес-метрики, таблицы и события. Формат результата: редактируемый артефакт по задаче «Подготовка аналитического отчёта с выводами и оговорками», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — аналитический набор или запрос. Проверка: по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
421Естественно-языковой интерфейс к BI-системе. — AI обходит разрешённые источники, объединяет найденное и отсеивает нерелевантные либо дублирующиеся результаты. К исходным данным относятся бизнес-метрики, таблицы, события и файлы. Формат результата: ранжированный список кандидатов по задаче «Естественно-языковой интерфейс к BI-системе» со ссылками на источники, оценкой соответствия и фрагментами подтверждения. Надёжность оценивают по релевантности, полноте, отсутствию недопустимых источников и точности ссылок на подтверждение; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик. <a id="section-ii-9"></a>

0 моделей