/ Профессии
Разработка ПО, данные, AI и инфраструктура

II.8Инженерия данных и аналитика

В разделе собраны самостоятельные задачи, где AI помогает готовить надёжные данные и превращать их в понятную аналитику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.

ЭмбеддингиТекст
AI-задач
22
в этой профессии
Подходящих моделей
23 488
по типу задач и модальности
Категория
II. Разработка и данные
Основные типы
ЭмбеддингиТекст

Рекомендованные модели

23 488 моделей
Загрузки
Лайки
Дата выхода
4 831–4 860 из 23 488
XiaPinJohnKe
test-trainer

XiaPinJohnKe/test-trainer — дообученная модель классификации последовательностей на базе BERT Base Uncased от Google, разработанная автором репозитория. Она предназначена для отнесения входного текста к классам; обучающий датасет и конкретная схема классов не описаны. Модель содержит 136,7 млн параметров, принимает текстовые последовательности длиной до 512 токенов и распространяется в формате safetensors. В карточке приведены результаты оценки: accuracy 0,7794, F1 0,8534 и loss 0,5037. Эти показатели относятся к указанному набору оценки, детали которого не раскрыты, поэтому переносить их на другие данные нельзя. Лицензия — Apache-2.0.

180нояб. 2025ctx512
textapache-2.0hugging-face
Sandrro
text_to_function_v2

Sandrro/text_to_function_v2 — дообученная модель классификации текста на базе cointegrated/rubert-tiny2, опубликованная на Hugging Face. Это модель BERT с 29 млн параметров, рассчитанная на классификацию последовательностей; в репозитории указаны веса PyTorch и контекст до 2048 токенов. Карточка сообщает F1 0,7937 и loss 1,0580 на оценочном наборе, но не описывает классы, датасет или предполагаемый сценарий классификации. Поэтому модель можно рассматривать для задач текстовой классификации после проверки на собственных данных. Лицензия — MIT.

990июль 2023ctx2K
textmithugging-face
shossain11
videomae-base-finetuned-inhard-finetuned-inhard2

shossain11/videomae-base-finetuned-inhard-finetuned-inhard2 — дообученная модель VideoMAE для классификации видео. Она содержит 113,2 млн параметров и представлена в формате safetensors. Модель дообучена на базе shossain11/videomae-base-finetuned-inhard; датасет и классы классификации в карточке не описаны. Модель предназначена для присвоения видео меток классов. На оценочном наборе указаны loss 1,2799 и accuracy 0,6682, однако без сведений о наборе данных и схеме классов эти показатели трудно интерпретировать. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое использование.

160дек. 2023
videocc-by-nc-4.0hugging-face
OpenGVLab
VideoMAEv2-Large

VideoMAEv2-Large — крупная видеомодель OpenGVLab, предварительно обученная в течение 800 эпох методом самообучения на наборе UnlabeledHybrid-1M. Модель основана на архитектуре VideoMAE V2 с механизмом двойного маскирования и представлена в работе Wang et al. для CVPR 2023. Модель предназначена для извлечения признаков из видео и классификации видеоматериалов. Она принимает видео и выдаёт признаки, которые можно использовать в задачах анализа и классификации видеосодержимого. В репозитории веса представлены в формате safetensors. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение. Карточка рекомендует использовать исходную модель для извлечения видеопризнаков; другие сценарии требуют подходящей настройки или классификационной головы.

4.0K2янв. 2025
videocc-by-nc-4.0hugging-face
facebook
wav2vec2-xls-r-300m

Wav2Vec2-XLS-R-300M — созданная Facebook AI мультиязычная модель предварительного обучения для извлечения речевых представлений на основе архитектуры wav2vec 2.0. В карточке указано 300 млн параметров, а метаданные репозитория — 402,7 млн; модель предобучена на 436 тысячах часов неразмеченной речи из 128 языков. Для подачи речи требуется частота дискретизации 16 кГц. Модель служит основой для дообучения под распознавание речи, перевод речи и классификацию, включая определение языка. Она не является готовой системой распознавания речи без соответствующей настройки. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache 2.0.

298K142март 2022
textapache-2.0hugging-face
crichalchemist
welfare-constructs-distilbert

crichalchemist/welfare-constructs-distilbert — модель на базе DistilBERT для классификации текста, опубликованная в библиотеке Transformers на Hugging Face. Метаданные указывают на поддержку задачи text-classification и контекст длиной до 512 токенов. Модель можно применять для отнесения текстовых примеров к классам, определённым её обучением, однако README не содержит сведений о разработчике, обучающей выборке, целевых метках, языках, размере модели, лицензии, методике обучения или результатах оценки. Поэтому конкретные сценарии применения и качество классификации необходимо проверять по конфигурации модели и экспериментально.

220февр. 2026ctx512
texthugging-face
im-shriram
xlm-roberta-base-finetuned-panx-de

im-shriram/xlm-roberta-base-finetuned-panx-de — модель XLM-RoBERTa, дообученная на базе FacebookAI/xlm-roberta-base для классификации токенов. Название указывает на настройку для немецкой версии задачи PAN-X, однако README сообщает, что обучающий набор данных неизвестен, поэтому назначение для немецкого PAN-X следует считать предположительным. Модель содержит 305,2 млн параметров, использует архитектуру XLMRobertaForTokenClassification и принимает текст, возвращая метки для его токенов. Максимальная длина контекста — 514 токенов. В README указаны результаты оценки: loss 0,2740 и F1 0,8584; сведений о наборе оценки и разбиении недостаточно, чтобы интерпретировать эти показатели шире. Модель распространяется по лицензии MIT. Карточка не описывает ограничения применения и не приводит подробностей обучения.

110июнь 2026ctx514
textmithugging-face
zyr-AGENT
zyr3

ZYR3 — компактная языковая модель семейства ZYR3, разработанная авторами проекта ZYR3 как локальный помощник для программирования. Она генерирует продолжения кода на устройстве и может использоваться как быстрый офлайн-слой подсказок в терминальном чате и при работе агента над репозиторием. README также описывает консольный интерфейс и автономного build-агента, который редактирует файлы и проверяет результат командами, однако эти функции относятся к приложению и не подтверждают, что сама модель самостоятельно выполняет инструменты. Модель имеет плотную авторегрессионную архитектуру ZYR3ForCausalLM, содержит 12,4 млн параметров и рассчитана на контекст до 1 048 576 токенов. Для загрузки доступны веса Safetensors; метаданные указывают библиотеку Transformers, чат-возможность и английский язык. README позиционирует её для локальной работы без GPU. Модель предназначена для генерации кода и подсказок при разработке. Карточка не приводит сравнительных оценок именно локальной модели: таблица бенчмарков относится к модели тяжёлого уровня через API-шлюз ZYR3. Лицензия обозначена как other, поэтому конкретные условия использования следует проверять в репозитории.

4161авг. 2026ctx1M
textotherhugging-face
Samanehmoghaddam
AbuseBERT

AbuseBERT — модель классификации текста на основе RoBERTa, дообученная для выявления оскорбительной, токсичной и другой агрессивной речи. Разработчики объединили и согласовали данные из десяти публичных наборов, чтобы уменьшить зависимость от лексических и выборочных особенностей отдельных датасетов и улучшить перенос на новые источники. В карточке сообщается о F1 0,84 на отложенном бенчмарке для интегрированной модели против среднего F1 0,60 у моделей, обученных на отдельных наборах. Модель предназначена для анализа текста из социальных сетей, форумов и переписок: она может помогать модераторам находить потенциально вредный контент и исследователям изучать онлайн-травлю, кибернасилие и язык ненависти. Это англоязычная модель с контекстом до 130 токенов и 162,4 млн параметров. Доступны веса PyTorch; лицензия — MIT.

1131сент. 2025ctx130
textmithugging-face
michaelrglass
albert-base-rci-wikisql-row

Это модель классификации пар «вопрос — строка таблицы», опубликованная Майклом Глассом и основанная на albert-base-v2. Она обучена для выбора строк, относящихся к вопросу на естественном языке, в таблицах из набора WikiSQL-Lookup. В проекте IBM такие модели отдельно ранжируют строки и столбцы; их результаты объединяются для оценки ячеек и поиска ответа на вопрос по таблице. Модель использует архитектуру ALBERT для классификации последовательностей, содержит 136,3 млн параметров и принимает последовательности длиной до 512 токенов. Это специализированный компонент системы табличного вопросно-ответного поиска, а не универсальная генеративная модель: она выдаёт метки релевантности для пар вопроса и строки, но самостоятельно не формулирует ответ. Для проекта указана лицензия Apache-2.0.

2.6K0март 2022ctx512
texthugging-face
IsaacZhy
bert-base-goemotions

IsaacZhy/bert-base-goemotions — модель классификации текста на основе BERT, дообученная на наборе GoEmotions. Она присваивает тексту эмоциональные категории. Модель имеет 136,7 млн параметров, принимает последовательности длиной до 512 токенов и распространяется в формате PyTorch. На тестовой выборке указаны F1 0,5727, ROC AUC 0,7796 и точность 0,4375. Базовая модель bert-base-uncased ориентирована на английский язык, поэтому модель подходит прежде всего для классификации англоязычных текстов. Лицензия — Apache-2.0.

1.6K2февр. 2023ctx512
textapache-2.0hugging-face
cahya
bert-base-indonesian-522M

Это базовая модель BERT для индонезийского языка, разработанная Cahya и предварительно обученная на индонезийской Википедии с задачей masked language modeling. Она предназначена прежде всего для предсказания пропущенных слов, а также может использоваться как основа для извлечения признаков и дообучения на прикладные задачи обработки индонезийского текста. Модель без учёта регистра: слова Indonesia и indonesia обрабатываются одинаково. Архитектура — BERT-base с плотной сетью и головкой BertForMaskedLM; в репозитории указано 137,8 млн параметров и контекст до 512 токенов. Текст токенизируется методом WordPiece со словарём размером 32 000. Доступны веса в форматах PyTorch, TensorFlow и Flax. Модель распространяется по лицензии MIT.

1.1K29март 2022ctx512
textmithugging-face
usmiva
bert-desinform-bg

bert-desinform-bg — модель классификации текстов, разработанная Ивой Мариновой и распространённая Институтом больших данных для умного общества GATE в Болгарии. Она дообучена на основе usmiva/bert-web-bg на наборе данных GATE для выявления дезинформации в сообщениях социальных сетей. Модель построена на архитектуре BERT и содержит 136,3 млн параметров; принимает текст на болгарском языке, а длина контекста составляет до 512 токенов. Модель предназначена для классификации сообщений в социальных сетях по признакам дезинформации и может использоваться в исследовательских и прикладных системах мониторинга контента. Карточка не приводит метрик качества, описания классов, подробностей обучающего набора или оценки смещений, поэтому результаты следует проверять на целевых данных. Лицензия в метаданных указана как CC BY 2.0.

370июль 2023ctx512
textcc-by-2.0hugging-face
koheiduck
bert-japanese-finetuned-sentiment

koheiduck/bert-japanese-finetuned-sentiment — модель классификации японского текста, опубликованная пользователем koheiduck на Hugging Face. Она предназначена для анализа тональности японских текстов и возвращает метки классификации. Модель использует архитектуру BERT и класс BertForSequenceClassification; содержит 137,8 млн параметров и принимает последовательности длиной до 512 токенов. Модель работает с текстом и подходит, например, для определения тональности отзывов или сообщений на японском языке. Карточка рекомендует запуск через Transformers с задачей text-classification, но не описывает обучающие данные, точность, набор меток или лицензию; эти характеристики нельзя надёжно указать.

8.9K29дек. 2022ctx512
texthugging-face
rasyosef
bert-medium-amharic-finetuned-sentiment

Это модель классификации тональности текста на амхарском языке, разработанная на основе bert-medium-amharic и дообученная на наборе данных rasyosef/amharic-sentiment. Она построена на архитектуре BERT и содержит 48,2 млн параметров; максимальная длина контекста составляет 512 токенов. Модель предназначена для определения тональности амхарских текстов, например коротких отзывов или сообщений. В README приведены результаты на оценочной выборке: accuracy 0,83, precision 0,84, recall 0,83 и F1 0,83. Для запуска используется библиотека Transformers и задача text-classification. Лицензия в предоставленных данных не указана.

2.6K0июнь 2024ctx512
texthugging-face
pysentimiento
bert-pt-emotion

pysentimiento/bert-pt-emotion — модель классификации текста на основе BERT, опубликованная проектом pysentimiento. Она предназначена для распознавания эмоций в португальском тексте и выдаёт оценки для нескольких эмоциональных категорий, включая восхищение, радость, гнев, грусть и нейтральность. Модель содержит 136,1 млн параметров, использует архитектуру BertForSequenceClassification и принимает последовательности длиной до 512 токенов. Модель подходит для анализа эмоциональной окраски пользовательских сообщений и публикаций на португальском языке. Документация pysentimiento отмечает, что для разных задач и языков используются разные данные и модели; опубликованные результаты для BERT-pt на распознавании эмоций приведены как средний macro-F1 44,4 ± 0,6%. Сведения о лицензии в доступных источниках не подтверждены.

2.3K3сент. 2023ctx512
texthugging-face
girijesh
bge-base-financial-matryoshka

girijesh/bge-base-financial-matryoshka — англоязычная модель Sentence Transformer на базе BAAI/bge-base-en-v1.5, дообученная на 6 300 парах текстов финансовой тематики. Модель использует архитектуру BERT с CLS-пулингом и нормализацией и преобразует предложения и абзацы в плотные эмбеддинги размерностью 768; максимальная длина входа — 512 токенов. Модель предназначена для семантического поиска и сравнения финансовых текстов, включая поиск релевантных фрагментов, подбор перефразирований, кластеризацию и классификацию на основе эмбеддингов. Для оценки близости применяется косинусное сходство; модель поддерживает Matryoshka-эмбеддинги с сокращением размерности до 64, 128, 256 или 512. В README приведены результаты на наборах dim_768, dim_512, dim_256, dim_128 и dim_64, но подробности самих наборов не раскрыты. Модель принимает текст на английском языке и выдаёт векторные представления, поэтому для использования в поиске требуется индексировать тексты и сравнивать эмбеддинги. Она выпущена под лицензией Apache-2.0. Результаты для других языков и текстов за пределами финансовой тематики в карточке не подтверждены.

1080окт. 2024ctx512
textembeddingapache-2.0hugging-face
BidirLM
BidirLM-270M-Base

BidirLM-270M-Base — промежуточная модель семейства BidirLM от авторов репозитория BidirLM, созданная на основе Google Gemma 3 270M. Авторы преобразовали причинное внимание Gemma 3 в двунаправленное и обучили модель методом Masked Next Token Prediction на 30 млрд токенов из многодоменного корпуса, после чего объединили её веса с исходными весами Gemma 3 в пропорции 50/50. Модель имеет плотную архитектуру BidirLMForMaskedLM, около 257 млн параметров и контекст до 32 768 токенов. Модель предназначена для заполнения масок и получения двунаправленных текстовых представлений; метаданные также относят её к задачам классификации текста и токенов. Она поддерживает множество языков, включая английский, русский и другие языки, перечисленные в метаданных. Для общих эмбеддингов и дообучения на прикладные задачи авторы рекомендуют отдельную контрастивно обученную модель BidirLM-270M-Embedding. Для загрузки требуется Transformers с параметром trust_remote_code=True. Лицензия — Apache-2.0. В README указаны различия совместимости между Transformers 4.x и 5.x; также модель обозначена как промежуточный чекпойнт, а не рекомендованный авторами вариант для общих эмбеддингов.

1570апр. 2026ctx32.8K
textapache-2.0hugging-face
AUEB-NLP
ByT5_g2g

AUEB-NLP/ByT5_g2g — модель ByT5, дообученная для преобразования греческого текста, записанного латинскими буквами (Greeklish), в стандартную греческую письменность. Она использует архитектуру T5ForConditionalGeneration и обрабатывает текст на уровне байтов, что подходит для транслитерации нестандартной записи. Модель содержит 364,6 млн параметров и распространяется в формате PyTorch. Модель предназначена для нормализации и транслитерации Greeklish в греческий текст. Она описана в работе «Still All Greeklish to Me: Greeklish to Greek Transliteration» (LREC-COLING 2024), авторы которой связаны с AUEB-NLP. Ограничений по применению и сведений о лицензии в предоставленной карточке нет.

4613июль 2024
texthugging-face
erdemKocaogluu
byt5-small-tr-normalizer

Модель erdemKocaogluu/byt5-small-tr-normalizer — дообученная Google byT5-small, предназначенная для нормализации неформального турецкого текста. Она преобразует опечатки, пропущенные диакритические знаки и буквы, разговорные сокращения и диалектное написание в стандартный письменный турецкий, стараясь сохранить исходный смысл и порядок слов. Это последовательностная модель на архитектуре T5 с байтовой токенизацией: каждый байт UTF-8 обрабатывается как отдельный токен. Размер модели — 364,6 млн параметров. Для подачи текста README предписывает добавлять префикс «düzelt: ». Модель обучена на парах шумных и исправленных предложений из публичных турецких наборов данных. На описанных отложенных тестовых наборах модель снизила частоту словных ошибок относительно передачи текста без изменений и редко вносила лишние исправления. Она лучше справляется с однозначными механическими исправлениями, чем с естественными вариациями ошибок и длинными сложными предложениями; не перестраивает порядок слов и синтаксис. Для Apple Silicon MPS отмечены случаи некорректной генерации, поэтому рекомендованы CPU или CUDA. Лицензия модели — CC BY-NC-SA 4.0.

5562сент. 2026
textcc-by-nc-sa-4.0hugging-face
JorisCos
ConvTasNet_Libri2Mix_sepclean_8k

ConvTasNet_Libri2Mix_sepclean_8k — модель разделения аудиосмеси, обученная Joris Cosentino с помощью рецепта LibriMix в Asteroid и опубликованная как импорт с Zenodo. Она предназначена для разделения записи с двумя одновременно говорящими людьми на отдельные речевые сигналы. Модель обучалась для задачи sep_clean на Libri2Mix с частотой дискретизации 8 кГц. Архитектура ConvTasNet использует обучаемый фильтробанк и масочную сеть; в конфигурации указаны 512 фильтров, 8 блоков и 3 повтора. Веса доступны в формате PyTorch. Лицензия в метаданных — CC BY-SA 4.0; README также содержит лицензионное уведомление CC BY-SA 3.0 и упоминает производность от корпуса LibriSpeech, поэтому при использовании следует учитывать оба уведомления.

5841март 2022
audiocc-by-sa-4.0hugging-face
cooperleong00
deberta-v3-large_toxicity-scorer

Модель cooperleong00/deberta-v3-large_toxicity-scorer — классификатор токсичности текста на базе DeBERTa-v3-large, разработанный для исследования Self-Detoxifying Language Models via Toxification Reversal. Она дообучена на 90 тысячах примеров RealToxicityPrompts, чтобы предсказывать вероятности токсичности, близкие к оценкам Perspective API, и служить высокопроизводительной офлайн-заменой этого API при оценке сгенерированного текста. Модель содержит 533,8 млн параметров, использует архитектуру DeBERTa-v2 для классификации последовательностей и принимает текст длиной до 512 токенов. В README указаны точность 94,87% и AUROC 98,54% на отложенной выборке из 10 тысяч примеров; заявленная пропускная способность — около 27 тысяч примеров в секунду. Эти показатели относятся к указанной авторами выборке и не гарантируют такое же качество на других текстах. Лицензия в предоставленных данных не указана.

3097окт. 2023ctx512
texthugging-face
refiners
dinov2.small.patch_14

refiners/dinov2.small.patch_14 — адаптер на основе facebook/dinov2-small для извлечения признаков изображений. Модель использует архитектуру Vision Transformer семейства DINOv2 и распространяется в формате safetensors; библиотека refiners, лицензия Apache-2.0. Модель предназначена для получения визуальных признаков, которые можно использовать в последующих задачах компьютерного зрения, например для обучения классификаторов. В метаданных указана задача image-feature-extraction; дополнительных сценариев и характеристик модели карточка не подтверждает.

2180авг. 2024
imageembeddingapache-2.0hugging-face
HeartNatnai
distilbert-base-uncased-finetuned-emotion

HeartNatnai/distilbert-base-uncased-finetuned-emotion — дообученная модель классификации последовательностей на базе distilbert/distilbert-base-uncased, опубликованная пользователем HeartNatnai. Она предназначена для отнесения текста к эмоциональным категориям. В README приведены результаты оценки: accuracy 0,926 и F1 0,926; набор меток и данные обучения не описаны. Модель использует архитектуру DistilBertForSequenceClassification, формат safetensors и контекст до 512 токенов. Работает с текстом на английском языке, что следует из uncased английской базовой модели; других поддерживаемых языков карточка не подтверждает. Лицензия — Apache-2.0. Результаты оценки относятся к указанному в карточке набору и не гарантируют качество на других данных.

110авг. 2026ctx512
textapache-2.0hugging-face
SetFit
distilbert-base-uncased__sst2__train-16-0

SetFit/distilbert-base-uncased__sst2__train-16-0 — модель DistilBERT, дообученная на основе distilbert-base-uncased для классификации текста. Репозиторий указывает датасет SST-2, однако подробности о составе обучающих данных и настройке обучения не приведены. Архитектура — DistilBertForSequenceClassification; модель принимает текст, поддерживает контекст до 512 токенов и распространяется в формате PyTorch. Модель предназначена для классификации текстовых последовательностей; вероятный сценарий применения с SST-2 — определение тональности отзывов или коротких высказываний. В README приведён результат на тестовом наборе: accuracy 0,5091 и loss 0,6903, что указывает на ограниченную точность в этой оценке. Лицензия — Apache-2.0.

190март 2022ctx512
textapache-2.0hugging-face
Anasft9
distilbert-sentiment-demo

Anasft9/distilbert-sentiment-demo — дообученная модель классификации текста на базе distilbert/distilbert-base-uncased, опубликованная пользователем Anasft9. Она предназначена для отнесения текстовых последовательностей к классам; название модели указывает на анализ тональности, однако README не раскрывает метки классов и обучающий набор данных. Архитектура — DistilBertForSequenceClassification, поддерживаемая длина контекста — до 512 токенов. Доступны веса в форматах Safetensors и ONNX. В README приведены результаты на оценочной выборке: accuracy 0,8443 и loss 0,4280. Эти показатели не позволяют судить о качестве на других данных, поскольку набор данных, схема меток и протокол оценки не описаны. Модель распространяется по лицензии Apache-2.0.

640сент. 2026ctx512
textapache-2.0hugging-face
TehranNLP-org
electra-base-sst2

TehranNLP-org/electra-base-sst2 — модель классификации текста на базе архитектуры ELECTRA, дообученная на наборе SST-2. Она предназначена для определения тональности коротких англоязычных текстов, например отзывов и пользовательских высказываний. Модель содержит 136,7 млн параметров, принимает текстовые последовательности длиной до 512 токенов и выдаёт метку класса. В README указана точность 0,9507 на оценочной выборке SST-2. Модель разработана TehranNLP-org и основана на google/electra-base-discriminator. Доступна в формате PyTorch по лицензии Apache-2.0. Её назначение ограничено классификацией тональности в стиле SST-2; результаты на других типах текстов и языках карточка не описывает.

330апр. 2022ctx512
textapache-2.0hugging-face
ibm-granite
granite-20b-functioncalling

Granite-20B-FunctionCalling — языковая модель IBM Research, дообученная на основе ibm-granite/granite-20b-code-instruct для выполнения инструкций, связанных с вызовом функций. Она обучена на семи задачах: вложенный вызов функций, цепочки и параллельный вызов функций, определение имени функции, извлечение пар параметр–значение, выбор следующей функции и генерация ответа. Модель предназначена для диалоговых сценариев, где нужно определить и сформировать вызовы функций; её архитектура — GPTBigCode, а контекст составляет 8192 токена. Репозиторий содержит веса в формате Safetensors. Лицензия — Apache 2.0.

46636июль 2024ctx8.2K
textapache-2.0hugging-face
OFA-Sys
InsTagger

InsTagger — авторегрессионная языковая модель, разработанная OFA-Sys для автоматической разметки запросов тегами. Она предназначена для анализа данных supervised fine-tuning (SFT): модель присваивает запросам инструкции теги, обученные на результатах InsTag, чтобы помочь отбирать и изучать обучающие примеры. Авторы использовали такие теги для выборки данных и обучения моделей TagLM. Модель основана на LLaMA-2, дообучена и имеет 6,6 млрд параметров. Это плотная архитектура LlamaForCausalLM с контекстом 2048 токенов; поддерживает английский язык и принимает текст, выдавая текстовую разметку. В README указана лицензия Apache-2.0. Модель можно запускать через FastChat с шаблоном Vicuna.

3923авг. 2023ctx2K
textapache-2.0hugging-face
aydakikio
Khayyam

Khayyam — модель для многометочной классификации эмоций в персидском тексте, разработанная Ayda Khoshkhan. Она дообучена на ParsBERT v3 (HooshvareLab/bert-fa-zwnj-base) на персидском переводе датасета GoEmotions и относит текст к любому сочетанию из 28 категорий, включая радость, гнев, грусть, благодарность и нейтральную тональность. Модель построена на архитектуре BERT и содержит 145,5 млн параметров; максимальная длина контекста — 512 токенов. Она предназначена для анализа коротких персидских текстов, в частности сообщений в стиле Reddit. На тестовой выборке GoEmotions Persian показала macro F1 0,4124 и micro F1 0,5563. Результаты могут снижаться для редких эмоций, а автоматический перевод обучающих данных мог внести ошибки в метки. Качество на формальном персидском и диалектах может отличаться. Модель распространяется по лицензии Apache-2.0.

2721июнь 2026ctx512
textapache-2.0hugging-face

Задачи профессии

22 задачи
400Профилирование нового набора данных. — Механизм: AI сопоставляет наблюдаемое состояние с эталонами, нормативами или историческими аналогами и оценивает степень соответствия. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. Исходные данные: таблицы и события, схемы и определения бизнес-метрик. Формат результата: оценка по задаче «Профилирование нового набора данных» в числовой или категориальной форме с расшифровкой факторов, допущений и неопределённости. Проверка: сверкой с экспертными оценками или фактическими исходами, а также анализом чувствительности к входным данным; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
401Определение вероятного смысла и типа столбцов. — AI сопоставляет наблюдаемые признаки с критериями и устанавливает требуемое значение, состояние или вариант. К исходным данным относятся таблицы, события, файлы и схемы. Формат результата: установленное значение или вариант по задаче «Определение вероятного смысла и типа столбцов» с оценкой уверенности и основаниями решения. Надёжность оценивают по точности относительно эталона, калибровке уверенности и разбору случаев, где источники расходятся; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
402Обнаружение пропусков, выбросов и невозможных значений. — Для этой задачи система анализирует поток наблюдений и локализует признаки, которые отличают целевой объект или нарушение от обычного состояния. Рабочие входы: события, файлы, схемы и каталоги данных. Формат результата: перечень объектов, событий или отклонений, относящихся к «Обнаружение пропусков, выбросов и невозможных значений», с локализацией, уверенностью и признаками срабатывания. Критерии приёмки: по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
403Выбор стратегии заполнения пропущенных данных. — Практическая реализация: AI объединяет историю, текущую ситуацию и обязательные условия, чтобы предложить следующий наиболее обоснованный шаг. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. Входной контекст включает таблицы и события, схемы и определения бизнес-метрик. Формат результата: несколько вариантов для «Выбор стратегии заполнения пропущенных данных», ранжированных по полезности, ограничениям и причинам выбора. Ошибки выявляют по полезности для пользователя, соблюдению ограничений и качеству результата после принятия рекомендации; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
404Очистка и стандартизация категориальных значений. — Механизм: AI преобразует исходный материал по заданным правилам, сохраняя смысл, структуру и критически важные детали. Исходные данные: схемы, каталоги данных, SQL и бизнес-метрики. Формат результата: преобразованный материал по задаче «Очистка и стандартизация категориальных значений» с сохранённым содержанием и журналом значимых изменений. Проверка: сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
405Сопоставление и объединение данных из разных источников. — AI строит единое пространство признаков и устанавливает соответствия между элементами, которые описаны по-разному. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. К исходным данным относятся таблицы и события, схемы и определения бизнес-метрик. Формат результата: карта соответствий и различий для «Сопоставление и объединение данных из разных источников», где элементы приведены к единым критериям и связаны с первичными данными. Надёжность оценивают экспертной сверкой соответствий и проверкой, что различия не вызваны несовместимыми форматами; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
406Автоматическое построение ETL/ELT-конвейера. — Для этой задачи система объединяет уравнения, эмпирические данные и обученные зависимости в модель, пригодную для анализа чувствительности. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. Рабочие входы: таблицы и события, схемы и определения бизнес-метрик. Формат результата: вычислительная модель или карта для «Автоматическое построение ETL/ELT-конвейера» с результатами сценариев и анализом чувствительности. Критерии приёмки: сопоставлением с наблюдениями, тестами чувствительности и воспроизводимостью вычислений; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
407Генерация преобразований данных по словесному описанию. — Практическая реализация: AI создаёт новый артефакт по требованиям, исходным фактам и примерам, сохраняя возможность последующего редактирования. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. Входной контекст включает таблицы и события, схемы и определения бизнес-метрик. Формат результата: редактируемый артефакт по задаче «Генерация преобразований данных по словесному описанию», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — аналитический набор или запрос. Ошибки выявляют по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
408Проверка качества данных по автоматически предложенным правилам. — Механизм: AI сверяет объект с эталоном, правилами и взаимными зависимостями, отмечая пропуски, конфликты и нарушения. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. Исходные данные: таблицы и события, схемы и определения бизнес-метрик. Формат результата: протокол выполнения «Проверка качества данных по автоматически предложенным правилам» с пройденными условиями, найденными нарушениями и спорными местами для ручного решения. Проверка: повторным запуском на эталонных примерах, ручной проверкой спорных случаев и полнотой контрольного покрытия; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
409Обнаружение нарушения контрактов данных. — AI сочетает обученные шаблоны с контрольными правилами, чтобы находить значимые случаи и не пропускать пограничные примеры. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. К исходным данным относятся таблицы и события, схемы и определения бизнес-метрик. Формат результата: перечень объектов, событий или отклонений, относящихся к «Обнаружение нарушения контрактов данных», с локализацией, уверенностью и признаками срабатывания. Надёжность оценивают по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
410Анализ происхождения показателя и цепочки преобразований. — Для этой задачи система разбирает данные по существенным признакам, выявляет связи и формирует выводы с привязкой к исходным свидетельствам. Рабочие входы: файлы, схемы, каталоги данных и SQL. Формат результата: объяснимые выводы по задаче «Анализ происхождения показателя и цепочки преобразований» с влияющими факторами, альтернативными трактовками и ссылками на данные. Критерии приёмки: воспроизводимостью расчётов, проверкой источников и сравнением выводов с альтернативными объяснениями; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
411Генерация SQL по вопросу на естественном языке. — Практическая реализация: AI собирает содержание и структуру из заданных ограничений, затем формирует несколько вариантов для выбора и доработки. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. Входной контекст включает таблицы и события, схемы и определения бизнес-метрик. Формат результата: редактируемый артефакт по задаче «Генерация SQL по вопросу на естественном языке», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — аналитический набор или запрос. Ошибки выявляют по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
412Объяснение SQL-запроса и поиск логических ошибок. — Механизм: AI агрегирует разрозненные сигналы в целостную картину и показывает, какие данные поддерживают каждый вывод. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. Исходные данные: таблицы и события, схемы и определения бизнес-метрик. Формат результата: объяснимые выводы по задаче «Объяснение SQL-запроса и поиск логических ошибок» с влияющими факторами, альтернативными трактовками и ссылками на данные. Проверка: воспроизводимостью расчётов, проверкой источников и сравнением выводов с альтернативными объяснениями; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
413Автоматическое построение подходящей визуализации. — AI создаёт вычислительное представление объекта или процесса и проигрывает на нём альтернативные сценарии. К исходным данным относятся SQL, бизнес-метрики, таблицы и события. Формат результата: вычислительная модель или карта для «Автоматическое построение подходящей визуализации» с результатами сценариев и анализом чувствительности. Надёжность оценивают сопоставлением с наблюдениями, тестами чувствительности и воспроизводимостью вычислений; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
414Создание смыслового слоя метрик. — Для этой задачи система собирает содержание и структуру из заданных ограничений, затем формирует несколько вариантов для выбора и доработки. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. Рабочие входы: таблицы и события, схемы и определения бизнес-метрик. Формат результата: редактируемый артефакт по задаче «Создание смыслового слоя метрик», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — аналитический набор или запрос. Критерии приёмки: по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
415Объяснение изменения показателя через декомпозицию факторов. — Практическая реализация: AI агрегирует разрозненные сигналы в целостную картину и показывает, какие данные поддерживают каждый вывод. Входной контекст включает таблицы, события, файлы и схемы. Формат результата: объяснимые выводы по задаче «Объяснение изменения показателя через декомпозицию факторов» с влияющими факторами, альтернативными трактовками и ссылками на данные. Ошибки выявляют воспроизводимостью расчётов, проверкой источников и сравнением выводов с альтернативными объяснениями; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
416Когортный анализ. — Механизм: AI разбирает данные по существенным признакам, выявляет связи и формирует выводы с привязкой к исходным свидетельствам. Исходные данные: события, файлы, схемы и каталоги данных. Формат результата: объяснимые выводы по задаче «Когортный анализ» с влияющими факторами, альтернативными трактовками и ссылками на данные. Проверка: воспроизводимостью расчётов, проверкой источников и сравнением выводов с альтернативными объяснениями; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
417Анализ воронки и точек потери. — AI сопоставляет наблюдения, отделяет устойчивые закономерности от случайных совпадений и объясняет влияющие факторы. К исходным данным относятся файлы, схемы, каталоги данных и SQL. Формат результата: объяснимые выводы по задаче «Анализ воронки и точек потери» с влияющими факторами, альтернативными трактовками и ссылками на данные. Надёжность оценивают воспроизводимостью расчётов, проверкой источников и сравнением выводов с альтернативными объяснениями; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
418Сегментация объектов по поведению. — Для этой задачи система строит границы между категориями и ранжирует объекты так, чтобы наиболее важные или срочные обрабатывались раньше. Рабочие входы: схемы, каталоги данных, SQL и бизнес-метрики. Формат результата: результат «Сегментация объектов по поведению» в виде метки, класса, ранга или тематического слоя с уверенностью и объясняющими признаками. Критерии приёмки: по матрице ошибок, калибровке уверенности и отдельному анализу пограничных классов; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
419Поиск статистически значимых зависимостей. — Практическая реализация: AI индексирует доступные материалы, понимает смысл запроса и ранжирует кандидатов по содержательному совпадению. Входной контекст включает каталоги данных, SQL, бизнес-метрики и таблицы. Формат результата: ранжированный список кандидатов по задаче «Поиск статистически значимых зависимостей» со ссылками на источники, оценкой соответствия и фрагментами подтверждения. Ошибки выявляют по релевантности, полноте, отсутствию недопустимых источников и точности ссылок на подтверждение; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
420Подготовка аналитического отчёта с выводами и оговорками. — Механизм: AI собирает содержание и структуру из заданных ограничений, затем формирует несколько вариантов для выбора и доработки. Исходные данные: SQL, бизнес-метрики, таблицы и события. Формат результата: редактируемый артефакт по задаче «Подготовка аналитического отчёта с выводами и оговорками», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — аналитический набор или запрос. Проверка: по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
421Естественно-языковой интерфейс к BI-системе. — AI обходит разрешённые источники, объединяет найденное и отсеивает нерелевантные либо дублирующиеся результаты. К исходным данным относятся бизнес-метрики, таблицы, события и файлы. Формат результата: ранжированный список кандидатов по задаче «Естественно-языковой интерфейс к BI-системе» со ссылками на источники, оценкой соответствия и фрагментами подтверждения. Надёжность оценивают по релевантности, полноте, отсутствию недопустимых источников и точности ссылок на подтверждение; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик. <a id="section-ii-9"></a>

0 моделей