II.8Инженерия данных и аналитика
В разделе собраны самостоятельные задачи, где AI помогает готовить надёжные данные и превращать их в понятную аналитику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
23 488 моделейAesthetic Shadow — визуальный трансформер ViT, предназначенный для оценки эстетического качества изображений в стиле аниме. По карточке модель содержит 1,1 млрд параметров; метаданные Hugging Face указывают 1,4 млрд. Она принимает изображения размером до 1024×1024 и выдаёт оценку эстетической привлекательности иллюстрации, учитывая детали, пропорции и визуальную согласованность. Модель может помогать отбирать изображения для наборов данных и фильтровать иллюстрации низкого качества. Автор предупреждает, что оценки могут быть неточными; сведения о лицензии в метаданных не определены. Автор просит указывать авторство при публичном использовании.
SuperAnnotate AI Detector Low FPR — англоязычный классификатор текста, разработанный SuperAnnotate на основе RoBERTa Large и дообученный для бинарного определения, написан ли текст человеком или сгенерирован языковой моделью. Модель предназначена для проверки текстов в обучающих наборах данных, а также для выявления возможного мошенничества и случаев использования ИИ в научной и образовательной среде. При обучении использовались 44 тысячи сбалансированных пар человеческих и сгенерированных текстов из Википедии, Reddit ELI5, научных статей и подмножества RAID. Тексты были созданы разными моделями семейств GPT, LLaMA, Anthropic и Mistral; промпты не включались в обучающие входы. Модель нацелена на низкую долю ложноположительных результатов, чтобы реже помечать человеческий текст как сгенерированный. Разработчик сообщает о проверке на бенчмарке RAID. Модель использует архитектуру RoBERTa Large с одним выходным классом для бинарной классификации. В карточке указана лицензия SAIPL. Низкая доля ложноположительных срабатываний является целью обучения, а не гарантией безошибочного определения авторства; результаты могут зависеть от домена, генератора и изменений текста.
Berk/assay-compiled-base — компактная модель принятия решений проекта Assay, разработанная как CPU-ориентированный вариант для классификационных вопросов. Она дообучена на Alibaba-NLP/gte-modernbert-base и использует архитектуру compiled с поздним взаимодействием: кодирует состояние в токенные эмбеддинги, а вопрос и варианты ответа — в запросы и векторы для сопоставления. Размер модели — 149 млн параметров, контекст — до 8192 токенов; генерации текста нет. Модель принимает текстовое состояние и типизированные вопросы с ответами «да/нет», выбором из вариантов или оценкой, выдавая вероятностное распределение и сигнал доказательности. Она предназначена для классификации текстов, включая темы, тональность и спам, а также для сценариев, где допустимо воздержаться от ответа: на невиданных задачах применяется конформное предсказание. В README указаны средняя точность 0,606 на отложенных невиданных задачах и работа на CPU; вопросы, требующие знаний, арифметики или многошаговых рассуждений, модель решает слабо. Поддерживается только английский язык. Лицензия — Apache-2.0.
Модель oferweintraub/bert-base-finance-sentiment-noisy-search — дообученная автором версия bert-base-uncased для определения тональности финансовых новостей. Она использует архитектуру BERT для классификации текста и выдаёт один из трёх классов: Positive, Neutral или Negative. Автор сообщает, что после обучения на автоматически собранных поиском новостных примерах точность на отложенной выборке исходного набора Kaggle выросла примерно с 88% до более чем 95%; качество меток новых примеров заранее не проверялось. Модель предназначена для анализа заголовка вместе с первым абзацем новости либо её кратким пересказом; в README рекомендуется краткий текст объёмом до 64 токенов. Контекст модели составляет 512 токенов, всего в ней 136,7 млн параметров. Поддерживаемый язык — английский. Распространяется по лицензии Apache-2.0.
mpalaval/bert-ner-3 — дообученная модель на базе BERT bert-base-cased для классификации токенов, в том числе разметки именованных сущностей. В карточке указан датасет None; сведения о его составе и типах меток отсутствуют. Модель содержит 135,5 млн параметров, использует архитектуру BERT и формат PyTorch. Максимальная длина контекста — 512 токенов. В README приведены результаты оценки: precision 0,1708, recall 0,4296, F1 0,2444 и accuracy 0,8849; эти показатели указывают на ограничения качества разметки. Лицензия — Apache-2.0.
BERTweet-large — крупная языковая модель для английских твитов, разработанная Dat Quoc Nguyen, Thanh Vu и Anh Tuan Nguyen. Это модель семейства RoBERTa с архитектурой RobertaForMaskedLM и 454,1 млн параметров; она обучена по процедуре предобучения RoBERTa на корпусе из 850 млн англоязычных твитов, опубликованных с января 2012 по август 2019 года, включая 5 млн твитов о пандемии COVID-19. Модель предназначена для заполнения пропусков в тексте и как языковая основа для задач анализа сообщений в Twitter и других коротких англоязычных текстов. Она принимает текст и предсказывает токены на месте маски. Контекст — до 514 токенов. Доступны веса в форматах PyTorch и TensorFlow. Специализация на твитах помогает учитывать стиль и лексику этой платформы, но модель обучена на англоязычных данных и не предназначена для генерации ответов в формате чат-бота. Дата публикации корпуса ограничена августом 2019 года, поэтому модель может хуже отражать более поздний язык и события. Лицензия — MIT; авторы просят цитировать научную публикацию при использовании результатов в исследованиях или включении модели в программное обеспечение.
Карточка модели manelalab/chrono-bert-v1-20161231 на Hugging Face совпадает с карточкой manelalab/chrono-bert-v1-20041231, поэтому описание составлено по ней. ChronoBERT v1 20041231 — англоязычная модель Songrun He, Linying Lv, Asaf Manela и Jimmy Wu для анализа текста с учётом хронологии. Она основана на двунаправленной архитектуре ModernBERT, содержит 149 млн параметров и принимает контекст до 8192 токенов. Модель обучена на датированных текстовых данных, чтобы снизить риск утечки будущей информации и смещения заглядывания вперёд при историческом анализе. Модель предназначена для предсказания замаскированных токенов и получения представлений текста, а также для задач понимания языка и анализа исторических и финансовых текстов. Семейство ChronoBERT оценивалось на GLUE и на прогнозировании доходности акций; приведённые результаты относятся к указанным в карточке версиям, а не обязательно к этой конкретной контрольной точке. Доступны веса в формате safetensors для Transformers. Лицензия — MIT.
ChronoBERT — серия англоязычных моделей на архитектуре ModernBERT, разработанная Songrun He, Linying Lv, Asaf Manela и Jimmy Wu. Версия chrono-bert-v1-20171231 предназначена для языкового моделирования с учётом времени: модели серии обучались на датированных текстах, чтобы уменьшить утечку будущих данных и смещение заглядывания вперёд при анализе исторических данных. Вариант использует двунаправленный трансформерный энкодер ModernBERT с 149 млн параметров и контекстом до 8192 токенов. Модель решает задачу предсказания пропущенного токена и может использоваться для извлечения текстовых эмбеддингов. ChronoBERT ориентирована на англоязычный текст; в README описаны оценки на GLUE и применение семейства для финансового прогнозирования. Репозиторий распространяется под лицензией MIT.
ChronoBERT — серия англоязычных моделей Songrun He, Linying Lv, Asaf Manela и Jimmy Wu для анализа текста с учётом хронологии. Эта версия — трансформерный двунаправленный энкодер ModernBERT с 149 млн параметров и контекстом до 8192 токенов; она предсказывает пропущенные токены в тексте и может извлекать текстовые эмбеддинги. Модель предварительно обучена на датированных открытых текстах, чтобы снижать риск утечки будущей информации и смещения заглядывания вперёд при анализе исторических данных. В README описаны оценки на GLUE и эксперименты по прогнозированию доходности акций; результаты серии показывают качество понимания языка выше стандартного BERT на GLUE. Модель работает с текстом на английском языке и распространяется под лицензией MIT. Она предназначена для языкового моделирования с маскированием и извлечения эмбеддингов, а не для генерации длинных ответов. Хотя хронологическое обучение полезно для исторических и финансовых сценариев, результаты бэктестов сами по себе не гарантируют точность будущих прогнозов.
Portuguese Clinical NER - HealthCare — модель распознавания клинических именованных сущностей, разработанная в рамках проекта BioBERTpt. Она дообучена на бразильском клиническом корпусе SemClinBr от базовой модели BioBERTpt(all); разметка представлена в формате IOB2, а сущности совместимы с UMLS. Модель основана на BERT и предназначена для классификации токенов в клинических текстах на португальском языке. Она содержит 205,1 млн параметров и поддерживает контекст до 512 токенов. Репозиторий предоставляет веса PyTorch. Условия лицензирования в использованных данных не приведены.
Модель Hania Emaan — дообученная версия XLM-RoBERTa-base для поштучного определения языка токенов в текстах с переключением между Roman Urdu и английским. Она размечает токены метками URD, ENG и MIX и предназначена для анализа смешанных сообщений в социальных сетях и другой неформальной переписки. Архитектура — XLM-RoBERTa для классификации токенов, около 305,2 млн параметров; максимальная длина контекста — 514 токенов. Модель принимает текст и выдаёт метки для его токенов. В тестировании на отложенной выборке F1 составил 0,99 для английских токенов и 0,90 для Roman Urdu; для гибридной категории MIX указана оценка 0,00, поэтому распознавание таких слов ненадёжно. Карточка распространяет модель по лицензии MIT.
Hate-speech-CNERG/dehatebert-mono-english — англоязычная модель классификации текста для выявления hate speech. Её разработали авторы исследования о многоязычном распознавании языка ненависти; версия mono обучалась только на англоязычных данных и дообучена на multilingual BERT. Модель использует архитектуру BERT для классификации последовательностей, содержит 194,6 млн параметров и принимает текст длиной до 512 токенов. Модель предназначена для автоматической проверки англоязычных сообщений и публикаций на наличие языка ненависти, в том числе как компонента модерации или исследовательского анализа. В работе для лучшего результата на валидации использовалась скорость обучения 2e-5; указанный результат — 0,726030, без уточнения метрики в карточке. Распространяется по лицензии Apache-2.0.
wnic00/distilbert-p3 — дообученная модель DistilBERT для классификации текста, созданная на основе wnic00/distilbert-p1. Она предназначена для присвоения тексту класса; конкретные категории и сценарии применения в карточке не описаны. Модель использует архитектуру DistilBertForSequenceClassification, веса в формате PyTorch и контекст до 512 токенов. Базовая модель описана как мультиязычная и предназначенная, в частности, для анализа тональности, но применимость этих возможностей к данной версии не подтверждена. На оценочном наборе указаны loss 1.1781 и accuracy 0.6667. Датасет и подробности обучения не раскрыты, поэтому эти результаты не позволяют оценить качество для конкретной задачи. Лицензия — Apache-2.0.
DistilWav2Vec2 Adult/Child Speech Classifier — модель аудиоклассификации, разработанная Wilson Wongso на основе архитектуры wav2vec 2.0. Это дистиллированная версия wav2vec2-adult-child-cls, дообученная на частном наборе аудиозаписей для классификации речи взрослых и детей. В модели около 56,6 млн параметров; она обучена с использованием PyTorch и распространяется в форматах PyTorch и Safetensors. Модель предназначена для определения, принадлежит ли речевая запись взрослому или ребёнку. В README приведены результаты оценки на наборе Adult/Child Speech Classification: точность 96,03% и F1 0,9639. Поддерживаемый язык — английский. Лицензия — Apache-2.0. Результаты могут зависеть от характеристик записи и смещения, унаследованного от данных предварительного обучения; обучающий набор указан как частный, поэтому его состав и репрезентативность нельзя проверить по карточке.
DziriBERT Sentiment — модель классификации тональности на основе BERT, разработанная командой alger-ia. Это дообученная версия DziriBERT, предварительно обученной специально на алжирском диалекте арабского языка. Модель предназначена для определения тональности текстов на алжирском диалекте. Модель обрабатывает алжирский текст, записанный как арабскими, так и латинскими символами, и использует архитектуру BertForSequenceClassification. В репозитории доступны веса PyTorch и Safetensors; максимальная длина контекста составляет 512 токенов. Для использования предусмотрена загрузка через Transformers. Карточка не сообщает метрики качества и конкретные ограничения классификации. Условия лицензии в предоставленных данных не указаны.
YeRyeongLee/electra-base-discriminator-finetuned-filtered-0602 — дообученная модель классификации последовательностей на базе google/electra-base-discriminator. Она предназначена для классификации текста; набор данных и конкретные классы в карточке не раскрыты. Архитектура — ELECTRA с плотными слоями, 136,7 млн параметров; модель использует PyTorch и принимает контекст до 512 токенов. В README приведены результаты на оценочной выборке: loss 0,1685, accuracy 0,9720 и F1 0,9721; без описания выборки и меток эти показатели сложно интерпретировать. Лицензия — Apache-2.0.
EOU Detector — модель Simplexphone для определения конца реплики в русскоязычных диалогах колл-центра. Она дообучена на 200 667 диалогах от Qwen2.5-0.5B-Instruct и оценивает вероятность завершения реплики по последнему токену текста, используя обычный языковой словарь без отдельной классификационной головы. Модель предназначена для голосовых помощников, IVR, аналитики колл-центров и диалоговых систем реального времени: по текстовой транскрипции она помогает определить, закончил ли говорящий фразу, чтобы передать её на следующий этап обработки. Архитектура — плотная Qwen2 causal language model с 494 млн параметров и контекстом 32 768 токенов. В README приведена оценка F1 0,851 на выборке из 200 примеров и указаны варианты развёртывания через ONNX Runtime. Модель принимает текст, а не аудио: перед её использованием нужны этапы распознавания речи и, при необходимости, обнаружения голосовой активности. На очень коротких репликах результаты могут быть ненадёжны; обучение ориентировано на русские транскрипты колл-центров, а качество на других языках низкое. Распространяется по лицензии Apache-2.0.
EstRoBERTa — модель обработки эстонского языка, разработанная tartuNLP и дообученная на базе XLM-RoBERTa base. Это плотная трансформерная модель с архитектурой XLM-RoBERTa и примерно 305,2 млн параметров; она принимает текст и может использоваться для извлечения признаков и предсказания замаскированных токенов. Контекст модели составляет до 514 токенов. Модель подходит для получения текстовых представлений и для задач, основанных на заполнении пропусков в эстонском тексте. Подробности об обучающих данных, метриках и ограничениях качества в карточке не приведены. Лицензия — CC BY 4.0.
Kenpache разработала FinBERT-Multilingual — модель классификации тональности финансовых текстов на базе XLM-RoBERTa. Она присваивает тексту одну из трёх меток: отрицательная, нейтральная или положительная тональность. Модель адаптирована к финансовой тематике посредством дополнительного предобучения на финансовых текстах и последующего обучения классификации. Модель предназначена для анализа финансовых новостей и других финансовых текстов на английском, китайском, японском, немецком, французском и испанском языках. Архитектура — XLM-RoBERTa для классификации последовательностей; размер — 305,2 млн параметров, максимальный контекст — 514 токенов. В README сообщаются accuracy 0,8103 и взвешенная F1-мера 0,8102 на использованной авторами оценке. Лицензия Apache-2.0. Результаты оценки относятся к описанному набору финансовых данных и не гарантируют качество на других источниках или языковых вариантах; метки отражают тональность текста и сами по себе не являются инвестиционными рекомендациями.
mdraw/german-news-sentiment-bert — модель классификации тональности немецких новостных текстов о миграции. Она создана дообучением BERT для проекта, изучающего изменение тональности статей немецких СМИ о миграции в период с 2007 по 2019 год. Модель предсказывает положительную, отрицательную или нейтральную тональность; её можно применять к необработанному тексту, а также получать дискретные метки классов: 0 — положительная, 1 — отрицательная, 2 — нейтральная. Модель содержит 136,3 млн параметров, использует архитектуру BertForSequenceClassification и принимает текст с контекстом до 512 токенов. Доступны веса PyTorch, Flax и safetensors. Модель ориентирована на немецкие новости о миграции, поэтому её пригодность для других тем и жанров может быть ограничена. Сведения о лицензии в предоставленных материалах отсутствуют.
jackmedda/google-long-t5-tglobal-base_finetuned_original — дообученная модель на основе google/long-t5-tglobal-base, опубликованная автором jackmedda. Это плотная encoder-decoder модель семейства LongT5 с примерно 123,8 млн параметров; карточка указывает задачу классификации текста и контекст до 4096 токенов. В README приведены метрики на оценочном наборе: accuracy 0,7647, F1 0,8667, precision 0,7647 и recall 1,0; обучающий датасет обозначен как None. Модель предназначена для классификации текстовых входов. Базовый LongT5 разработан для работы с длинными текстами, однако конкретные классы, языки и предметная область этой дообученной версии не описаны. Распространяется под лицензией Apache-2.0.
Koichi Yasuoka разработал модель на базе японской GPT-2 japanese-gpt2-medium-unidic, дообучив её для морфосинтаксической разметки. Модель присваивает японским коротким словоформам теги UPOS и признаки FEATS, следуя универсальной схеме Universal Dependencies. Она предназначена для автоматической разметки частей речи и морфологических признаков в японском тексте, например при подготовке корпусов и анализе предложений. Архитектура — GPT-2 для классификации токенов; модель работает с текстом на японском языке, использует PyTorch и имеет контекст длиной 1024 токена. Для токенизации требуются fugashi и unidic-lite. Лицензия — CC BY-SA 4.0.
Mitchins/image-medium-classifier-efficientnetv2-s-v1 — модель классификации изображений на базе TF-EfficientNetV2-S из библиотеки timm, дообученная на распознавание аниме, фотографий и рендеров. Она принимает RGB-изображения размером 224×224 и относит их к одному из трёх классов: anime, real или rendered. В модели 21,5 млн параметров; заявленная точность на валидации — 97,55%. По данным карточки, распознавание рендеров сложнее, особенно для фотореалистичных игровых сцен; для них полнота составляет 90%. Модель можно применять для автоматической сортировки изображений и определения, является ли изображение фотографией, аниме или компьютерной графикой. Распространяется по лицензии OpenRAIL.
IndoBERTweet-Plutchik-Emotion-Classifier — модель классификации текста на основе IndoBERTweet, разработанная akmalluthfi и дообученная на базе indolem/indobertweet-base-uncased. Она предназначена для определения эмоций в индонезийских текстах, вероятно, по модели эмоций Плутчика, что следует из названия репозитория; README не содержит описания меток или обучающего набора данных. Модель построена на архитектуре BERT, содержит 137,8 млн параметров и принимает последовательности длиной до 512 токенов. В README приведены результаты оценки: loss 0,9306 и F1 0,6540. Распространяется по лицензии Apache-2.0.
MAPAi/InflaBERT — модель классификации текста для определения тональности новостей, связанных с инфляцией. Она разработана MAPAi на основе архитектуры RoBERTa и дообучена от mrm8488/distilroberta-finetuned-financial-news-sentiment-analysis на датасете MAPAi/inflation_news. Модель содержит 95,2 млн параметров, принимает последовательности длиной до 514 токенов и доступна в формате safetensors через Transformers. Модель предназначена для анализа англоязычных финансовых новостей и выделения тональности в контексте инфляции. Её можно применять для сортировки новостных сообщений и отслеживания настроений в материалах о ценах и инфляции. Лицензия MIT разрешает использование и распространение на её условиях.
JanusCoderV-8B — мультимодальная модель для задач программирования по тексту и изображениям из семейства JanusCoder. Авторы описывают серию как набор открытых базовых моделей для единого визуально-программного интерфейса; эта версия использует архитектуру InternVL и предназначена для диалога с изображениями. Модель рассчитана на генерацию кода по текстовым инструкциям, визуальным входам или их сочетанию, а также на создание визуализаций данных, интерактивных веб-интерфейсов и анимаций и программное редактирование визуальных эффектов. В README указано обучение серии на мультимодальном корпусе JANUSCODE-800K. Доступная таблица результатов показывает оценку на отдельных задачах, включая построение диаграмм и генерацию и редактирование дизайна. Репозиторий содержит веса Safetensors и использует библиотеку Transformers. Лицензия — Apache-2.0. Размер модели, длина контекста и поддерживаемые естественные языки в предоставленных данных не определены; описанные сценарии включают код на нескольких языках программирования, но они не являются языками интерфейса модели.
Bersk подготовил дообученную модель японского RoBERTa для классификации текста на основе rinna/japanese-roberta-base. Она содержит 137,8 млн параметров, использует архитектуру RoBERTa и принимает последовательности длиной до 514 токенов. Модель подходит для задач классификации японских текстов; конкретные категории и набор данных в карточке не описаны. На оценочной выборке указаны precision 0,8062, recall 0,8107 и F1 0,8071. Модель распространяется в формате PyTorch по лицензии MIT.
Модель zoro6u/marbert-arabic-dialect-id — дообученная MARBERTv2 для определения одной из 18 странных разновидностей арабского диалекта по тексту. Это BERT-модель классификации последовательностей с 190 млн параметров и контекстом до 512 токенов; в обучении использовались короткие сообщения из Twitter, а для инференса рекомендуется удалять упоминания и URL, символы # и диакритические знаки, а также схлопывать пробелы. Модель предсказывает метки для Омана, Судана, Саудовской Аравии, Кувейта, Катара, Ливана, Иордании, Сирии, Ирака, Марокко, Египта, Палестины, Йемена, Бахрейна, ОАЭ, Туниса и Ливии. Макро-F1 на тесте составляет 0,614. Лучше всего модель распознаёт египетский, ливийский, ливанский, суданский и марокканский варианты; хуже — близкие варианты стран Персидского залива и йеменский диалект. Модель предназначена для классификации арабских сообщений по диалекту и стране, например для анализа публикаций в социальных сетях. Качество ограничено шумными метками, автоматически выведенными из профилей авторов, обучением только на твитах и небольшими тестовыми выборками для отдельных классов; на формальном тексте и в других жанрах точность может быть ниже. Лицензия — MIT.
Это модель классификации письменных арабских диалектов, разработанная IbrahimAmin на базе MARBERTv2 и дообученная для распознавания пяти классов: магрибских диалектов, левантийского диалекта, современного литературного арабского, диалектов стран Залива и египетского диалекта. Модель использует архитектуру BERT и содержит около 190 млн параметров; максимальная длина контекста — 512 токенов. Модель принимает арабский текст и предсказывает региональную категорию. Она предназначена для определения диалекта в коротких сообщениях из соцсетей, форумов и других источников неформального письма, а также для лингвистических исследований и диалектно-ориентированных систем обработки естественного языка. В карточке указано обучение на более чем 850 тысячах арабских предложений из общедоступных наборов данных. Модель подходит для определения пяти широких региональных классов, но не различает отдельные страны или города внутри них. Результаты для коротких фрагментов, смешанного языка и диалектов, не представленных отдельными классами, могут быть неточными. Лицензия — Apache-2.0.
ManasKumar28 разработал mimii-distilhubert-anomaly — дообученную модель для классификации аудио на базе ntu-spml/distilhubert. Она предназначена для выявления аномальных звуков в аудиозаписях; модель использует архитектуру HuBERT и содержит 18,9 млн параметров. В метаданных указан формат Safetensors, библиотека Transformers и датасет audiofolder. На оценочном наборе модель достигла accuracy 0,9327, precision 0,9382, recall 0,9327 и F1 0,9289. Эти результаты относятся только к указанному набору; README не описывает состав классов, данные обучения и условия оценки. Модель распространяется по лицензии Apache-2.0.