II.8Инженерия данных и аналитика
В разделе собраны самостоятельные задачи, где AI помогает готовить надёжные данные и превращать их в понятную аналитику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
23 488 моделейwaterabbit114/my-setfit-classifier_toxic — модель классификации текста на основе SetFit, дообученная автором на sentence-transformers/paraphrase-mpnet-base-v2. Она использует MPNet для получения представлений текста и классификатор LogisticRegression; обучение выполнено методом few-shot с контрастивным дообучением Sentence Transformer и последующим обучением классификационной головы. Модель различает два класса: примеры токсичных сообщений и примеры, отнесённые к другому классу. Модель предназначена для классификации коротких текстов, например комментариев и сообщений, по признаку токсичности. В README указана максимальная длина последовательности 512 токенов; метаданные сообщают о 136,7 млн параметров. Для запуска требуется библиотека SetFit. Лицензия в предоставленных данных не указана.
plaidq-0.7b — модель генерации текста семейства PlaidQ, построенная на дообученном Qwen3-0.6B. Вместо последовательного предсказания токенов слева направо она использует непрерывную гауссову латентную диффузию: целая последовательность представляется в 16-мерном пространстве, а двунаправленный Qwen3-0.6B последовательно её уточняет. Генерация выполняется параллельно по позициям, а число шагов денойзинга можно выбирать при семплировании. Чекпойнт содержит 717,4 млн параметров в формате fp32 и рассчитан на последовательности до 2048 токенов. README описывает оценки на задачах генерации и заполнения кода, поэтому модель подходит для экспериментов с генерацией и инфиллингом кода, а также с диффузионной генерацией текста. Для запуска нужны репозиторий PlaidQ и токенизатор Qwen/Qwen3-0.6B; это веса для инференса без состояния обучения. Модель выпущена по лицензии Apache-2.0.
PoliticalBiasBERT — англоязычная модель классификации текста на базе BERT, дообученная bucketresearch на примерах политически предвзятых текстов. Она предназначена для анализа текста и выявления политической предвзятости; архитектура — BertForSequenceClassification, размер — 135,5 млн параметров, контекст — до 512 токенов. Модель использует Transformers и доступна в форматах PyTorch и Safetensors. Модель подойдёт для предварительной разметки текстов и исследовательского анализа политической предвзятости. Она обучена на примерах предвзятых текстов, однако README не описывает классы, датасеты и качество на независимых данных, поэтому результаты следует проверять для конкретного применения. Лицензия — MIT.
Repoformer-3B — личное воспроизведение модели, описанной в научной статье. По карточке, модель обучена примерно на 300 тысячах примеров продолжения фрагментов кода Python и функций, собранных из Stack. Она предназначена для генерации продолжений кода и функций Python по текстовому контексту. Модель использует плотную архитектуру GPTBigCodeForCausalLM и распространяется в формате PyTorch. Размер контекста — 8192 токена. Репозиторий создан в октябре 2024 года. Лицензия — MIT. Описание не уточняет качество модели, её ограничения или языки интерфейса помимо обучающих данных на Python; поэтому их нельзя оценить по карточке. Указание на личное воспроизведение статьи также не подтверждает эквивалентность исходной модели.
Koichi Yasuoka подготовил эту модель на базе rinna/japanese-gpt2-small для морфосинтаксического анализа японского текста. GPT-2 дообучена на корпусе UD_Japanese-GSDLUW и предназначена для определения частей речи и зависимостей между словами; в Hugging Face она классифицирована как модель разметки токенов. Модель принимает японский текст и выдаёт токенизированную разметку, включая грамматические теги и зависимости. Архитектура — GPT-2 с плотными слоями, формат весов — PyTorch, размер контекста — 1024 токена. Лицензия — MIT.
s-nlp/roberta_toxicity_classifier_v1 — классификатор токсичности текста на архитектуре RoBERTa, разработанный как копия SkolkovoInstitute/roberta_toxicity_classifier и обученный на непересекающемся с ним наборе данных. Модель предназначена для использования в алгоритмах детоксикации текста, в том числе описанных в работе Text Detoxification using Large Pre-trained Neural Models. Модель содержит 151,8 млн параметров, принимает текст с контекстом до 514 токенов и выдаёт классификационный результат. Карточка не сообщает поддерживаемые языки и лицензию; поэтому их условия и языковой охват здесь не уточняются.
robertuito-emotion-analysis — модель pysentimiento для распознавания эмоций в испанских текстах. Она основана на RoBERTuito, архитектуре RoBERTa, обученной на испанских твитах, и дообучена на корпусе TASS 2020 Task 2. Модель содержит 136,3 млн параметров и принимает последовательности длиной до 130 токенов. Модель относит текст к одной из шести эмоций по Экману — гневу, отвращению, страху, радости, грусти или удивлению — либо к нейтральному классу. Она предназначена для анализа эмоций в публикациях и коротких сообщениях на испанском языке. В оценке pysentimiento на задаче распознавания эмоций модель показала Macro F1 0,560 ± 0,010. Это классификатор текста на PyTorch. Лицензия в предоставленных данных не указана.
SAM2 Household Accuracy V3 — модель сегментации изображений, дообученная sshibinthomass на базе facebook/sam2.1-hiera-small для выделения бытовых объектов масками по подсказкам в виде ограничивающих рамок. Она возвращает несколько вариантов масок и оценки их IoU; в описанном режиме выбирается вариант с наибольшей предсказанной оценкой IoU. Модель построена на архитектуре SAM2 и предназначена для разметки бытовых объектов на изображениях. Для обучения использованы данные сегментации COCO 2017: 15 000 обучающих, 1 000 валидационных и 895 тестовых примеров. В README приведены IoU 0,782 на валидации и IoU 0,801 для выбранных кандидатов на тесте. Доступны веса safetensors для библиотеки Transformers. Лицензия — Apache-2.0.
ShieldGemma 2 4B — модель Google на базе Gemma 3 4B IT для проверки безопасности изображений. Она принимает изображение и текстовую инструкцию с политикой безопасности и оценивает, нарушает ли изображение эту политику, выдавая оценки для ответов «Yes» и «No». Модель предназначена для модерации пользовательских изображений и результатов генерации, а также для фильтрации входов и выходов систем с поддержкой зрения. Она выявляет сексуально откровенный контент, опасные материалы и сцены насилия или жестокости. Модель содержит 4 миллиарда параметров и обучена на примерах с естественными и синтетическими изображениями; для синтетических данных указаны англоязычные сценарии. Результат зависит от формулировки заданной политики. Google предупреждает, что доступные наборы оценки могут не отражать реальные сценарии, а неоднозначные формулировки и языковые нюансы могут приводить к непредсказуемым оценкам. Условия использования определяются лицензией Gemma и правилами Google о запрещённом использовании.
desdesmond/trained_with_six_emotions — модель классификации текста, созданная дообучением ykacer/bert-base-cased-imdb-sequence-classification. Она построена на архитектуре BERT и предназначена для отнесения текста к классам. Название репозитория указывает на шесть эмоциональных категорий, однако README не уточняет метки классов и обучающий набор данных. Модель содержит 135,5 млн параметров, принимает текст с контекстом до 512 токенов и распространяется в формате safetensors. На указанной в README оценочной выборке приведены loss 0,2450 и accuracy 0,9284; состав и методика оценки не описаны. Лицензия — Apache-2.0.
TriChronos-0.1B — созданная с нуля модель для вероятностного прогнозирования временных рядов, разработанная автором репозитория iravikr. Это примерно 104 млн параметров, encoder-only Transformer на PyTorch с временным self-attention, вниманием между рядами и BitLinear FFN. Веса обучены с ternary-квантизацией BitNet-style {-1, 0, +1}; входные ряды разбиваются на патчи по 8 шагов, а модель выдаёт 21 квантиль для каждого шага прогноза. Модель предназначена для экспериментов с компактными квантованными моделями временных рядов и как лёгкий базовый ориентир для вероятностных прогнозов. На некоторых наборах данных она превзошла наивный baseline, в том числе на Weather и M3-Monthly; качество зависит от частоты данных и лучше на месячных и более частых рядах. Репозиторий указывает лицензию Apache-2.0. Модель обучалась на Salesforce/lotsa_data примерно 105 тысяч шагов с ограниченным вычислительным бюджетом и не позиционируется как модель уровня state of the art. Она не рекомендуется для годовых или очень коротких рядов, горизонтов существенно длиннее 24 шагов и задач, требующих подтверждённой калибровки метрик на исходных значениях. Усреднение представлений патчей в прогнозной голове может сглаживать детали при длинных горизонтах.
TunBERT — модель для классификации последовательностей на базе архитектуры BERT, опубликованная tunis-ai. Репозиторий содержит конвертированную из формата NeMo версию модели Instadeep в формате Safetensors; размер — 136,7 млн параметров, контекст — до 512 токенов. Для загрузки предусмотрена связка токенизатора и AutoModelForSequenceClassification из Transformers. Модель предназначена для классификации текстов на арабском языке. Она может применяться в задачах, где требуется присвоить тексту одну или несколько категорий; карточка не уточняет набор меток или конкретные сценарии. Модель распространяется по лицензии MIT. Классификация на иных языках и качество на конкретных данных не подтверждены карточкой.
dvs/videomae-base-finetuned-movienet — модель классификации видео, полученная дообучением MCG-NJU/videomae-base. Она содержит 113,2 млн параметров и использует архитектуру VideoMAEForVideoClassification; веса опубликованы в формате PyTorch. Модель предназначена для присвоения видео категорий, однако README не описывает набор классов или конкретные сценарии применения MovieNet. В README приведены результаты оценки: accuracy 0,6823 и loss 1,2558 после 6,1 эпохи обучения. Данные обучения обозначены как неизвестный датасет, поэтому по карточке нельзя судить о составе категорий и обобщающей способности модели. Лицензия CC BY-NC 4.0 разрешает использование с атрибуцией, но ограничивает коммерческое применение.
MCG-NJU/videomae-large-finetuned-kinetics — модель VideoMAE большого размера, опубликованная командой MCG-NJU и дообученная для классификации видео на наборе Kinetics-400. Она принимает видеокадры и относит ролик к одной из 400 категорий действий. Модель основана на Vision Transformer: видео представляется последовательностью патчей размером 16×16, а предварительное самообучение использует masked autoencoder для восстановления скрытых участков. В модели 402,7 млн параметров; веса доступны в форматах PyTorch и Safetensors. На тестовом наборе Kinetics-400 указана точность top-1 84,7% и top-5 96,5%. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.
laion/vocalburst-captioning-whisper — дообученная LAION модель на архитектуре Whisper-small encoder–decoder для создания текстовых описаний коротких неречевых вокализаций: смеха, вздохов, крика, кашля, плача, одышки и прочих подобных звуков. Она принимает аудиофрагмент и генерирует свободный текст на английском языке. Веса занимают 153,1 млн параметров; модель построена на Transformers и сохранена в формате safetensors. Модель подходит для автоматической подписи вокальных звуков в аудиозаписях и для конвейеров разметки аудио. Её можно использовать вместе с laion/vocalburst-locator: детектор находит временные границы вокализаций, после чего эта модель описывает каждый сегмент. На валидационной выборке авторы получили cosine similarity 0,2506 по метрике CLAP против 0,190 у базовой модели. Модель дообучена на синтетических примерах вокализаций; приведённые результаты относятся к этой валидационной выборке, а полнота обнаружения зависит от совместно используемого детектора. Лицензия — CC BY 4.0.
W2v-BERT 2.0 — речевой энкодер на архитектуре Conformer, разработанный Meta и лежащий в основе моделей Seamless. Он предварительно обучен на 4,5 млн часов неразмеченного аудио более чем на 143 языках и предназначен для извлечения речевых представлений, которые можно использовать в качестве основы для последующей настройки систем распознавания речи и классификации аудио. Это базовый чекпойнт без выходной головы для конкретной задачи: для ASR и классификации его необходимо дообучить. В каталоге указано 402,7 млн параметров; в README для версии модели указано 600 млн. Репозиторий содержит веса в формате safetensors. Лицензия — MIT.
Prasadrao разработал эту модель на базе XLM-RoBERTa Large, дообучив её для классификации эмоций в тексте на наборе данных GoEmotions. Она предназначена для определения эмоциональных категорий в тексте и может использоваться для анализа тональности сообщений, отзывов и реплик. Модель содержит 658,7 млн параметров, построена на архитектуре XLM-RoBERTa для классификации последовательностей и принимает контекст до 514 токенов. Опубликована в формате safetensors по лицензии MIT. На оценочном наборе указаны accuracy 0,4521 и F1 0,5170, поэтому качество предсказаний может быть ограниченным; карточка не описывает подробности обучающих данных, список меток и языков. Для корректного применения следует сверить выходные метки с конфигурацией модели и оценить качество на данных целевого сценария.
YoliGuadir/xlnet-tass-sentimientos — дообученная модель XLNet Base Cased для классификации тональности текстов на испанском языке. Она разработана автором репозитория и предназначена для определения тональности в задаче TASS. Модель содержит 137,8 млн параметров, построена на архитектуре XLNetForSequenceClassification и распространяется в формате safetensors; для работы используется Transformers. В карточке приведены результаты оценки: accuracy 0,5437, F1 Macro 0,5359 и F1 Weighted 0,5381. В описании также указано, что опубликованный вариант обучался с batch size 16 и показал F1 Macro 0,5339, не достигнув упомянутого baseline BETO в 64%. Лицензия — MIT. Датасет обозначен как None, поэтому детали обучающих данных неясны.
facebook/xmod-large-prenorm — мультиязычная модель X-MOD размера large, разработанная Facebook и обученная на 81 языке. Она предназначена для заполнения пропусков в тексте: модель предсказывает замаскированные токены с учётом окружающего контекста и подходит для задач на основе masked language modeling. Модель содержит около 658,7 млн параметров, использует плотную архитектуру X-MOD и принимает текстовые последовательности с контекстом до 514 токенов. В метаданных перечислена поддержка языков от африкаанс до ория; карточка указывает обучение на 81 языке. Доступна в формате PyTorch по лицензии MIT.
Ælæctra Danish ELECTRA Small Cased — датская языковая модель на архитектуре ELECTRA, созданная Malte Højmark-Bertelsen в рамках бакалаврской работы по когнитивистике. Модель содержит 20,8 млн параметров, обучена на датском корпусе Danish Gigaword (DAGW) по схеме ELECTRA с задачей выявления заменённых токенов. Для обработки текста использует регистр букв и поддерживает контекст до 512 токенов. Модель предназначена для задач обработки датского языка и может служить компактной основой для дообучения, в частности для распознавания именованных сущностей. В оценке на DaNE её F1 ниже, чем у DaBERT и mBERT, но модель существенно меньше и требует меньше вычислительных ресурсов. Карточка рекомендует дальнейшую оценку на других задачах. Доступны веса PyTorch и TensorFlow; лицензия MIT.
afro-xlmr-base-afr-finetuned-augmentation-LUNAR — модель классификации последовательностей, дообученная на основе Davlan/afro-xlmr-base. Она предназначена для присвоения тексту одной или нескольких категорий; конкретные категории и прикладной сценарий в карточке не описаны. Модель построена на архитектуре XLM-RoBERTa, содержит 305,2 млн параметров и рассчитана на контекст до 514 токенов. Базовая модель ориентирована на тексты на африканских языках. В карточке приведены результаты оценки: loss 0,2755, F1 0,5012, ROC AUC 0,6931 и accuracy 0,6908; без сведений о наборе данных, разбиении и методике оценки эти числа трудно интерпретировать. Модель выпущена под лицензией MIT.
ConnyGenz/artificially-natural-roberta — модель классификации текста на базе RoBERTa, дообученная на основе openai-community/roberta-base-openai-detector. Она предназначена для определения классов текста; карточка указывает F1 0,98 и loss 0,146 на оценочном наборе, но не раскрывает сами классы, состав данных и методику оценки. Модель содержит 151,8 млн параметров, использует архитектуру RobertaForSequenceClassification и принимает контекст до 514 токенов. Распространяется в формате safetensors по лицензии MIT. Карточка не сообщает специальных ограничений или целевых сценариев, поэтому результаты следует проверять на данных конкретного применения.
nunuing/audio_cls_korean — модель классификации аудио на основе Wav2Vec2, дообученная на Kkonjeong/wav2vec2-base-korean. Она предназначена для отнесения аудиозаписей к классам; набор классов и обучающие данные в карточке не описаны. Модель содержит 113,3 млн параметров и распространяется в формате safetensors через библиотеку Transformers. На оценочном наборе указаны accuracy 0,8739 и loss 1,0013. Лицензия в предоставленных данных не указана.
bamibert-res-acsa-multilabel — модель классификации текста на архитектуре RoBERTa с 129 млн параметров. Согласно карточке, она обучена с нуля на неизвестном наборе данных; подробности о назначении, классах и обучении отсутствуют. Метаданные указывают контекст длиной 2050 токенов и формат весов safetensors. Лицензия не указана в предоставленных данных.
linhnvhust/bge_m3_multiplenegativesrankingloss — модель эмбеддингов, дообученная на основе BAAI/bge-m3 для банковской области. Она предназначена для семантического поиска и извлечения документов, а также для оценки сходства текстов; пример в карточке посвящён запросу об условиях оформления кредитной карты. Архитектура — плотная модель на базе XLM-RoBERTa с 658,7 млн параметров, поддерживает многоязычный ввод и контекст до 8194 токенов. Для получения эмбеддингов карточка демонстрирует Sentence-Transformers с нормализацией векторов. Модель распространяется по лицензии Apache-2.0. Ограничение: специализация на банковских текстах может снижать качество на других темах; конкретные языки обучения в карточке не перечислены.
Johnson8187/Chinese-Emotion-Small — модель классификации китайского текста по эмоциональному тону, дообученная на базе MoritzLaurer/mDeBERTa-v3-base-mnli-xnli. Это компактная версия семейства Chinese-Emotion; модель содержит 306 млн параметров, использует архитектуру DeBERTa-v2 и принимает последовательности длиной до 512 токенов. Модель относит фразу к одной из восьми категорий: нейтральный, обеспокоенный, радостный, сердитый, грустный, вопросительный, удивлённый или испытывающий отвращение тон. Она предназначена для анализа китайских высказываний, например мониторинга эмоций в обращениях в поддержку, анализа публикаций в соцсетях и классификации отзывов. Для дообучения использованы 4 000 вручную размеченных примеров на традиционном китайском языке из Chinese_Multi-Emotion_Dialogue_Dataset. Модель распространяется по лицензии MIT. Карточка не приводит метрик качества, поэтому точность на других жанрах текста и вариантах китайского языка по ней оценить нельзя.
Danish BERT Tone — модель на базе BERT, разработанная Alexandra Institute путём дообучения предварительно обученного датского BERT от BotXO. Она классифицирует датский текст как субъективный или объективный и подходит для анализа тональности высказываний, например сообщений в социальных сетях и фрагментов парламентских дебатов. Модель содержит 137,8 млн параметров, принимает текстовые последовательности длиной до 512 токенов и доступна в форматах PyTorch, Safetensors и TensorFlow. Для обучения использованы наборы DDSC/twitter-sent и DDSC/europarl. Модель распространяется по лицензии Apache-2.0. Она предназначена для датского языка; результаты на других языках и для текстов за пределами обучающих сценариев могут быть ненадёжными.
Koichi Yasuoka разработал модель DeBERTa V2 large для разметки японского текста частями речи по универсальной системе UPOS. Она дообучена на текстах Aozora Bunko на основе KoichiYasuoka/deberta-large-japanese-aozora и присваивает тег UPOS каждому длинному слову; модель также предназначена для анализа зависимостей. Модель принимает японский текст и выдаёт метки для токенов. Архитектура — DeBERTa V2 с 435,4 млн параметров, контекст — до 512 токенов. Репозиторий содержит веса PyTorch. Лицензия — CC BY-SA 4.0.
Dialects-to-MSA-Transformer — модель Hamza Naser, дообученная на базе encoder-decoder модели facebook/m2m100_418M для преобразования арабских диалектных текстов в литературный арабский (MSA). Модель содержит 332,5 млн параметров, принимает текст и выдаёт текст; максимальный контекст составляет 1024 токена. Обучение проводилось на 800 тысячах пар предложений из арабских твитов и их преобразований, сгенерированных gpt-4o-mini. Лучше всего модель обучена на диалектах стран Персидского залива. Основной сценарий — нормализация диалектного арабского в MSA. Модель также может исправлять опечатки, расставлять пунктуацию и добавлять часть диакритических знаков; автор сообщает о возможности перевода с английского на арабский, хотя модель не дообучалась на англоязычных данных. Эти дополнительные возможности могут быть непоследовательными. Модель распространяется по лицензии Apache-2.0.
wsntxxn/effb2-trm-audiocaps-captioning — компактная модель для создания текстовых описаний звуков. Она использует энкодер EfficientNet-B2 и двухслойный декодер Transformer и обучена на AudioCaps и неразмеченных данных AudioSet. Модель предназначена для генерации англоязычных подписей к аудиозаписям; в метаданных Hugging Face указана задача feature-extraction, поэтому каталог классифицирует её как извлечение признаков. Модель опубликована 17 июня 2024 года в форматах PyTorch и safetensors под лицензией Apache-2.0. README характеризует её как лёгкую, но не приводит оценок качества или конкретных ограничений.