II.8Инженерия данных и аналитика
В разделе собраны самостоятельные задачи, где AI помогает готовить надёжные данные и превращать их в понятную аналитику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
23 488 моделейSteven Limcorn разработал Indo RoBERTa Emotion Classifier на основе Indo-RoBERTa Base, дообучив её для классификации эмоций на наборе EmoT из бенчмарка IndoNLU. Модель содержит 151,8 млн параметров, использует архитектуру RoBERTa и принимает текст; максимальная длина контекста — 514 токенов. Она предназначена для определения эмоциональной категории в индонезийском тексте, например в коротких сообщениях и отзывах. В оценке на IndoNLU модель показала macro-F1 72,05% и accuracy 71,81%. Результаты зависят от данных и могут наследовать их смещения, а также смещения предобученной RoBERTa. Лицензия — MIT.
gomyk/intent-student-L4_uniform_distilled — компактный многоязычный энкодер предложений, созданный для классификации намерений. Модель разработана на основе paraphrase-multilingual-MiniLM-L12-v2 с прореживанием слоёв и словаря, а затем дистиллирована по эмбеддингам учителя. В README указана архитектура XLM-RoBERTa с 4 слоями и размерностью скрытого представления 384; метаданные классифицируют её как BERT с 24,2 млн параметров. Данные о структуре архитектуры в источниках расходятся. Модель кодирует короткие реплики для классификации намерений и сценариев, а также поддерживает извлечение признаков и сравнение сходства предложений. Она рассчитана на 18 языков: корейский, английский, японский, китайский, испанский, французский, немецкий, португальский, итальянский, русский, арабский, хинди, тайский, вьетнамский, индонезийский, турецкий, нидерландский и польский. Контекст — до 512 токенов. По приведённым результатам MTEB средний балл составляет 54,61%; лицензия — Apache-2.0.
jk2 — дообученная модель для генерации текста, созданная на основе deepseek-ai/deepseek-coder-1.3b-base. Она использует плотную архитектуру семейства Llama и содержит 1,3 млрд параметров; указанный базовый контекст — 16 384 токена. В метаданных заявлена задача text-generation, а базовая модель предназначена для продолжения, автодополнения и заполнения пропусков в коде. В README приведены значения метрик оценки, но назначение дообучения, обучающие данные и конкретные сценарии использования не описаны. Модель опубликована в формате safetensors; лицензия в предоставленных данных не указана.
KoBERT — корейская модель семейства BERT, опубликованная monologg. Она предназначена для извлечения признаков из текста и может служить основой для задач обработки корейского языка. Архитектура — плотная BertModel размером 119,4 млн параметров; максимальная длина контекста составляет 512 токенов. Репозиторий содержит веса PyTorch, Flax и safetensors. Для загрузки токенизатора через AutoTokenizer в Transformers требуется параметр trust_remote_code=True. Модель распространяется по лицензии Apache-2.0. Карточка содержит краткий пример импорта, но не приводит результаты оценки качества или подробностей обучения.
KooBERT — многоязычная модель BERT, разработанная совместно Koo India и AI4Bharat и предварительно обученная на публикациях Koo, коротких микроблогах длиной до 400 символов. Модель обучалась на задаче masked language modeling на данных платформы за период с января 2020 по ноябрь 2022 года; архитектура — BertForMaskedLM, размер — 211,6 млн параметров, словарь содержит 128 тысяч токенов, максимальная длина последовательности — 128 токенов. Основная задача модели — предсказывать замаскированные токены в текстах на английском и индийских языках. Её также можно дообучать для классификации публикаций и выявления токсичности, а с sentence-transformers использовать для построения многоязычных векторных представлений. Модель выпущена по лицензии MIT. Обучение на публикациях одной социальной платформы может ограничивать переносимость на другие жанры и предметные области, а особенности данных могут влиять на предсказания. В карточке указано, что модель ещё не прошла бенчмаркинг; качество для конкретной задачи следует оценивать отдельно.
Korean Neural Sparse Encoder (V33-ecom-v6) — корейская модель для разреженного поиска документов и товаров, разработанная автором репозитория mateon01. Это SPLADE-max энкодер на базе skt/A.X-Encoder-base с архитектурой ModernBERT и примерно 148,7 млн параметров. Модель преобразует текст запросов и документов в разреженные векторы: применяет MLM-голову, log(1+ReLU) и max pooling. Для запросов указано около 40 ненулевых измерений, для документов — около 68; словарь содержит 50 тысяч токенов, из которых 48,4% — корейские. Модель дообучена для корейского поиска товаров в электронной коммерции, сохраняя возможности общего поиска. В README приведены результаты на e-commerce-ko и корейских наборах Ko-StrategyQA, MIRACL-ko и Mr.TyDi-ko. Подходит для построения поискового индекса и ранжирования товаров или документов по текстовому запросу. Базовый энкодер поддерживает контекст до 16 384 токенов. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. README отмечает, что при дообучении разреженных представлений методы MarginMSE/KD могут ухудшать их качество; показатели бенчмарков относятся к описанным наборам данных.
lemur-70b-v1 — языковая модель с архитектурой Llama, опубликованная OpenLemur. Она предназначена для генерации текста и кода; модель не обучалась на корпусе следования инструкциям, поэтому хуже подходит для диалога и ответов на прямые вопросы. Веса представлены в формате PyTorch, размер модели — 68,7 млрд параметров, контекст — до 4096 токенов. Карточка указывает лицензию Llama 2.
Adaptive Classifier — модель классификации текста с возможностью непрерывного обучения и добавления классов. Она основана на distilbert/distilbert-base-cased и использует эмбеддинги размерности 768; в текущем экземпляре настроены два класса: HIGH и LOW, на каждом из которых обучено по пять примеров. Модель предназначена для пользовательской классификации текстов, когда категории могут добавляться динамически, а представления классов обновляются по мере накопления данных. Репозиторий содержит форматы ONNX и safetensors. Лицензия — Apache-2.0. Для каждого класса требуется не менее трёх примеров, предусмотрено не более 500 примеров на класс. Прототипы обновляются каждые 50 примеров; текущий объём обучения невелик, поэтому качество классификации может быть ограничено.
Jeevesh8/lp1e-3_ft_corr_init_shuff_clipped_warmed_wd0_pnt_01_seq_len_128_bert-base-uncased_mnli_ft_40 — модель классификации текста на базе BERT, опубликованная пользователем Jeevesh8 на Hugging Face. По названию она представляет собой вариант bert-base-uncased, дообученный в рамках эксперимента с MNLI, однако точное назначение меток и набор классов из доступных данных не установлены. Модель содержит около 136,7 млн параметров, использует архитектуру BERT и поддерживает контекст до 512 токенов. Она предназначена для задач text classification, включая классификацию или оценивание текстовых пар, если это соответствует использованной при дообучении постановке MNLI. Модель текстовая и не предназначена для генерации текста, распознавания речи или обработки изображений. К ограничениям относятся максимальная длина контекста 512 токенов, зависимость качества от данных и схемы меток дообучения, а также отсутствие подтвержденных сведений о языках, лицензии и точном наборе выходных классов.
Inabia-AI/modernBERT-large-claim-agent_v3 — дообученная модель классификации текста на базе двунаправленного энкодера answerdotai/ModernBERT-large. Она содержит 394,7 млн параметров, использует архитектуру ModernBERT для классификации последовательностей и принимает текст длиной до 8192 токенов. Модель предназначена для классификации текста. В README приведены результаты оценки на тестовом наборе: accuracy 0,9397, precision 0,8961, recall 0,8846 и F1 0,8903; назначение классов и состав данных для обучения не описаны. Модель распространяется по лицензии Apache-2.0. Базовый ModernBERT-large описан как англоязычный энкодер; отдельные сведения о языках этой дообученной версии, её прикладной области и ограничениях не приведены.
Minibase-NER-Small — компактная языковая модель, разработанная Minibase и дообученная для распознавания именованных сущностей в тексте. Она извлекает имена людей, организаций, географические названия и другие сущности, выдавая их нумерованным списком; типы сущностей в ответе не отмечаются. Модель построена на архитектуре LlamaForCausalLM и содержит 147,8 млн параметров по метаданным. Репозиторий содержит квантизированную версию GGUF Q8_0; контекст составляет 2048 токенов. Карточка сообщает о поддержке английского языка, локальном запуске через llama.cpp и среднем времени ответа 76,6 мс. На описанной в README оценке F1 составил 43,5%, точность — 63%, полнота — 34,3%. Подходит для локального извлечения сущностей из коротких англоязычных текстов и дальнейшего разбора результатов. Ограничения включают пропуски сущностей, нестабильный или повреждённый формат вывода, отсутствие меток типов и ограничение контекста. Лицензия — Apache-2.0.
Den4ikAI/nonsense_gibberish_detector — русскоязычная модель классификации текста от Den4ikAI, построенная на архитектуре BERT и обученная распознавать три категории: нормальный текст, текст с ошибками в склонениях или несвязным набором слов, а также бессмысленный набор символов или слов. Её можно применять для первичной проверки качества пользовательского текста и выявления бессвязных или искажённых сообщений. Модель содержит 140,9 млн параметров, принимает текстовые последовательности длиной до 512 токенов и выдаёт метку класса. В карточке указан датасет Den4ikAI/gibberish_dataset. Модель распространяется по лицензии Apache-2.0. Оценки точности и подробные сведения о том, как она обобщает за пределами обучающих данных, в предоставленной карточке не описаны.
Olmo 3 7B RL-Zero Code — англоязычная авторегрессионная Transformer-модель Allen Institute for AI (Ai2), дообученная на запросах по программированию методом обучения с подкреплением на основе проверяемых наград (RLVR) с набором Dolci-RLZero-Code-7B. Модель содержит 6,9 млрд параметров, принимает текст и генерирует текст; контекст — до 65 536 токенов. Для работы поддерживается библиотека Transformers версии 4.57.0 и выше. Модель предназначена для генерации кода и экспериментов по применению RLVR к задачам программирования. Это экспериментальная исследовательская модель семейства RL-Zero, а не универсальный помощник с заявленными гарантиями качества. Она может выдавать неточные ответы и небезопасный или предвзятый текст, поэтому результаты следует проверять. Лицензия Apache 2.0; Ai2 указывает на исследовательское и образовательное применение согласно своим рекомендациям по ответственному использованию.
OmniTab Large fine-tuned на WikiTableQuestions — модель для ответов на вопросы по таблицам, разработанная исследовательской группой NeuLab. Она основана на архитектуре BART и инициализирована весами neulab/omnitab-large; в карточке указано 252,8 млн параметров и контекст до 1024 токенов. Модель обучена для интерпретации таблиц и генерации ответов на вопросы на естественном языке, в том числе в сценариях few-shot question answering. Модель предназначена для работы с таблицами на английском языке. Репозиторий содержит веса PyTorch. Лицензия в предоставленных данных не указана.
open-deepfake-detection — экспериментальная модель классификации изображений, созданная PrithivMLmods на базе Google SigLIP 2 Base Patch16 512 и дообученная для бинарного определения поддельных и подлинных изображений. Она использует архитектуру SiglipForImageClassification и обучалась на наборе OpenDeepfake-Preview. Модель предназначена для выявления изображений, сгенерированных или изменённых ИИ, проверки визуальной подлинности, предварительной модерации контента и отбора данных для наборов изображений. В карточке приведён отчёт на 19 999 примерах с точностью 94,44%; эти результаты относятся к указанной оценке и не гарантируют такую же точность на других данных. Модель принимает изображения и выдаёт метку класса «Fake» или «Real». Карточка помечает её как устаревшую и не рекомендует использовать; также модель обозначена как экспериментальная, поэтому результаты следует проверять, особенно при работе с новыми типами генерации и манипуляций. Лицензия — Apache-2.0.
pretrain1 — модель классификации текста на базе BERT, дообученная авторами репозитория fcx-kilig на неизвестном датасете. Она предназначена для отнесения текста к классам и может использоваться в задачах, где требуется классификация последовательностей. Модель содержит 136,7 млн параметров, использует архитектуру BertForSequenceClassification, принимает текст и имеет контекст до 512 токенов. В README приведены результаты на оценочной выборке: accuracy 0,7783 и loss 1,0888. Названия классов и состав выборки не раскрыты, поэтому эти оценки не позволяют определить качество для конкретной прикладной задачи. Базовая модель — bert-base-uncased; лицензия — Apache-2.0.
rd211/Qwen3-0.6B-Instruct — дообученная модель на основе Qwen/Qwen3-0.6B, представленная как классификатор последовательностей на базе архитектуры Qwen3. Она предназначена для классификации текста; карточка не уточняет набор классов или конкретные сценарии применения. Модель содержит 507,9 млн параметров, принимает текст и выдаёт результат классификации. Её нативный контекст составляет 40 960 токенов. Репозиторий использует библиотеку Transformers и формат Safetensors. Базовая Qwen3 описана как компактная многоязычная модель для генерации текста, диалогов, рассуждений и работы с инструментами, однако эти возможности не подтверждены как специализация данного классификационного чекпойнта. Модель выпущена rd211 и дообучена на датасете, обозначенном в README как None, поэтому сведения о тренировочных данных и оценке качества отсутствуют. Лицензия — Apache-2.0.
gzh6/rbt3-chn-senti-corp — компактная китайская BERT-модель, дообученная автором репозитория на неизвестном датасете для классификации текста. Она предназначена для присвоения меток китайским текстам; в карточке приведены результаты оценки: accuracy 0,9208 и loss 0,2704. Модель содержит 44,5 млн параметров, принимает последовательности длиной до 512 токенов и распространяется в формате safetensors для Transformers. Базовая модель — hfl/rbt3, предварительно обученная для обработки китайского текста. Модель подходит для классификации китайских текстов в приложениях и исследовательских прототипах. В карточке не названы набор меток, датасет и конкретная область применения, поэтому результаты оценки нельзя автоматически переносить на другие данные. Лицензия — Apache-2.0.
RE-SepFormer — модель разделения аудиоисточников, разработанная командой SpeechBrain и обученная на наборе WSJ0-2Mix. Она предназначена для выделения отдельных речевых сигналов из смешанной записи; репозиторий предоставляет средства для запуска разделения на собственных аудиофайлах. Модель реализована на архитектуре RE-SepFormer с использованием SpeechBrain. На тестовом наборе WSJ0-2Mix указаны SI-SNRi 18,6 дБ и SDRi 18,9 дБ. Для входных записей требуются монофонический сигнал с частотой дискретизации 8 кГц; аудио с другой частотой нужно предварительно пересэмплировать. Модель поддерживает английскую речь и распространяется по лицензии Apache-2.0. Разработчики не гарантируют такую же производительность на других наборах данных, поэтому результаты на аудио за пределами WSJ0-2Mix могут отличаться.
Afzalsiiit/results — дообученная модель классификации изображений на основе Swin-Tiny, разработанной Microsoft. Она обучена на наборе данных, загруженном в формате imagefolder, и предназначена для отнесения изображений к категориям. В карточке указана потеря 0,0274 на оценочном наборе, но состав классов и подробности оценки не приведены. Модель содержит около 33 млн параметров, использует архитектуру Swin и сохранена в формате safetensors. Лицензия — Apache-2.0. Карточка не описывает конкретные сценарии применения или ограничения качества; результаты могут зависеть от соответствия новых изображений обучающим данным и классам.
RobBERT-2022 — нидерландская языковая модель, разработанная группой DTAI-KULeuven. Это модель архитектуры RoBERTa с 146,1 млн параметров, предназначенная для заполнения пропусков в тексте и дальнейшей адаптации к задачам обработки нидерландского языка. Она продолжает предварительное обучение RobBERT v2 на версии набора OSCAR за 2022 год, поэтому лучше учитывает более новые слова и события, включая лексику, связанную с COVID-19. Модель принимает текст с маскированными токенами и предсказывает вероятные замены. Контекст составляет до 514 токенов. Её можно дообучать для классификации текста и разметки частей речи; в карточке отмечено, что на задачах без сведений новее 2019 года исходная RobBERT v2 иногда показывает лучшие результаты. Модель распространяется в форматах PyTorch и safetensors по лицензии MIT.
Это предварительно обученная языковая модель RoBERTa, созданная лабораторией Mori при Университете Йокогамы для работы с японскими текстами. Модель содержит 74,1 млн параметров, использует токенизатор SentencePiece и принимает последовательности длиной до 512 токенов; для дообучения в README рекомендована максимальная длина 510 токенов. Основная задача модели — предсказание замаскированных токенов в японском тексте. Её можно дообучать для языковых задач; в README также приведён результат 95,4% точности на бинарной классификации тональности JGLUE-marc_ja-v1.0. Доступны веса PyTorch, лицензия — Apache-2.0. README содержит пример загрузки токенизатора через класс AlbertTokenizer, поэтому совместимость этого примера с указанной архитектурой RoBERTa требует проверки.
Это англоязычная RoBERTa-base для анализа тональности, разработанная Anna Chierici. Модель дообучена на базе cardiffnlp/twitter-roberta-base-sentiment-latest на данных SemEval и твитах, отправленных аккаунту @AmazonHelp, и предназначена для оценки удовлетворённости клиентов и репутации компаний. Модель принимает текст и относит его к одному из трёх классов: отрицательная, нейтральная или положительная тональность. Её можно применять для анализа отзывов и клиентских сообщений, в том числе публикаций в Twitter. Архитектура — RoBERTa для классификации последовательностей, размер — 151,8 млн параметров, контекст — до 514 токенов. Модель работает с английским языком. Лицензия в предоставленных данных не указана. Качество за пределами описанных данных и сценариев не охарактеризовано; обучающие данные включают твиты, связанные с обращениями в поддержку Amazon.
SEW-D-base+ — акустическая модель ASAPP Research на архитектуре SEW-D, разработанной как более эффективный вариант подходов wav2vec 2.0. Модель содержит 226,5 млн параметров и предварительно обучена на речевых аудиозаписях с частотой дискретизации 16 кГц; для распознавания речи входное аудио также должно быть приведено к 16 кГц. Модель предназначена для дообучения под распознавание речи и другие задачи анализа речи. В карточке описан сценарий транскрибирования аудио через CTC; как архитектурные преимущества SEW в статье указаны ускорение вывода и снижение частоты ошибок относительно wav2vec 2.0 в экспериментах на LibriSpeech. Поддерживаемый язык — английский, среди связанных данных указан LibriSpeech ASR. Лицензия — Apache-2.0. В карточке также отмечено, что базовую модель следует дообучать под целевую задачу.
aufklarer/Silero-VAD-v5-MLX — конвертированные веса Silero VAD v5 для запуска с библиотекой MLX на устройствах Apple Silicon. Модель предназначена для обнаружения речевой активности в аудиопотоке: принимает последовательные фрагменты по 512 отсчётов (32 мс при частоте 16 кГц) и выдаёт вероятность наличия речи от 0 до 1 для каждого фрагмента. Состояние LSTM сохраняется между фрагментами для потоковой обработки. Архитектура включает STFT, свёрточный энкодер из четырёх слоёв Conv1d с ReLU, LSTM со скрытым размером 128 и свёрточный декодер с сигмоидой; размер — около 309 тысяч параметров. Заявлена задержка менее миллисекунды. Репозиторий содержит веса safetensors, преобразованные из официальной JIT-модели Silero VAD v5; базовая модель — snakers4/silero-vad. Лицензия — MIT.
Funnel Transformer Small — предварительно обученная модель семейства Funnel Transformer, представленная в научной работе и выпущенная авторами модели. Это компактная плотная трансформерная архитектура с конфигурацией B4-4-4 и декодером; модель обучалась на английских текстах без меток с целью распознавать заменённые токены. Она регистронезависимая и рассчитана на контекст до 512 токенов. Модель извлекает контекстные представления английского текста, которые можно использовать как признаки для классификаторов и других задач обработки целых предложений или токенов. Основные сценарии — подготовка признаков для классификации последовательностей, классификации токенов и ответов на вопросы; для генерации текста модель не предназначена. Доступны веса в форматах PyTorch и TensorFlow. Модель предобучена на BookCorpus, английской Википедии, ClueWeb, GigaWord и Common Crawl. Карточка рекомендует дообучать её под конкретную задачу; качество и пригодность для целевых данных зависят от такого дообучения. Лицензия — Apache-2.0.
SPEAR XLarge v2 — открытый энкодер SPEAR для обучения представлениям речи и общего аудио, разработанный авторами работы SPEAR и опубликованный как версия модели для статьи, принятой на ICML 2026. Это самонагружаемая модель с backbone Zipformer из 13 стеков и примерно 600 млн параметров. На вход подаются монофонические или пакетированные аудиосигналы с частотой 16 кГц; энкодер выдаёт покадровые представления размерностью 1280 примерно с частотой 50 Гц. Модель обучалась на неразмеченных данных: около 184 тысяч часов английской речи и 13 тысяч часов общего аудио. Версия v2 добавляет token mixing для повышения устойчивости к шуму, перекрывающейся речи и смешанным акустическим сценам. SPEAR предназначена как универсальный акустический энкодер для последующей настройки под распознавание речи, аудиотегирование и другие задачи понимания речи и звуков; сама предобученная модель не выдаёт транскрипции или метки без соответствующей downstream-модели или дообучения. Карточка сообщает о высоких результатах на SUPERB и HEAR, а также приводит результаты настройки на LibriSpeech и AudioSet. Модель распространяется по лицензии Apache-2.0.
StorySeeker — модель классификации текста, созданная Maria Antoniak путём дообучения RoBERTa-base на датасете StorySeeker. Она определяет, содержит ли текст историю согласно определению из кодбука проекта. Модель рассчитана на анализ публикаций и комментариев в онлайн-сообществах, а также может применяться к другим наборам текстов. Архитектура — RoBERTa для классификации последовательностей, размер — 151,8 млн параметров, максимальная длина контекста — 514 токенов. На тестовой выборке авторы сообщают точность 0,8416 и значение функции потерь 0,4343. Модель дообучена на 301 публикации и комментарии Reddit с бинарными метками; её результаты на других типах текстов могут отличаться. Лицензия — MIT.
TaMillion — вторая версия языковой модели для тамильского языка, обученная автором модели с использованием ELECTRA от Google Research. Это базовая модель с архитектурой ELECTRA, представленная как BertModel: она содержит 143,9 млн параметров и рассчитана на последовательности до 512 токенов. Модель обучалась на корпусе IndicCorp Tamil и дампе Википедии на тамильском языке; текущая версия прошла 224 000 шагов предобучения. Модель предназначена для извлечения признаков из тамильского текста и может служить основой для дообучения под классификацию, регрессию и ответы на вопросы. В приведённых автором результатах TaMillion превзошла mBERT на классификации новостей и немного — на анализе отзывов о фильмах, а на тематической классификации «Тируккурала» показала сопоставимую точность. Для прикладной системы под конкретную задачу потребуется отдельная настройка; карточка не описывает лицензию.
google/tapas-small-finetuned-wtq — небольшая модель TAPAS от Google для ответов на вопросы по таблицам. Она построена на архитектуре Transformer, похожей на BERT, содержит 32,4 млн параметров и принимает вопрос вместе с таблицей, преобразованной в последовательность текста. Для выбора ответа модель использует головы выбора ячеек и агрегации; в стандартной версии позиции в таблице сбрасываются для каждой ячейки. Модель предварительно обучалась на англоязычных таблицах и текстах Википедии, а затем последовательно дообучалась на SQA, WikiSQL и WikiTable Questions. Она предназначена для извлечения ответа из содержимого таблицы и может учитывать числовые отношения. Контекст ограничен 512 токенами; заявленные данные обучения и карточка ориентированы на английский язык. Доступны веса PyTorch и TensorFlow. Модель распространяется по лицензии Apache-2.0. Карточка приводит результаты для крупных и базовой версий TAPAS, но не указывает оценку для этой небольшой версии; качество на иных типах таблиц и языках может отличаться.