II.8Инженерия данных и аналитика
В разделе собраны самостоятельные задачи, где AI помогает готовить надёжные данные и превращать их в понятную аналитику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
23 488 моделейTinyStarCoderPy — компактная авторегрессионная модель для генерации кода, разработанная BigCode. Она содержит 164 млн параметров и обучена примерно за 50 тысяч шагов на 100 млрд токенов Python-кода из StarCoderData, сформированных на основе GitHub. Модель использует архитектуру GPTBigCode с multi-query attention и поддерживает заполнение пропусков в коде (Fill-in-the-Middle, FIM); длина контекста — 8192 токена. Модель предназначена для помощи при написании и дополнении Python-кода, включая генерацию по началу функции и заполнение фрагмента между заданными частями кода. Разработчики рекомендуют для чистого автодополнения кода более крупные StarCoder или StarCoderBase, поэтому возможности TinyStarCoderPy ограничены её небольшим размером. Репозиторий распространяется в форматах PyTorch и Safetensors; лицензия — BigCode OpenRAIL-M.
Trading Hero Financial Sentiment Analysis — дообученная модель семейства BERT, созданная на основе FinBERT для анализа тональности финансовых текстов. Она классифицирует финансовые сообщения на нейтральные, положительные и отрицательные и предназначена для финансовых аналитиков, исследователей NLP и разработчиков систем анализа финансовых данных. Модель содержит 137 млн параметров, использует архитектуру BertForSequenceClassification и принимает текстовые последовательности длиной до 512 токенов. В README указано дообучение на пользовательском наборе финансовых коммуникаций; для тестовой выборки приведены accuracy 0,908 и F1 0,913. Базовый FinBERT предварительно обучался на финансовых отчетах, стенограммах звонков о доходах и аналитических отчетах. Модель распространяется под лицензией MIT. Карточка не указывает языки текстов, поэтому область языковой поддержки определить нельзя; результаты оценки относятся к описанной в README тестовой выборке.
Модель deepgai/tweet_eval-sentiment-finetuned — классификатор тональности коротких текстов, дообученный на наборе Tweet_Eval на базе microsoft/deberta-v3-small. Она предназначена для определения тональности публикаций и сообщений, в том числе текстов из Twitter. Модель использует архитектуру DeBERTa V2, содержит около 155 млн параметров и принимает последовательности длиной до 512 токенов. На оценочной выборке Tweet_Eval модель показала accuracy 0,744 и F1 0,7437. Репозиторий содержит веса PyTorch; лицензия — MIT. README не уточняет набор меток тональности и ограничения по языкам, поэтому переносить результаты на другие типы текстов без отдельной проверки не следует.
Twitter-roberta-base-sentiment — англоязычная модель Cardiff NLP для классификации тональности сообщений в Twitter и других коротких текстов. Она основана на RoBERTa-base, предварительно обученной примерно на 58 млн твитов, и дообучена для анализа тональности на бенчмарке TweetEval. Модель относит текст к одному из трёх классов: негативному, нейтральному или позитивному, и возвращает оценки для классов. Число параметров — 151,8 млн, контекст — до 514 токенов. Доступны версии для PyTorch, TensorFlow и JAX. Модель рассчитана на английский язык и короткие сообщения; для похожей многоязычной модели README рекомендует XLM-T. В карточке не указаны условия лицензии, поэтому их нельзя уточнить по имеющимся данным. Разработчики также упоминают более новую модель, обученную на большем и более свежем наборе твитов.
BlueAvenir/vaillant_product_depth_model — модель на базе XLM-RoBERTa, опубликованная в формате PyTorch как Sentence Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 и предназначена для сравнения смысловой близости текстов, семантического поиска и кластеризации. Контекст модели составляет 514 токенов; в метаданных указано 305,2 млн параметров. Модель подходит для поиска похожих описаний товаров и группировки текстов по смыслу. Карточка указывает обучение с CosineSimilarityLoss. Лицензия в предоставленных данных не указана.
NlpHUST/vi-word-segmentation — модель NlpHUST для сегментации слов во вьетнамском тексте. Это дообученная на наборе VLSP 2013 модель NlpHUST/electra-base-vn с архитектурой ELECTRA для классификации токенов; размер — 160,9 млн параметров, максимальный контекст — 512 токенов. Модель предназначена для выделения границ слов во вьетнамском тексте и может применяться в конвейерах предобработки текста и анализа вьетнамского языка. В README для оценочного набора приведены F1 0,9835 и точность 0,9911. Для воспроизведения результатов и корректной эксплуатации следует учитывать, что обучение проводилось на конкретном наборе данных VLSP 2013; результаты на других текстах могут отличаться. Лицензия в предоставленных данных не указана.
Многоязычный классификатор токсичности от команды textdetox, созданный дообучением XLM-RoBERTa-base для бинарной классификации текста. Модель определяет, относится ли текст к токсичному или нетоксичному классу, и подходит для предварительной модерации пользовательских сообщений и анализа больших массивов текста. Модель содержит 305,2 млн параметров, использует архитектуру XLM-RoBERTa для классификации последовательностей и принимает текст длиной до 514 токенов. В обучении использован набор textdetox/multilingual_toxicity_dataset; карточка указывает поддержку английского, русского, украинского, испанского, немецкого, амхарского, арабского, китайского и хинди. Веса опубликованы в формате safetensors. Классификация токсичности не гарантирует корректного понимания контекста, сарказма или культурных особенностей; качество может различаться между языками. Лицензия — OpenRAIL++.
ZeroNER — англоязычная модель распознавания именованных сущностей, разработанная командой DISI UniBo NLP и представленная в статье ACL 2025. Это дообученная BERT-модель с архитектурой cross-encoder: она сопоставляет упоминание в тексте с естественно-языковым описанием типа сущности и предназначена для zero-shot распознавания типов, для которых нет размеченных примеров. Модель подходит для извлечения сущностей с новыми типами в разных предметных областях. Для обучения использовался автоматически размеченный датасет PileUncopyrighted-NER-BIO, созданный при помощи LLaMA-3.1-8B-Instruct и прошедший дополнительную фильтрацию LLM. В README заявлено превосходство над LLM размером до 8 млрд параметров и некоторыми энкодерными моделями в описанных авторами условиях оценки. Модель основана на google-bert/bert-base-cased, содержит 135,5 млн параметров и имеет контекст до 512 токенов. Для использования авторы интегрировали её в библиотеку IBM Zshot. Лицензия — MIT. Карточка не приводит сведений об ограничениях на домены или о качестве для языков, отличных от английского.
AIorNot-SigLIP2 — модель классификации изображений, разработанная автором репозитория и дообученная на базе google/siglip2-base-patch16-224 с архитектурой SiglipForImageClassification. Она относит изображение к одному из двух классов: создано ИИ или является реальной фотографией. Модель предназначена для проверки изображений в социальных сетях и СМИ, цифровой криминалистики, фильтрации наборов данных и сравнительных исследований детекторов синтетических изображений. В отчёте на тестовой выборке из 18 618 изображений указана точность 91,49%; полнота составляет 93,96% для класса AI и 88,42% для класса Real. Эти показатели относятся к описанной в карточке оценке и не гарантируют аналогичного качества на других данных. Модель принимает изображения и выдаёт метку класса. Опубликована в формате safetensors, используется через Transformers и распространяется по лицензии Apache-2.0.
yale-nlp/bart-large-finetuned-qtsumm — модель на архитектуре BART, разработанная командой Yale NLP: она инициализирована весами facebook/bart-large и дообучена на наборе QTSumm. Модель предназначена для суммаризации табличных данных с учётом пользовательского вопроса: она формирует краткое текстовое резюме, релевантное заданному запросу. Модель содержит 252,8 млн параметров, работает с текстовым вводом и выдаёт текст. Максимальная длина контекста — 1024 токена; в карточке указан английский язык. Репозиторий содержит веса PyTorch, лицензия — MIT. README отсылает к GitHub-репозиторию за подробностями использования.
jackietung/bert-base-chinese-finetuned-sentiment — китайская модель анализа тональности, созданная дообучением google-bert/bert-base-chinese. Это BERT с классификационной головой для последовательностей, содержащий 129,5 млн параметров и принимающий текст длиной до 512 токенов. Модель определяет положительную, отрицательную или нейтральную тональность; она предназначена прежде всего для анализа отзывов о приложениях на китайском языке. При обучении использовалась Focal Loss для работы с дисбалансом классов. Модель распространяется под лицензией MIT.
Это компактная модель Sentence Transformers на основе BERT, дообученная разработчиком swardiantara на отзывах Amazon. Она преобразует предложения и абзацы в плотные векторы размерности 128, пригодные для поиска и сравнения текстов по косинусному сходству. Архитектура включает BERT с усреднением токенных представлений; в модели 4,4 млн параметров. Метаданные указывают контекст до 512 токенов, а карточка модели — максимальную длину последовательности 128 токенов. Модель рассчитана на текстовые задачи поиска и оценки сходства, в частности на поиск отзывов или других текстов, близких по смыслу. Базовая модель — компактный англоязычный google/bert_uncased_L-2_H-128_A-2; примеры обучающих данных содержат англоязычные отзывы. Репозиторий распространяется в формате safetensors. Сведения о лицензии отсутствуют в предоставленных данных.
Модель cvalenciaunivalle/bilstm-crf-fasttext-conll-bs32 — пользовательская модель распознавания именованных сущностей, разработанная Лаурой Валеро и Кристианом Валенсией для учебного проекта по обработке естественного языка в магистратуре Univalle. Она обучена на испанской части CoNLL-2002 и предназначена для разметки токенов испанского текста сущностями. Архитектура включает двунаправленную LSTM с размером скрытого состояния 200, эмбеддинги FastText размерности 300 для испанского языка, dropout 0,3 и выходной CRF. На тестовой выборке CoNLL-2002 указаны F1 0,7926, точность 0,7988 и полнота 0,7865. Репозиторий использует пользовательский код с trust_remote_code=True; лицензия CC BY-NC-SA 4.0 требует указания авторства и ограничивает коммерческое использование.
CADD-Base-7B — языковая модель для генерации кода на основе дискретной диффузии с маскированными токенами, разработанная Apple. Метод Continuously Augmented Discrete Diffusion (CADD) добавляет к представлениям замаскированных токенов непрерывный сигнал flow matching, который направляет процесс пошагового восстановления текста. Для генерации можно выбрать способ оценки чистого представления и стратегию раскрытия токенов; доступны варианты argmax и weighted, а также entropy, origin, maskgit_plus и topk_margin. Модель содержит 7,1 млрд параметров, использует архитектуру Dream и принимает текст для генерации кода. Она создана на основе Qwen/Qwen2.5-Coder-7B-Instruct и дообучена с методом CADD. В метаданных указан контекст до 131 072 токенов. Репозиторий содержит веса safetensors. Лицензия — apple-amlr; перед использованием следует проверить её условия, особенно применительно к коммерческому использованию.
Это полноразмерная дообученная версия Chronos-2, подготовленная группой 100 TU Darmstadt для бонусного проекта курса DLAM в летнем семестре 2026 года. Модель основана на архитектуре T5 и содержит 99,1 млн параметров; веса сохранены в формате safetensors. Она предназначена для прогнозирования временных рядов, в частности операционной нагрузки по обучающей панели из 96 рядов. Модель обучена на наблюдаемой части рядов, ограниченной условием `_hidx < 4320`. Это полноточечное дообучение, а не LoRA-адаптер. Репозиторий содержит только веса, без описания ансамблевой схемы. Лицензия — Apache-2.0.
DEBERTA_CIEL — модель распознавания именованных сущностей, разработанная подразделением Language Technologies Unit центра Barcelona Supercomputing Center в рамках проекта Aina. Это дообученная версия DeBERTa-v3-large с архитектурой DeBERTa v2 для классификации токенов; в репозитории указано 211,6 млн параметров и контекст длиной до 512 токенов. Модель обучена на каталонском наборе CEIL, содержащем почти 59 тысяч документов с девятью основными типами и 52 подтипами сущностей. Модель предназначена для обнаружения и классификации сущностей в коротких текстах на каталонском, испанском и английском языках. Её можно применять для извлечения людей, организаций, географических названий, культурных произведений и других сущностей из текстов. Формальная оценка качества для всех заявленных языков не проводилась; смещения модели отдельно не исследовались, а веб-источники обучающих данных могут вносить нежелательные искажения. Лицензия — Apache 2.0.
DeepCaption-VLA-7B — мультимодальная модель prithivMLmods на архитектуре Qwen2.5-VL-7B, объединяющая доработанные варианты Qwen2.5-VL-7B-Instruct. Она предназначена для подробного описания изображений и атрибуции визуальных свойств: модель описывает объекты, сцены и окружение, уделяя внимание признакам и деталям. Репозиторий содержит веса Safetensors, модель использует библиотеку Transformers и распространяется по лицензии Apache-2.0. Модель рассчитана на изображения разного соотношения сторон и может формировать как краткие подписи, так и более подробные описания по запросу. Основной язык карточки — английский; автор указывает, что многоязычные подписи можно получать с помощью промптов. Подходит для подготовки подписей к датасетам, визуальной разметки и описания художественных, технических и обычных изображений. В неоднозначных изображениях модель может приписывать свойства, которые нельзя уверенно подтвердить по картинке; результаты зависят от формулировки запроса, а точность может снижаться на синтетических и сильно абстрактных изображениях. Фильтрация откровенного или чувствительного содержимого не является целью модели.
Модель obi/deid_bert_i2b2 разработана на основе ClinicalBERT и дообучена для деидентификации медицинских записей. Это модель разметки последовательностей на архитектуре BERT с 135,5 млн параметров: она классифицирует токены как не содержащие защищённую информацию или как один из 11 типов PHI/PII, а предсказания объединяются в фрагменты с помощью разметки BILOU. Модель обучалась на наборе I2B2 2014 и рассчитана на английские медицинские заметки. Её можно использовать для обнаружения персональных и медицинских идентификаторов в электронных медицинских записях и для подготовки текста к удалению или маскированию таких данных. Максимальная длина контекста — 512 токенов; для работы с длинными заметками README рекомендует разбивать текст на предложения, а затем объединять результаты на уровне заметки. Модель распространяется по лицензии MIT. Качество распознавания зависит от формата и содержания заметок; перед использованием в реальных процессах деидентификации предсказания следует проверять. Модель выдаёт метки токенов и не выполняет удаление PHI самостоятельно без дополнительной обработки.
Qishuai/distilbert_punctuator_zh — модель для расстановки знаков препинания в обычном тексте на упрощённом китайском языке. Разработчик дообучил DistilBertForTokenClassification на основе дистиллированной модели bert-base-chinese; архитектура DistilBERT выполняет классификацию токенов. Модель принимает текст и предсказывает места и типы знаков препинания в контексте до 512 токенов. Модель предназначена для восстановления пунктуации в текстах без знаков препинания. В README приведены результаты проверки на обучающем наборе MSRA: для запятой F1 составляет 0,63, для китайской точки — 0,42, а для восклицательного знака — 0,09, поэтому точность зависит от типа знака. Для запуска описана загрузка через Transformers; веса доступны в форматах PyTorch и safetensors. Лицензия в предоставленных сведениях не указана.
Модель Chandana Nuthangi на базе DistilBERT дообучена для распознавания именованных сущностей в текстах на телугу. Она выполняет токенную классификацию по BIO-схеме с семью метками: для персон, организаций и местоположений. Модель содержит 66 млн параметров, использует архитектуру DistilBERT и принимает контекст длиной до 512 токенов. Модель предназначена для извлечения имен людей, организаций и мест из текстов на телугу, например для индексирования новостей или подготовки данных для поиска. На тестовом наборе Naamapadam из 847 предложений автор сообщает F1 0,7803. Обучение проводилось на 50 тысячах предложений Naamapadam; данные набора автоматически спроецированы с английских новостей. Модель распространяется по лицензии MIT. Она может пропускать сущности из недостаточно представленных тематик, в частности технологий и космической отрасли; результат также зависит от домена текста.
Ludo33/e5_General_2026 — дообученная модель intfloat/multilingual-e5-base для классификации текста. Она построена на архитектуре XLM-RoBERTa, содержит 305,2 млн параметров и принимает последовательности длиной до 514 токенов. В README указаны результаты оценки: взвешенный F1 — 0,9333, loss — 0,2143; сведения о наборе данных, назначении классов и условиях оценки не приведены. Базовая модель предназначена для создания многоязычных текстовых эмбеддингов, однако эта версия классифицирует текст. Доступные сведения не позволяют определить конкретные языки, классы или прикладные области. Модель распространяется по лицензии MIT.
Sukanyan/FacebookAI_roberta-base — модель классификации текста, дообученная на основе FacebookAI/roberta-base. Она построена на архитектуре RoBERTa для классификации последовательностей и содержит 151,8 млн параметров. Контекст составляет до 514 токенов; модель опубликована в формате safetensors и рассчитана на использование с библиотекой Transformers. Модель предназначена для отнесения текста к классам. В карточке сообщается о дообучении на наборе данных, название которого не указано; на оценочной выборке приведены loss 1,0863 и accuracy 0,5738. Эти результаты не раскрывают набор классов и могут не отражать качество на других данных. Лицензия — MIT.
oliverguhr/german-sentiment-bert — модель классификации тональности немецкоязычных текстов на основе архитектуры Google BERT. Она обучена на 1,834 млн примеров из разных источников: Twitter, Facebook, а также отзывов о фильмах, приложениях и отелях. Модель предназначена для определения тональности текстов и может применяться для анализа публикаций и отзывов на немецком языке. Модель содержит 136,3 млн параметров и поддерживает контекст до 512 токенов. Для получения лучших результатов входные тексты необходимо предварительно обрабатывать так же, как при обучении; авторы предоставляют пакет Python germansentiment, который включает предобработку и инференс. В README приведены показатели F1 для нескольких наборов данных, в том числе 0,9568 на holidaycheck и 0,9418 на scare. Репозиторий доступен в форматах PyTorch, TensorFlow, Flax, ONNX и Safetensors. Лицензия — MIT.
kavg/LiLT-RE-ZH — модель извлечения отношений между сущностями в документах, созданная дообучением nielsr/lilt-xlm-roberta-base на наборе данных XFUND. Она использует архитектуру LiLT с компонентом, похожим на RoBERTa, чтобы учитывать текст и его расположение на странице; число параметров — 305,2 млн, контекст — до 514 токенов. Модель предназначена для структурированного анализа документов, в частности для выявления связей между упомянутыми в них сущностями. На оценочной выборке XFUND модель показала precision 0,3911, recall 0,6703 и F1 0,4940. Эти результаты указывают на ограничения точности извлечения отношений; качество на других наборах данных и типах документов не установлено. Модель распространяется по лицензии MIT.
Llama-3.1-8B-Instruct_Causal-Tracer — вариант Llama-3.1-8B-Instruct, созданный Apollo Raines с помощью инструмента jBlaze для изменения поведения модели через правку весов. Дополнительное обучение или дообучение не проводилось. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM и 7,5 млрд параметров по метаданным; карточка указывает формат safetensors и контекст до 131 072 токенов. Модель предназначена для генерации текста и диалога с акцентом на отслеживание потоков данных от источника к получателю, причинно-следственных цепочек и происхождения информации в системах. Она принимает текст и генерирует текст; в метаданных также указаны интерфейс вызова инструментов и поддержка английского языка. Автор описывает выпущенную версию как демонстрационную и намеренно ослабленную. Лицензия — Llama 3.1; применимость её условий следует проверять перед использованием.
Jeevesh8/multiberts_seed_0_ft_4 — модель для классификации текста на базе BERT, опубликованная пользователем Jeevesh8 и основанная на MultiBERTs Seed 0 от Google. Модель предназначена для задач text classification и загружается через Transformers; её исходная архитектура представляет собой BERT-base uncased, предварительно обученный на английском языке с использованием masked language modeling и next sentence prediction, а данный вариант дообучен для классификации текста. Модель содержит около 136,7 млн параметров и поддерживает контекст до 512 токенов. Она подходит для присвоения текстам категорий или меток в прикладных классификационных сценариях, однако конкретная схема меток и исходный набор данных дообучения для этого варианта в доступных источниках не описаны. Модель не предназначена для генерации текста и ограничена английским языком и максимальной длиной контекста.
MichaelHuang/muril_base_cased_hindi_ner — модель для распознавания именованных сущностей в текстах на хинди. Она дообучена для NER на базе google/muril-base-cased — BERT-модели, предварительно обученной на 17 индийских языках и их транслитерированных вариантах. Для обучения использован датасет HiNER. Модель содержит 264,8 млн параметров, принимает текст с контекстом до 512 токенов и присваивает метки отдельным токенам. В README приведены результаты оценки: F1 0,88, точность 0,87 и полнота 0,89. Карточка не сообщает лицензию, поэтому условия использования по имеющимся данным определить нельзя. Оценки качества относятся к указанному набору данных; переносимость на другие домены и варианты написания не описана.
MyAwesomeModel — модель из репозитория asd21ecxxz12/MyAwesomeModel-TestRepo, распространяемая по лицензии MIT и предназначенная для извлечения признаков из текста. Согласно метаданным, модель использует экосистему Transformers и PyTorch, а также относится к семейству BERT по тегам Hugging Face. README позиционирует модель как обновлённую версию с улучшенными возможностями рассуждения, понимания текста, классификации, анализа тональности, ответов на вопросы, суммаризации, генерации кода и диалогов, а также с поддержкой function calling. Однако заявленные в README генеративные и диалоговые сценарии не согласуются с pipeline-тегом feature-extraction, поэтому их следует рассматривать как заявления карточки, требующие проверки по конфигурации и файлам модели.
NlpHUST разработала эту модель для распознавания именованных сущностей во вьетнамском тексте. Это дообученная на наборе VLSP 2018 модель NlpHUST/electra-base-vn на базе ELECTRA с 160,9 млн параметров и контекстом до 512 токенов; веса доступны в форматах PyTorch и Safetensors. Модель размечает сущности типов «персона», «место», «организация» и «прочее», её можно применять через pipeline NER в Transformers. На оценочной выборке VLSP 2018 общий F1 составил 0,9214, а точность — 0,9907. F1 для персон составил 0,9664, мест — 0,9365, организаций — 0,8833; для категории «прочее» результат ниже — 0,6218. Модель лицензирована по MIT. Ограничения качества за пределами указанной выборки и домена в карточке не описаны.
Nori — табличная фундаментальная модель Synthefy для регрессии методом обучения в контексте. Для прогноза ей передают несколько размеченных строк в качестве контекста и новые строки для предсказания; модель выдаёт результаты за один прямой проход без дообучения под конкретный набор данных. Она обучена только на синтетических данных. В основе лежит FeaturesTransformer примерно с 5,9 млн параметров и 16 слоями. Архитектура чередует внимание между признаками и строками, поддерживает пропуски и предсказывает распределение по 999 квантилям. Модель предназначена для регрессии на таблицах малого и среднего размера; в README приведены результаты оценки на 96 задачах из трёх открытых наборов бенчмарков. Практический предел связан с квадратичной сложностью внимания между строками: на больших таблицах и длинном контексте производительность уступает лучшим базовым методам, а размер контекста ограничен вычислительными затратами. Для использования доступны GPU и запасной режим на CPU. Лицензия — Apache-2.0.