II.8Инженерия данных и аналитика
В разделе собраны самостоятельные задачи, где AI помогает готовить надёжные данные и превращать их в понятную аналитику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
23 488 моделейSukanyan/bert-base-uncased — дообученная модель BERT для классификации текстов, разработанная на основе bert-base-uncased. Она содержит 136,7 млн параметров, использует архитектуру BertForSequenceClassification и принимает последовательности длиной до 512 токенов. Модель подходит для классификации текстов в прикладных системах и исследовательских экспериментах. В карточке указаны результаты оценки: accuracy 0,6305 и loss 0,9202. Датасет, целевые классы и конкретная область применения не описаны, поэтому по этим результатам нельзя судить о качестве на произвольных задачах классификации. Модель распространяется в формате safetensors по лицензии Apache-2.0.
YoliGuadir/beto-sarcasmo — испаноязычная модель классификации текста, разработанная как дообучение BETO на наборе Sarcastic_spanish_dataset. Она определяет, содержит ли текст сарказм, и относит его к классу SARCASMO или NO_SARCASMO. Модель построена на архитектуре BERT и содержит 137,1 млн параметров; максимальная длина контекста — 512 токенов. Модель подходит для анализа коротких испаноязычных сообщений и высказываний, например для автоматической разметки текстов с сарказмом. В README приведены результаты наилучшего варианта: F1-macro 0,9212 и accuracy 0,93. Эти показатели относятся к описанным в карточке экспериментам и не гарантируют такого же качества на других данных. Модель распространяется в формате safetensors; лицензия в предоставленных источниках не указана.
riphunter7001x/bge-base-financial — англоязычная модель Sentence Transformers, дообученная на финансовых текстах от BAAI/bge-base-en. Она кодирует предложения и абзацы в плотные векторы размерностью 768 для семантического поиска и сравнения текстов; также подходит для поиска перефразировок, кластеризации и классификации. Архитектура основана на BERT: вектор формируется из CLS-токена, затем нормализуется. Максимальная длина входа — 512 токенов, сходство можно оценивать косинусной мерой. Модель предназначена для поиска релевантных фрагментов в финансовых документах, например для сопоставления вопросов с выдержками из отчетности. В README приведены результаты оценки поиска для выходных размерностей от 64 до 768, однако они относятся к указанному в карточке набору данных и не гарантируют качество на других корпусах. Модель принимает текст и выдаёт эмбеддинги; генерация ответов не заявлена. Лицензия — Apache-2.0.
BGE base Financial Matryoshka — англоязычная модель Sentence Transformers, дообученная на базе BAAI/bge-base-en-v1.5 для получения плотных текстовых эмбеддингов. Она кодирует предложения и абзацы в векторы размерностью 768 и подходит для семантического поиска по финансовым текстам, сравнения предложений, поиска перефразировок, кластеризации и классификации текста. Модель построена на BERT с пуллингом CLS-токена и нормализацией выходного вектора; для сравнения используется косинусное сходство. Обучение с MatryoshkaLoss позволяет использовать сокращённые представления размерностью 512, 256, 128 или 64. Максимальная длина входа — 512 токенов. В карточке приведены результаты оценки информационного поиска на нескольких размерностях; результаты относятся к указанным в карточке наборам данных. Модель рассчитана на английский язык и финансовые тексты. Распространяется по лицензии Apache-2.0.
Модель разработана Yoon Thiri Aung и представляет собой дообученную версию FacebookAI/xlm-roberta-base для определения тональности бирманского текста. Она классифицирует текст по трём категориям: положительная, отрицательная и нейтральная. Модель предназначена для анализа тональности публикаций в социальных сетях, отзывов, комментариев и других пользовательских текстов, а также для встраивания в чат-боты, аналитические панели и системы модерации. Это трансформер XLM-RoBERTa с архитектурой XLMRobertaForSequenceClassification, содержащий 305,2 млн параметров; базовая модель поддерживает множество языков. В обучении использованы публичные бирманские наборы данных и дополнительно размеченные автором примеры. Текст предварительно приводился к Unicode с конвертацией из Zawgyi; для токенизации применялись усечение и дополнение до 128 токенов. Нативный предел контекста составляет 514 токенов. Лицензия — MIT. Качество может снижаться на текстах из областей, отличных от обучающих данных, при смешанной тональности, сарказме, обильном сленге и неформальном написании, особенно в бирманско-английских текстах.
pucpr/clinicalnerpt-chemical — модель распознавания именованных сущностей в клинических текстах на португальском языке, разработанная в рамках проекта BioBERTpt. Она выделяет упоминания химических веществ и лекарственных препаратов с помощью разметки токенов в формате IOB2 и предназначена для извлечения клинических сущностей, совместимых с UMLS. Модель основана на BioBERTpt(all), дообученном на бразильском клиническом корпусе SemClinBr в течение 10 эпох. Это плотная BERT-модель для классификации токенов с 205,1 млн параметров и контекстом до 512 токенов. Доступны веса PyTorch и Flax. Модель подходит для извлечения упоминаний лекарств и химических веществ из бразильских клинических записей. Карточка не сообщает условия лицензии, поэтому условия использования определить нельзя.
CodeBarcenas-1b — языковая модель для генерации кода на Python, созданная автором Danielbrdz. Она основана на WizardLM/WizardCoder-1B-V1.0 и дообучена на наборе mlabonne/Evol-Instruct-Python-1k. Модель использует архитектуру GPTBigCode с плотной причинной языковой моделью; в метаданных указан контекст 8192 токена и формат PyTorch. Модель предназначена для генерации и продолжения кода на Python по текстовым запросам. Карточка не приводит результатов оценки качества и не описывает дополнительные возможности, поэтому её пригодность для сложных задач программирования не подтверждена. Указана лицензия llama2.
Rocketknight1 разработал эту модель, дообучив DistilBERT base uncased для классификации текста. Архитектура — DistilBertForSequenceClassification; модель доступна в формате TensorFlow и принимает последовательности длиной до 512 токенов. README сообщает результаты оценки: Matthews correlation 0,5056 и validation loss 0,4914 после одной эпохи обучения. Модель подходит для классификации текстовых последовательностей, однако задача и набор данных дообучения не раскрыты, поэтому нельзя надёжно определить конкретные категории или целевой сценарий. Лицензия — Apache-2.0.
ireallydk/distilbert-base-uncased-finetuned-emotion — модель на базе DistilBERT, дообученная на наборе данных emotion для классификации английских твитов по шести эмоциям: грусть, радость, любовь, гнев, страх и удивление. Она предназначена для анализа эмоциональной окраски коротких сообщений и может использоваться через конвейер text-classification в библиотеке Transformers. В README приведены результаты на проверочной выборке: accuracy 0,932 и взвешенная F1-мера 0,9328. Модель принимает текст с контекстом до 512 токенов и выдаёт метку класса эмоции. Это учебная работа для вводного курса по ИИ; результаты на твитах не гарантируют такое же качество на других жанрах текста. Лицензия — Apache-2.0.
EAT-large Epoch 20 — предварительно обученный аудиотрансформер, опубликованный пользователем worstchan. Модель обучена на наборе AS-2M с помощью метода самоконтролируемого обучения EAT и предназначена для извлечения признаков из аудио, а также для использования в качестве начальной точки при дообучении на задачах понимания аудио, включая классификацию и создание подписей к аудио. Модель формирует представления на уровне кадров с частотой около 50 Гц и представление всего высказывания через CLS-токен. Для загрузки и извлечения признаков используется библиотека Transformers; веса доступны в формате safetensors. Лицензия — MIT. Чекпойнт может быть полезен как основа для последующих аудиозадач, однако сам по себе ориентирован на получение признаков, а не на генерацию речи или текстовых ответов. README не описывает ограничения качества или конкретный перечень поддерживаемых языков.
leomaurodesenv выпустил дообученную модель классификации текста на базе англоязычного энкодера ELECTRA Base Discriminator. Модель содержит 136,7 млн параметров, использует архитектуру ElectraForSequenceClassification и принимает последовательности длиной до 512 токенов. Она предназначена для классификации текста. В карточке приведены результаты на тестовой выборке: accuracy 0,9467 и loss 0,1527. Датасет, классы и конкретная область применения не описаны, поэтому эти показатели не позволяют определить качество на других данных. Модель опубликована в формате safetensors по лицензии Apache-2.0.
electramed-small-deid2014-ner-v3 — дообученная модель семейства ELECTRA, разработанная на базе giacomomiolo/electramed_small_scivocab и обученная на наборе i2b22014 для распознавания именованных сущностей в медицинских текстах. Она классифицирует токены и предназначена для задач деидентификации клинических записей. Модель содержит 20,4 млн параметров, принимает текст с контекстом до 512 токенов и выдаёт метки токенов. В оценке на тестовой выборке i2b22014 достигла F1 0,7861, точности 0,7776 и полноты 0,7947; это указывает на возможные пропуски и ошибочную разметку сущностей. Опубликована в формате PyTorch под лицензией, указанной в метаданных Hugging Face.
Eurus-2-7B-SFT — языковая модель, созданная PRIME-RL путём дообучения Qwen2.5-Math-7B-Base. Это версия supervised fine-tuning, обученная на наборе Eurus-2-SFT-Data с пошаговыми рассуждениями, ориентированными на действия; она служит начальной моделью для Eurus-2-7B-PRIME. Модель предназначена для решения математических задач и задач программирования. Для таких запросов авторы рекомендуют промпт, который просит написать Python-код и поместить его в конце ответа. Модель построена на архитектуре Qwen2, содержит 7,1 млрд параметров, принимает текст и генерирует текст; заявленная длина контекста — 4096 токенов. Репозиторий содержит веса в формате safetensors. Модель выпущена под лицензией Apache-2.0. Карточка не приводит подробных результатов оценки, поэтому качество на конкретных наборах задач по ней оценить нельзя.
Это предварительно обученная модель PatchTST, разработанная IBM и предназначенная для прогнозирования временных рядов. Она обучена на обучающей части набора ETTh1 и охватывает все семь каналов данных электрического трансформатора: HUFL, HULL, MUFL, MULL, LUFL, LULL и OT. На тестовой части ETTh1 модель показала MSE 0,3881 при прогнозе на 96 часов по истории длиной 512 часов. Архитектура разбивает временные ряды на патчи и обрабатывает их Transformer-энкодером. Она использует общие веса для отдельных каналов, что помогает сохранять локальную структуру и сокращать вычислительную нагрузку. Модель подходит для оценки и дообучения на данных с теми же каналами; перед использованием данные необходимо нормализовать. README описывает прогнозирование, а также возможность адаптировать архитектуру для регрессии и классификации временных рядов. Модель распространяется в формате Safetensors, содержит около 786,4 тыс. параметров и лицензирована по Apache-2.0. Результат указан для ETTh1; применимость к другим наборам данных и каналам требует проверки или дообучения.
Greek Media Longformer — модель Димитриоса Заикиса и Иоанниса Влахаваса, представляющая собой второй этап предобучения dimitriz/greek-longformer-base-4096 на наборе текстов греческих СМИ dimitriz/greek_media_texts. Это плотная архитектура Longformer с 153,2 млн параметров и контекстом до 4098 токенов; модель предназначена для извлечения признаков из греческого текста. В карточке приведены результаты оценки: loss 1,1424 и accuracy 0,7574. Модель опубликована вместе с научной статьёй IEEE Access. Лицензия в предоставленных данных не указана.
HeAR-s1.1 — компактная аудио-модель Google Health Acoustic Representations, представленная в виде дистиллированного студенческого чекпойнта на базе ViT-S и слоёв Canon. Модель принимает двухсекундные аудиофрагменты с частотой 16 кГц, преобразованные во входные мел+PCEN спектрограммы, и выдаёт вектор признаков размерности 384. В метаданных указано 28,3 млн параметров; README отдельно приводит 22 140 288 параметров студенческой модели. Чекпойнт содержит только студенческую голову MAEB и подходит для извлечения акустических представлений и последующей оценки или анализа аудиоданных. В бенчмарке MAEB(beta, audio-only) среднее значение составило 0,42442 при окне и шаге 2 секунды с усреднением по окнам. Для работы используются PyTorch и Transformers с пользовательской реализацией архитектуры. Лицензия помечена как other, конкретные условия в доступных данных не раскрыты.
UMCU дообучила энкодер SapBERT на синтетическом наборе ICD-10 от FiscaAI для многометочной классификации медицинских текстов по кодам ICD-10. Модель основана на BERT, содержит 136,7 млн параметров и принимает англоязычный текст; контекст ограничен 512 токенами. Для обучения использовано около 700 тыс. примеров и около 950 меток, соответствующих укрупнённым кодам ICD-10. Классификационная голова состоит из трёх полносвязных слоёв с GELU и dropout 10%.
daekeun-ml/koelectra-small-v3-nsmc — модель классификации корейских текстов на базе архитектуры ELECTRA с 21,5 млн параметров. Она предназначена для определения тональности отзывов о фильмах из набора NSMC и может развёртываться как конечная точка вывода в Amazon SageMaker. Модель принимает текст и возвращает метку класса. Контекст ограничен 512 токенами; карточка указывает корейский язык. Репозиторий содержит веса в форматах PyTorch и Safetensors. Модель распространяется по лицензии MIT.
kavg/LiLT-RE-ES — дообученная модель LiLT и XLM-RoBERTa для извлечения отношений между сущностями в документах. Она обучена на наборе xfun и предназначена для анализа текстовых документов с учётом расположения элементов на странице. В репозитории указаны метрики на оценочной выборке: precision 0,3111, recall 0,5225 и F1 0,3900. Модель содержит 305,2 млн параметров и рассчитана на контекст до 514 токенов. Модель основана на nielsr/lilt-xlm-roberta-base и распространяется по лицензии MIT. Показатели оценки указывают на ограниченное качество извлечения отношений; README не уточняет языковую специализацию варианта ES или подробности разметки и обучения.
Llama-3.1-8B-bonito-v1 — языковая модель, разработанная Nihal V. Nayak, Yiyang Nan, Avi Trost и Stephen H. Bach. Это дообученная версия Llama 3.1 с архитектурой LlamaForCausalLM и примерно 7,5 млрд параметров; она генерирует условные задания и синтетические наборы данных для настройки инструктивных моделей на неразмеченных текстах. Модель рассчитана на английский язык, использует текстовый ввод и выдаёт текст. Длина контекста — до 131 072 токенов. Модель предназначена для создания обучающих примеров по суммаризации, анализу тональности, классификации тем, вопросам и ответам, естественно-языковому выводу, перефразированию и другим типам задач, перечисленным в карточке. Авторы приводят результаты адаптации других моделей на созданных Bonito инструкциях; особенно полезен сценарий, когда для частных или специализированных текстов нет готовых разметок. Синтетические примеры могут содержать фактические ошибки и предвзятость, а качество адаптации зависит от объёма неразмеченных данных. Авторы отмечают, что экспериментальные улучшения проверялись на ограниченном наборе типов задач, и рекомендуют проверять сгенерированные данные и тестировать адаптированные модели перед применением. Модель не включает специального обучения безопасности. Лицензия — Llama 3.1 Community License.
MagharibiBERT-v1 — арабоязычная модель семейства BERT, разработанная для магрибских диалектов: алжирского, марокканского и тунисского. Она дообучена на основе UBC-NLP/MARBERT методом masked language modeling на больших массивах текстов из социальных сетей. Модель содержит 190 млн параметров, принимает последовательности длиной до 512 токенов и доступна в формате PyTorch через Transformers. Основной сценарий работы — предсказание замаскированных токенов в тексте. Представления модели также предназначены для последующего применения в анализе тональности, выявлении языка ненависти и классификации диалектов. Репозиторий распространяется по лицензии MIT.
Модель maxime7770/model — дообученная версия camembert-base для классификации текста. Она содержит около 137,8 млн параметров, использует архитектуру CamemBERT с головой классификации последовательностей и представлена в формате TensorFlow. Модель рассчитана на обработку текстовых последовательностей длиной до 514 токенов. В карточке приведены значения потерь на обучающей и валидационной выборках после 49 эпох, однако назначение классов и состав данных не раскрыты. Модель может служить основой для классификационных сценариев, но пригодность для конкретной задачи требует проверки на соответствующих данных. Лицензия — MIT.
vjosap/moralBERT-predict-betrayal-in-text — модель классификации текста из семейства MoralBERT, разработанного исследовательской группой Vjosa Preniqi и коллегами. Она предназначена для выявления в тексте морального измерения Loyalty/Betrayal («лояльность/предательство») в рамках Теории моральных оснований. Модель представляет собой дообученный языковой классификатор; веса опубликованы в формате safetensors. Подходит для анализа сообщений и публикаций в социальных сетях, а также для автоматической разметки текстов при изучении моральных тем и социальных дискуссий. Исследование MoralBERT описывает модели для работы с англоязычными данными социальных сетей и отмечает, что качество предсказаний зависит от соответствия предметной области обучающим данным. Репозиторий и карточка модели указывают лицензию MIT.
MyAwesomeModel-TestRepo — репозиторий модели, опубликованный пользователем RonnyMaurer255. По метаданным это модель архитектуры BERT для извлечения признаков, реализованная на PyTorch и Transformers; лицензия — MIT. Предназначение, подтверждённое доступными данными, — получение векторных представлений текста для последующего использования в ML-конвейерах. Поисковый результат сообщает о возможном отсутствии весов, но другие найденные сведения указывают на файл pytorch_model.bin, поэтому наличие пригодного к запуску артефакта подтвердить нельзя. В карточке также не нашлось надёжных сведений о размере модели, контексте, поддерживаемых языках или обучении; дополнительные задачи и сильные стороны не установлены.
MyAwesomeModel-TestRepo — репозиторий пользователя ToolathlonBot на Hugging Face с моделью типа BERT, предназначенной для извлечения признаков из текста. Метаданные указывают задачу feature-extraction, архитектуру BertModel, библиотеку Transformers и формат PyTorch. Веб-поиск описывает репозиторий как тестовый и сообщает о несоответствии между заявленной в карточке моделью и доступными техническими данными. Поэтому назначение можно определить по метаданным, но конкретные параметры, языковую поддержку, длину контекста и качество модели установить нельзя. Указана лицензия MIT.
Модель meutsabdahal/nepali-ner-roberta — версия RoBERTa для распознавания именованных сущностей в непальском тексте, разработанная на основе IRIISNEPAL/RoBERTa_Nepali_110M и дообученная на наборе EverestNER. Она размечает токены по схеме IOB2 и выделяет пять типов сущностей: людей, места, организации, даты и события. Модель содержит 151,8 млн параметров, принимает текст и выдаёт метки токенов; контекст — до 514 токенов. Модель предназначена прежде всего для новостных текстов на непальском языке, похожих на материалы EverestNER, где хорошо представлены политические, географические и организационные названия. На тестовой части EverestNER средний micro-F1 по трём запускам составил 0,9185. Авторы представляют этот чекпойнт как исследовательский артефакт и результат сравнения энкодеров; вне домена EverestNER он не оценивался. Распознавание событий ненадёжно из-за малого числа примеров этого класса в тесте. Лицензия указана как other; конкретные условия использования в доступных данных не описаны.
syssec-utd/py314-pylingual-v6-segmenter — это дообученная модель RoBERTa для классификации токенов, созданная на основе syssec-utd/py314-pylingual-v6-mlm и обученная на датасете syssec-utd/segmentation-py314-pylingual-v6-tokenized. Она предназначена для сегментации текста с присвоением меток отдельным токенам. В репозитории указаны 136,3 млн параметров и контекст до 1026 токенов; модель использует библиотеку Transformers и сохранена в формате safetensors. На оценочной выборке указаны F1 0,994, точность 0,993, полнота 0,995 и accuracy 0,9983. Карточка не раскрывает набор меток и подробности обучающих данных, поэтому область применения результатов сегментации определить точнее нельзя. Лицензия в предоставленных данных не указана.
Модель surrey-nlp/roberta-base-finetuned-abbr — дообученная Surrey NLP версия RoBERTa для разметки токенов и обнаружения сокращений в английском тексте. Она основана на FacebookAI/roberta-base, содержит 151,8 млн параметров и принимает последовательности длиной до 514 токенов. Модель обучена на наборе PLOD-filtered; в карточке приведены результаты на оценочной выборке: F1 0,9614, точность 0,9645 и полнота 0,9583. Модель подходит для автоматического выявления сокращений в предложениях и подготовки последовательной разметки текста. Это англоязычная RoBERTa с архитектурой RobertaForTokenClassification; доступны форматы PyTorch и TensorFlow. Лицензия — MIT. Показатели из карточки относятся к указанной оценочной выборке и не гарантируют такое же качество на других текстах.
Это модель классификации текста на основе RoBERTa-base, дообученная на датасете IMDB для определения тональности отзывов о фильмах. По данным карточки, на оценочной выборке она достигла точности 0,9552 при значении loss 0,1783. Модель содержит 151,8 млн параметров, принимает текстовые последовательности длиной до 514 токенов и доступна в формате PyTorch. Модель подходит для автоматической разметки отзывов как положительных или отрицательных и для анализа тональности англоязычных отзывов о кино. Лицензия — MIT. Подробные сведения о тренировочных настройках и дополнительных ограничениях в карточке отсутствуют.
RUNorm-tagger — русскоязычная модель для классификации токенов на базе архитектуры BERT, опубликованная организацией RUNorm. Она предназначена для разметки отдельных токенов в тексте; карточка не уточняет конкретную схему меток или прикладной сценарий. Модель содержит 12,1 млн параметров, принимает текст и рассчитана на контекст до 512 токенов. Доступны веса PyTorch. Лицензия — Apache-2.0. Карточка README не содержит дополнительных сведений о качестве и ограничениях модели.