II.8Инженерия данных и аналитика
В разделе собраны самостоятельные задачи, где AI помогает готовить надёжные данные и превращать их в понятную аналитику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
23 488 моделейhaulai/mizo-ner-xlmr — модель распознавания именованных сущностей для языка мизо, разработанная автором репозитория и дообученная на FacebookAI/xlm-roberta-base. Она выполняет разметку токенов и выделяет сущности в тексте на мизо; модель можно использовать через pipeline token-classification в Transformers с объединением меток по сущностям. Веса содержат 305,2 млн параметров, базовая архитектура — XLM-RoBERTa, максимальный контекст — 514 токенов. Модель обучена на корпусе из 441 178 предложений с серебряной разметкой. На серебряном тестовом наборе micro F1 составляет 0,8739, а на 300 предложениях с экспертной разметкой — 0,6078, поэтому результат на серебряных данных отражает согласие с проекционной разметкой, а не точность относительно человеческой оценки. Обучение проводилось только на предложениях, содержащих сущности; работа на текстах с редкими или отсутствующими сущностями не проверялась. Лицензия — CC BY 4.0.
Модель разработана Benjamin Ocampo и предназначена для классификации текстов на английском языке. Это плотная модель семейства BERT с головой BertForSequenceClassification, содержащая 136,7 млн параметров и принимающая последовательности длиной до 512 токенов. В README приведены результаты на dev-наборе: accuracy 0,8736 и macro F1 0,8663 для двух классов; состав классов и назначение классификации не описаны. Лицензия и базовая модель в доступных данных не указаны.
MoiraiAgent — модель Salesforce для выбора наиболее подходящего прогноза из набора прогнозов временных рядов. Она анализирует ряд и помогает выбрать прогноз, созданный одним из специализированных предикторов; авторы сообщают о повышении качества прогнозирования при таком экспертном отборе. Модель построена на архитектуре Qwen2, имеет 3,1 млрд параметров и контекст 32 768 токенов. Репозиторий содержит веса в формате safetensors. Модель предназначена для задач прогнозирования временных рядов и экспертного выбора между кандидатными прогнозами. В карточке указан исследовательский статус выпуска и лицензия CC BY-NC 4.0. Авторы рекомендуют отдельно оценивать точность, безопасность и справедливость модели перед применением; пригодность для конкретных прикладных задач не гарантируется.
Jeevesh8/multiberts_seed_1_ft_3 — модель классификации текста, опубликованная пользователем Jeevesh8 на Hugging Face. По названию она относится к семейству MultiBERTs и представляет дообученную версию BERT-подобной модели для классификации текстовых входов. Модель предназначена для присвоения тексту одной или нескольких категорий в зависимости от разметки, использованной при дообучении. В метаданных указаны pipeline text-classification, архитектура BERT, поддержка Transformers и JAX, около 136,7 млн параметров и максимальная длина входа 512 токенов. Ограничения связаны с отсутствием доступного описания конкретного набора классов и данных дообучения: применимость к определённой предметной области и качество на конкретной задаче требуют проверки. Контекст ограничен 512 токенами. Лицензия в доступных данных не указана.
IEETA разработала MultiClinNER-EN — англоязычную модель распознавания клинических именованных сущностей. Она предназначена для извлечения и разметки упоминаний медицинских сущностей в тексте, например в клинических документах и медицинских публикациях. Модель использует архитектуру Multi-Head CRF для классификации токенов и основана на microsoft/BiomedNLP-PubMedBERT-large-uncased-abstract. В карточке указано 432,2 млн параметров, контекст до 512 токенов и формат safetensors. Для основной версии указан лучший результат F1 0,7368; это значение относится к оценке авторов и не гарантирует такой же результат на других данных. Модель рассчитана на английский язык и работает с текстовым вводом, выдавая метки для токенов. Лицензия — Apache-2.0.
Модель BSC-NLP4BIA/multiclinner-it-disease-bert-it-cased разработана командой NLP4BIA Барселонского суперкомпьютерного центра для распознавания упоминаний заболеваний в итальянских клинических текстах. Это дообученная регистрозависимая модель BERT для итальянского языка с 137,1 млн параметров и контекстом до 512 токенов; она выполняет классификацию токенов и размечает сущности по схеме BIO: O, B-DISEASE и I-DISEASE. Модель предназначена для извлечения названий заболеваний из клинических записей и электронных медицинских карт. Для воспроизведения опубликованных результатов важно предварительно токенизировать текст так же, как при обучении, и корректно сопоставлять токены с исходными смещениями. На тестовых документах MultiClinNER для итальянского языка строгая F1 составила 0,6718, а символьная F1 — 0,7896. Разработчики отмечают, что смещения модели не оценивались. Лицензия — CC BY 4.0.
Saggarwal/NESBERT — дообученная модель DistilBERT для классификации токенов, опубликованная в формате Safetensors. Она предназначена для присвоения меток отдельным токенам текста; карточка не раскрывает конкретную схему меток или прикладную задачу. Модель основана на distilbert/distilbert-base-uncased, рассчитана на английский язык и контекст до 512 токенов. В карточке приведены результаты оценки: F1 и precision/recall 0,9986, accuracy 0,9995; набор данных указан как None, поэтому эти показатели нельзя уверенно интерпретировать без сведений о задаче и выборке. Лицензия — Apache-2.0.
Это модель SetFit, созданная Gentilrenard на основе sentence-transformers/paraphrase-multilingual-mpnet-base-v2 и дообученная на комментариях Le Monde о Украине из набора gentilrenard/lmd_ukraine_comments. Она предназначена для классификации текста на три класса: Sentence Transformer формирует представление текста, а классификационную головку реализует LogisticRegression. Модель обучена методом few-shot с контрастивным дообучением Sentence Transformer и последующим обучением классификатора. Архитектура основы — XLM-RoBERTa; размер составляет 305,2 млн параметров, нативный контекст — 514 токенов, а README указывает максимальную длину последовательности 128 токенов. Модель принимает текст и выдаёт метки классов; также доступно извлечение признаков и поддерживается оценка сходства предложений. Примеры меток и обучающие данные указывают на французский язык. В README приведена точность 0,7626 на тесте, но состав разбиения и подробная методика оценки не описаны. Лицензия — Apache-2.0.
PortugueseT5Oie — модель семейства T5, опубликованная под идентификатором bratao/PortugueseT5Oie. Это энкодер-декодер на 385,2 млн параметров, предназначенный для извлечения из португалоязычного текста отношений и фактов в формате Open Information Extraction (OpenIE). В карточке модели задача названа экстрактивным OpenIE; модель работает с текстом и выдаёт текстовые представления извлечённых отношений. Модель можно применять для выделения связей между сущностями в предложениях и преобразования найденных фактов в структурированные тройки. Точная обучающая инструкция для этого чекпойнта, его обучающие данные и итоговая оценка качества не подтверждены. Состояние тренера указывает на шаг 2 000 из запланированных 1 291 623, поэтому опубликованные веса могут быть промежуточными. Для практического использования потребуется проверка на собственных данных; при генерации возможны пропуски, дублирование и галлюцинации. Репозиторий распространяет веса в формате safetensors; лицензия в предоставленных данных не указана.
PeterPaker123/Qwen2.5-7B-Vietnamese-Medical-NER — генеративная модель для извлечения именованных сущностей из медицинских текстов на вьетнамском языке. Её разработал PeterPaker123 на основе Qwen2.5-7B-Instruct; модель дообучена методом supervised fine-tuning и использует архитектуру Qwen2 с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель принимает текст и инструкции с заданными категориями сущностей, например симптомами, заболеваниями, лекарствами, процедурами, анатомическими объектами и демографическими данными. Она формирует извлечённые данные в структурированном JSON и рассчитана на разбор клинических заметок, диалогов и медицинских публикаций, а также на обогащение медицинских RAG-систем и создание баз знаний. Карточка заявляет поддержку только вьетнамского языка. Модель специализируется на извлечении, поэтому может плохо справляться с обычным диалогом; возможны ошибки и галлюцинации, особенно на неоднозначном или зашумлённом тексте. Её не следует использовать для диагностики, лечения или медицинской сортировки без проверки специалистом. Лицензия — Apache 2.0.
Montalte/qwen4b-code-nothink-localize — объединённый артефакт на базе Qwen3-4B, подготовленный для экспериментов по переносу между математикой и программированием. README описывает метод localize-and-stitch на проверочной выборке MergeBench и указывает, что при объединении использовалась только основная часть модели, без embed и lm_head. Метаданные характеризуют модель как плотную Qwen3-архитектуру для генерации текста с 3,7 млрд параметров и контекстом 32 768 токенов; заявлены сценарии чата, программирования и интерфейс вызова инструментов. Модель подходит для генерации кода и экспериментов с переносом навыков между математическими и программными задачами. Она основана на Qwen/Qwen3-4B-Base и распространяется по лицензии Apache-2.0. README описывает экспериментальную процедуру слияния, поэтому результаты на прикладных задачах отдельно не подтверждены.
leomaurodesenv/roberta-base-nvidia-aegis-v2-augmented — дообученная модель классификации текста на базе FacebookAI/roberta-base. Она содержит 151,8 млн параметров, использует архитектуру RoBERTa и рассчитана на последовательности длиной до 514 токенов. Модель можно применять для классификации текстовых последовательностей; карточка сообщает точность 0,8641 и значение loss 0,3024 на оценочном наборе, но не раскрывает его состав и условия оценки. Модель принимает текст и выдаёт результат классификации. Языковая специализация и конкретные категории классификации не описаны; базовая RoBERTa предназначена для английского языка. Веса представлены в формате safetensors, библиотека — Transformers. Лицензия — MIT. Результаты оценки приведены для неизвестного набора данных, поэтому их переносимость на другие данные не установлена.
RoBERTuito uncased — предварительно обученная языковая модель на архитектуре RoBERTa для испанских текстов из социальных сетей. Её разработали авторы проекта pysentimiento; при обучении использовали 500 миллионов твитов. Эта версия не различает регистр букв. Модель содержит 136,3 млн параметров, принимает текст и имеет контекст до 130 токенов. Модель предназначена для заполнения пропусков в тексте: специальный токен маски заменяется вероятным словом или фрагментом. Её также можно дообучить для анализа испанских сообщений, например для определения тональности, эмоций, иронии и языка вражды. В оценке на этих задачах RoBERTuito превзошла несколько других предварительно обученных моделей испанского языка, однако эти результаты сами по себе не означают, что базовая модель выполняет классификацию без дополнительного обучения. В карточке не указана лицензия.
SciNERTopic — модель распознавания именованных сущностей на основе SciBERT, дообученная автором RJuro на наборе SciERC для извлечения научных терминов из текста. Она размечает токены по категориям: задачи и применения, методы и инструменты, метрики оценки, материалы и ресурсы, прочие научные термины и общие слова. Модель предназначена для анализа научных публикаций и может использоваться как этап подготовки данных для тематического моделирования, в том числе в подходе, вдохновлённом BERTopic. Модель построена на архитектуре BERT и содержит 137,1 млн параметров; максимальная длина контекста — 512 токенов. В README приведены результаты на оценке: точность 0,577, полнота 0,632 и F1 0,603. Модель распространяется под лицензией MIT. Показатель F1 указывает на ограниченное качество разметки; перед применением в важных сценариях стоит проверить её на целевом корпусе.
SMAD CRNN — компактная модель для классификации аудио, разработанная duclvQ. Она анализирует четырёхсекундные фрагменты и различает речь на фоне шума или окружения, речь поверх музыки, пение под музыку и отсутствие голоса. Такая детализация предназначена для сегментации аудио и маршрутизации речи и вокала в медиапроцессах. Модель содержит 834 тысячи параметров и использует CRNN-архитектуру, обученную с нуля на лог-мел-спектрограммах без предобученной основы. На вход подаются монофонические аудиофрагменты с частотой 16 кГц; для более длинных записей README рекомендует скользящие окна со сглаживанием. Модель рассчитана на работу на CPU. Она выдаёт четыре логита, которые следует делить на temperature 0,7095 перед вычислением калиброванных вероятностей. Модель подходит для разделения речи, пения и фоновой музыки, например при маршрутизации диалогов и текстов песен, проверке дубляжа и классификации музыкальных клипов и интервью. В README приведён пример использования через Transformers, PyTorch, librosa и NumPy. Лицензия — MIT; в метаданных указаны языковые коды en и vi.
SRIQ — дообученная модель sriq-ai на базе XiaomiMiMo/MiMo-V2.6-Distill-Qwen-9B, предназначенная для решения математических и программных задач с кратким рассуждением на упрощённом китайском языке и ответом на языке запроса. Это мультимодальная модель семейства Qwen 3.5 с архитектурой Qwen3_5ForConditionalGeneration; она принимает текст и изображения. Веса bf16, около 9,41 млрд параметров плюс голова MTP на 0,24 млрд параметров; LoRA-адаптер объединён с базовой моделью. Сохранена башня обработки изображений. Модель обучалась на выборке sriq-ai/sriq-sft-v1.6; лицензия — Apache-2.0. Модель обучена проверять промежуточное решение и исправлять некоторые заложенные в обучающих примерах ошибки. Рассуждение остаётся на китайском независимо от языка вопроса, тогда как итоговый ответ даётся на языке пользователя. Для этой версии не опубликованы результаты бенчмарков, поэтому качество и надёжность на конкретных задачах не установлены. Обучение охватило примерно 1 600 из 9 988 примеров; поведение инструментов после дообучения не проверено.
Это модель Stanza для индонезийского языка, опубликованная Stanford NLP. Она входит в набор инструментов Stanza для лингвистического анализа текста и предназначена для разметки токенов; экосистема Stanza также поддерживает синтаксический анализ и распознавание именованных сущностей. Модель доступна в формате PyTorch и распространяется по лицензии Apache-2.0. Карточка указывает индонезийский язык. Сведений о размере модели и длине контекста нет.
Stanza для урду — набор моделей Стэнфордского университета для лингвистического анализа текста. Эта модель предназначена для обработки текста на урду в конвейере Stanza; семейство включает средства анализа от исходного текста до синтаксического разбора и распознавания сущностей. В репозитории представлены веса PyTorch, а задача в карточке Hugging Face обозначена как классификация токенов. Модель подходит для разметки токенов в текстах на урду и как компонент NLP-конвейеров Stanza. Репозиторий распространяется по лицензии Apache-2.0. Данные карточки не уточняют размер модели, длину контекста и конкретные типы разметки, поддерживаемые этим чекпойнтом.
TAPAS Large — модель Google на основе трансформера, похожего на BERT, дообученная для последовательного ответа на вопросы по таблицам (SQA). Она принимает вопрос и таблицу, выбирает относящиеся к ответу ячейки и поддерживает диалоговый сценарий работы с табличными данными. Вариант по умолчанию использует относительные позиционные эмбеддинги со сбросом индекса в каждой ячейке; доступен также вариант no_reset с абсолютными позиционными эмбеддингами. Модель содержит 433,9 млн параметров, использует архитектуру TAPAS и имеет контекст до 1024 токенов. Она предварительно обучалась на англоязычных текстах и таблицах, а затем дообучалась на наборе SQA. В опубликованной оценке точность на dev-части SQA составляет 0,7289 для варианта reset и 0,7223 для no_reset. Модель рассчитана на вопросы по таблицам на английском языке; результаты могут снижаться на других языках, длинных или сложных таблицах и запросах, выходящих за пределы обучения. Лицензия — Apache-2.0.
TAPAS mini — компактная модель семейства TAPAS, разработанная Google и представленная карточкой Hugging Face. Это трансформерная архитектура на основе BERT, предварительно обученная на англоязычных таблицах Википедии и связанном с ними тексте. Версия по умолчанию использует относительные позиционные эмбеддинги с перезапуском индексов в каждой ячейке таблицы; вариант с абсолютными позициями доступен через revision="no_reset". Модель содержит 12 млн параметров и принимает последовательности длиной до 512 токенов. Предобучение сочетает маскирование языковой модели и промежуточную задачу проверки, подтверждается ли утверждение содержимым таблицы. Скрытые представления таблиц и связанных вопросов можно использовать для извлечения признаков, а для ответов на вопросы по таблицам и классификации модель обычно нужно дообучить с подходящей классификационной головой. Модель рассчитана на английский язык. Входы подготавливаются в формате текста и развёрнутой таблицы с токенизацией WordPiece в нижнем регистре. Весовые файлы доступны в форматах PyTorch и TensorFlow. Лицензия — Apache-2.0. Предобученная модель сама по себе не является готовой системой ответов на вопросы; качество на конкретных задачах зависит от дообучения.
TAPAS small — модель семейства TAPAS на базе трансформера BERT, опубликованная Google и дообученная для ответов на вопросы по таблицам. Она принимает таблицу и вопрос на естественном языке, выбирает релевантные ячейки и при необходимости применяет агрегирование; обучение проходило последовательно на SQA и WikiSQL после предварительного обучения на английских текстах и таблицах Википедии. Модель рассчитана на вопросы по структурированным таблицам, включая поиск значений и простые числовые рассуждения. Вариант по умолчанию использует относительные позиционные эмбеддинги с обнулением индексов для каждой ячейки; доступен также вариант no_reset с абсолютными позиционными эмбеддингами. Размер — 32,4 млн параметров, максимальная длина входа при дообучении — 512 токенов. Поддерживаются реализации PyTorch и TensorFlow. Модель ориентирована на английские таблицы и вопросы. Ограничение контекста в 512 токенов затрудняет работу с большими таблицами; качество для языков и предметных областей, отличных от английских таблиц WikiSQL и SQA, не подтверждено. Лицензия — Apache-2.0.
oscaruv28/tass-xlnet — дообученная модель классификации последовательностей на базе XLNet Base Cased. Она предназначена для отнесения текста к классам; конкретная предметная область, набор меток и сценарии применения в карточке не описаны. Модель содержит 137,8 млн параметров, построена на архитектуре XLNet и распространяется в формате safetensors через Transformers. Лицензия — MIT. На оценочном наборе указаны accuracy 0,5338, F1 Macro 0,5145, F1 Weighted 0,5198 и loss 1,0622. Эти результаты показывают качество только на указанном наборе; его данные и состав классов не раскрыты.
cardiffnlp/twitter-roberta-base-emotion-latest — Cardiff NLP разработала модель RoBERTa-base для многометочной классификации эмоций в сообщениях Twitter. Модель предварительно обучена на 154 млн твитов, опубликованных до конца декабря 2022 года, а затем дообучена на наборе TweetEmotion из SuperTweetEval. Модель принимает текст и может присваивать ему несколько меток из 11 категорий: гнев, ожидание, отвращение, страх, радость, любовь, оптимизм, пессимизм, грусть, удивление и доверие. Архитектура — RobertaForSequenceClassification, размер — 151,8 млн параметров, контекст — до 514 токенов. Карточка указывает английский язык; репозиторий содержит веса PyTorch и safetensors. Подходит для анализа тональности и эмоций в коротких сообщениях и публикациях. Модель выпущена по лицензии MIT. Она обучалась на твитах и датасете TweetEmotion, поэтому её результаты могут хуже подходить для других жанров текста и языков; предсказания отражают только заданные категории и не гарантируют точного понимания эмоционального контекста.
tanfiona/unicausal-tok-baseline — модель на базе BERT для поиска причинно-следственных фрагментов в последовательностях. Она размечает токены метками начала и продолжения причины (B-C, I-C), начала и продолжения следствия (B-E, I-E), а также меткой для токенов вне этих фрагментов (O). Модель предназначена для извлечения причин и следствий из текста; обучена на нескольких наборах данных. Модель имеет 135,5 млн параметров, использует архитектуру BertForTokenClassification и принимает текстовые последовательности длиной до 512 токенов. Метаданные указывают английский язык и формат PyTorch. Лицензия обозначена как unknown, поэтому условия использования следует уточнить в репозитории модели.
keystats/w2v-bert-2.0-lang-id-lug-sna-lin — модель распознавания языка речи, разработанная keystats на основе facebook/w2v-bert-2.0. Она принимает аудиофрагмент и относит его к одному из трёх языков: луганда, шона или лингала; текстовую расшифровку не создаёт. Модель использует речевой энкодер Wav2Vec2-BERT с классификационной головой, дообученной на корпусе google/WaxalNLP. Веса содержат около 402,7 млн параметров; лицензия — Apache-2.0. Модель предназначена для определения языка коротких аудиозаписей и маршрутизации речи к соответствующей языковой ASR-системе. В README сообщается о точности 100% на тестовой и валидационной выборках WAXAL, но эти результаты относятся к данным корпуса и не гарантируют аналогичного качества на записях из других условий. Это классификатор с закрытым набором классов: он всегда выбирает один из трёх языков, даже если аудио содержит другой язык или неречевой звук. Модель не подходит для общей идентификации языков и не определяет неизвестный или неподдерживаемый класс.
Pongsathorn/wangchanberta-base-sentiment — дообученная модель на базе WangchanBERTa для классификации тональности текстов на тайском языке. Разработчик карточки указывает, что обучение выполнялось с помощью simpletransformers; архитектура — CamemBERT для классификации последовательностей, размер — 132,5 млн параметров, максимальный контекст — 512 токенов. Модель предназначена для определения тональности тайских текстов. Карточка не приводит метрик качества и не описывает набор классов или обучающие данные. Файлы модели представлены в формате safetensors. Лицензия в предоставленных данных не указана.
Модель tiantiaf/wavlm-large-narrow-accent дообучена на основе microsoft/wavlm-large для классификации узких акцентных групп в английской речи. Она реализует подход из бенчмарка Vox-Profile и относит аудио к одной из 16 категорий, включая East Asia, Irish, North America, Scottish, Slavic и Welsh. Модель принимает аудио и выдаёт метку класса акцента; её основа WavLM Large предварительно обучена извлекать представления из английской речи. Репозиторий содержит веса в формате safetensors и распространяется по лицензии OpenRAIL.
wolof-finetuned-ner — модель для распознавания именованных сущностей в тексте на языке волоф. Она построена на архитектуре XLM-RoBERTa и содержит 305,2 млн параметров; для классификации токенов использует контекст до 514 токенов. По карточке, модель обучалась с нуля на неуказанном датасете. В оценке на тестовом наборе указаны F1 0,8302, полнота 0,8980 и точность 0,7719. Модель подходит для разметки слов и фрагментов текста по типам сущностей в задачах обработки волофского языка. Карточка не сообщает, какие именно классы сущностей размечаются, и не описывает ограничения или условия лицензии.
IIC/XLM-R_Galen — сторонняя перезагрузка модели XLM-R Galén, первоначально опубликованной на GitHub. Это модель семейства XLM-RoBERTa с 305,2 млн параметров, предназначенная для извлечения признаков из текста. Репозиторий содержит веса в форматах PyTorch и Safetensors; максимальная длина контекста составляет 514 токенов. Карточка указывает испанский язык. Лицензия модели — MIT. README отсылает к исходной публикации за подробностями, поэтому специализированные сценарии применения и известные ограничения по имеющимся данным определить нельзя.
Это дообученная модель XLM-RoBERTa для классификации текста, созданная на основе FacebookAI/xlm-roberta-base. Веса содержат около 305,2 млн параметров; модель использует архитектуру XLMRobertaForSequenceClassification и принимает последовательности длиной до 514 токенов. В карточке указано дообучение на датасете, название которого не приведено. На оценочной выборке указаны F1 0,6576, ROC AUC 0,7940, accuracy 0,5110 и loss 0,3820. Метрики дают ориентир по результатам проверки, но без описания набора данных и схемы классов нельзя судить о качестве для конкретной задачи. Модель распространяется по лицензии MIT.