II.8Инженерия данных и аналитика

apanc/russian-sensitive-topics — русскоязычный классификатор чувствительных тем, обученный на расширенной версии датасета, описанного в статье для семинара Balto-Slavic NLP на EACL 2021. Модель построена на архитектуре BERT и содержит 205,1 млн параметров; она относит текст к комбинациям из 18 чувствительных тем. Модель предназначена для многотемной классификации русскоязычных текстов, например для выявления упоминаний преступлений и наркотиков. Максимальная длина контекста — 512 токенов. В README приведены метрики по нескольким классам; авторы отмечают, что тестовая выборка состоит из вручную размеченной части данных, поэтому некоторые темы представлены в ней недостаточно хорошо. Модель доступна в форматах PyTorch, TensorFlow и Flax. Лицензия CC BY-NC-SA 4.0 разрешает использование с указанием авторства и на условиях распространения производных материалов, но запрещает коммерческое использование.

SeloWhisper-ko-disfluency — модель распознавания корейской речи с разметкой речевых запинок, дообученная разработчиком репозитория на openai/whisper-large-v3-turbo. Она преобразует корейскую спонтанную речь в текст и вставляет специальные токены для заполнителей пауз, повторов и смеха прямо в расшифровку. Модель построена на архитектуре Whisper encoder–decoder и содержит около 905,3 млн параметров по метаданным Hugging Face. Модель предназначена для расшифровки разговорной корейской речи с сохранением признаков её спонтанности, например при анализе диалогов и подготовке транскриптов. В README приведены метрики на тестовых наборах разговорной речи; для сохранения тегов при декодировании нужно отключить пропуск специальных токенов. Репозиторий распространяется по лицензии MIT. Модель оптимизирована для корейской спонтанной речи и не настроена на новостное вещание, переключение языков или некорейскую речь. Возможны галлюцинации на тишине и очень коротких аудиофрагментах; автор рекомендует предварительно фильтровать такие фрагменты.

Remicm/sentiment-analysis-model-for-socialmedia — классификатор текста на базе DistilBERT, дообученный на датасете IMDB для определения тональности отзывов. Модель принимает текст и относит его к классам тональности; в README указаны accuracy 0,9297 и F1 0,9299 на оценочной выборке. Модель использует архитектуру DistilBertForSequenceClassification и формат PyTorch. Контекст составляет 512 токенов. Лицензия — Apache-2.0. Несмотря на название, обучение описано на отзывах IMDB, поэтому применимость к сообщениям из социальных сетей отдельно не подтверждена.

stanfordnlp/stanza-ar — арабоязычная модель из набора Stanza, разработанного Stanford NLP. Она предназначена для лингвистического анализа арабского текста; в каталоге модель классифицирована как token classification. Stanza предоставляет инструменты для обработки текста и синтаксического анализа, а также распознавания сущностей. Модель распространяется в формате PyTorch по лицензии Apache-2.0.

stanfordnlp/stanza-hi — набор моделей Stanza для лингвистического анализа текстов на хинди, разработанный Stanford NLP. Инструменты Stanza обрабатывают текст от исходной формы до синтаксического анализа и распознавания сущностей; карточка Hugging Face классифицирует эту модель как token-classification. Модель распространяется в формате PyTorch и предназначена для использования в конвейерах NLP для хинди. Лицензия — Apache-2.0. Карточка не раскрывает размер модели, длину контекста или отдельные ограничения качества; пригодность для конкретного сценария следует оценивать на соответствующих данных.

stanfordnlp/stanza-ro — модель из набора Stanza, разработанного Stanford NLP для лингвистического анализа румынского языка. Она предназначена для разметки токенов в тексте и входит в набор инструментов, охватывающий анализ от исходного текста до синтаксического разбора и распознавания сущностей. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache-2.0. Модель ориентирована на обработку румынского текста в NLP-конвейерах Stanza. Карточка не приводит размер модели, архитектуру или длину контекста.

TabuLa-8B (Tabular Llama-8B) — модель на основе Meta Llama 3, разработанная для прогнозирования по табличным данным. Она предназначена для классификации и регрессии с разбиением целевых значений на интервалы; модель обучена с помощью rtfm на наборе данных T4. Архитектура — плотная LlamaForCausalLM с 7,5 млрд параметров, контекст — до 8192 токенов. Репозиторий содержит веса в формате safetensors и позволяет загружать модель через Transformers. Модель подходит для переноса языкового моделирования на задачи предсказания по таблицам. Карточка описывает её как базовую модель для таких задач, но не приводит подробностей о метриках или ограничениях оценки. Язык в метаданных — английский. Лицензия — Llama 3.

TAPAS medium — модель Google на основе BERT для ответов на вопросы по таблицам. Она предобучена на англоязычных данных Википедии, а затем последовательно дообучена на SQA, WikiSQL и WikiTable Questions (WTQ). Модель выделяет подходящие ячейки таблицы и применяет агрегирующую голову для формирования ответа; в варианте по умолчанию индексы позиций сбрасываются в каждой ячейке таблицы. Модель предназначена для ответов на вопросы о содержимом таблиц, включая задачи с числовыми рассуждениями. Она содержит 49,2 млн параметров, принимает вопрос вместе с сериализованной таблицей и поддерживает последовательность длиной до 512 токенов. Доступны форматы PyTorch и TensorFlow. Основной язык — английский. Лицензия — Apache-2.0. Качество зависит от структуры и размера таблицы, а также от формулировки вопроса; модель обучена на англоязычных табличных данных, поэтому её не следует считать универсальной для произвольных языков или задач. README приводит результаты WTQ для крупных и базовых вариантов семейства, но не сообщает отдельную оценку для этой medium-модели.

google/tapas-small-finetuned-tabfact — компактная модель TAPAS от Google, основанная на BERT-подобном трансформере для работы с таблицами и связанным текстом. Модель содержит 32,4 млн параметров, использует архитектуру TapasForSequenceClassification и рассчитана на входы длиной до 512 токенов. Доступны веса PyTorch и TensorFlow. Модель дообучена на TabFact для проверки утверждений по содержимому таблиц: она классифицирует, подтверждается ли предложение данными таблицы или опровергается ими. Английский текст и таблица подаются совместно; предобучение включало маскирование токенов и промежуточное обучение на синтетических примерах числового рассуждения. Лицензия — Apache-2.0. Подходит для проверки фактов в табличных данных и может служить основой для сценариев анализа таблиц. Карточка описывает назначение как классификацию «подтверждается/опровергается»; результаты за пределами этого сценария и для языков, кроме английского, не охарактеризованы.

TSO Foundation Model v11 — модель общего назначения для временных рядов, разработанная автором репозитория Sejibeji. Она учится представлять динамику рядов как геометрию и линейные операторы, а не разбивать числа на токены. Архитектура включает вложения Такенса, представления на нескольких масштабах, глубокий энкодер с пространством скрытых признаков размерности 256 и скрытым слоем 768, а также голову для определения направления времени. Предобучение на 40 рядах из восьми областей использует самоконтролируемые задачи реконструкции, динамики Кoopman, масштабной ковариантности и различения прямого и обратного порядка. Модель предназначена для прогноза новых временных рядов без градиентного дообучения: для нового ряда выполняется вычисление оператора Koopman в замороженном латентном пространстве. В описанной автором оценке она превзошла GRU, обучаемую отдельно для каждого ряда, на 29 из 40 рядов; также README сообщает о структурном обнаружении цикла солнечной активности на отложенном ряде пятен. Модель распространяется по лицензии MIT. Ограничения: закрытый линейный пробник уступает на рядах со всплесками и почти единичным корнем, где простое продолжение последнего значения может быть лучше. Перенос зависит от ширины модели и разнообразия корпуса, а предварительные задачи дают заметную пользу после примерно 15 тысяч итераций.

TSO Foundation Model v14 — модель для прогнозирования временных рядов, разработанная автором репозитория Sejibeji. Она учится представлять структуру динамических систем в латентном пространстве с помощью самоконтролируемого предобучения и оператора Кoopмана. Архитектура включает вложения Такенса, представления на нескольких масштабах и энкодер с латентной размерностью 256 и скрытым размером 768. Модель предназначена для переноса на новые временные ряды без градиентного дообучения: прогноз строится через замкнутую подгонку оператора Кoopмана на замороженном представлении. В README сообщается о результатах на рядах из энергетики, метеорологии, ЭКГ, финансов, эпидемиологии, экономики, солнечной физики и хаотических систем, включая преимущество над рядами GRU в 31 из 40 тестов и обнаружение солнечного цикла примерно в 11 лет. Репозиторий предоставляет веса PyTorch; лицензия — MIT. Ограничения включают слабую работу с рядами со скачками и почти единичным корнем, где простое сохранение последнего значения может быть лучше. Линейный пробник ограничен емкостью и широтой обучающего корпуса, а эффект предобучения проявляется после примерно 15 тысяч итераций. Модель ориентирована на числовые временные ряды; README не заявляет обработку естественного языка.

Emanuel/twitter-emotion-deberta-v3-base — модель классификации текста на базе DeBERTa-v3, дообученная для распознавания эмоций в сообщениях Twitter. Она присваивает тексту эмоциональную категорию и предназначена для анализа тональности эмоциональных публикаций и разметки коротких сообщений. Модель содержит 211,6 млн параметров, принимает последовательности длиной до 512 токенов и распространяется в формате PyTorch. В карточке указаны точность 0,937 и loss 0,1474 на оценочном наборе данных Emotion. Модель выпущена под лицензией Apache-2.0. Данных о поддерживаемых языках в карточке и метаданных нет; результаты на оценочном наборе не гарантируют такого же качества на других источниках текста.

cardiffnlp/twitter-roberta-base-hate — модель Cardiff NLP на архитектуре RoBERTa-base для классификации твитов и выявления языка ненависти. Она обучалась на примерно 58 млн твитов и дообучалась для обнаружения языка ненависти с использованием бенчмарка TweetEval; особое внимание уделено высказываниям против женщин и иммигрантов. Модель содержит 151,8 млн параметров и принимает текст с контекстом до 514 токенов. Модель выдаёт оценки классов «hate» и «not-hate» и предназначена для анализа сообщений в Twitter и сходных коротких публикаций. Доступны веса в форматах PyTorch, TensorFlow и Flax. В README указана более новая и надёжная модель того же разработчика; результаты классификации могут зависеть от контекста и не должны трактоваться как окончательная оценка высказывания. Сведения о лицензии в предоставленных источниках отсутствуют.

speech31/wav2vec2-large-english-phoneme-v2 — модель распознавания речи на базе архитектуры Wav2Vec2, разработанная путём дообучения facebook/wav2vec2-large. Она использует CTC-архитектуру и содержит 402,7 млн параметров. Модель предназначена для преобразования входящего аудио в текстовую последовательность; название указывает на английскую фонемную версию, но карточка не уточняет точный формат вывода и обучающие данные. В README приведены результаты оценки: loss 0,4069 и CER 0,0900. Модель опубликована в формате PyTorch и распространяется по лицензии Apache-2.0. README не описывает условия применения и ограничения; указанные метрики относятся только к упомянутому набору оценки, который в карточке не назван.

cardiffnlp/xlm-roberta-base-tweet-sentiment-it — модель Cardiff NLP на архитектуре XLM-RoBERTa, дообученная на италоязычной части набора tweet_sentiment_multilingual. Она классифицирует тональность коротких сообщений и публикаций на итальянском языке. Модель содержит 305,2 млн параметров, принимает текст и рассчитана на контекст до 514 токенов. В README приведены результаты на тестовой выборке: accuracy 62,76%, micro-F1 62,76% и macro-F1 62,94%. Весы доступны в формате PyTorch; лицензия в предоставленных данных не указана.

keremberke/yolov8s-building-segmentation — модель компьютерного зрения для сегментации зданий на изображениях. Она построена на архитектуре YOLOv8s и предназначена для выделения пикселей, относящихся к классу Building. В метаданных указаны библиотека Ultralytics и формат PyTorch; в карточке перечислен набор данных keremberke/satellite-building-segmentation. Модель подходит для обнаружения и сегментации зданий на спутниковых и других изображениях, а также для подготовки масок зданий для последующего анализа. Она решает задачу сегментации изображений и выдаёт маску класса Building. Сведений о лицензии в предоставленных данных нет.

Falconsai разработала arc_of_conversation — модель для определения сюжетной дуги беседы по её тексту. Она классифицирует разговоры по предопределённым категориям и может применяться для анализа диалогов в службе поддержки, чат-ботах и исследованиях общения. Модель представляет собой дообученную версию google/t5-small на пользовательском наборе данных с беседами и соответствующими им дугами. Это архитектура T5 для преобразования текста в текст с 38,5 млн параметров; максимальная длина контекста — 512 токенов. Модель рассчитана на английский язык, распространяется в формате safetensors по лицензии Apache-2.0 согласно метаданным Hugging Face.

Модель minoosh/ast-finetuned-audioset-10-10-0.4593-finetuned-ie — дообученная Minoosh версия MIT/ast-finetuned-audioset-10-10-0.4593 для классификации аудио. Она построена на архитектуре Audio Spectrogram Transformer (AST) и содержит 113,2 млн параметров. В README указана точность 0,6076 на оценочном наборе; сведения о составе классов и данных для дообучения не приведены. Модель принимает аудио и выдаёт метки классов. Репозиторий распространяет веса PyTorch по лицензии BSD 3-Clause. Результат оценки относится к указанному в карточке набору и не гарантирует аналогичную точность на других аудио или классах.

Это модель бинарной классификации текстов, созданная с помощью AutoTrain на базе архитектуры RoBERTa. Она предназначена для отнесения текста к одному из двух классов в задаче классификации текстов о безопасности; репозиторий связан с обучающим набором vlsb/autotrain-data-security-texts-classification-roberta. Модель содержит 151,8 млн параметров, принимает текст и выдаёт метку класса. Длина контекста составляет 514 токенов. На валидации указаны accuracy 0,893 и F1 0,907; эти показатели характеризуют только использованный набор данных и не гарантируют качество на других текстах. В README не приведены названия классов и лицензия, поэтому их нельзя уточнить.

Модель beenakurian/autotrain-sentiment-analyzer-reddit — классификатор текста на базе RoBERTa, обученный с помощью AutoTrain для анализа тональности публикаций Reddit. Она предназначена для присвоения тексту одного из классов тональности; карточка сообщает о задаче классификации текста, но не раскрывает названия классов и их значения. Модель содержит около 162,4 млн параметров, принимает текст и имеет контекст длиной до 130 токенов. На валидации указаны accuracy 0,81 и macro F1 0,79. Данные о лицензии в доступной карточке отсутствуют.

CAMeLBERT-Mix DID MADAR Corpus6 — модель классификации арабских текстов по диалектам, разработанная CAMeL Lab и дообученная на MADAR Corpus 6. Она присваивает входному предложению одну из шести меток диалектов и подходит для определения диалекта в коротких сообщениях и фразах; модель можно использовать через pipeline text-classification в Transformers. Модель основана на архитектуре BERT, содержит 136,3 млн параметров и принимает последовательности длиной до 512 токенов. Она работает с арабским языком и выдаёт метку класса с оценкой уверенности. Репозиторий содержит веса PyTorch и TensorFlow. Модель распространяется по лицензии Apache-2.0.

CAMeL-Lab разработала CAMeLBERT-Mix DID NADI — модель на архитектуре BERT для определения арабского диалекта по тексту. Модель дообучена на CAMeLBERT-Mix с использованием набора NADI на уровне стран; классификатор различает 21 метку диалектов. Модель предназначена для автоматической идентификации диалектов в арабских фразах и сообщениях. Она принимает текст и возвращает метку класса с оценкой уверенности; использовать её можно через pipeline text-classification в Transformers. Контекст составляет до 512 токенов, размер — 136,3 млн параметров. Поддерживаются арабский язык и форматы PyTorch и TensorFlow. Модель распространяется по лицензии Apache-2.0. Качество предсказаний может зависеть от диалекта, длины и написания текста; карточка не приводит метрик оценки.

ckiplab/bert-base-chinese — модель семейства BERT от CKIP для распознавания именованных сущностей в традиционном китайском тексте. Репозиторий проекта также предлагает модели и инструменты для сегментации слов, разметки частей речи и других задач обработки китайского языка, однако для этой модели основная задача в метаданных — классификация токенов. Модель имеет архитектуру BertForTokenClassification и содержит около 129,5 млн параметров. Она принимает текст, поддерживает контекст до 512 токенов и распространяется в форматах PyTorch и Flax. Для токенизации автор рекомендует BertTokenizerFast. Модель предназначена для извлечения сущностей из китайского текста; поддержка русского или других языков не заявлена. Репозиторий лицензирован по GPL-3.0.

Модель dannashao/bert-base-uncased-finetuned-advanced-srl_arg — дообученная версия BERT от Google для семантической разметки ролей (SRL) в английских предложениях. Она присваивает токенам метки, обозначающие их семантические роли относительно предиката. Для обозначения предиката в предложении перед ним нужно добавить специальный токен [V], который вместе с предикатом рассматривается как единый фрагмент. Модель построена на архитектуре BERT и содержит 136,7 млн параметров; максимальная длина контекста — 512 токенов. Обучение проводилось на английском датасете Universal Proposition Bank v1.0. В README приведены результаты на тестовой выборке: F1 0,8669 и точность 0,9812. Модель распространяется по лицензии Apache-2.0.

PassbyGrocer/bert-ner-msra — модель на базе китайской google-bert/bert-base-chinese, дообученная для распознавания именованных сущностей на уровне токенов. Она предназначена для разметки сущностей в китайском тексте; карточка сообщает о метриках на оценочном наборе: F1 0,9494, точность 0,9481 и полнота 0,9507. Модель использует архитектуру BERT с 129,5 млн параметров, принимает текст с контекстом до 512 токенов и выдаёт метки токенов. Файлы модели опубликованы в формате safetensors. В README набор данных назван неизвестным, а подробности о типах сущностей, обучающих данных и ограничениях отсутствуют. Модель создана на основе китайского BERT, поэтому её основным языком является китайский. Лицензия в предоставленных данных не указана.

Модель muhtasham/bert-small-finetuned-xglue-ner — компактная модель BERT, дообученная на наборе WNUT 17 для распознавания именованных сущностей и классификации токенов. Она принимает текст и присваивает метки отдельным токенам, поэтому подходит для извлечения сущностей из пользовательских текстов. В основе лежит google/bert_uncased_L-4_H-512_A-8; модель содержит 32,4 млн параметров и поддерживает контекст до 512 токенов. На оценочной выборке WNUT 17 указаны F1 0,4749, точность 0,5932, полнота 0,3959 и accuracy 0,9252. Эти результаты указывают на ограниченное качество извлечения сущностей, особенно по полноте; перед применением в конкретной области модель следует проверить на соответствующих данных. Лицензия — Apache 2.0.

Модель sanshizhang/Chinese-Sentiment-Analysis-Fund-Direction — китайскоязычный классификатор тональности текстов о фондах, разработанный автором репозитория. Это плотная архитектура BERT с головой BertForSequenceClassification, примерно 129,5 млн параметров и контекстом до 512 токенов; веса представлены в формате PyTorch. Модель относит текст к одному из трёх классов: отрицательный, положительный или нейтральный. Модель предназначена для анализа тональности китайских текстов, связанных с фондами, например для разметки отзывов и сообщений инвесторов или мониторинга настроений. В README указана точность 0,938 на валидационной выборке из 15 118 примеров. Автор отмечает, что отрицательные тексты обрабатывались специалистами, а качество распознавания нейтральных текстов может быть ниже ожидаемого. Модель построена на основе BERT и дообучена для классификации последовательностей; конкретная базовая модель в карточке не названа. Лицензия — Apache-2.0. Результаты оценки относятся к указанной в README выборке и не гарантируют такого же качества на других источниках или типах финансовых текстов.

Карточка модели manelalab/chrono-bert-v1-20091231 на Hugging Face совпадает с карточкой manelalab/chrono-bert-v1-20041231, поэтому описание составлено по ней. ChronoBERT v1 20041231 — англоязычная модель Songrun He, Linying Lv, Asaf Manela и Jimmy Wu для анализа текста с учётом хронологии. Она основана на двунаправленной архитектуре ModernBERT, содержит 149 млн параметров и принимает контекст до 8192 токенов. Модель обучена на датированных текстовых данных, чтобы снизить риск утечки будущей информации и смещения заглядывания вперёд при историческом анализе. Модель предназначена для предсказания замаскированных токенов и получения представлений текста, а также для задач понимания языка и анализа исторических и финансовых текстов. Семейство ChronoBERT оценивалось на GLUE и на прогнозировании доходности акций; приведённые результаты относятся к указанным в карточке версиям, а не обязательно к этой конкретной контрольной точке. Доступны веса в формате safetensors для Transformers. Лицензия — MIT.

Карточка модели manelalab/chrono-bert-v1-20101231 на Hugging Face совпадает с карточкой manelalab/chrono-bert-v1-20041231, поэтому описание составлено по ней. ChronoBERT v1 20041231 — англоязычная модель Songrun He, Linying Lv, Asaf Manela и Jimmy Wu для анализа текста с учётом хронологии. Она основана на двунаправленной архитектуре ModernBERT, содержит 149 млн параметров и принимает контекст до 8192 токенов. Модель обучена на датированных текстовых данных, чтобы снизить риск утечки будущей информации и смещения заглядывания вперёд при историческом анализе. Модель предназначена для предсказания замаскированных токенов и получения представлений текста, а также для задач понимания языка и анализа исторических и финансовых текстов. Семейство ChronoBERT оценивалось на GLUE и на прогнозировании доходности акций; приведённые результаты относятся к указанным в карточке версиям, а не обязательно к этой конкретной контрольной точке. Доступны веса в формате safetensors для Transformers. Лицензия — MIT.

ChronoBERT v1 2018-12-31 — англоязычная модель Songrun He, Linying Lv, Asaf Manela и Jimmy Wu для анализа текста с учётом временной последовательности. Она обучена сохранять хронологическую согласованность и снижать риск утечки будущей информации, что полезно для исторического анализа и экономического моделирования. Модель использует двунаправленный энкодер ModernBERT с 149 млн параметров и контекстом до 8192 токенов; основная задача — предсказание скрытого токена в тексте. В карточке также описано извлечение эмбеддингов. Серия ChronoBERT превосходит стандартный BERT по результатам GLUE согласно README; в нём также приводятся оценки финансового прогнозирования для других версий серии. Эти результаты не следует считать гарантией качества именно этой версии в конкретной задаче. Модель выпущена под лицензией MIT.