II.8Инженерия данных и аналитика

ContentVec — модель извлечения признаков на архитектуре HuBERT, опубликованная в формате safetensors для работы с библиотекой HuggingFace Transformers. В README указано использование для извлечения признаков; размер модели — 113,3 млн параметров. Модель принимает аудио и выдаёт векторные представления признаков, которые можно использовать как вход для последующих задач обработки речи. Репозиторий распространяется по лицензии MIT.

IDEA-CCNL разработала Erlangshen-Roberta-110M-Sentiment — китайскую модель семейства RoBERTa, дообученную для анализа тональности. Модель основана на chinese-roberta-wwm-ext-base и обучена на 227 347 примерах из восьми китайских наборов данных для анализа тональности. В карточке указано 129,5 млн параметров и контекст до 512 токенов. Модель предназначена для классификации тональности китайских текстов, включая прикладные наборы данных, на которых она дообучалась. README приводит результаты на ASAP-SENT, ASAP-ASPECT и ChnSentiCorp. Она принимает текст и выдаёт метки классификации. Лицензия — Apache-2.0.

MilaNLProc/feel-it-italian-sentiment — модель классификации тональности итальянского текста, разработанная авторами проекта FEEL-IT. Она дообучена на базе UmBERTo на корпусе FEEL-IT и предназначена для определения положительной или отрицательной тональности сообщений, в том числе публикаций в социальных сетях. Модель построена на архитектуре CamemBERT для классификации последовательностей, содержит 137,8 млн параметров и поддерживает контекст до 514 токенов. Корпус FEEL-IT включает итальянские твиты с метками четырёх эмоций: гнев, страх, радость и грусть; в этой модели классы сведены к тональности: радость соответствует положительной, остальные эмоции — отрицательной. В описанной оценке на тестовой выборке SENTIPOLC16 модель, обученная на FEEL-IT, показала macro-F1 0,81 и точность 0,84. Она подходит для анализа итальянских текстов в социальных сетях, но опубликованная оценка и данные ориентированы на твиты, поэтому качество на других жанрах может отличаться. В README заявлена открытая лицензия, однако конкретные условия лицензирования модели не приведены.

FineWeb-Marketing Classifier — модель marketeam для оценки качества маркетинговых текстов по шкале от 0 до 5. Это регрессионная модель на базе замороженного энкодера Snowflake Arctic Embed v2.0 объёмом 305 млн параметров и обучаемой MLP-головы примерно на 591 тыс. параметров. Она выдаёт одну оценку для документа по критериям релевантности, компетентности, профессионализма и экспертности. Модель предназначена прежде всего для пакетной фильтрации и ранжирования больших веб-корпусов: отбора материалов для предобучения и дообучения профильных языковых моделей, а также поиска качественных маркетинговых страниц и статей. Обучена на 495 тыс. англоязычных документов FineWeb с оценками, полученными от Gemma-3-27B-it; на отложенной выборке из 50 тыс. документов Spearman достиг 0,7953. Модель поддерживает классификационный интерфейс Transformers и использует форматы PyTorch и Safetensors. Модель доступна по лицензии Apache-2.0. Для загрузки с пользовательской архитектурой требуется transformers версии 4.46.x и включение trust_remote_code; перед этим README рекомендует проверить файлы кода репозитория. Модель обучена только на английских маркетинговых материалах, выдаёт единую оценку без разбивки по критериям, а оценки зависят от калибровки Gemma. Примеров с максимальной оценкой 5 в обучающей выборке почти нет, поэтому абсолютные пороги требуют осторожной настройки.

chabab/gemma-3-270m-it-text2sql — дообученная модель Google Gemma 3, опубликованная пользователем chabab. Это плотная текстовая авторегрессионная модель на 257 млн параметров, обученная с помощью TRL на основе google/gemma-3-270m-it; карточка демонстрирует её использование через Transformers для генерации текста в диалоговом формате. Название указывает на назначение для преобразования запросов на естественном языке в SQL, однако README не описывает набор данных, качество или проверку этого сценария. Поэтому модель можно рассматривать как небольшой экспериментальный вариант для генерации SQL по текстовому запросу, а пригодность для конкретной базы данных следует оценивать самостоятельно. Заявленное контекстное окно — 32 768 токенов; модель работает с текстом и выдаёт текст. Лицензия в предоставленных данных не указана. Базовая модель — Gemma 3 270M Instruct; её условия использования могут распространяться на производную модель.

Это модель автоматического распознавания речи на основе Arabic HuBERT-Large с CTC-декодером, дообученная авторами репозитория на наборах MGB-3 и Egyptian Arabic Conversational Speech Corpus. Она предназначена для преобразования египетской арабской разговорной речи в текст; языковая модель при декодировании не используется. Базовый HuBERT был предварительно обучен на 2 000 часах арабской речи с частотой дискретизации 16 кГц, поэтому входное аудио следует подавать с частотой 16 кГц. В README приведены WER 23,55% на валидации и 25,59% на тесте; заявленный авторами результат для египетского арабского — state of the art на момент публикации карточки. Модель содержит около 402,7 млн параметров и доступна в форматах PyTorch и Safetensors. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

IndoBERT-Sentiment-Analysis — дообученная модель классификации тональности текста на основе indobenchmark/indobert-base-p1, созданная сообществом crypter70 и обученная на наборе данных IndoNLU. Это модель BERT с примерно 151,6 млн параметров, принимающая текст и выдающая метку класса; контекст ограничен 512 токенами. В README указаны точность 0,9452 и F1 0,9451 на оценочной выборке. Модель предназначена для определения тональности индонезийских текстов. Доступна по лицензии MIT.

ohsuz/k-finance-sentence-transformer — модель sentence-transformers на базе RoBERTa, разработанная пользователем ohsuz. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения сходства и кластеризации текстов. В метаданных указаны 137,8 млн параметров, библиотека sentence-transformers и контекст до 514 токенов; модель сохранена в формате safetensors. Модель обучалась с использованием MultipleNegativesRankingLoss и набора данных ohsuz/dacon. Её можно применять для поиска финансовых текстов по смыслу и группировки похожих фрагментов. Карточка не приводит сведения о лицензии, поэтому условия распространения из доступных данных установить нельзя.

imprt/kushinada-hubert-large — японская модель HuBERT Large, разработанная imprt и предварительно обученная на 62 215 часах аудио японских телевизионных передач. Для подготовки обучающих данных использовалось обнаружение голосовой активности; модель обучена с применением кода официального репозитория HuBERT. Модель предназначена для извлечения признаков из японской речи и аудио и может служить основой для последующих задач обработки речи. В README показан пример загрузки AutoFeatureExtractor из Transformers для аудиофайла с частотой дискретизации 16 кГц. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache-2.0.

MatCha-base — базовая модель семейства MatCha, разработанная Fangyu Liu, Francesco Piccinno и соавторами и опубликованная в экосистеме Hugging Face при участии Younes Belkada. Это визуально-языковая модель архитектуры Pix2Struct для ответов на вопросы по изображениям; карточка позиционирует её как основу для дообучения. MatCha обучалась улучшать понимание графиков, диаграмм и инфографики с помощью предварительного обучения на задачах деконструкции графиков и числовых рассуждений. Её можно применять для ответов на вопросы по графикам и таблицам на изображениях, а также адаптировать для анализа снимков экрана, учебных схем и иллюстраций в документах. В описании исследования сообщается о результатах на PlotQA и ChartQA и переносе улучшений на смежные визуальные задачи. Модель принимает изображение и текстовый вопрос и генерирует текстовый ответ. В метаданных указаны английский, французский, румынский и немецкий языки. Репозиторий содержит веса PyTorch; лицензия — Apache-2.0. Это базовый чекпойнт, предназначенный для дообучения, поэтому качество ответов в конкретном прикладном сценарии зависит от адаптации.

ayatsuri/miroberta-rmi — дообученная модель классификации текста на архитектуре RoBERTa, созданная на основе mavinsao/mi-roberta-base. Модель содержит 151,8 млн параметров и принимает последовательности длиной до 514 токенов. Она предназначена для классификации текста. В карточке приведены результаты оценки: accuracy 0,8858, precision 0,8799, recall 0,8771 и F1 0,8780. Назначение классов, обучающий набор данных и конкретная предметная область не описаны. Репозиторий распространяется по лицензии MIT.

naija-twitter-sentiment-afriberta-large — модель Davlan для классификации тональности сообщений в Twitter на хауса, игбо, нигерийском пиджине и йоруба. Это дообученная для классификации последовательностей модель на архитектуре XLM-RoBERTa с 148,1 млн параметров и контекстом до 514 токенов. Модель относит текст к одному из трёх классов: отрицательная, нейтральная или положительная тональность. Она обучена на объединённых наборах данных NaijaSenti и предназначена прежде всего для анализа публикаций на четырёх нигерийских языках. В README приведены оценки F1 на тестовых данных, усреднённые по пяти запускам: 81,2 для хауса, 80,8 для игбо, 74,5 для нигерийского пиджина и 80,4 для йоруба. Качество может снижаться на текстах из других тематик и источников, поскольку обучение проводилось на данных Twitter. Модель распространяется в форматах PyTorch и TensorFlow; сведения о лицензии в предоставленных материалах отсутствуют.

Nori Classifier 6M — классификационная головка для табличной foundation-модели Nori, разработанная CardoAI. Она использует замороженную базовую модель Synthefy/Nori и добавляет обученные кодировщик меток и двухслойную головку классификации; репозиторий содержит только эти компоненты, а базовая модель загружается отдельно. Модель предназначена для бинарной и небольшой многоклассовой классификации табличных данных в контексте: размеченные строки передаются вместе с новыми примерами, которым модель присваивает оценки за один проход без отдельного обучения на каждом наборе данных. Также можно извлекать классификационно-ориентированные эмбеддинги размерности 128 для строк. Наиболее подходящий сценарий — небольшие IID-таблицы примерно с несколькими сотнями до 2000 размеченных строк. На очень малых IID-задачах модель конкурентоспособна с другими табличными foundation-моделями. Контекст ограничен примерно 2000 строками; с ростом набора данных преимущество уменьшается, а при сдвиге распределения качество снижается. Вероятности для многоклассовых задач не откалиброваны и лучше подходят для ранжирования, чем для интерпретации как достоверных вероятностей. Головка распространяется по Apache-2.0; базовая Nori загружается отдельно и действует под собственной лицензией.

cwolff выпустил дообученную методом обучения с подкреплением модель Qwen3.5-2B для агентной генерации SQL-запросов. Она взаимодействует с базой SQLite через инструменты: исследует таблицы и схему, выполняет запросы и отправляет итоговый SQL. Для работы модели нужен цикл агента по протоколу exec_plan, где каждый ход содержит один JSON-объект с вызовом инструмента. Модель основана на Qwen/Qwen3.5-2B и обучена алгоритмом GRPO на подмножестве SynSQL simple и moderate без предварительного supervised дообучения. На 300 вопросах BIRD dev автор сообщает точность выполнения 0,460 при предоставленной схеме и 0,443 при поиске схемы через инструменты. Модель имеет 2 млрд параметров; репозиторий содержит веса safetensors и распространяется по лицензии Apache-2.0. Она предназначена для текстовых задач с базами SQLite, а не для обработки изображений: унаследованный от базовой модели визуальный модуль не обучался и не оценивался. Ограничения включают слабую работу на сложных запросах с множественными соединениями, обучение и оценку только на SQLite, малое число строк в обучающих таблицах, высокое потребление вызовов инструментов и непроверенную работу за пределами бюджета в шесть ходов. Одноходовая схема «схема на входе, SQL на выходе» не соответствует обученному режиму.

Модель mdg-nlp дообучила FacebookAI/roberta-base для извлечения выражений событий (EVENTX) в предложениях. Это энкодер RoBERTa с головой классификации токенов: она размечает каждый токен тегом BIO и выделяет фрагменты, обозначающие действия, происшествия, процессы или состояния. Модель содержит 151,8 млн параметров, использует формат safetensors и рассчитана на контекст до 514 токенов. Модель предназначена для структурирования упоминаний событий в тексте и может служить этапом подготовки данных для построения временных линий, упорядочивания событий и извлечения отношений. В README приведены результаты micro-F1: 0,85 в базовом сценарии и 0,82 на состязательных примерах; в настройке T2C результат составляет 0,19. Модель обучена на датасете mdg-nlp/eventx-recognition-original. Указанная лицензия — Apache-2.0. Основное назначение модели — выделение текстовых границ выражений событий; она сама не классифицирует отношения между событиями или временные отношения. Качество может снижаться при смене предметной области, неоднозначных или неявных событиях и состязательных изменениях текста; разбиение на токены влияет на границы найденных фрагментов. Модель рассчитана на предложения, а для длинных или структурно отличающихся входов поведение может меняться.

RoBERT-base — румынская версия BERT, разработанная для работы с текстом на румынском языке. Это предварительно обученный энкодер с 12 слоями, скрытым размером 768 и 12 головами внимания; обучение проводилось с задачами masked language modeling и next sentence prediction. В карточке указано 114 млн параметров, а метаданные репозитория содержат 142,3 млн; длина контекста составляет 512 токенов. Модель uncased и доступна в форматах PyTorch, TensorFlow и Flax. RoBERT-base предназначена для последующей адаптации к задачам классификации текста, анализа тональности, определения диалекта и тематической классификации, а также восстановления диакритики. Обучение выполнено на подборке румынских корпусов Oscar, RoTex и RoWiki. В README приведены результаты для ряда задач, включая анализ тональности и классификацию молдавского и румынского вариантов языка. Это базовая предварительно обученная модель, поэтому для прикладных задач обычно требуется дообучение или отдельная модельная голова. Она рассчитана на румынский язык и ограничена контекстом в 512 токенов. Лицензия в предоставленных данных не указана.

Evolett/rubert-tiny2-finetuned-ner — модель семейства BERT, разработанная автором репозитория и обученная с нуля для распознавания именованных сущностей. Она классифицирует токены текста; карточка указывает датасет CoNLL-2003. В метаданных указаны 29 млн параметров, контекст до 2048 токенов и формат PyTorch. На оценочной выборке модель показала F1 0,7203, точность 0,7137, полноту 0,7271 и accuracy 0,9363. Она подходит для извлечения сущностей из текста и экспериментов с NER, однако метрики указывают на ограниченное качество, а сведения о целевых языках и ограничениях применения в карточке отсутствуют. Лицензия в предоставленных данных не указана.

solvrays/scribegene-llm-v1.2 — мультимодальная модель для извлечения структурированных данных из страховых документов, разработанная на основе Qwen2-VL-7B-Instruct. Она преобразует изображение документа непосредственно в семантический JSON и рассчитана прежде всего на многостраничные формы ACORD с несколькими колонками, мелким шрифтом и флажками. Модель использует архитектуру Qwen2-VL с визуальным энкодером ViT и языковой моделью Qwen2, а также позиционные кодировки M-RoPE. Она дообучена методом QLoRA с 4-битной квантизацией; визуальный энкодер заморожен, а адаптированные языковые слои настроены на генерацию JSON по заданной схеме. Поддерживается динамическое разрешение изображений от 256 до 1280 пикселей. Репозиторий содержит веса safetensors, лицензия — Apache-2.0. Модель объединяет распознавание содержимого изображения и генерацию ответа, поэтому подходит для разбора форм без отдельного OCR-этапа и предварительной разметки ограничивающих рамок. Карточка также заявляет работу с нестандартной раскладкой полей и вариациями рукописного текста. Эти сведения не подтверждают точность на других типах документов или языках; для надежного извлечения данных результат JSON следует проверять.

socmed-comment-roberta-base-indonesian-smsa — дообученный классификатор последовательностей на базе w11wo/indonesian-roberta-base-sentiment-classifier. Модель предназначена для классификации индонезийских комментариев в социальных сетях по тональности; архитектура — RoBERTa с головой RobertaForSequenceClassification, размер — 151,8 млн параметров, контекст — до 514 токенов. Репозиторий содержит веса в формате Safetensors. В карточке указаны результаты оценки: accuracy 0,8927 и F1 0,8925; набор данных и подробности классов не раскрыты. Модель распространяется по лицензии MIT.

stanfordnlp/stanza-nl — модель Stanza для нидерландского языка, опубликованная командой Stanford NLP. Она предназначена для лингвистического анализа текста: в экосистеме Stanza доступны инструменты от обработки исходного текста до синтаксического анализа и распознавания сущностей. В метаданных Hugging Face для этой модели указана задача token-classification и формат PyTorch. Модель подходит для задач разметки токенов в нидерландском тексте. Репозиторий лицензирован по Apache-2.0. Карточка не сообщает размер модели, длину контекста и конкретные ограничения качества.

Модель ytu-ce-cosmos/turkish-base-bert-punctuation-correction разработана как дообученная версия турецкоязычной модели BERT ytu-ce-cosmos/turkish-base-bert-uncased. Она предназначена для восстановления пунктуации в турецком тексте с помощью классификации токенов. Модель содержит 137,8 млн параметров, использует архитектуру BERT и принимает последовательности длиной до 512 токенов. Поддерживаемый язык — турецкий. Репозиторий содержит веса в форматах Safetensors и TensorFlow. Модель подойдёт для автоматической расстановки знаков препинания в турецких текстах и подготовки текста к дальнейшей обработке. Лицензия MIT разрешает использование и распространение модели на её условиях.

Casually/uie-mini — реализация на PyTorch модели UIE-mini из PaddlePaddle/uie-mini. Она извлекает из китайского текста сущности, отношения и события по заданной пользователем схеме, возвращая найденные фрагменты, позиции и оценки вероятности. Модель относится к семейству ERNIE, содержит 29,5 млн параметров и рассчитана на контекст до 2048 токенов; в репозитории веса представлены в форматах PyTorch и Safetensors. Модель предназначена для структурированного извлечения информации из текста: например, для выделения сущностей и извлечения отношений или событий. Карточка демонстрирует извлечение времени, названия соревнования и участника из китайского текста. Лицензия — Apache-2.0. Описанная реализация и примеры ориентированы на китайский язык; точность на других языках не подтверждена.

AAP-SQL Candidate Reranker — англоязычный cross-encoder, разработанный для этапа переранжирования кандидатов в схеме Text-to-SQL. Он получает кандидатов столбцов, найденных первым этапом поиска схемы, оценивает их релевантность и оставляет 10 наиболее важных для последующего дополнения промпта. Модель построена на cross-encoder/ms-marco-MiniLM-L6-v2 с архитектурой BERT и содержит 25,9 млн параметров; длина контекста — 512 токенов. Модель дообучена на примерах ранжирования схем, полученных из обучающей части BIRD и описаний схем. Она предназначена для использования в конвейере AAP-SQL, а не как самостоятельная модель генерации SQL. Для работы ожидается sentence-transformers версии 5.1.2 или новее. Веса опубликованы в формате safetensors; лицензия в предоставленных источниках не указана.

AmirrezaGhasemiNik/agnews-distilbert — дообученная модель на базе DistilBERT для классификации текстов. По названию репозитория она предназначена для классификации новостных текстов AG News, однако README не подтверждает состав классов и сообщает, что набор данных обучения неизвестен. Модель использует архитектуру DistilBertForSequenceClassification, принимает текст и выдаёт метку класса. Максимальная длина контекста — 512 токенов. В README приведены результаты на оценочной выборке: accuracy 0,924, precision 0,9244, recall 0,924 и F1 0,9241; подробности протокола оценки и данных не указаны. Модель создана Amirreza Ghasemi Nik как дообучение distilbert/distilbert-base-uncased. Лицензия — Apache-2.0. Базовая модель англоязычная, а в метаданных нет сведений о поддержке других языков.

Это компактная китайскоязычная модель ALBERT для классификации тональности текста, опубликованная пользователем voidful на Hugging Face. Она использует архитектуру ALBERT с головой классификации последовательностей и содержит 22,3 млн параметров; контекст — до 512 токенов. Модель предназначена для определения тональности китайских текстов, например отзывов и коротких сообщений. Модель принимает текст и выдаёт метку класса с оценкой уверенности через задачу text-classification. Репозиторий распространяется под лицензией OpenRAIL. Подробности о наборах данных, точных классах тональности и оценках качества карточка не предоставляет.

Модель olegGerbylev/all-MiniLM-L6-v2-goods — дообученный Sentence Transformer на базе sentence-transformers/all-MiniLM-L6-v2, созданный для сопоставления русскоязычных товарных предложений и заказов. Она кодирует предложения и абзацы в плотные векторы размерности 384; сходство между ними можно оценивать косинусной мерой. Архитектура включает энкодер BERT, mean pooling и нормализацию. По метаданным модель содержит 25,9 млн параметров; максимальная длина контекста составляет 512 токенов, а в конфигурации из README указан предел в 256 токенов. Модель подходит для семантического поиска похожих товаров, сопоставления позиций в закупках, поиска перефразировок и кластеризации текстов. В README приведён пример обучающих данных с русскими названиями товаров и результат оценки cosine accuracy 0,9561 на goods-val. Основной язык и специализация — русский товарный текст; карточка не сообщает лицензию, поэтому условия использования по ней определить нельзя.

Это модель распознавания именованных сущностей, разработанная авторами книги «Введение в большие языковые модели» для главы о NER. Она основана на cl-tohoku/bert-base-japanese-v3 и дообучена на llm-book/ner-wikipedia-dataset. Модель использует архитектуру BERT и содержит 138,4 млн параметров; принимает японский текст и размечает в нём сущности, например имена людей и географические названия. Максимальная длина контекста — 512 токенов. Модель подходит для извлечения именованных сущностей из японских текстов, в том числе для обработки материалов в стиле Википедии. Она доступна через библиотеку Transformers и распространяется по лицензии Apache 2.0.

Модель cvalenciaunivalle/bilstm-crf-fasttext-conll-bs16 — испаноязычная модель распознавания именованных сущностей, созданная участниками учебного проекта по обработке естественного языка в магистратуре Univalle. Она использует архитектуру BiLSTM с CRF-слоем на выходе и 300-мерные испанские FastText-эмбеддинги cc.es.300; обучение проводилось на CoNLL-2002. На тестовой части CoNLL-2002 указаны F1 0,8079, точность 0,8129 и полнота 0,8030. Модель предназначена для разметки токенов и извлечения именованных сущностей из испанского текста. Для работы используется пользовательский код модели с параметром trust_remote_code=True. Репозиторий распространяется по лицензии CC BY-NC-SA 4.0, которая требует указания авторства, распространения производных материалов на тех же условиях и запрещает коммерческое использование.

BAAI разработала CCI3-HQ-Classifier — модель классификации текста на базе BGE-M3 с регрессионной головой, которая оценивает образовательную ценность веб-страниц и текстовых фрагментов по шкале от 0 до 5. Она предназначена для отбора и подготовки образовательных данных из веб-корпусов; модель использовалась при создании набора CCI3-HQ. Модель дообучена на 145 тысячах примеров из датасета CCI3 с оценками, сгенерированными Qwen2-72B-Instruct. Энкодер и слои эмбеддингов BGE-M3 во время обучения были заморожены, обучалась классификационная голова. Для бинарного отбора с порогом 3 авторы сообщают F1 73%. Репозиторий содержит веса Safetensors; размер модели — 658,7 млн параметров, базовая модель поддерживает контекст до 8194 токенов. Лицензия — Apache-2.0. Модель подходит для ранжирования и фильтрации страниц по их образовательной ценности, особенно для материалов начальной и средней школы. Качество может снижаться на данных, отличающихся от обучающего веб-корпуса, а также на материалах высшего образования и узкоспециализированных темах. Оценки могут наследовать смещения обучающих данных и разметки Qwen2; при оценке отдельной страницы модель не учитывает более широкий контекст.

ChatTS-8B-1103 — диалоговая модель ByteDance Research для понимания и рассуждений о временных рядах. Она построена на Qwen3-8B и дообучена на наборе ChatTS-Training-Dataset; содержит около 7,6 млрд параметров и использует архитектуру Qwen3TSForCausalLM. Модель принимает многомерные временные ряды переменной длины и размерности и поддерживает диалоговый анализ, включая вопросы о числовых значениях и статистических свойствах ряда. Модель предназначена для интерактивного исследования временных данных, поиска закономерностей и ответов на вопросы о пиках и изменениях в ряду. Контекст составляет до 40 960 токенов; заявлены английский и китайский языки. Для запуска используется Transformers, также README упоминает интеграцию с vLLM. Лицензия — Apache-2.0. README расходится в указании базовой модели для дообучения: в нём названы Qwen3-8B и Qwen2.5-14B-Instruct, тогда как метаданные и описание версии указывают на Qwen/Qwen3-8B.