II.8Инженерия данных и аналитика
В разделе собраны самостоятельные задачи, где AI помогает готовить надёжные данные и превращать их в понятную аналитику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
23 488 моделейЭто компактная модель Qwen2.5-Coder-0.5B-Instruct, дообученная автором giangkh19 для преобразования схемы таблицы и вопроса на естественном языке в запрос pandas. Веса LoRA ранга 8 уже объединены с базовой моделью, поэтому репозиторий можно загружать для генерации без PEFT. Модель содержит 494 млн параметров, использует архитектуру Qwen2ForCausalLM и поддерживает контекст до 32 768 токенов. Модель предназначена для ответов на вопросы по одиночным таблицам в стиле WikiSQL: на вход подаются имя таблицы, названия и типы столбцов и вопрос, на выходе генерируется запрос pandas. В README приведён результат exact match 79,1% на оценке из 6 000 примеров, однако автор отмечает пересечение обучающих и оценочных данных и мягкую проверку формата. Модель обучалась только на англоязычных вопросах по одиночным таблицам; сложная многошаговая аналитика и реальные DataFrame выходят за пределы распределения обучения, а арифметически сложные фильтры могут давать ошибки. Лицензия — Apache-2.0.
Модель ayameRushia/roberta-base-indonesian-1.5G-sentiment-analysis-smsa — дообученная на датасете indonlp/indonlu модель RoBERTa для классификации тональности текста. Её можно применять для определения тональности индонезийских текстов; карточка приводит пример запуска через Transformers с задачей text-classification. Модель основана на cahya/roberta-base-indonesian-1.5G, содержит 153,2 млн параметров и имеет контекст длиной до 514 токенов. В карточке указаны accuracy 0,9262 и loss 0,4294 на оценочном наборе. Доступны веса в формате PyTorch; лицензия в предоставленных данных не указана.
Модель pulkitchowdry/sample-agnews-classifer предназначена для классификации новостных заголовков по четырём категориям: World, Sports, Business и Science/Technology. Для токенизации используется BERT-токенизатор из bert-base-uncased, а классификацию выполняет пользовательская многослойная перцептронная сеть с линейными слоями и активацией ReLU. Модель разработана на PyTorch и опубликована в формате safetensors. По данным карточки, точность на тестовой выборке AG News составляет 91%. Модель нечувствительна к регистру и рассчитана на англоязычные новости. Она ограничена четырьмя указанными категориями, а предсказания могут быть смещёнными. Лицензия — MIT.
Shoshan — это контекстный лемматизатор иврита, разработанный HebArabNlpProject. Модель дообучена на основе DictaBERT и размечает слова, выбирая лемму из банка примерно из 117,6 тыс. вариантов; если выбранная лемма морфологически неправдоподобна для исходной формы, модель применяет ограниченное преобразование по выученному скрипту правок. Она не генерирует произвольные строки. Модель предназначена для лемматизации предложений и документов на иврите, в том числе текста, извлечённого из PDF. Согласно README, точность лемматизации составляет 92,4% на данных вне обучающей области и 94,3% внутри неё. Обновление Shoshan 0.4.0 исправило обработку Unicode presentation forms и смещения символьных диапазонов; веса при этом не менялись. Модель обучена на открытых частях корпуса IAHLT Hebrew UD Treebank (Knesset и Wikipedia) и публичных ивритских лексиконах. Лицензия — MIT.
Slop-Detector-v4-preview-06-27 — англоязычная модель классификации текста, разработанная DrRiceIO7 на основе unsloth/ModernBERT-base. Это дообученный ModernBERT с архитектурой ModernBertForSequenceClassification и 149 млн параметров; модель принимает текст и выдаёт метку класса. Контекст составляет до 8192 токенов. Модель предназначена для обнаружения «слопа» в тексте с помощью классификации. Она может подойти для фильтрации и предварительной проверки текстов в пользовательских или редакционных процессах. Модель распространена в формате safetensors и выпущена по лицензии Apache-2.0.
SPEED-synthesis-8b-senior — модель генерации текста, представленная Haonan Chen как старший генератор данных в рамках проекта SPEED. В статье «Little Giants: Synthesizing High-Quality Embedding Data at Scale» модель используется для синтеза обучающих данных; карточка демонстрирует генерацию данных для классификации. Модель основана на дообученной Meta-Llama-3-8B с плотной архитектурой LlamaForCausalLM и содержит 7,5 млрд параметров. Она принимает текст и генерирует текст, поддерживает английский язык и контекст до 8192 токенов. Репозиторий содержит веса Safetensors; лицензия — MIT. Модель предназначена для синтеза высококачественных данных для обучения моделей, в частности примеров для задач классификации. Доступные сведения не раскрывают метрики качества или полный набор сценариев применения, поэтому пригодность синтетических данных следует проверять для конкретной задачи.
sqlpup-394m-sft-grpo — текстовая генеративная модель для преобразования вопросов на естественном языке в SQL, разработанная shivenkk. Это декодер Llama-стиля с 394,3 млн параметров, обученный с нуля на 9,67 млрд токенов, затем прошедший supervised fine-tuning и этап GRPO с наградой за выполнение запросов. Архитектура включает 32 слоя, grouped-query attention, RoPE, SwiGLU и RMSNorm; контекст — 2048 токенов. Модель использует байтовый BPE-токенизатор с 32 768 элементами. Модель предназначена для генерации SQL по вопросу пользователя, схеме базы данных в виде операторов CREATE TABLE и строке evidence из формата BIRD. Она выводит комментарий с предполагаемыми таблицами и столбцами, а затем SQL. На dev-разбиении BIRD точность выполнения составила 18,12% при жадном декодировании, 19,23% с уплотнением схемы и 23,51% при уплотнении и голосовании по семи вариантам. Эти результаты показывают ограниченную точность и относятся только к BIRD dev. Модель распространяется по лицензии MIT. Короткое окно контекста затрудняет работу с крупными схемами без этапа их уплотнения; около 1% вопросов dev-разбиения не дают разбираемого SQL в конфигурации голосования.
stanfordnlp/stanza-multilingual — пакет моделей Stanza, разработанный Stanford NLP для лингвистического анализа текстов на многих языках. Он обрабатывает текст от базовой языковой обработки до синтаксического анализа и распознавания именованных сущностей; в метаданных Hugging Face основная задача указана как классификация токенов. Модели доступны через библиотеку Stanza и хранятся в формате PyTorch. Репозиторий предназначен для многоязычной обработки естественного языка, включая анализ структуры предложений и выделение сущностей. Лицензия — Apache 2.0. В карточке не приведены сведения о размере моделей и длине контекста.
TableMind — языковая модель Qwen2.5-1.5B-Instruct, дообученная Samandar1105 методом QLoRA на 6 956 примерах из WikiTableQuestions для ответов на вопросы по таблицам. Она принимает вопрос и содержимое таблицы или документа, предоставленные при запросе, и формирует ответ, опираясь на эти данные. Предназначена для использования с поисковым слоем RAG, который находит и передаёт нужные материалы; модель сама не содержит знаний о пользовательских таблицах. Модель имеет плотную архитектуру Qwen2ForCausalLM, 1,5 млрд параметров и контекст до 32 768 токенов. В карточке указана поддержка английского языка и лицензия Apache-2.0. Для числовой точности на больших таблицах рекомендуется связка с выполнением кода и RAG; модель не предназначена для ответов на общие вопросы, не связанные с переданной таблицей.
TAPAS medium — разработанная Google модель семейства TAPAS на базе BERT, предназначенная для получения представлений таблиц и связанного с ними текста. Модель содержит 49,2 млн параметров, предобучена на англоязычных таблицах Википедии и тексте с помощью masked language modeling и дополнительного этапа для рассуждений о числах и табличном следовании. По умолчанию используются относительные позиции, сбрасываемые в каждой ячейке таблицы; доступна версия с абсолютными позиционными эмбеддингами через revision="no_reset". Модель принимает текстовый вопрос или предложение вместе с сериализованной таблицей и выдаёт скрытые представления для последующей обработки. Её можно дообучить для ответов на вопросы по таблицам, классификации и определения, подтверждается ли утверждение содержимым таблицы. Максимальная длина входа при предобучении составляла 512 токенов; для прикладных задач обычно требуется дообученная версия с подходящей классификационной головой. Доступна по лицензии Apache-2.0.
Tennda-Nano — компактная языковая модель для генерации кода, разработанная командой Tennda. Она предназначена для выполнения инструкций и выдачи коротких ответов, в том числе для генерации SQL-запросов. В README указана архитектура Transformer-декодера из 35 слоёв и параметрически эффективное локальное обучение; метаданные относят модель к семейству Gemma 4 и указывают класс Gemma4ForConditionalGeneration. README описывает полные веса для инференса и пример запуска через MLX на компьютерах Apple Silicon с mlx-lm версии 0.30 или новее; для работы заявлено не менее 16 ГБ памяти, предпочтительно 24 ГБ. Модель ориентирована прежде всего на англоязычные инструкции по коду. Разработчик приводит предварительную ручную оценку: 100% точности на двух SQL-примерах и соответствие формату прямого ответа в двух из трёх случаев; этих малых выборок недостаточно для надёжной оценки качества. Лицензия в метаданных указана как other, конкретные условия README не описывает.
cardiffnlp/twitter-xlm-roberta-base-sentiment-multilingual — модель Cardiff NLP для определения тональности публикаций в социальных сетях. Это XLM-RoBERTa с архитектурой классификатора последовательностей, дообученная на мультиязычном наборе твитов cardiffnlp/tweet_sentiment_multilingual. Модель содержит 305,2 млн параметров и принимает текст с контекстом до 514 токенов. Модель предназначена для классификации тональности твитов и похожих коротких сообщений; для загрузки авторы предлагают библиотеку tweetnlp. На тестовой выборке указаны F1 micro 0,693, F1 macro 0,693 и accuracy 0,693. В карточке не указаны лицензия и точный перечень поддерживаемых языков, поэтому их нельзя конкретизировать.
Trendyol разработала TY-ecomm-embed-multilingual-base-v1.2.0 — многоязычную модель Sentence Transformers, дообученную на электронной коммерции поверх дистиллированной Alibaba-NLP/gte-multilingual-base. Она кодирует текст в плотные векторы размерностью 768 для семантического поиска товаров, сравнения запросов и описаний, классификации, кластеризации и извлечения признаков. Сходство векторов можно оценивать косинусной мерой; поддерживаются укороченные представления размерностью 512 и 128. Модель рассчитана прежде всего на турецкие и многоязычные запросы в электронной коммерции: карточки товаров, атрибуты, перефразирование запросов и категоризацию. В метаданных перечислены турецкий, арабский, английский, немецкий, болгарский, венгерский, румынский, словацкий, польский, чешский и греческий языки. Карточка заявляет ограничение входа в 384 токена, тогда как метаданные указывают контекст 8192 токена; при длинных текстах следует учитывать описанное в README усечение до 384 токенов. Лицензия — Apache-2.0. Качество может снижаться вне товарной и электронной коммерции, например на юридических, медицинских и узкоспециальных текстах. Модель может ошибочно считать похожими тексты с общими словами или частыми сочетаниями из обучающих данных; большая часть обучающих данных, согласно карточке, турецкоязычная.
WangchanBERTa-finetuned-sentiment — модель классификации текста, разработанная пользователем poom-sci на базе архитектуры CamemBERT. Она дообучена для анализа тональности тайскоязычных текстов и классифицирует высказывания как положительные, нейтральные или отрицательные. Модель предназначена для автоматического анализа отзывов, комментариев и пользовательских сообщений на тайском языке. В обучении использовались наборы данных wongnai_reviews, wisesight_sentiment и generated_reviews_enth. Модель содержит около 132,5 млн параметров и поддерживает контекст длиной до 512 токенов; основной сценарий применения — pipeline text-classification в экосистеме Transformers и PyTorch. Примеры в карточке показывают обработку тайских отзывов и сообщений с положительной, нейтральной и отрицательной окраской. Модель создана только для учебных целей, поэтому её предсказания следует дополнительно проверять при использовании в продуктивных системах. Распространяется по лицензии Apache-2.0.
xlmr-large-ro-re — модель классификации отношений между двумя отмеченными сущностями в предложении, разработанная авторами из DS4AI-UPB. Это дообученный энкодер XLM-RoBERTa Large с классификационной головой; в метаданных указано 658,7 млн параметров и контекст 514 токенов. Модель поддерживает румынский и английский языки и предсказывает одну из 19 направленных меток отношений SemEval-2010 Task 8, которые соответствуют 10 укрупнённым типам отношений. Для оценки на английском и румынском тестовых данных SemEval авторы сообщают macro F1 0,875 и 0,857 соответственно. На вход подаётся предложение с двумя сущностями, выделенными специальными маркерами; на выходе — метка отношения и его направление. Модель подходит для извлечения причинно-следственных и других семантических связей между сущностями в румынском или английском тексте. Обучающие данные основаны на машинном переводе набора SemEval, поэтому их качество не эквивалентно проверенной вручную золотой разметке. Репозиторий распространяется под лицензией MIT.
ckiplab/albert-base-chinese — модель ALBERT от CKIP для обработки традиционного китайского языка. В репозитории представлены модели и инструменты для сегментации слов, разметки частей речи и распознавания именованных сущностей; этот чекпойнт предназначен для классификации токенов и распознавания сущностей. Модель использует архитектуру ALBERT и содержит 129,5 млн параметров. Она принимает текст и выдаёт метки для токенов; максимальная длина контекста — 512 токенов. Для токенизации автор рекомендует BertTokenizerFast вместо AutoTokenizer. Модель подходит для извлечения именованных сущностей из текстов на традиционном китайском языке. В карточке также упомянуты сегментация слов и разметка частей речи как задачи проекта, но подтверждённая задача этого чекпойнта — классификация токенов. Лицензия — GPL-3.0.
CKIP Lab разработала модель на базе BERT для сегментации слов на традиционном китайском языке. Она размечает входной текст по токенам и предназначена для применения в NLP-конвейерах, где требуется разделить китайскую строку на слова перед дальнейшим анализом. В репозитории представлены веса PyTorch и Flax; для токенизации автор рекомендует BertTokenizerFast. Модель содержит около 129,5 млн параметров и поддерживает контекст до 512 токенов. Модель рассчитана на сегментацию текста на традиционном китайском языке. README проекта также упоминает инструменты CKIP для разметки частей речи и распознавания именованных сущностей, но эти задачи не заявлены как возможности именно данного чекпойнта. Лицензия модели — GPL-3.0.
TweebankNLP/bertweet-tb2_ewt-pos-tagging — модель команды TweebankNLP для разметки частей речи в сообщениях Twitter и других коротких англоязычных текстах. Это модель RoBERTa для классификации токенов с 162,4 млн параметров и контекстом до 130 токенов, сохранённая в формате PyTorch. Модель обучена на объединённом обучающем корпусе Tweebank-NER и English-EWT. В карточке указана точность 95,38% на POS-бенчмарке Tweebank V2. Для лучшего качества авторы рекомендуют предварительно токенизировать твиты с помощью TweetTokenizer. Основная задача — присвоение каждому токену метки части речи. Лицензия CC BY-NC 4.0 допускает использование с атрибуцией и ограничивает коммерческое применение.
cardiffnlp/camembert-base-tweet-sentiment-fr — дообученная CardiffNLP модель CamemBERT-base для классификации тональности франкоязычных твитов. Она принимает текст и относит его к классам тональности; модель обучена на французской части набора cardiffnlp/tweet_sentiment_multilingual. На тестовой выборке указаны accuracy 72,76% и macro F1 72,81%. Модель содержит 137,8 млн параметров, использует архитектуру CamemBERT для классификации последовательностей и поддерживает контекст до 514 токенов. Лицензия в предоставленных данных не указана.
Causilo — предварительно обученная фундаментальная модель для табличных данных, разработанная Nums AI Inc. Она поддерживает классификацию и регрессию и предоставляет интерфейс, совместимый со scikit-learn; в репозитории есть отдельные веса и конфигурации для классификатора и регрессора. Модель предназначена для применения в задачах машинного обучения на структурированных таблицах. Для работы используются PyTorch и библиотека causilo; веса опубликованы в формате safetensors. В README указаны требования Python 3.10–3.12 и PyTorch 2.13 или новее. Лицензия обозначена как other, поэтому конкретные условия использования следует сверить с лицензией репозитория.
Экспериментальный чекпойнт языковой модели Qwen3-4B, созданный командой автора репозитория методом обучения с подкреплением OpenRLHF GRPO на базе Qwen/Qwen3-4B-Instruct-2507. Модель предназначена прежде всего для генерации кода и решения задач программирования: награда при обучении зависела от прохождения тестов сгенерированной программой. Чекпойнт выбран как лучший по pass@8 в описанном запуске; численные метрики оценки для него не приведены. Модель плотная, содержит 3,7 млрд параметров, принимает текст и поддерживает контекст до 262 144 токенов. Обучение проводилось на задачах, которые исходная модель решала редко, с GRPO, без KL-штрафа и с дополнительными штрафами за обрезанные и чрезмерно длинные ответы. Указана библиотека Transformers и формат весов safetensors. Лицензия в доступных данных не указана.
Это исследовательский чекпойнт Qwen3-4B, созданный командой agurung методом обучения с подкреплением OpenRLHF GRPO на базе Qwen/Qwen3-4B-Instruct-2507. Обучение проводилось непосредственно от базовой модели, без отдельного этапа SFT; в карточке указано, что сохранён шаг 8 и это лучший на данный момент чекпойнт запуска по pass@8. Модель предназначена для генерации кода и решения задач программирования. Её обучали на задачах, которые исходная модель решала редко, с бинарной наградой за прохождение тестов программы и штрафами за усечение длинных ответов. Модель имеет плотную архитектуру Qwen3ForCausalLM, около 3,7 млрд параметров и контекст до 262 144 токенов. Карточка не приводит итоговые метрики этого чекпойнта, поэтому преимущество по pass@8 отражает сравнение внутри данного запуска, а не подтверждённое общее качество. Доступные сведения не называют лицензию модели.
Это экспериментальный чекпойнт Qwen3-4B-Instruct-2507, дообученный методом обучения с подкреплением GRPO командой, опубликовавшей модель agurung. Обучение проводилось напрямую от базовой instruct-модели без отдельного этапа SFT; чекпойнт сохранён на шаге 4 и выбран как лучший в этом запуске по pass@8. Модель предназначена для генерации кода и решения задач программирования, оцениваемых прохождением тестов. Обучение использовало бинарную награду за корректность программы, а также штрафы за обрезанные и чрезмерно длинные ответы. Это плотная авторегрессионная модель на 3,7 млрд параметров с контекстом до 262 144 токенов; веса доступны в формате safetensors, загрузка поддерживается Transformers. README указывает, что метрики этого чекпойнта в журнале обучения отсутствуют, поэтому заявленное преимущество ограничено сравнением pass@8 внутри данного запуска. Лицензия в предоставленных данных не указана.
oddadmix/dialect-router-v0.1 — компактная модель на основе BERT, дообученная для определения арабского диалекта по тексту. Она классифицирует арабоязычные фразы по 11 кодам диалектов и языковых вариантов, используя энкодер Transformer с классификационной головой; размер модели — 12,4 млн параметров, максимальная длина входа — 512 токенов. Модель предназначена прежде всего для маршрутизации синтеза речи в Lahgtna: по диалекту выбираются соответствующая голосовая запись и языковой токен Chatterbox. Её также можно использовать для разметки арабских текстов в NLP-конвейерах, фильтрации контента и анализа наборов данных. Модель работает с арабским текстом и не предназначена для других языков. Короткие фрагменты, смешение арабского с другими языками и близкие географически диалекты могут приводить к ошибкам; полнота распознавания некоторых вариантов может быть ниже из-за смещения обучающего корпуса. Модель не следует использовать для определения личности или для высокорисковых решений без проверки человеком. Опубликована под лицензией MIT.
Карточка модели yrrhall/dialect-router-v0.1 на Hugging Face совпадает с карточкой oddadmix/dialect-router-v0.1, поэтому описание составлено по ней. oddadmix/dialect-router-v0.1 — компактная модель на основе BERT, дообученная для определения арабского диалекта по тексту. Она классифицирует арабоязычные фразы по 11 кодам диалектов и языковых вариантов, используя энкодер Transformer с классификационной головой; размер модели — 12,4 млн параметров, максимальная длина входа — 512 токенов. Модель предназначена прежде всего для маршрутизации синтеза речи в Lahgtna: по диалекту выбираются соответствующая голосовая запись и языковой токен Chatterbox. Её также можно использовать для разметки арабских текстов в NLP-конвейерах, фильтрации контента и анализа наборов данных. Модель работает с арабским текстом и не предназначена для других языков. Короткие фрагменты, смешение арабского с другими языками и близкие географически диалекты могут приводить к ошибкам; полнота распознавания некоторых вариантов может быть ниже из-за смещения обучающего корпуса. Модель не следует использовать для определения личности или для высокорисковых решений без проверки человеком. Опубликована под лицензией MIT.
emotiontrained31415 — модель классификации текста, созданная дообучением DistilBERT на наборе данных tweet_eval. Она предназначена для присвоения текстовым сообщениям классов; результаты на оценочной выборке tweet_eval: F1 0,7198 и loss 0,9274. Архитектура — DistilBertForSequenceClassification, формат весов — PyTorch, максимальная длина контекста — 512 токенов. Название модели указывает на эмоциональную классификацию, однако карточка не уточняет метки классов и целевой сценарий, поэтому конкретный набор эмоций подтвердить нельзя. Лицензия — Apache-2.0.
kevinwlip/financial-sentiment-model-1500-samples — модель классификации текста на основе DistilBERT, дообученная на неизвестном наборе данных; базовая модель — distilbert/distilbert-base-uncased. Она предназначена для классификации финансовых текстов по тональности. В оценке на тестовом наборе указаны accuracy и F1 по 0,7333, loss 0,7427, MSE 0,4767 и MAE 0,3367; данных о классах и составе обучающей выборки нет. Модель использует текстовый ввод, имеет контекст до 512 токенов и распространяется по лицензии Apache-2.0.
IceBERT-ner — модель для распознавания именованных сущностей в исландском тексте. Её разработчик дообучил vesteinn/IceBERT, модель семейства RoBERTa, на наборе данных mim_gold_ner. Модель содержит 151,6 млн параметров, принимает текст и выдаёт метки для его токенов; максимальная длина контекста — 514 токенов. На оценочной выборке модель показала F1 0,9396, точность 0,9352, полноту 0,9440 и accuracy 0,9920. Она подходит для автоматической разметки сущностей в исландских текстах; результаты могут отличаться на данных из других источников и жанров. Лицензия — GPL-3.0.
IndoBERT Halim MBG — модель классификации тональности комментариев в индонезийских социальных сетях на положительные и отрицательные. Карточка модели называет её бинарным классификатором; метаданные указывают архитектуру BERT с головой BertForSequenceClassification, библиотеку Transformers и 151,6 млн параметров. Модель принимает текст и выдаёт метку класса. Контекст — до 512 токенов. Модель подходит для анализа тональности индонезийских комментариев и мониторинга реакции аудитории в социальных сетях. Доступна под лицензией Apache-2.0.
Kairos-10M — компактная модель временных рядов, опубликованная mldi-lab и представленная в исследовательской работе «Kairos: Toward Adaptive and Parameter-Efficient Time Series Foundation Models». Она предназначена для прогнозирования временных рядов без дообучения на конкретной задаче и ориентирована на работу с данными из разных областей. Модель использует трансформерную архитектуру с адаптивной токенизацией патчей, кодировщиком с выбором размера токенов и динамическим позиционным кодированием DRoPE. В карточке указаны 3,7 млн параметров и контекст 512 токенов; README приводит приблизительную оценку в 10 млн параметров. Обучение проводилось на корпусе PreSTS, включающем более 300 млрд точек временных рядов. Kairos-10M заявлена как эффективная модель с обобщением на новые временные ряды без дополнительного обучения. Она работает с числовыми последовательностями и выдаёт прогнозы; сведения о поддерживаемых языках в карточке отсутствуют. Модель распространяется по лицензии Apache-2.0.