II.8Инженерия данных и аналитика
В разделе собраны самостоятельные задачи, где AI помогает готовить надёжные данные и превращать их в понятную аналитику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
23 488 моделейLoudAI/kubwa-7b-josh — модель генерации текста, созданная слиянием SLERP двух предварительно обученных моделей: beomi/llama-2-ko-7b и defog/sqlcoder-7b-2. Это плотная авторегрессионная архитектура Llama, распространяемая в формате Safetensors и предназначенная для генерации текста; в состав объединённых моделей входит SQLCoder, поэтому модель может быть полезна для генерации SQL и работы с запросами к базам данных. Контекстное окно составляет 16 384 токена. Модель основана на Llama 2 с расширенным корейским словарём и сочетает её с SQLCoder-7B-2. Сведения о лицензии, подтверждённых языках самой объединённой модели и результатах её оценки в доступной карточке отсутствуют, поэтому её качество для SQL и корейского языка нельзя считать гарантированным.
Модель Gladiator/microsoft-deberta-v3-large_ner_wnut_17 — дообученная версия microsoft/deberta-v3-large для распознавания именованных сущностей в тексте на наборе WNUT 17. Она использует архитектуру DeBERTa V2 для классификации токенов, имеет 533,8 млн параметров и принимает последовательности длиной до 512 токенов. Подходит для извлечения сущностей из текста, в том числе упоминаний, характерных для пользовательского контента и социальных сетей. На оценочной выборке WNUT 17 модель показала F1 0,6848, точность 0,7671 и полноту 0,6184. Эти результаты относятся к указанному набору данных и не гарантируют аналогичного качества на других типах текста. Модель распространяется по лицензии MIT.
MyAwesomeModel — модель из репозитория DSD1231/MyAwesomeModel-TestRepo, предназначенная для извлечения признаков из текста. Согласно метаданным Hugging Face, она относится к архитектуре BERT и рассчитана на использование с библиотекой Transformers и PyTorch. Модель может применяться для получения векторных представлений текста, которые затем используются в задачах классификации, поиска похожих документов и других сценариях анализа текста. В README также заявлены возможности рассуждения, генерации кода, ответов на вопросы и работы с диалогами, однако они не согласуются с указанным pipeline-тегом feature-extraction и не подтверждены техническими характеристиками модели. Модель распространяется по лицензии MIT.
MyAwesomeModel — модель из репозитория lfeng03/MyAwesomeModel-TestRepo, опубликованная для использования с библиотекой Transformers и PyTorch. По метаданным Hugging Face она относится к архитектурному семейству BERT и предназначена для извлечения признаков из текста. Основной сценарий применения — получение векторных представлений, которые затем можно использовать в задачах классификации, поиска и анализа текста. В README модель также описывается как обновлённая система с улучшенными способностями к рассуждению, математике, программированию, логике, генерации текста, суммаризации, переводу и function calling. Однако заявленные в README характеристики генеративной чат-модели не согласуются с метаданными, где pipeline_tag указан как feature-extraction; поэтому для каталога надёжнее ориентироваться на извлечение признаков и BERT-подобную архитектуру. Модель распространяется по лицензии MIT.
mohsayed/para_tr_enar_1 — дообученная модель Sentence Transformers на основе sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2, разработанная автором репозитория mohsayed. Она преобразует предложения и абзацы в плотные 384-мерные векторы; близость текстов можно оценивать косинусным сходством. Модель предназначена для семантического поиска и сравнения предложений, поиска перефразирований, кластеризации и классификации текста. Модель использует архитектуру BERT с усреднением токеновых представлений. В README указана максимальная длина последовательности 128 токенов, тогда как метаданные сообщают нативный контекст 512 токенов. Обучение описано на парах предложений размером 17 702 примера с MultipleNegativesRankingLoss; примеры и оценки включают соответствия между английскими и арабскими названиями товаров. Это указывает на специализацию дообучения на сопоставлении таких текстов, хотя README также заявляет более широкие сценарии применения. Практические сценарии включают поиск похожих товарных наименований, сопоставление вариантов написания и семантический поиск по коротким текстам. Для длинных входов следует учитывать предел последовательности, указанный в README. Лицензия в предоставленных данных не указана.
PatchTST-FM-r1 — модель временных рядов на архитектуре PatchTST, опубликованная IBM Research. Она предназначена для прогнозирования временных рядов, в том числе на новых данных без отдельного обучения на целевом наборе. Модель также может одновременно заполнять пропуски в историческом контексте и прогнозировать будущий период. Архитектура использует трансформер с патчами длиной 16, размерностью d_model 1024 и вероятностной выходной головой на 99 квантилей. Контекст при прогнозировании может составлять до 8192 временных точек; модель обучена на данных из GiftEvalPretrain, синтетических рядах и наборах TSMixup. В метаданных указано 335,5 млн параметров. Модель рассчитана на числовые временные ряды и выдаёт прогнозы, включая квантильные оценки. Карточка описывает эту версию как исследовательскую и некоммерческую; лицензия CC BY-NC-SA 4.0. Следует учитывать лицензии исходных наборов данных. README приводит оценку размера около 260 млн параметров, тогда как метаданные указывают 335,5 млн.
RIOLITE/products_matching_aumet — модель на базе BERT, разработанная RIOLITE и упакованная для работы с Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 384 для поиска семантически похожих текстов и кластеризации. Модель принимает текст и выдаёт эмбеддинги; её контекст ограничен 512 токенами, размер составляет 25,9 млн параметров. Модель подходит для сопоставления описаний товаров, семантического поиска по каталогу и группировки похожих товарных записей. В карточке указано обучение с CosineSimilarityLoss. Доступен формат PyTorch; сведения о лицензии в предоставленных данных отсутствуют.
RoBERTa_Test_Training — дообученная ICT2214Team7 модель DistilRoBERTa для классификации токенов. Она обучена на датасете CoNLL-2003 и предназначена для разметки последовательностей, в частности для задач распознавания сущностей в тексте. Модель содержит 95,2 млн параметров, использует архитектуру RoBERTa и принимает контекст длиной до 514 токенов. Опубликована в формате Safetensors по лицензии Apache-2.0. В README приведены результаты на оценочной выборке: F1 0,9529, точность 0,9880, precision 0,9508 и recall 0,9550. Эти показатели относятся к указанной оценочной выборке; подробности разбиения данных и ограничения применения не описаны.
Модель suriya7/t5-base-text-to-sql — дообученная версия T5 для преобразования вопросов на естественном английском языке в SQL-запросы SELECT. Она предназначена для получения данных из баз по текстовым вопросам; в карточке приведён сценарий автоматического перевода вопросов в SQL. Архитектура — encoder-decoder T5 с 38,5 млн параметров и контекстом до 512 токенов. Модель работает с текстовым вводом и выдаёт SQL-текст на английском языке. В README указано, что модель основана на Google T5-small и дообучена на парах английских вопросов и SQL SELECT из разных предметных областей; метаданные также связывают её с датасетом b-mc2/sql-create-context. Для оценки в карточке приведён BLEU 34,9627. Лицензия — MIT. Модель узкоспециализирована на SELECT: карточка не подтверждает поддержку записи данных, других SQL-операций или адаптацию к конкретной схеме базы данных.
Tinytron TinyLlama Instruct Code Python Spanish English Assistant 16Bit V2 — чат-модель для генерации кода, опубликованная Francisco Angulo de Lafuente (Agnuxo) в экосистеме P2PCLAW. Это плотная авторегрессионная модель семейства Llama с примерно 1 млрд параметров и контекстом 2048 токенов; веса представлены в формате safetensors и предназначены для локального запуска. Модель ориентирована на помощь с программированием: в карточке заявлены Python, JavaScript, TypeScript, Rust, Go и C++, научные вычисления с NumPy, SciPy и Pandas, а также задачи машинного обучения с PyTorch, TensorFlow и JAX. README называет английский и испанский языки; метаданные подтверждают языковые коды en и es. Указана лицензия Apache-2.0. Компактный размер подходит для локального использования, однако контекст ограничен 2048 токенами; независимые результаты оценки качества в предоставленных данных отсутствуют.
Многоязычная модель универсальной разметки частей речи из библиотеки Flair. Она размечает слова в тексте универсальными POS-тегами, например прилагательное, наречие или предлог; модель основана на Flair embeddings и архитектуре LSTM-CRF и поставляется как стандартная модель для этой задачи в Flair. Модель охватывает английский, немецкий, французский, итальянский, нидерландский, польский, испанский, шведский, датский, норвежский, финский и чешский языки. В README указан F1-score 96,87 на 12 деревьях зависимостей Universal Dependencies. Метаданные указывают формат PyTorch. Сведения о лицензии и размере модели в предоставленных данных отсутствуют.
mozilla.ai дообучила модель openai/whisper-large-v3-turbo для распознавания речи на бенгальском языке. Это плотная модель Whisper с архитектурой WhisperForConditionalGeneration и 905,2 млн параметров, предназначенная для преобразования бенгальской аудиозаписи в текст. Дообучение выполнено на 21 409 аудиозаписях бенгальского раздела CV Corpus 21.0. В README приведены результаты дообучения: нормализованная частота ошибок слов снизилась с 78,843 до 11,053, а нормализованная частота ошибок символов — с 62,521 до 6,059. Модель загружается через Transformers и распространяется в формате safetensors. Лицензия — Apache-2.0.
DeepPavlov/xlm-roberta-large-en-ru — версия XLM-RoBERTa, разработанная DeepPavlov, с уменьшенным до наиболее частотных токенов английского и русского языков словарём и соответствующими эмбеддингами. Это плотная модель на архитектуре XLM-RoBERTa с 438,5 млн параметров, предназначенная для извлечения признаков из текста и получения текстовых представлений на английском и русском языках. Контекст модели составляет до 514 токенов. Она подходит для построения признаковых представлений в многоязычных текстовых системах; в доступной карточке не описаны специализированные задачи или сравнительные результаты. Модель опубликована в формате PyTorch.
AIguard-0.6B-PII-Chinese — модель классификации токенов для выявления и извлечения 21 категории персональных данных в китайскоязычных текстах. Она дообучена разработчиками проекта ZJUICSR на базе Qwen3-0.6B и рассчитана на защиту конфиденциальности, проверку соответствия требованиям и подготовку данных к обезличиванию. Модель использует архитектуру Qwen3 с плотными весами, содержит около 507,9 млн параметров и принимает текстовые последовательности. В README рекомендовано разбивать длинные входы на фрагменты до 512 токенов, хотя контекст модели составляет 40 960 токенов. В карточке заявлены entity-level F1 96,29% и 21 тип чувствительных сущностей; обучение проводилось на синтетических примерах с ручной проверкой и охватывало несколько сфер повседневной жизни. Модель подходит для поиска утечек PII в диалогах и журналах, извлечения персональных данных из документов и последующего маскирования. Она обучена для китайского языка. Лицензия — Apache-2.0. Качество на реальных данных может отличаться от результатов тестирования на синтетических примерах. Для номера отслеживания YTO авторы отмечают низкую полноту и рекомендуют дополнительную проверку правилами; модель также не гарантирует выявление поддельных или изменённых идентификационных данных, а результаты в важных сценариях следует проверять вручную.
BANonymizer-PL — дообученная NASK-PIB модель на базе HerBERT-large-cased, разработанного Allegro, для поиска и анонимизации персональных данных в польских текстах. Она использует архитектуру BERT для классификации токенов; в репозитории указано около 453,9 млн параметров, а длина контекста составляет 514 токенов. Модель обучена на наборе BAN-PL с более чем 20 тысячами вручную размеченных примеров и предназначена для обнаружения фамилий и псевдонимов в сценариях защиты приватности, например при подготовке наборов данных для исследований. Она также различает эти сущности и упоминания умерших людей, исторических фигур и вымышленных персонажей, которые не следует анонимизировать. Доступна по лицензии Apache 2.0. Модель ориентирована на польский язык и разметку токенов; README не описывает другие типы персональных данных. Её контекст ограничен 514 токенами.
Модель Portuguese NER BERT-CRF HAREM Default — дообученная модель на основе BERT для распознавания именованных сущностей в португальском тексте. Она использует декодер Conditional Random Fields (CRF) и схему разметки HAREM Default; также доступны варианты схем HAREM Selective и CoNLL-2003. Модель предназначена для извлечения и классификации именованных сущностей в тексте. Её можно применять через pipeline для NER в библиотеке Transformers или интегрировать в экосистему Hugging Face. В README приведён результат F1 0,787 на Miniharem Testset. Модель распространяется в форматах PyTorch и Safetensors по лицензии Apache-2.0. Результат на тестовом наборе не гарантирует аналогичного качества на других данных; качество может зависеть от соответствия текста и схемы разметки HAREM.
Модель Jorgeutd/bert-large-uncased-finetuned-ner — англоязычная модель распознавания именованных сущностей, созданная дообучением Google BERT Large Uncased на наборе CoNLL-2003. Это трансформер BERT с архитектурой BertForTokenClassification, примерно 433,9 млн параметров и контекстом до 512 токенов. Модель принимает текст и присваивает метки токенам, позволяя выделять сущности в тексте; для запуска доступен конвейер NER в Transformers. На тестовой выборке CoNLL-2003 указаны F1 0,954, точность 0,9505 и полнота 0,9575. Модель рассчитана на англоязычные новостные тексты, сходные с обучающими данными; в других предметных областях и временных периодах качество может снижаться. Иногда сущностями помечаются части слов, поэтому результатам может потребоваться постобработка. Лицензия Apache-2.0.
ckiplab/bert-tiny-chinese-ner — компактная модель семейства BERT от CKIP для распознавания именованных сущностей в традиционном китайском тексте. Она относится к архитектуре BertForTokenClassification, содержит 12,8 млн параметров и принимает последовательности длиной до 512 токенов. Для токенизации автор рекомендует BertTokenizerFast. Модель предназначена для извлечения сущностей из китайского текста; это часть проекта CKIP с инструментами для сегментации слов, разметки частей речи и распознавания сущностей. В метаданных указана поддержка китайского языка и формат PyTorch. Лицензия — GPL-3.0.
Модель TweebankNLP/bertweet-tb2_wnut17-ner — модель распознавания именованных сущностей в сообщениях Twitter, разработанная проектом TweebankNLP. Это RoBERTa-модель для классификации токенов с 162,4 млн параметров и контекстом до 130 токенов. Она обучена на объединённых обучающих данных Tweebank-NER и WNUT 17; в статье названа HuggingFace-BERTweet (TB2+W17). Для лучшего качества твиты рекомендуется предварительно обрабатывать с помощью TweetTokenizer. В README сообщается результат 74,35% Entity-Level F1 на бенчмарке Tweebank V2 NER. Модель подходит для извлечения сущностей из коротких сообщений в социальных сетях. Лицензия CC BY-NC 4.0 разрешает использование с атрибуцией, но ограничивает коммерческое применение.
akoksal/bounti — модель для анализа тональности турецких текстов, дообученная автором карточки на базе BERTurk 128k uncased с датасетом BounTi. Это плотная архитектура BERT для классификации последовательностей; модель принимает текст и присваивает ему метку положительной, нейтральной или отрицательной тональности. Она рассчитана на короткие сообщения, в частности публикации в Twitter, и поддерживает турецкий язык. Размер модели — 211,6 млн параметров, контекст — до 512 токенов. В README приведены результаты на тестовой выборке: accuracy 0,723 и F1 0,701. Модель можно использовать для автоматической разметки тональности турецких сообщений и анализа общественного мнения. Лицензия в предоставленных данных не указана.
Sharathhebbar24/code_gpt2 — дообученная автором модель GPT-2 для генерации кода по текстовой инструкции или подсказке. Она создана на основе Sharathhebbar24/code_gpt2_mini_model с использованием набора Evol-Instruct-Code-80k-v1; в метаданных также указаны обучающие наборы UltraChat 200k, CodeLlama-2-20k, orca_dpo_pairs и sql-create-context. Модель имеет архитектуру GPT2LMHeadModel, принимает текст и генерирует продолжение, сохраняя веса в формате safetensors. Модель предназначена для генерации фрагментов кода и ответов на инструкции, связанные с кодом. Карточка описывает базовый GPT-2 как обученный на английских текстах; метаданные отмечают английский язык. Контекст ограничен 1024 токенами. Репозиторий распространяется по лицензии Apache-2.0. В README приведены оценки на нескольких тестах языкового моделирования и рассуждений, но они не дают полной оценки качества генерации кода.
EvanD/dutch-ner-xlm-conll2003 — переупакованная в формат PyTorch Hugging Face модель распознавания именованных сущностей на нидерландском языке. Автор сообщает, что это преобразованная копия flair/ner-dutch-large; архитектура XLM-RoBERTa с головой классификации токенов, около 658,7 млн параметров и контекстом до 514 токенов. Модель предназначена для разметки нидерландского текста именованными сущностями. Её можно применять для извлечения сущностей из документов, новостей и других текстовых материалов. Репозиторий содержит веса PyTorch; лицензия в предоставленных данных не указана.
Fracast-0 — компактная предварительно обученная модель временных рядов, разработанная Tianxiang Zhan. Она содержит 85 001 параметр и предназначена для вероятностного прогнозирования: по истории длиной до 2 048 наблюдений модель предсказывает 48 будущих точек и выдаёт девять квантилей от 0,1 до 0,9. Модель доступна в форматах FP32 и W8; небольшой размер позволяет запускать её непосредственно в веб-странице. Для использования доступна библиотека fracast. Модель подходит для прогноза временных рядов, например продаж, солнечной генерации и показателей облачной инфраструктуры. Многоканальный ввод обрабатывается независимо по каждому каналу: модель не учитывает взаимосвязи переменных и будущие ковариаты. Для входа требуется минимум восемь конечных наблюдений на канал; пропуски можно передавать как NaN. Горизонт длиннее 48 точек формируется последовательным продолжением медианных прогнозов, а квантильные пересечения не исправляются постобработкой. В README приведены результаты оценивания на GIFT-Eval и TIME, однако для GIFT-Eval раскрыто пересечение обучающих данных с семействами тестовых наборов, а часть задач TIME использует продолжение прогноза за исходный горизонт. Модель распространяется по лицензии Apache-2.0.
gliner2-large-v1-redocred — модель извлечения информации на базе GLiNER2, разработанная whr778 и дообученная от fastino/gliner2-large-v1 на наборе Re-DocRED. Она предназначена для извлечения именованных сущностей и отношений между ними в англоязычных документах; карточка также относит её к задачам извлечения событий и классификации. Набор Re-DocRED содержит 6 типов сущностей и 96 типов отношений. В слепом тесте F1 для сущностей составил 0,860 при строгой и 0,907 при расслабленной оценке; для отношений — 0,287 и 0,350 соответственно. Низкий recall отношений (0,186 строго, 0,227 расслабленно) ограничивает полноту извлечения. Модель работает с текстом и распространяется в формате safetensors; лицензия указана как other, поэтому перед использованием следует проверить условия в карточке модели.
treamyracle/indobert-ner-gold — модель для распознавания именованных сущностей в индонезийском тексте, разработанная автором репозитория и дообученная на базе indobenchmark/indobert-large-p1. Это плотная модель семейства BERT для классификации токенов: она принимает текст и выделяет сущности, используя 19 типов меток. Контекст модели — до 512 токенов. Модель предназначена для извлечения персон, организаций, мест, геополитических объектов, объектов инфраструктуры, событий и других сущностей. В карточке описано обучение в два этапа: на синтетических данных, размеченных автоматически, затем на вручную размеченном индонезийском наборе NERGRIT. Автор сообщает результаты на наборах NERUI и NERUGM, однако эти показатели приведены в README и не являются независимой проверкой. Модель распространяется по лицензии MIT.
Kwai-AutoSQL-32B — языковая модель Kwai, дообученная на базе Qwen/Qwen3-32B. Репозиторий содержит только веса, без скриптов обучения и инференса. Модель предназначена для генерации текста; название указывает на применение к задачам, связанным с SQL, однако README не описывает конкретные сценарии или качество работы с SQL. Модель имеет плотную архитектуру Qwen3ForCausalLM с 29,7 млрд параметров и контекстом до 40 960 токенов. Она принимает текст и генерирует текст; в метаданных заявлена поддержка чата. В карточке не перечислены поддерживаемые естественные языки. Веса представлены в формате safetensors. Лицензия — Apache License 2.0.
FineEnvs выпустила полноразмерное дообучение LiquidAI/LFM2.5-2.6B для агентных задач анализа данных с OpenCode. Это плотная авторегрессионная модель семейства LFM2 с 2,6 млрд параметров, принимающая текст и выдающая текст; заявленная длина контекста — 131 072 токена. Модель обучали с асинхронным GRPO, поощряя правильность ответов и эффективность использования инструментов. Репозиторий содержит полные веса, токенизатор и шаблон чата, а не LoRA-адаптер. Модель предназначена для выполнения задач анализа данных агентом с инструментами в среде OpenCode. На 250 тестовых заданиях SmolDataEnvs итоговый чекпойнт показал 52,3% pass@1 в четырёх оценочных средах; результат зависит от среды и версии агентского инструментария. Для воспроизведения оценок нужны соответствующие инструменты и среда выполнения; обычный чатовый запрос не эквивалентен этой оценке. Карточка указывает английский язык, библиотеку Transformers и лицензию other, условия которой следует проверять в репозитории.
BaSalam/Llama2-7b-entity-attr-v2 — дообученная причинная языковая модель семейства Llama, представленная как версия 2 генератора каталожных данных о товарах. Модель принимает текстовое описание товара и формирует структурированный ответ с атрибутами и категориями товара; пример в карточке показывает результат на персидском языке. Модель предназначена для извлечения характеристик товаров и определения их сущностей или категорий при подготовке каталогов. Она содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и поддерживает контекст до 4096 токенов. В качестве данных для дообучения указан набор BaSalam/entity-attribute-sft-dataset-GPT-4.0-generated-v1; метаданные отмечают персидский и английский языки. Модель опубликована под лицензией MIT. Карточка демонстрирует JSON-подобный структурированный вывод, однако не сообщает об отдельной гарантии валидности JSON. Качество может зависеть от языка и формата входных описаний; приведённый пример относится к персидскому языку.
LlavaGuard v1.1-7B — мультимодальная модель семейства LLaVA, разработанная исследователями TU Darmstadt для оценки безопасности изображений и отбора визуальных данных. Она принимает изображение вместе с текстовым запросом и формирует текстовый ответ с оценкой и обоснованием; версия 1.1 улучшает рассуждения в пояснениях по сравнению с предыдущей версией. Модель предназначена для проверки изображений на соответствие заданной таксономии безопасности и помощи при курировании наборов данных. Веса преобразованы для библиотеки Transformers и опубликованы в формате Safetensors. Для дообучения или запуска через SGLang авторы рекомендуют обратиться к базовой модели. Лицензия и точный размер контекста в предоставленных данных не описаны.
AksharaBalan разработал эту модель на основе l3cube-pune/malayalam-bert, дообучив её для классификации токенов. Архитектура — BERT; модель предназначена для разметки последовательностей текста на малаялам, в том числе для распознавания именованных сущностей. Она принимает текст и выдаёт метки для его токенов. Размер модели — 264,8 млн параметров, контекст — до 512 токенов. В карточке указана оценка loss 0,3393 на наборе для оценки, однако набор данных, схема меток и подробные результаты не описаны. Модель доступна по лицензии CC BY 4.0.