II.8Инженерия данных и аналитика
В разделе собраны самостоятельные задачи, где AI помогает готовить надёжные данные и превращать их в понятную аналитику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
23 488 моделейЭто модель распознавания именованных сущностей на испанском языке, разработанная Лаурой Валеро и Кристианом Валенсией в рамках учебного проекта Taller PLN магистратуры Univalle. Она обучена на испанской части CoNLL-2002 и предназначена для разметки токенов и извлечения сущностей из испаноязычного текста. Модель использует BiLSTM с выходным CRF, символьную CNN и 300-мерные испанские FastText-эмбеддинги cc.es.300. В карточке приведены результаты на тестовой выборке CoNLL-2002: F1 0,8064, точность 0,8066 и полнота 0,8061. Для загрузки пользовательского кода требуется trust_remote_code=True. Лицензия — CC BY-NC-SA 4.0.
Bonito-v1 — открытая модель условной генерации заданий, разработанная Nihal V. Nayak, Yiyang Nan, Avi Trost и Stephen H. Bach. Она преобразует неразмеченный текст в синтетические датасеты с инструкциями и примерами для дообучения языковых моделей на специализированных данных. Модель построена на архитектуре MistralForCausalLM, содержит 7,1 млрд параметров и принимает текст на английском языке. Её обучили на наборе BatsResearch/ctga-v1; контекстное окно составляет 32 768 токенов. Bonito предназначена для создания примеров таких задач, как суммаризация, анализ тональности, ответы на вопросы, классификация тем и перефразирование. Качество синтетических данных зависит от объёма и характера исходного неразмеченного текста. Карточка отмечает, что экспериментальные улучшения проверялись на трёх типах задач, а выходные данные могут содержать ошибки и смещения; их следует проверять и оценивать на целевых тестах. Модель не имеет защитного дообучения. Лицензия — Apache 2.0.
Репозиторий philschmid/clip-zero-shot-image-classification — форк openai/clip-vit-base-patch32, настроенный для задачи классификации изображений без предварительного обучения на заданных классах. Он предназначен для вызова через Hugging Face Inference Endpoints: запрос содержит изображение в Base64 и список текстовых кандидатов, а модель определяет соответствие изображения этим описаниям. В основе лежит архитектура CLIP; в метаданных указан формат PyTorch. README не сообщает размер модели, длину контекста или языковые ограничения. Лицензия в предоставленных данных не указана.
CodeMate-v0.1 — языковая модель и программный помощник, разработанный CodeMate. Она предназначена для генерации решений задач по программированию и принимает запросы в формате инструкций Alpaca/Vicuna. Модель основана на архитектуре Llama, имеет 33,5 млрд параметров и работает с контекстом до 16 384 токенов. По заявлению разработчика, модель дообучена на внутреннем наборе из 1,8 млрд токенов с задачами по программированию и решениями; поддерживает Python, C/C++, TypeScript, Java и другие языки программирования. Это версия 0.1, проверенная в ограниченном объёме. Используется лицензия Llama 2.
Модель msislam/code-mixed-language-detection-XLMRoberta предназначена для определения языка каждого токена и границ переключения языков в смешанном тексте. Автор дообучил XLM-RoBERTa-base для токенной классификации на подготовленных данных корпуса Multilingual Amazon Reviews Corpus. Модель поддерживает немецкий, английский, испанский и французский языки. Она принимает текст и возвращает метку языка для каждого токена, что позволяет анализировать переключение языков внутри предложений. Размер модели — 305,2 млн параметров, максимальный контекст — 514 токенов. В репозитории доступны веса PyTorch и Safetensors. Модель может ошибаться на коротких фрагментах другого языка внутри предложения, в имён собственных и отдельных межъязыковых словах; предсказания также зависят от пунктуации. Лицензия в предоставленных данных не указана.
Deita Quality Scorer — модель проекта Deita для автоматической оценки качества пар «инструкция — ответ» в данных для supervised fine-tuning языковых моделей. Она дообучена на базе Llama-1-13b-hf и предназначена для разметки качества инструкций и ответов при автоматическом отборе обучающих данных. Модель использует плотную архитектуру Llama и содержит 6,6 млрд параметров. Она принимает текст и генерирует оценку качества; README указывает английский как основной язык. Длина контекста составляет 2048 токенов. Модель распространяется в формате PyTorch по лицензии Apache-2.0.
aXhyra/demo_sentiment_31415 — модель классификации текста на основе DistilBERT, дообученная на наборе данных tweet_eval. Она предназначена для анализа тональности коротких текстов, в частности сообщений в стиле твитов. На оценочной выборке указана F1-мера 0,7114 и функция потерь 0,6332. Модель принимает текст, имеет контекст до 512 токенов и распространяется в формате PyTorch по лицензии Apache-2.0. Карточка не раскрывает набор меток и подробные ограничения качества.
Erlangshen-UniEX-RoBERTa-330M-Chinese — китайская модель семейства RoBERTa от команды Fengshenbang, предназначенная для извлечения информации из текста. Она сводит распознавание сущностей, извлечение отношений и событий к задачам над парами токенов, объединяя текст и метки в общем представлении с помощью Triaffine attention. По README, модель обучалась на слабой разметке из структурированных данных Baidu Baike и наборах данных для распознавания сущностей, извлечения отношений и событий, а также ответов на вопросы. Заявлены возможности few-shot и zero-shot извлечения. Модель имеет архитектуру BERT с классом BertForMaskedLM, содержит около 424,3 млн параметров и принимает контекст до 512 токенов. Опубликованный формат — PyTorch; лицензия — Apache-2.0. В README размер указан как 110 млн параметров, что расходится с метаданными Hugging Face.
FelaTab — модель для классификации и регрессии по табличным данным, разработанная lowdown-labs. Она получает строки с известными метками и строки-запросы, для которых нужно предсказать метку или значение, и делает прогноз за один проход без обучения на конкретной таблице. Модель обучена на синтетических таблицах и рассчитана на перенос этих закономерностей на ранее не встречавшиеся реальные данные. Архитектура — prior-fitted network с delta-rule линейным вниманием и landmark-вниманием по опорным строкам. Доступны вложенные варианты размером 51,6 млн и 411,9 млн параметров; веса опубликованы в формате safetensors, README также описывает рекомендуемые варианты int8. Модель принимает числовые признаки: до 100 столбцов-признаков и до 10 классов для классификации. Для классификации возвращает вероятности классов, для регрессии — прогноз и стандартное отклонение. FelaTab предназначена для быстрого прогнозирования и автозаполнения небольших и средних таблиц, включая сценарии работы с электронными таблицами и базами данных; заявлена работа на CPU без GPU. На приведённых в README тестах она служит сильной базовой моделью без настройки, но для максимальной точности, особенно в регрессии, авторы рекомендуют сравнивать её с настроенными градиентно-бустинговыми деревьями. Качество на существенно отличающихся распределениях следует проверять на отложенных данных; модель не следует использовать как единственное основание для важных решений. Лицензия — Apache-2.0; README обозначает выпуск как предварительную исследовательскую версию для оценки и развития открытой науки.
Food-or-Not-SigLIP2 — модель классификации изображений, созданная PrithivMLmods на основе дообучения визуально-языкового энкодера Google SigLIP2 Base Patch16-224. Она относит изображение к одному из двух классов: food или not-food. Модель построена на архитектуре SiglipForImageClassification и предназначена для распознавания пищевых продуктов на изображениях. Её можно применять в приложениях для питания, каталогах розничной торговли и электронной коммерции, модерации контента и сортировке наборов изображений. В отчёте README указана точность 87,74% на тестовой выборке из 8000 примеров, поровну распределённых между двумя классами. Модель принимает изображения и выдаёт метку класса. Лицензия — Apache-2.0.
IberLang — модель классификации аудио, разработанная для распознавания языков Пиренейского полуострова. Это дообученная Ugiat модель на основе openai/whisper-medium с архитектурой WhisperForAudioClassification и 455,8 млн параметров. Модель принимает аудио и определяет, звучит ли на нём испанский, каталанский, галисийский, баскский или окситанский язык. Модель предназначена для автоматической языковой идентификации, в том числе для региональных и малоресурсных языков. В оценке на отложенной выборке из 1200 аудиозаписей VoxLingua107 IberLang авторы сообщают точность 0,902 для каталанского, 0,96 для баскского, 0,915 для галисийского, 0,655 для окситанского и 1,0 для испанского; это результаты на конкретной выборке, а не гарантия качества на других данных. Модель распространяется в формате safetensors по лицензии CC BY 4.0. Указанную лицензию базовой модели и возможные ограничения её использования следует учитывать отдельно.
IndicBERT-v3-270M — многоязычная двунаправленная текстовая модель-компактный энкодер от AI4Bharat, построенная на архитектуре Gemma-3 и дообученная на базе google/gemma-3-270m-it. Она предназначена для задач классификации токенов, включая разметку последовательностей и извлечение сущностей. Модель обучалась с целью Masked Next Token Prediction (MNTP), при которой предсказание маскированного токена связано с представлением предыдущей позиции; при тонкой настройке важно учитывать этот сдвиг. Обучение включало английский и 23 индийских языка, в том числе хинди, тамильский, телугу, бенгальский, урду, непальский и санскрит. В README указан контекст обучения до 4096 токенов. Двунаправленное внимание подходит для энкодерных задач, но модель не является обычной причинной моделью для генерации текста; предназначенные для эмбеддингов и поиска варианты заявлены как будущие разработки. Модель распространяется по лицензии MIT.
JanusCoder-8B — языковая модель для работы с кодом из серии JanusCoder, разработанной как единый интерфейс для визуальных и программных задач. Модель основана на Qwen3-8B и дообучена на корпусе JANUSCODE-800K, содержащем синтетические примеры кода для графиков, веб-интерфейсов и анимации. Модель принимает текстовые инструкции и генерирует код для визуализаций данных, интерактивных веб-интерфейсов и анимаций. В карточке приведены результаты на PandasPlotBench, ArtifactsBench и DTVBench; отдельная модель JanusCoderV в семействе предназначена для мультимодального ввода, но JanusCoder-8B описана как текстовая модель. Это плотная архитектура Qwen3 с 7,6 млрд параметров и контекстом 32 768 токенов. Для запуска предусмотрена библиотека Transformers; веса опубликованы в формате Safetensors по лицензии Apache-2.0. Качество генерации зависит от сложности задания, а сама модель не принимает изображения напрямую.
LlavaGuard-v1.0-34B — мультимодальная языковая модель с архитектурой Llava/Llama, разработанная командой AIML-TUDA для оценки безопасности изображений и отбора визуальных данных. Она принимает изображение вместе с текстовым запросом и формирует текстовый ответ в диалоговом режиме; авторы представили её в работе LLAVAGUARD: VLM-based Safeguards for Vision Dataset Curation and Safety Assessment. Модель содержит 33,9 млрд параметров и рассчитана на контекст до 4096 токенов. Репозиторий содержит веса safetensors, преобразованные для SGLang; карточка также указывает совместимость с реализацией LLaVA. Версия несовместима с реализацией Transformers из Hugging Face. Авторы сообщают о возможности дообучения через LoRA или полного fine-tuning. Условия лицензии в предоставленных данных не описаны.
mljn/mdeberta-v3-base-finetuned-green-classification-new — дообученная модель классификации текста на базе многоязычной Microsoft DeBERTa V3 Base. Она предназначена для отнесения текстов к классам; конкретные классы и предметная область в карточке не раскрыты. Модель содержит 306 млн параметров, использует архитектуру DebertaV2ForSequenceClassification и принимает последовательности длиной до 512 токенов. Для набора оценки указаны accuracy 0,8927 и macro F1 0,8743; описание набора данных отсутствует, поэтому эти показатели нельзя переносить на другие данные. Модель распространяется по лицензии MIT.
Mitra Regressor — табличная модель общего назначения от AutoGluon, предварительно обученная на синтетических наборах данных, полученных с помощью случайных регрессоров. Она предназначена для задач регрессии по табличным данным и использует обучение в контексте, чтобы строить предсказания для новых данных. Архитектура модели — Transformer из 12 слоёв с 72 млн параметров. Модель рассчитана на табличный ввод и выдаёт числовые прогнозы. В README описан способ использования через AutoGluon Tabular. Репозиторий распространяется под лицензией Apache-2.0.
MoM-Python-SLM — специализированная модель для генерации кода на Python, разработанная как узел системы Mixture-of-Models. Она дообучена на базе Qwen/Qwen2.5-Coder-1.5B-Instruct методом DoRA с последующим supervised fine-tuning и слиянием адаптера с базовой моделью. Модель содержит 1,5 млрд параметров, использует архитектуру Qwen2 и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации Python-кода по текстовому заданию, в том числе с дополнительным контекстом. Карточка описывает её как генератор одного ответа, а не автономного агента. Обучающие данные включают документацию CPython, исходный код Flask и Requests, материалы об ошибках и уязвимостях, а также синтетические задачи с проверкой выполнения. Авторы сообщают о результатах HumanEval и MBPP выше базовой модели и об улучшении на внутреннем тесте генерации кода по спецификации. Модель загружается через Transformers и распространяется по лицензии Apache-2.0. Её назначение ограничено Python-кодом; качество за пределами этого сценария не подтверждено приведёнными оценками. Для выдачи кода по формату обучения рекомендуется использовать системный промпт, применявшийся при обучении.
Это англоязычная SentenceTransformer-модель, дообученная krishanusinha20 на базе sentence-transformers/all-MiniLM-L6-v2 для сопоставления текстовых запросов с SQL-запросами. Энкодер BERT преобразует предложения и абзацы в плотные векторы размерности 384; сходство между ними оценивается косинусной мерой. Метаданные указывают 25,9 млн параметров и контекст до 512 токенов, а в конфигурации README задана максимальная длина последовательности 256 токенов. Модель подходит для семантического поиска, ранжирования похожих формулировок запросов и SQL, поиска перефразировок, кластеризации и классификации текстов. В примерах обучения представлены пары вопросов на английском языке и соответствующих SQL-запросов; обучающий набор содержит 10 примеров, поэтому качество на широком круге схем баз данных и формулировок может быть ограниченным. Лицензия в предоставленных данных не указана.
OpenLLaMA Code Instruct — языковая модель mwitiderrick, дообученная на один проход по датасету AlpacaCode из 122 тысяч примеров. Она построена на архитектуре LLaMA и предназначена для генерации текста в формате инструкций, в частности для ответов на запросы, связанные с кодом. Для взаимодействия используется шаблон с секциями Instruction и Response. Модель содержит 3,3 млрд параметров, принимает и генерирует текст и имеет контекст длиной 2048 токенов. В метаданных указан английский язык. Модель распространяется в формате Safetensors по лицензии Apache-2.0; оценки в README приведены для нескольких бенчмарков, но не описывают качество решения конкретных задач программирования.
ManthanCisco/phi_Text2SQL_v2 — дообученная модель Microsoft Phi-1.5 с 1,7 млрд параметров, предназначенная для генерации текста по архитектуре PhiForCausalLM. Название репозитория указывает на применение для преобразования запросов на естественном языке в SQL, однако README не содержит описания этого сценария, данных обучения или результатов оценки. Модель принимает текст и выдаёт текст; базовая модель англоязычная, а её контекст составляет 2048 токенов. Репозиторий содержит веса в формате safetensors. Лицензия — MIT. Практическое качество генерации SQL, поддерживаемые диалекты и ограничения в карточке не описаны.
Это быстрая модель для разметки частей речи в английском тексте, поставляемая вместе с библиотекой Flair. Она использует эмбеддинги Flair и архитектуру LSTM-CRF и предсказывает детализированные POS-теги для токенов. На датасете OntoNotes в карточке указан F1-score 98,10. Модель подходит для синтаксического анализа текста и подготовки данных для последующих задач NLP. Она принимает текст и возвращает последовательность меток токенов. Поддерживаемый язык — английский; специальная предметная область не заявлена. Модель распространяется в формате PyTorch; сведения о лицензии в предоставленных данных отсутствуют.
Realistic-Gender-Classification — модель prithivMLmods для бинарной классификации реалистичных портретов по категориям «female portrait» и «male portrait». Она дообучена на базе визуальной модели Google SigLIP 2 siglip2-base-patch16-224 и предназначена для анализа и автоматической разметки наборов изображений, а также для персонализации и медиааналитики. Модель принимает изображения и выдаёт категорию портрета. В отчёте README приведены точность 97,06% и F1-оценки около 0,97 на тестовой выборке из 3200 изображений; эти показатели не гарантируют такого же качества на других данных. Модель обучалась на наборе реалистичных портретов, поэтому её пригодность для иных типов изображений не подтверждена. Лицензия — Apache-2.0.
RexBERT-mini — encoder-only трансформер в стиле ModernBERT, разработанный Rahul Bajaj для задач электронной коммерции. Модель содержит 68,1 млн параметров и обучена предсказанию замаскированных токенов. Обучение включало общее предварительное обучение на английских текстах, расширение контекста и специализацию на коммерческих данных; README сообщает о более чем 2,3 трлн токенов общего обучения и 350 млрд коммерческих токенов. Модель предназначена для семантического поиска товаров и запросов, извлечения атрибутов, классификации, ранжирования и понимания поисковых запросов. Она принимает текст и выдаёт представления, которые можно использовать для эмбеддингов и последующей настройки классификаторов. Основной тег задачи в метаданных — fill-mask; также заявлена поддержка feature-extraction. Естественный язык модели — английский, а максимальная длина контекста по метаданным составляет 7 999 токенов. Модель не предназначена для генерации длинных текстов. Результаты фильтрации товаров, оценки безопасности и другие важные решения требуют проверки человеком; коммерческие данные могут содержать смещения по брендам, ценам и регионам. Лицензия — Apache-2.0.
Tommert25/robbert0410_lrate7.5b4 — дообученная модель классификации токенов, созданная на основе нидерландской RobBERT-v2 Dutch Base от pdelobelle. Она построена на архитектуре RoBERTa, содержит 144 млн параметров и принимает текстовые последовательности длиной до 514 токенов. Модель предназначена для разметки отдельных токенов в нидерландском тексте. Конкретный тип разметки и обучающий датасет в карточке не раскрыты. На указанном в README наборе оценки получены precision 0,7671, recall 0,7305, F-мера 0,7455 и accuracy 0,8904. Распространяется по лицензии MIT.
robertuito-ner — модель распознавания именованных сущностей, разработанная авторами библиотеки pysentimiento. Она дообучена на испанско-английской части корпуса LinCE для анализа текстов со смешением языков и основана на RoBERTuito — модели RoBERTa, обученной на испанских твитах. Модель содержит 136,3 млн параметров и принимает контекст до 130 токенов. Модель размечает сущности в тексте на испанском и английском языках, в том числе в сообщениях с переключением между ними. Для использования авторы рекомендуют библиотеку pysentimiento: токенизация может вызывать проблемы при запуске через стандартный pipeline. В таблице результатов LinCE показатель NER для модели составляет 68,5; README не уточняет метрику. Репозиторий содержит веса PyTorch. Условия лицензии в предоставленных источниках не описаны.
google/tapas-tiny-finetuned-tabfact — компактная модель TAPAS, разработанная Google и дообученная на наборе TabFact для проверки утверждений по содержимому таблиц. Она классифицирует, подтверждается ли предложение данными таблицы или опровергается ими, и подходит для проверки фактов в табличных отчётах и ответов на вопросы о таблицах. Модель основана на архитектуре TAPAS — трансформере, подобном BERT, который обрабатывает текст вместе с таблицей. Вход включает предложение и таблицу, представленные в виде последовательности токенов. Вариант по умолчанию использует относительные позиционные индексы, сбрасываемые для каждой ячейки; также доступна версия с абсолютными позиционными индексами. Модель содержит 4,4 млн параметров, имеет контекст до 512 токенов и поддерживает английский язык. Доступны веса PyTorch и TensorFlow. Модель обучалась на TabFact и предназначена для классификации поддержки или опровержения утверждений таблицей. Она не является универсальным генератором текста: результатом служит классификация, а качество может снижаться для длинных таблиц, сложных формулировок и языков, отличных от английского. Лицензия — Apache-2.0.
TAPEX base fine-tuned на наборе TabFact — модель Microsoft для проверки утверждений по табличным данным. Она использует архитектуру BART и была предварительно обучена для рассуждений по таблицам через выполнение синтезированных SQL-запросов, а затем дообучена для классификации утверждений относительно таблицы. Модель содержит 95,2 млн параметров, принимает текстовое представление утверждения и таблицы и рассчитана на контекст до 1024 токенов. Модель предназначена для проверки фактов в таблицах: она определяет, подтверждается ли утверждение содержимым таблицы. В метаданных указан английский язык и датасет TabFact. Репозиторий содержит веса PyTorch и распространяется по лицензии MIT. Возможности вне проверки табличных утверждений не заявлены.
Casually/uie-micro — это реализация на PyTorch модели UIE Micro от PaddlePaddle. Она предназначена для извлечения структурированной информации из китайского текста по заданной схеме: например, извлечения сущностей и отношений, а также информации о событиях. Интерфейс принимает текст и схему извлечения и возвращает найденные фрагменты с позициями и оценками вероятности. Модель основана на архитектуре ERNIE с классом UIE, содержит 24,8 млн параметров и имеет контекстное окно 2048 токенов. Репозиторий содержит веса PyTorch и Safetensors; задача в метаданных Hugging Face указана как feature-extraction. Лицензия — Apache-2.0. README описывает PyTorch-реализацию исходной модели PaddlePaddle/uie-micro; данных о сравнительных оценках качества нет.
Whisper small Fa — модель распознавания речи, созданная дообучением openai/whisper-small на датасете Mozilla Common Voice 17.0. Она предназначена для преобразования аудиозаписей на фарси в текст и подходит для транскрибирования речи в пользовательских записях и наборах данных. Модель построена на архитектуре Whisper и содержит 153,1 млн параметров. В тестировании на карточке указаны наилучшие значения WER 0,419 и CER 0,196. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0.
Davlan/xlm-roberta-large-masakhaner — модель распознавания именованных сущностей, созданная на основе XLM-RoBERTa large и дообученная на наборах данных MasakhaNER. Она размечает в тексте даты и время, местоположения, организации и имена людей; рассчитана на извлечение сущностей из новостных текстов на африканских языках. Модель содержит 658,7 млн параметров, использует архитектуру XLM-RoBERTa для классификации токенов и поддерживает контекст до 514 токенов. В карточке перечислены амхарский, хауса, игбо, киньяруанда, луганда, луо, нигерийский пиджин, суахили, волоф и йоруба; результаты оценки приведены для всех десяти языков. Модель подходит для извлечения сущностей из новостей на этих языках, но обучение на размеченных новостных статьях ограниченного периода может ухудшить качество в других жанрах и предметных областях. Сведения о лицензии в предоставленных данных отсутствуют.