II.8Инженерия данных и аналитика
В разделе собраны самостоятельные задачи, где AI помогает готовить надёжные данные и превращать их в понятную аналитику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
23 488 моделейOlmo 3.1 7B RL-Zero Code — авторегрессионная трансформерная языковая модель Allen Institute for AI (Ai2), дообученная на базовой allenai/Olmo-3-1025-7B с обучением по проверяемым вознаграждениям на наборе Dolci-RL-Zero-Code-7B, содержащем запросы по программированию. Это экспериментальная модель семейства RL-Zero для исследования методов RLVR, ориентированная на генерацию кода и ответы на запросы о программировании. Модель имеет 6,9 млрд параметров, использует архитектуру Olmo3ForCausalLM и принимает текст, выдавая текст; заявленная длина контекста — 65 536 токенов. README указывает английский язык. Для использования доступна библиотека Transformers версии 4.57.0 или выше. Модель может генерировать неточный код и неверные утверждения, а отсутствие фильтрации безопасности допускает вредоносные или чувствительные ответы. Лицензия — Apache 2.0; Ai2 указывает исследовательское и образовательное назначение в соответствии с руководством по ответственному использованию.
OpenSDI-Flux.1-SigLIP2 — модель классификации изображений, созданная на основе google/siglip2-base-patch16-224 и дообученная для различения реальных фотографий и изображений, сгенерированных Flux.1. Она использует архитектуру SiglipForImageClassification и доступна в формате safetensors для библиотеки Transformers; лицензия — Apache-2.0. Модель предназначена для проверки происхождения изображений: оценки генеративных моделей, аудита наборов данных, выявления синтетических визуальных материалов и проверки подлинности медиа. В отчёте README указана точность 91,66% на тестовой выборке из 20 000 изображений, поровну представленных двумя классами. Лучше работает с чёткими изображениями; шумные изображения не рекомендуются для проверки. Обучение ориентировано на обнаружение именно изображений Flux.1, поэтому результаты для других генераторов или условий съёмки могут отличаться.
Pepper 1 Preview — компактный ассистент для генерации кода, разработанный украинской лабораторией Minsore на базе Qwen2.5-Coder-1.5B-Instruct. Это инструкционно дообученная плотная модель Qwen2 с 1,5 млрд параметров; она принимает текстовые описания на английском языке и генерирует преимущественно код на Python. Модель рассчитана на написание функций по запросу на естественном языке и интерактивную работу на потребительском оборудовании. Доступны веса Safetensors и GGUF Q4_K_M; заявленная длина контекста в метаданных — 32 768 токенов, хотя README предупреждает об ограничении контекста инференса до 4K и усечении длинных файлов. В README приведены результаты тестирования: 82% HumanEval@50, 26% MBPP@50 и 20% LiveCodeBench@30; авторы отмечают преимущество над базовой моделью на HumanEval и более слабый результат на алгоритмических задачах LiveCodeBench. Ограничения включают специализацию на Python, отсутствие поддержки FIM и склонность иногда добавлять лишние пояснения. Лицензия Apache 2.0.
py314-pylingual-v4-segmenter — модель семейства RoBERTa, разработанная syssec-utd и дообученная на основе syssec-utd/py314-pylingual-v4-mlm для классификации токенов. Она предназначена для сегментации текста на уровне токенов; обучение проводилось на наборе syssec-utd/segmentation-py314-pylingual-v4-tokenized. Модель содержит 136,3 млн параметров, принимает текст с контекстом до 514 токенов и опубликована в формате safetensors для библиотеки Transformers. На указанной в карточке оценочной выборке приведены precision 0,9949, recall 0,9972, F1 0,9961 и accuracy 0,9992. Лицензия и конкретная схема сегментации в предоставленных данных не описаны.
PyCodeGPT — предварительно обученная модель для генерации и автодополнения кода на Python, основанная на GPT-Neo. Разработчики обучали её на корпусе из примерно 13 миллионов очищенных файлов Python, собранных из репозиториев GitHub. В README описан вариант PyCodeGPT-110M, производный от GPT-Neo 125M; в метаданных репозитория указаны 123,7 млн параметров, архитектура GPTNeoForCausalLM и формат PyTorch. Модель предназначена для продолжения фрагментов кода и генерации решений на Python по текстовому запросу или началу программы. В README приведена оценка на HumanEval: pass@1 — 8,32%, pass@10 — 13,53%, pass@100 — 18,3%; результаты зависят от методики генерации и не гарантируют корректность кода. Модель принимает и выдаёт текст, имеет контекстное окно 2048 токенов. Карточка не сообщает лицензию, поэтому условия использования по имеющимся данным определить нельзя.
navteca/quora-roberta-base — модель-кросс-энкодер на базе RoBERTa, обученная с помощью класса CrossEncoder из SentenceTransformers. Она принимает пару вопросов на английском языке и оценивает числом от 0 до 1 вероятность того, что вопросы являются дубликатами. Модель обучена на наборе Quora Duplicate Questions и предназначена для поиска повторяющихся вопросов, например при дедупликации пользовательских обращений или сортировке результатов по совпадению формулировок. Модель содержит 151,8 млн параметров, использует архитектуру RobertaForSequenceClassification и поддерживает контекст до 514 токенов. Доступны веса PyTorch и Flax. Лицензия — MIT. Оценка относится именно к дублированию, а не к семантическому сходству: вопросы об изучении Java и Python могут получить низкий балл, несмотря на похожую структуру. Для сравнения длинных текстов или поиска общей тематической близости модель не предназначена.
praful1/Qwen-0.6b-code-dpo — дообученная на базе praful1/Qwen-0.6b-pythoncode-instruct языковая модель семейства Qwen3 с плотной архитектурой и примерно 507,9 млн параметров. Модель обучена с TRL на наборе RLHFlow/CodeUltraFeedback-standard методом DPO и предназначена для генерации кода и ответов в диалоговом формате. Модель принимает текстовые запросы и генерирует текст, в том числе Python-код. Метаданные указывают контекст до 32 768 токенов; для запуска приведён пример с Transformers pipeline и запросом на генерацию программы для поиска простых чисел. Лицензия в предоставленных данных не указана.
ReLiK Reader — компонент для извлечения сущностей и отношений из текста, разработанный командой SapienzaNLP. Этот репозиторий содержит веса reader-компонента модели ReLiK, предназначенной для связывания сущностей с записями в базе знаний и извлечения отношений; полный конвейер ReLiK также включает retriever, который подбирает релевантные документы. В карточке указана архитектура RelikReaderREModel и формат PyTorch. Модель ориентирована на английский язык и оценивалась на наборе NYT. Для запуска полного конвейера требуется библиотека relik; лицензия в доступных данных не приведена.
Карточка модели WangChen0401/TimeMoE-50M на Hugging Face совпадает с карточкой Maple728/TimeMoE-50M, поэтому описание составлено по ней. Maple728/TimeMoE-50M — модель прогнозирования временных рядов из семейства Time-MoE, представленная как веса модели из статьи «Time-MoE: Billion-Scale Time Series Foundation Models with Mixture of Experts». Она предназначена для прогнозирования будущих значений по историческим последовательностям временных рядов. Модель использует архитектуру Mixture of Experts и класс TimeMoeForPrediction. В репозитории указано 28,3 млн параметров, формат весов — safetensors, длина контекста — 4096 токенов. Автор карточки ссылается на GitHub-страницу проекта для инструкций по использованию. Модель подходит для задач прогнозирования временных рядов общего назначения. В карточке не описаны конкретные отрасли, наборы данных или языковые возможности. Лицензия — Apache-2.0.
TweetRoberta_5epochs — дообученная модель классификации последовательностей на основе cardiffnlp/twitter-roberta-base-sentiment. Она предназначена для определения тональности коротких текстов, например публикаций в социальных сетях. Модель построена на архитектуре RoBERTa, содержит 151,8 млн параметров и принимает последовательности длиной до 514 токенов. В README приведены результаты оценки: accuracy 0,9452 и F1 0,9454 при loss 0,3387. Набор данных для дообучения не назван, поэтому эти показатели нельзя переносить на другие данные без проверки. Модель опубликована в формате safetensors; условия лицензии в доступных сведениях не приведены.
ff112/web_quality_classifier — дообученная на базе boun-tabilab/TabiBERT модель для оценки качества написания и форматирования турецких веб-текстов. Она выдаёт регрессионный балл от 0 до 5: учитывает пунктуацию, повторы, плавность текста и долю шаблонных элементов вроде меню, ссылок и уведомлений о cookies. Тематика и образовательная ценность текста не оцениваются. Модель построена на архитектуре ModernBERT с регрессионной головой, содержит 148,8 млн параметров и поддерживает контекст до 8192 токенов. Обучена на 100 тысячах дедуплицированных турецких веб-документов, размеченных по шкале качества с помощью LLM-судьи. На валидации показала корреляцию Пирсона 0,875 и среднюю абсолютную ошибку 0,452. Лицензия — MIT.
Модель Cardiff NLP — дообученная версия XLM-RoBERTa-base для классификации тональности многоязычных твитов. Она относит текст к одной из категорий тональности и подходит для анализа сообщений в социальных сетях. Обучение проводилось на наборе cardiffnlp/tweet_sentiment_multilingual, а настройки подбирались на валидационной выборке. Модель содержит 305,2 млн параметров, принимает текст с контекстом до 514 токенов и распространяется в формате PyTorch. На тестовой выборке указаны micro F1 0,666, macro F1 0,663 и точность 0,666. Лицензия в предоставленных данных не указана.
Arche-Codium-500M — компактная модель генерации кода от OpenSynapseLabs, дообученная на базе Qwen2.5-Coder-0.5B-Instruct. Она содержит около 494 млн параметров, использует архитектуру Qwen2 и принимает текстовые инструкции и фрагменты кода, чтобы продолжать код или создавать исполняемые функции. Модель предназначена для локального запуска на CPU, Apple Silicon и маломощных GPU; заявленный контекст составляет 32 768 токенов. Основной сценарий — автодополнение и генерация Python-кода, в том числе через CLI arche-code. В README заявлен результат 16 из 20 задач HumanEval. Модель компактна и подходит для коротких функций, но хуже справляется со сложными многошаговыми задачами и крупными классами; она может обрезать вывод при малом лимите токенов и иногда галлюцинирует импорты, поэтому код следует проверять. Лицензия Apache 2.0 допускает коммерческое использование.
CAMeL-Lab разработала CAMeLBERT-CA NER — модель распознавания именованных сущностей в классическом арабском языке. Это дообученная для классификации токенов версия CAMeLBERT Classical Arabic, обученная на наборе данных ANERcorp. Модель предназначена для извлечения и разметки именованных сущностей в арабском тексте. Её можно использовать в компоненте NER библиотеки CAMeL Tools или через pipeline Transformers. Архитектура — BERT с головой классификации токенов; модель содержит 136,3 млн параметров и поддерживает контекст до 512 токенов. Доступны веса PyTorch и TensorFlow. Модель рассчитана на классический арабский и может применяться для обнаружения сущностей в предложениях и документах на этом языке. Она обучена на ANERcorp, поэтому качество на других вариантах арабского, доменах или схемах разметки может отличаться. Лицензия — Apache-2.0.
GroNLP/bert-base-dutch-cased-upos-alpino — модель BERT для разметки частей речи на уровне токенов нидерландского текста. Она создана в рамках работы «Adapting Monolingual Models: Data can be Scarce when Language Similarity is High»; модель использует дообученные Transformer-слои и классификационную голову BERTje, а её лексические слои переобучены. Число параметров — 136,3 млн, максимальная длина контекста — 512 токенов. Модель предназначена для автоматического присвоения токенам универсальных частей речи (UPOS) с использованием разметки Alpino. Её можно применять в NLP-конвейерах для анализа нидерландских текстов и подготовки корпусной разметки. В карточке перечислены форматы PyTorch, TensorFlow, Flax и safetensors. Сведения о лицензии в предоставленных источниках отсутствуют.
Это исследовательский контрольный чекпойнт плотной языковой модели Qwen3-4B, созданный командой agurung методом обучения с подкреплением GRPO на базе Qwen/Qwen3-4B-Instruct-2507. Обучение проводилось непосредственно от базовой instruct-модели без отдельного SFT-старта; чекпойнт сохранён на шаге 40 и показал лучший в данном запуске результат по pass@8. Модель предназначена для генерации кода и решения задач программирования: награда при обучении зависела от того, проходила ли сгенерированная программа тесты. Обучающий набор включал сложные задачи, которые исходная модель решала не более чем в 2 из 64 попыток. Использованы два эпизода обучения, до 4096 новых токенов на генерацию и штрафы за усечение ответа. Архитектура — Qwen3ForCausalLM, около 3,7 млрд параметров; контекст — до 262 144 токенов. Модель принимает текст и выдаёт текст. Чекпойнт ориентирован на программирование, однако метрики оценки в карточке отсутствуют, а лучший pass@8 указан только относительно этого запуска. Языки программирования и поддерживаемые естественные языки отдельно не перечислены. Лицензия в предоставленных данных не указана.
Это экспериментальный чекпойнт языковой модели Qwen3-4B от автора репозитория, полученный дообучением Qwen/Qwen3-4B-Instruct-2507 методом GRPO с помощью OpenRLHF. Модель предназначена для генерации кода и решения задач программирования, где корректность программы проверяется тестами. Обучение нацелено на сложные задачи, которые базовая модель решала редко; контрольная оценка использовала восемь генераций на задачу. Модель имеет плотную архитектуру Qwen3ForCausalLM, около 3,7 млрд параметров и контекст до 262 144 токенов. В README указаны оценка pass@1 0,4102 и pass@8 1,0587 на отложенной выборке из 112 задач; значение pass@8 приведено как в карточке. Веса доступны в формате safetensors и загружаются через Transformers. Лицензия в предоставленных данных не указана.
Это экспериментальный чекпойнт Qwen3-4B-Instruct-2507, разработанный agurung и обученный с помощью OpenRLHF и алгоритма GRPO. Обучение с подкреплением применялось напрямую к базовой инструкционной модели без отдельного SFT-этапа; указанный чекпойнт сохранён на глобальном шаге 4 и выбран как лучший в этом запуске по pass@8. Модель предназначена для генерации кода и решения задач программирования. Её обучали на задачах из набора cobalt-train, отобранных по низкой успешности базовой модели; вознаграждение зависело от прохождения тестов сгенерированной программой. Используются архитектура Qwen3 с 3,7 млрд параметров, библиотека Transformers и контекст до 262 144 токенов; максимальная длина новой генерации в описанном обучении составляла 4096 токенов. В карточке нет доступных метрик оценки на этом чекпойнте, поэтому преимущество по pass@8 относится только к сравнению внутри данного запуска. Модель поставляется в формате safetensors; условия лицензии в предоставленных данных не приведены.
Экспериментальный чекпойнт языковой модели Qwen3-4B, дообученный компанией agurung с помощью обучения с подкреплением OpenRLHF и алгоритма GRPO. Обучение проводилось непосредственно от Qwen/Qwen3-4B-Instruct-2507 без предварительной SFT-настройки: на задачах программирования модель получала бинарную награду за прохождение тестов сгенерированной программой. Чекпойнт сохранён на шаге 12; в рамках этого запуска он показал лучший результат по pass@8, однако численные метрики оценки в журнале обучения отсутствуют. Модель предназначена для генерации кода и решения задач программирования, особенно сложных задач, которые исходная модель решала не более чем в 2 случаях из 64. Использует плотную архитектуру Qwen3ForCausalLM, содержит 3,7 млрд параметров, принимает текст и поддерживает контекст до 262 144 токенов. В README не перечислены поддерживаемые естественные языки. Это ранний экспериментальный чекпойнт, а сведения о лицензии не приведены в доступных данных.
Это экспериментальный чекпойнт Qwen3-4B-Instruct-2507, дообученный командой agurung методом GRPO с помощью OpenRLHF. Обучение с подкреплением применялось напрямую к базовой модели без предварительного SFT; награда зависела от прохождения тестов сгенерированным кодом. Чекпойнт сохранён на 16-м шаге обучения и показал лучший в этом запуске результат pass@8. Модель предназначена для генерации кода и решения задач программирования, особенно задач, отобранных как сложные для исходной модели. Она принимает текстовые запросы и генерирует текст, включая программы; использует плотную архитектуру Qwen3 примерно на 3,7 млрд параметров, библиотеку Transformers и контекст до 262 144 токенов. Доступен формат Safetensors. Это ранний исследовательский чекпойнт, а не подтверждённая универсальная модель для программирования: README описывает обучение и оценку на конкретном наборе задач, а указанный pass@1 имеет отрицательное значение и требует осторожной интерпретации. Сведения о лицензии в предоставленных данных отсутствуют.
Это экспериментальный чекпойнт Qwen3-4B-Instruct-2507, дообученный методом обучения с подкреплением GRPO в OpenRLHF. Обучение напрямую начато с базовой модели без предварительной SFT-настройки; чекпойнт сохранён на шаге 24. Модель содержит 3,7 млрд параметров, использует плотную архитектуру Qwen3 и поддерживает контекст до 262 144 токенов. Чекпойнт предназначен для генерации кода и решения задач программирования: обучение и проверка ориентированы на сложные задачи из набора cobalt-train, а сигнал вознаграждения основан на прохождении тестов сгенерированной программой. В указанном запуске он показал pass@1 0,2794 и pass@8 1,8061 на отложенной выборке; эти результаты относятся к конкретному протоколу оценки и не гарантируют качество на других задачах. Модель принимает текстовые запросы и выдаёт текст, включая код. Файлы опубликованы в формате safetensors; лицензия в предоставленных сведениях не указана.
Это дообученная испаноязычная модель DistilBERT для классификации текста. Она основана на dccuchile/distilbert-base-spanish-uncased и использует архитектуру DistilBertForSequenceClassification. Модель предназначена для задач классификации последовательностей; конкретные метки и сценарии классификации в карточке не описаны. В README указаны результаты оценки: accuracy 0,8834 и F1 0,8827 при loss 0,6945. Модель принимает текст, поддерживает контекст до 512 токенов и опубликована в формате safetensors. Указана лицензия?
pilotj/distilbert-base-uncased-fibe-v8-finetuned — дообученная модель семейства DistilBERT для классификации текстов. Она основана на biggy-smiley/distilbert-base-uncased-fibe-v5 и использует архитектуру DistilBertForSequenceClassification. Модель предназначена для отнесения входного текста к классам; подробности о метках и целевых сценариях в карточке не раскрыты. Модель работает с текстом и имеет контекстное окно до 512 токенов. В README приведены результаты оценки: eval_loss 0,7672 после примерно 1,86 эпохи обучения; название обучающего набора данных отсутствует. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Лицензия в предоставленных данных не указана.
Erlangshen-TCBert-110M-Sentence-Embedding-Chinese — китайская модель семейства BERT, разработанная командой Fengshenbang-LM. Это вариант TCBert с примерно 129,5 млн параметров, предназначенный для получения векторных представлений предложений и классификации тем. Модель предварительно обучалась контрастивным методом на многочисленных наборах данных тематической классификации с использованием общих промптов; в README описаны эксперименты на китайских наборах TNEWS, CSLDCP и IFLYTEK. Модель принимает китайский текст и выдаёт предсказания замаскированных токенов; архитектура в метаданных указана как BertForMaskedLM с контекстом до 512 токенов. Представления предложений можно применять в сценариях тематической классификации и оценки сходства. Опубликована в формате PyTorch под лицензией Apache-2.0. Метаданные Hugging Face помечают её задачей fill-mask, поэтому для извлечения эмбеддингов может понадобиться соответствующая настройка модели и pooling.
Fashion-Product-articleType — модель компьютерного зрения, разработанная PrithivMLmods и дообученная на базе google/siglip2-base-patch16-224 с архитектурой SiglipForImageClassification. Она классифицирует изображения модных товаров по 141 типу изделий, включая аксессуары, рюкзаки и другие категории одежды и товаров.
iTab-LLM — плотная авторегрессионная модель семейства Llama, разработанная на основе Llama 2 7B и дополнительно предобученная на большом количестве таблиц. Она предназначена для прогнозных задач на табличных данных: модель можно адаптировать для классификации и регрессии, а также использовать для предсказаний без дополнительного обучения. Модель содержит 6,6 млрд параметров, принимает текстовые входы и имеет контекст до 4096 токенов. В карточке описаны сценарии обучения классификатора и регрессора через Transformers, а также zero-shot предсказания. Проверки проводились на английском языке; точность и безопасность результатов для конкретной задачи следует оценить отдельно. Данные предобучения в основном собраны с Kaggle: при использовании необходимо соблюдать условия и лицензии соответствующих наборов данных и требования лицензии Llama 2.
ania3000/mmbert-base-oss-morph — дообученная модель для классификации токенов на основе многоязычного энкодера jhu-clsp/mmBERT-base. В метаданных указана архитектура ModernBERT с головой ModernBertForTokenClassification, около 306,9 млн параметров и контекстом до 8192 токенов. Модель предназначена для задач разметки отдельных токенов во входном тексте; назначение разметки и набор меток в карточке не раскрыты. В README приведены результаты оценки: loss 0,4158, accuracy 94,7892% и sentence accuracy 54,4954%; датасет и условия оценки не описаны, поэтому эти показатели нельзя переносить на другие данные. Модель использует формат safetensors и опубликована по лицензии MIT.
Модель kiyuyeon/pii-ner-kcelectra разработана для обнаружения персональных данных в корейском тексте с помощью распознавания именованных сущностей. Это дообученная на синтетических и дополнительных корпусах модель beomi/KcELECTRA-base-v2022 с архитектурой ELECTRA и классификатором токенов, размером 155 млн параметров и контекстом до 512 токенов. Она размечает имена людей, адреса, школы и телефонные номера, чтобы подготовить текст к размытию или маскированию. Модель предназначена для очистки корейских новостей, сообщений и документов перед публикацией или передачей на обработку. На проверке на новостном корпусе NAVER NER автор сообщает полноту обнаружения имен 91,0% и полное маскирование имени в 86,6% случаев; для повышения полноты маскирования README рекомендует объединять предсказания модели с регулярными выражениями и словарными правилами. Лицензия — MIT. Качество может снижаться на разговорном и OCR-тексте, а также для иностранных имен в корейской транскрипции, псевдонимов и сценических имен. 주민등록번호, электронная почта и банковские счета не входят в метки модели и требуют отдельной обработки регулярными выражениями.
py313-pylingual-v1.3-segmenter — модель на базе RoBERTa, дообученная syssec-utd для классификации токенов и сегментации текста. Она предназначена для разметки последовательностей токенов; карточка связывает обучение с набором syssec-utd/segmentation-py313-pylingual-v2-tokenized. Модель содержит 136,3 млн параметров, использует формат safetensors и имеет контекст длиной 514 токенов. В README приведены результаты оценки на тестовой выборке: точность 0,9985, полнота 0,9980, F1 0,9982 и accuracy 0,9996. В карточке не описаны целевые языки, точная схема сегментации или известные ограничения. Лицензия в предоставленных данных не указана.
syssec-utd/py314-pylingual-v8-segmenter — дообученная модель RoBERTa для классификации токенов и сегментации текста. Она основана на syssec-utd/py314-pylingual-v8-mlm и обучена на токенизированном датасете syssec-utd/segmentation-py314-pylingual-v8-tokenized. Модель содержит 136,3 млн параметров, принимает текстовые токены и выдаёт метки для токенов; максимальная длина контекста — 1026 токенов. На оценочном наборе указаны F1 0,9932, точность 0,9928, полнота 0,9936 и accuracy 0,9985. Эти результаты относятся к описанному набору оценки; назначение сегментации и поддерживаемые языки подробнее не раскрыты. Лицензия в доступных данных не указана.