II.8Инженерия данных и аналитика
В разделе собраны самостоятельные задачи, где AI помогает готовить надёжные данные и превращать их в понятную аналитику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
23 488 моделейSundial Base 128M — генеративная базовая модель временных рядов семейства Sundial. Согласно карточке, она предварительно обучена на более чем 1 трлн временных точек и использует 128 млн параметров. Архитектура — причинный декодерный Transformer: числовой ряд разбивается на патчи длиной 16 и преобразуется в токены. Для генерации прогнозов модель применяет вероятностное моделирование и flow matching. Модель предназначена для прогнозирования временных рядов без дообучения на конкретном наборе данных, включая точечные и вероятностные прогнозы. Генерация нескольких возможных сценариев позволяет получать статистические оценки, в том числе квантили и интервалы неопределённости. В README сообщается о результатах на бенчмарках GIFT-Eval и Time-Series-Library; это заявления авторов карточки, а не независимая оценка. В карточке модели контекст указан как 10 000 токенов, тогда как README приводит длину контекста до 2880; для практического применения следует учитывать расхождение. Модель принимает числовые временные ряды и выдаёт прогнозы. Она распространяется по лицензии Apache-2.0; для стабильной совместимости README рекомендует Transformers 4.40.1 и Python 3.10.
Это модель обнаружения объектов на базе архитектуры Table Transformer с 6,3 млн параметров. Она предназначена для распознавания объектов в таблицах на изображениях, однако README не содержит сведений о конкретных классах объектов, наборе данных, обучении или оценке качества. Модель сохранена в формате safetensors; метаданные указывают контекст длиной 1024 токена. Карточка сообщает, что модель обучена с нуля, поэтому базовая модель не указана. Лицензия и поддерживаемые языки в доступных данных не приведены.
xyntopia/tb_classifier — модель на базе BERT для классификации коротких текстовых фрагментов, разработанная xyntopia. В карточке указано, что сейчас её основное применение — распознавание адресов в тексте. Модель содержит 25,9 млн параметров, принимает текст с контекстом до 512 токенов и доступна в формате PyTorch. Модель подходит для классификации небольших текстовых блоков, в частности для извлечения или распознавания адресов в текстовых данных. Язык, на котором обучена модель, и конкретная схема классов не описаны. Распространяется по лицензии MIT.
Tess-Coder-7B-Mistral-v1.0 — модель генерации кода на архитектуре Mistral, опубликованная migtissera. Она предназначена для создания программного кода по текстовым запросам. В README указана оценка 41,64% на HumanEval pass@1. Модель содержит 7,1 млрд параметров, работает с текстом и поддерживает контекст до 32 768 токенов. Доступны веса в формате PyTorch. Репозиторий распространяется по лицензии Apache-2.0. README и метаданные не позволяют установить языки программирования, на которых модель показывает наилучшие результаты, или подробные ограничения её применения.
eleldar/theme-classification — чекпойнт BART-large, дообученный на наборе MultiNLI для классификации текстов по заданным категориям без предварительного обучения на этих категориях. Модель сопоставляет текст с гипотезами, построенными на основе названий категорий, и оценивает вероятности следования и противоречия; пользователь может задавать собственный набор меток. Архитектура — BART для классификации последовательностей, размер — 252,8 млн параметров, максимальный контекст — 1024 токена. Доступны веса PyTorch и Flax. Модель подходит для тематической разметки и других задач классификации с пользовательскими категориями, особенно на английском языке, на котором обучен MultiNLI. Карточка также описывает применение метода для многометочной классификации, когда несколько категорий могут подходить одновременно. Репозиторий распространяется по лицензии MIT. Для других языков и узких предметных областей качество может отличаться; результаты зависят от формулировки меток и гипотез.
Toto-2.0-4m — модель семейства Toto (Time Series Optimized Transformer for Observability), разработанного Datadog для прогнозирования временных рядов. Это чекпойнт с 3,7 млн параметров на PyTorch, сохранённый в формате safetensors и распространяемый по лицензии Apache-2.0. Модель предназначена для многомерного прогнозирования, в том числе рядов наблюдаемости, и поддерживает прогнозирование без дообучения на конкретном ряде. Она выдаёт точечные прогнозы и оценки неопределённости в виде квантилей, допускает разные длины контекста и горизонта. Архитектура — декодерный патчевый трансформер с чередованием внимания по временной и переменной осям; в версии Toto 2.0 применяются u-μP-масштабирование и параллельное декодирование за один проход. Версия на 4 млн параметров предназначена для сценариев с жёсткими ограничениями по задержке и памяти, включая развёртывание на периферийных устройствах и CPU. В README сообщается о сильных результатах семейства на BOOM, GIFT-Eval и TIME, однако конкретные результаты этого малого чекпойнта зависят от набора данных и условий прогноза. Модель принимает и выдаёт временные ряды; поддерживаемые естественные языки не заявлены.
UDOP-finetuned-DocLayNet-3 — модель семейства UDOP для классификации токенов в документах. Она дообучена для задачи разметки элементов макета документа на данных DocLayNet-small и может применяться для извлечения структурных областей из документов. Модель содержит 386,3 млн параметров и опубликована в формате safetensors под лицензией Apache-2.0. В карточке приведены результаты оценки: F1 0,5962, точность 0,6058, полнота 0,5870 и accuracy 0,7863. Метаданные указывают английский язык; модель предназначена для анализа документов с текстовым содержимым. Эти метрики показывают умеренное качество разметки, поэтому результаты для документов и классов, отличающихся от DocLayNet, требуют отдельной проверки.
Wav2Vec2-Base-VoxPopuli-Finetuned — модель Facebook AI для автоматического распознавания французской речи. Она основана на Wav2Vec2 Base, предварительно обученной на 10 тысячах часов неразмеченной речи из VoxPopuli, а затем дообученной на транскрибированных французских данных из этого корпуса. Архитектура — Wav2Vec2ForCTC, размер — 113,3 млн параметров; модель принимает аудио и выдаёт текстовую транскрипцию. Модель предназначена для преобразования французских аудиозаписей в текст, например для расшифровки речи в голосовых данных. Репозиторий содержит веса PyTorch. Лицензия CC-BY-NC-4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.
anton-l/wav2vec2-base-lang-id — дообученная модель классификации аудио на основе facebook/wav2vec2-base. Она предназначена для определения языка по аудиозаписи и обучена на наборе данных anton-l/common_language. Модель содержит 113,3 млн параметров; в проверке на оценочном наборе показала точность 0,7945 и loss 0,9836. Модель использует архитектуру Wav2Vec2ForSequenceClassification и распространяется в формате PyTorch. Лицензия — Apache-2.0. Карточка не описывает поддерживаемый перечень языков и условия записи аудио, поэтому результаты для конкретных языков и акустических условий по приведённым данным определить нельзя.
Это модель XLM-RoBERTa-base, дообученная для классификации токенов. По названию репозитория она предназначена для задачи PAN-X на немецком языке; в README приведена оценка F1 0,8638 и loss 0,1386 на наборе оценки, но датасет и подробности разметки не описаны. Модель содержит 305,2 млн параметров, принимает текст и использует контекст до 514 токенов. Разработчик — владелец репозитория aoi-33; базовая модель создана FacebookAI. Лицензия — MIT.
Модель shingo1234/xlm-roberta-base-finetuned-panx-de — версия XLM-RoBERTa-base, дообученная для классификации токенов. По названию модели она предназначена для немецкого набора PAN-X; README сообщает F1 0,8602 и loss 0,1426 на оценочной выборке, но не описывает метки и состав данных. Модель содержит 305,2 млн параметров, использует архитектуру XLM-RoBERTa и принимает текст с контекстом до 514 токенов. Подходит для разметки последовательностей на уровне токенов, например распознавания именованных сущностей в немецком тексте. Опубликована в формате safetensors; библиотека для работы — Transformers. Лицензия MIT.
FacebookAI публикует эту модель на основе XLM-RoBERTa-large — многоязычного трансформера для обработки текста. Модель дообучена на немецкой части датасета CoNLL-2003 для классификации токенов: каждому токену присваивается метка. Основной сценарий применения — распознавание именованных сущностей в немецком тексте; также модель подходит для разметки частей речи. Модель содержит 658,7 млн параметров, использует архитектуру XLM-RoBERTa и принимает текст с контекстом до 514 токенов. Базовая XLM-RoBERTa обучалась на 100 языках, но эта версия дообучена на немецком наборе данных, поэтому её специализированные возможности относятся прежде всего к немецкому. Доступны веса PyTorch и ONNX. В карточке лицензия не определена. Модель может наследовать смещения обучающих данных, поэтому результаты следует проверять перед применением.
severinsimmler/xlm-roberta-longformer-base-16384 — версия модели hyperonym/xlm-roberta-longformer-base-16384 в формате PyTorch, опубликованная без изменений исходных весов. Это мультиязычный Longformer, инициализированный весами XLM-RoBERTa без дополнительного предварительного обучения; модель предназначена для дообучения под конкретные задачи и извлечения признаков из текста. Она содержит 305,2 млн параметров и поддерживает контекст до 16 386 токенов. Модель подходит для анализа длинных документов на разных языках, когда требуется получить контекстные представления текста. Репозиторий использует форматы PyTorch и Safetensors и распространяется по лицензии MIT. Карточка не сообщает результатов оценки качества на прикладных задачах; для целевого применения потребуется дообучение.
Это модель XLM-RoBERTa Base, дообученная для классификации токенов. В карточке указан результат F1 0,8586 на оценочной выборке, однако набор данных обозначен как None, поэтому результат нельзя связать с конкретным тестовым корпусом. Модель основана на архитектуре XLM-RoBERTa, содержит 305,2 млн параметров и принимает последовательности длиной до 514 токенов. Модель предназначена для присвоения меток отдельным токенам, например для распознавания именованных сущностей. По названию репозитория она настроена на немецкий и французский варианты задачи PAN-X, но карточка не описывает точную схему меток и оценочные данные. Весовые файлы доступны в формате safetensors. Лицензия — MIT.
Карточка модели Xwin-LM/XwinCoder-7B на Hugging Face совпадает с карточкой Xwin-LM/XwinCoder-13B, поэтому описание составлено по ней. XwinCoder-13B — инструкция-настроенная модель генерации кода от Xwin-LM, дообученная на базе CodeLLaMA. Она предназначена для создания кода по текстовым инструкциям и запросам; авторы публикуют веса и код оценки. В карточке приведены результаты XwinCoder-13B на HumanEval, MBPP и APPS-intro: pass@1/5 соответственно 68,8, 60,1 и 35,4. Модель имеет плотную архитектуру LlamaForCausalLM с 12,9 млрд параметров, принимает текст и генерирует текст, а заявленная длина контекста составляет 16 384 токена. В метаданных указан формат PyTorch и лицензия Llama 2. README описывает её как instruction fine-tune CodeLLaMA, поэтому для использования следует соблюдать условия лицензии Llama 2.
BenevolenceMessiah/Yi-Coder-9B-Chat-Instruct-TIES-MoE-v1.0 — экспериментальная MoE-модель генерации текста, созданная сообществом BenevolenceMessiah с помощью mergekit. В README описано объединение моделей Yi-Coder-9B, Yi-Coder-9B-Chat и производных от них; карточка и метаданные указывают архитектуру MixtralForCausalLM, 8,6 млрд параметров и контекст до 131 072 токенов. Модель предназначена прежде всего для генерации кода на разных языках программирования и диалоговой помощи при разработке: например, для создания фрагментов кода и решений по подробным техническим запросам. Метаданные указывают задачу text-generation, библиотеку Transformers и формат Safetensors. Естественные языки, специально поддерживаемые моделью, не перечислены. Автор README характеризует проект как экспериментальный и предполагаемые преимущества объединения — сочетание навыков генерации кода и диалога — как гипотетические. Поэтому качество, безопасность и готовность сгенерированного кода к эксплуатации следует проверять. Лицензия — Apache-2.0.
Anonymizer-1.7B — компактная языковая модель компании Eternis AI для защиты конфиденциальности текста. Она предназначена для обнаружения персональных данных и их замены на семантически похожие значения, чтобы сохранить смысл пользовательского запроса при удалении исходных идентификаторов. Модель используется как основной анонимизатор в Enchanted и может применяться локально в других развёртываниях, где важны скорость и качество. По карточке, модель обучена с GRPO и оценивалась судьёй GPT-4.1. Модель построена на плотной архитектуре Qwen3 с 1,7 млрд параметров, принимает текст и поддерживает контекст до 40 960 токенов. Карточка описывает интерфейс замены сущностей и формат ответа с парами исходных и заменённых значений. Репозиторий содержит веса Safetensors, а лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение.
google/bert_uncased_L-12_H-768_A-12 — англоязычная модель BERT, опубликованная Google как часть набора BERT Miniatures и переобученная по стандартной схеме BERT. Вариант с 12 слоями и размерностью скрытого представления 768 соответствует BERT-Base; в метаданных указано 136,7 млн параметров. Модель принимает текст, использует uncased-токенизацию WordPiece и обрабатывает последовательности длиной до 512 токенов. Модель предназначена для дообучения под задачи понимания английского текста, например классификацию предложений, определение тональности, распознавание текстовых отношений и оценку семантического сходства. Авторы отмечают, что компактные варианты набора ориентированы на ограниченные вычислительные ресурсы и особенно полезны в дистилляции; данный репозиторий содержит вариант BERT-Base для полноты набора. Доступны веса PyTorch и Flax. Лицензия — Apache-2.0. Ограничения: модель рассчитана на английский язык и не является генеративной; для конкретных задач обычно требуется добавить задачно-специфичную голову и выполнить дообучение. Максимальная длина входа — 512 токенов.
Cadence-Fast — компактная модель AI4Bharat для восстановления пунктуации в тексте на английском и 22 индийских языках. Это дообученная на базе google/gemma-3-270m модель с плотной архитектурой Gemma3ForTokenClassification, предназначенная для токенной классификации и предсказания знаков препинания. Модель подходит для расстановки пунктуации в неразмеченном тексте и транскриптах речи. Она предсказывает точки, запятые, вопросительные и восклицательные знаки, кавычки, скобки и другие знаки; для длинных текстов пакет cadence-punctuation поддерживает обработку скользящими окнами. По данным карточки, Cadence-Fast достигает более 93,8% качества Cadence при значительно большей скорости. Контекст модели — до 32 768 токенов. Поддерживаются английский, ассамский, бенгальский, бодо, догри, гуджарати, хинди, каннада, кашмири, конкани, майтхили, малаялам, манипури, маратхи, непали, одиа, пенджаби, санскрит, сантали, синдхи, тамильский, телугу и урду. Для письма мейтей токенизатор работает недостаточно хорошо; карточка предлагает транслитерацию в бенгальское письмо. Для других языков качество не гарантируется. Модель распространяется по лицензии MIT.
evangeliazve/camembert-ner-articles-nomination — дообученная модель CamemBERT для распознавания именованных сущностей в текстах. Она выделяет имена людей, организации и должности; в карточке приведены результаты оценки: F1 0,8723 и loss 0,6701. Модель описана как резервная версия модели для новостных статей; отдельная модель для предсказания отношений между сущностями упомянута как разрабатываемая, поэтому эта модель сама такие отношения не определяет. Модель содержит 137,8 млн параметров, использует архитектуру CamembertForTokenClassification и поддерживает контекст до 514 токенов. README указывает, что она дообучена на camembert-base, но набор данных не назван; предполагаемая область применения — извлечение сущностей из статей. Лицензия — MIT.
Canopy-258M-R3 v2 — компактная каузальная языковая модель семейства Canopy, разработанная авторами репозитория psikosen/canopy-258m-r3-v2. В README заявлена архитектура recurrent Mixture-of-Experts с маршрутизацией Top-2 по восьми экспертам и повторным выполнением шести средних MoE-блоков; метаданные указывают класс CanopyForCausalLM и 136,8 млн параметров, тогда как README приводит около 258,6 млн общих и около 112 млн активных параметров на токен. Модель предназначена для генерации текста, математических рассуждений, синтеза Python-кода и управления браузером. Авторы заявляют 50% успешных запусков HumanEval, 100% синтаксически корректного кода и прохождение набора из семи типов веб-взаимодействий; эти результаты приведены в карточке модели и не являются независимой оценкой. Модель ориентирована на высокую скорость работы на периферийных устройствах. В метаданных указан английский язык, поддержка чата и кода, формат safetensors и лицензия Apache-2.0. Длина контекста в предоставленных источниках не приведена.
claude-yolo-vibes-v4 — промежуточный чекпойнт supervised fine-tuning модели Qwen2.5-Coder-7B-Instruct, разработанный davidnichols-ops. Модель предназначена для генерации кода в диалоговом формате и добавляет к базовой модели индивидуальный стиль общения. Это этап до DPO-выравнивания; автор указывает, что итоговая DPO-версия предназначена для использования в производстве. Модель имеет плотную архитектуру Qwen2 с 7,1 млрд параметров, принимает текст и выдаёт текст. Контекстное окно — 32 768 токенов; в метаданных указан английский язык. Автор сообщает результат 88,4% pass@1 на HumanEval как для базовой модели, так и для этого SFT-чекпойнта, однако это значение приведено в README и не сопровождается описанием методики оценки. Модель распространяется в формате safetensors по лицензии Apache-2.0.
CoDA-v0-Instruct — инструкциялық диалог пен код генерациясына арналған Salesforce AI Research әзірлеген 1,7 млрд параметрлі CoDA тобының диффузиялық тілдік моделі. Ол код жазу және толықтыру кезінде сол және оң жақтағы контексті бірдей ескеретін екібағытты дискретті диффузияны қолданады. Модель код генерациясы мен аяқтауына оңтайландырылған, сондай-ақ чат және құралдарды шақыру интерфейсін қолдайды. Карточкада HumanEval, MBPP және EvalPlus сияқты код тапсырмаларындағы нәтижелері келтірілген; сенімділікке негізделген іріктеу сапа мен жылдамдықты теңестіруге арналған. Модель өлшемі 1,7 млрд параметр, контекст ұзындығы 40 960 токен, Transformers кітапханасындағы safetensors пішімінде жарияланған. Негізгі қолданылуы — код жазуға көмекші ретінде жұмыс істеу: функциялар құру, берілген кодты толықтыру және бағдарламалау сұрақтарына жауап беру. Карточкада ағылшын тілі көрсетілген. Лицензиясы CC BY-NC 4.0, сондықтан коммерциялық қолдануға арналмаған; нақты өнімге енгізер алдында лицензия шарттарын тексеру қажет.
Context Aware Splitter — модель на базе архитектуры Llama, предназначенная для контекстно-зависимого разбиения текста на фрагменты для систем Retrieval-Augmented Generation (RAG). Она учитывает смысл и контекст исходного текста, чтобы формировать части, которые можно читать независимо; целевой размер фрагментов задаётся количеством слов. В ответе модель также возвращает тему текста. README сообщает об обучении на 12,3 тыс. датских текстов объёмом 13,4 млн токенов; метаданные указывают 6,6 млрд параметров и контекстное окно 8192 токена. Модель принимает текст и генерирует текстовый ответ в формате, совместимом с инструкцией Alpaca. Она предназначена для подготовки текстовых корпусов к индексации и поиску с дополнением контекста. Указана лицензия Apache-2.0. Карточка README называет модель версией 1B, что расходится с размером 6,6B в метаданных; фактический размер требует проверки. Обучение описано для датских текстов, поэтому качество для других языков не подтверждено.
AnkitAI/deberta-v3-small-base-emotions-classifier — англоязычная модель классификации эмоций, созданная дообучением microsoft/deberta-v3-small на наборе dair-ai/emotion. Она относит текст к одной из шести категорий: гнев, отвращение, страх, радость, грусть или удивление. Модель использует архитектуру DeBERTa V3 Small с классификационной головой и содержит 155 млн параметров. Она принимает текстовые последовательности длиной до 512 токенов и выдаёт метку эмоциональной категории. Подходит для пакетной обработки текстов, анализа распределения эмоций и отслеживания эмоциональных тенденций во времени. Модель рассчитана на английский язык и может хуже работать на других языках или текстах, отличающихся от обучающих данных. Распространяется по лицензии MIT.
DeepSeek Coder 1.3B Base — базовая языковая модель для кода от DeepSeek. Это плотная модель семейства Llama с архитектурой LlamaForCausalLM и 1,3 млрд параметров; она принимает текстовые последовательности и генерирует продолжение. Модель обучена с нуля на корпусе, состоящем из кода и естественного языка на английском и китайском. В карточке серии указано обучение на 2 трлн токенов, а для этой версии отдельно приведено 1 трлн токенов. Модель предназначена для автодополнения кода, вставки фрагментов в заданное место и продолжения кода с учётом контекста проекта. Задача заполнения пропусков и окно контекста 16 384 токена поддерживают работу с крупными фрагментами кода. Это базовая модель, а не специализированный чат-ассистент; качество ответов в диалоге и выполнение инструкций не заявлены как её основное назначение. Доступны веса PyTorch. Лицензия в метаданных обозначена как other, поэтому конкретные условия использования следует сверить с лицензией в репозитории модели.
crabz/distil-slovakbert-ner — модель для распознавания именованных сущностей в словацком тексте. Она дообучена разработчиком на основе crabz/distil-slovakbert на словацкой части набора WikiANN. Архитектура — RoBERTa для классификации токенов; модель содержит 95,2 млн параметров и поддерживает контекст до 514 токенов. Модель назначает метки отдельным токенам и подходит для извлечения сущностей из словацких текстов. В README указана оценка F1 0,9307, однако подробности протокола оценки и состав классов не приведены. Лицензия в доступных данных не указана.
dpo5k5 — дообученная модель на 1,3 млрд параметров на основе deepseek-ai/deepseek-coder-1.3b-base. Она использует плотную архитектуру семейства Llama и предназначена для генерации и продолжения кода; базовая модель также поддерживает автодополнение и заполнение пропусков в коде. Контекст модели — до 16 384 токенов. Модель опубликована в формате safetensors, лицензия указана как other. README не содержит подробностей об оценке качества и ограничениях; возможности и качество модели для конкретных задач следует проверять отдельно.
EstBERT_NER — дообученная модель семейства BERT, разработанная на базе эстонской модели tartuNLP/EstBERT для распознавания именованных сущностей в эстонском тексте. Она размечает упоминания людей (PER), организаций (ORG) и мест (LOC), например в документах и новостях. Модель содержит 151,6 млн параметров, принимает текстовые последовательности длиной до 512 токенов и предназначена для задачи классификации токенов. Её можно использовать через pipeline Transformers для NER; результаты иногда требуют постобработки, поскольку модель может помечать как сущности отдельные части слов. Лицензия — CC BY 4.0.
Finetuned-NepBertA-NER — модель токеновой классификации, разработанная Прияншу Койралой из Synapse Technologies на основе NepBERTa. Она предназначена для распознавания именованных сущностей в непальском тексте: людей (PER), организаций (ORG) и мест (LOC), например в новостях, документах и отзывах. Модель основана на архитектуре BERT, содержит 136,7 млн параметров и принимает последовательности длиной до 512 токенов. На валидационной выборке автор сообщает F1 0,89, точность 0,86 и полноту 0,90. Модель может ошибаться на незнакомых типах сущностей, в специализированных текстах, при неоднозначном контексте и на текстах не на непальском языке; для новых областей может потребоваться дообучение. Лицензия — Apache 2.0.