II.8Инженерия данных и аналитика
В разделе собраны самостоятельные задачи, где AI помогает готовить надёжные данные и превращать их в понятную аналитику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
23 488 моделейToto-2.0-313m — модель семейства Toto, разработанная Datadog для прогнозирования многомерных временных рядов. Это предварительно обученная модель на 352,3 млн параметров для задач прогнозирования, в том числе в сценариях наблюдаемости инфраструктуры; она поддерживает прогнозирование без дообучения на конкретном ряде. Модель построена на архитектуре patched transformer с декодером: слои внимания поочерёдно обрабатывают временную ось и переменные. Она поддерживает контекст и горизонт прогноза переменной длины, а также выдаёт точечные прогнозы и оценки неопределённости через квантильную выходную голову. Datadog сообщает о высоких результатах семейства на бенчмарках BOOM, GIFT-Eval и TIME. Для работы нужны числовые временные ряды; модель выдаёт прогнозы и связанные с ними оценки неопределённости. Лицензия — Apache-2.0. В README не перечислены конкретные ограничения применимости или гарантии качества для отдельных наборов данных; результаты на бенчмарках сами по себе не гарантируют точность на конкретном временном ряду.
halilneed выпустил турецкоязычную модель для обнаружения и маскирования персональных данных в тексте по инструкции. Она построена на Gemma 3 Text, содержит около 257 млн параметров по метаданным и принимает текст вместе с инструкцией на турецком языке. Модель генерирует преобразованный текст, заменяя выбранные типы персональных данных метками; можно маскировать все данные, только заданные поля или все поля, кроме перечисленных. Она не возвращает NER-метки, фрагменты или смещения символов. Модель предназначена для подготовки турецких обращений в поддержку, журналов приложений и выдержек из документов перед передачей в LLM или другую систему. Контекст модели — до 32 768 токенов. В опубликованной оценке на 1 000 синтетических примерах точное совпадение целой строки составило 0,944; этот показатель не гарантирует обнаружение всех персональных данных в реальных документах. Лицензия — Gemma Terms of Use.
cardiffnlp/twitter-roberta-base-ner7-latest — модель Cardiff NLP на архитектуре RoBERTa, обученная на 154 млн твитов до конца декабря 2022 года и дообученная для распознавания именованных сущностей в твитах на датасете TweetNER7 из SuperTweetEval. Она размечает фрагменты текста как организации, творческие работы, события, группы, местоположения, людей и продукты. Модель предназначена для извлечения сущностей из сообщений в социальных сетях; её можно использовать для анализа упоминаний людей, организаций и других объектов в твитах. Метаданные указывают 151,8 млн параметров, контекст до 514 токенов и поддержку английского языка. Распространяется по лицензии MIT.
UniSpeech-SAT-Base-Plus-SD — модель Microsoft для диаризации речи, дообученная на LibriMix с линейным слоем поверх представлений UniSpeech-SAT. Архитектура UniSpeech-SAT, около 113,3 млн параметров; веса доступны в формате PyTorch. Принимает речевое аудио с частотой дискретизации 16 кГц и выдаёт покадровые классификационные результаты, используемые для определения говорящих во времени. Базовая UniSpeech-SAT предварительно обучена на 94 тысячах часов аудиоданных Libri-Light, GigaSpeech и VoxPopuli с самообучением и учётом признаков говорящего. Модель предназначена для разделения речи по говорящим в аудиозаписях и может служить компонентом конвейера анализа разговоров. В метаданных указан английский язык; это не означает, что поддержка ограничена только им. Карточка не сообщает точные метрики качества или максимальную длительность входа. Для работы требуется аудио 16 кГц. Лицензия в предоставленных данных не указана.
creemur/xlm-roberta-base-finetuned-panx-de — модель токеновой классификации на базе XLM-RoBERTa Base, дообученная для задачи PAN-X на немецком языке. Архитектура — плотная XLM-RoBERTa с головой классификации токенов; размер составляет 305,2 млн параметров, контекст — до 514 токенов. Модель принимает текст и присваивает метки его токенам, что подходит для извлечения сущностей в немецком тексте. В README указана оценка F1 0,8602 и loss 0,1426 на тестовой выборке. Датасет описан как неизвестный, поэтому состав меток и охват доменов по карточке установить нельзя. Модель распространяется по лицензии MIT.
Карточка модели powerwook/xlm-roberta-base-finetuned-panx-de на Hugging Face совпадает с карточкой creemur/xlm-roberta-base-finetuned-panx-de, поэтому описание составлено по ней. creemur/xlm-roberta-base-finetuned-panx-de — модель токеновой классификации на базе XLM-RoBERTa Base, дообученная для задачи PAN-X на немецком языке. Архитектура — плотная XLM-RoBERTa с головой классификации токенов; размер составляет 305,2 млн параметров, контекст — до 514 токенов. Модель принимает текст и присваивает метки его токенам, что подходит для извлечения сущностей в немецком тексте. В README указана оценка F1 0,8602 и loss 0,1426 на тестовой выборке. Датасет описан как неизвестный, поэтому состав меток и охват доменов по карточке установить нельзя. Модель распространяется по лицензии MIT.
ADELIE-DPO-1.5B — дообученная языковая модель, разработанная Yunjia Qi, Hao Peng, Xiaozhi Wang, Bin Xu, Lei Hou и Juanzi Li для извлечения информации из текста. Она основана на Qwen2.5-1.5B и дополнительно выровнена методом Direct Preference Optimization (DPO) после инструкционного дообучения на корпусе IEInstruct. Архитектура — плотная Qwen2ForCausalLM с 1,5 млрд параметров и контекстом до 131 072 токенов. Модель предназначена для закрытого и открытого извлечения информации, а также извлечения по запросу: распознавания сущностей, извлечения отношений и событий. В карточке сообщается о результатах на отложенных наборах данных для извлечения информации и отсутствии заметного ухудшения общих возможностей. Основной язык — английский. Лицензия указана как LLaMA 2 License для базовой модели.
AgenticCoder‑4B — компактная языковая модель, созданная yasserrmd слиянием Menlo/Jan-nano и ertghiu256/qwen3-4b-code-reasoning методом SLERP. Это плотная Qwen3-архитектура для генерации текста и диалоговых сценариев; размер — 3,7 млрд параметров, контекст — до 40 960 токенов. Репозиторий использует Transformers и формат safetensors. Модель предназначена для агентных сценариев, рассуждений о коде и помощи в разработке: она может генерировать и объяснять Python-код, помогать декомпозировать задачи и вести многошаговый диалог. В примерах также показаны сценарии анализа CSV, извлечения текста из изображений и разбора файлов через код и имитацию взаимодействия с инструментами. Карточка заявляет ориентацию на MCP, однако это не подтверждает наличие встроенного интерфейса вызова инструментов. Модель поддерживает текстовый ввод и выдаёт текст; сведения о конкретных естественных языках не приведены. Карточка характеризует её как компактную для экономичного развёртывания и интеграции в устройства с ограниченными ресурсами, но фактические показатели качества и скорости не указаны. Лицензия в предоставленных данных не приведена.
Alpaca GarbageCollector Multilingual — модель Argilla для поиска некорректных примеров в Alpaca и других датасетах инструкций. Это бинарный классификатор на базе SetFit и XLM-RoBERTa с 305,2 млн параметров; он присваивает примеру метку ALL GOOD или BAD INSTRUCTION. Модель дообучена на 1 000 размеченных примерах из AlpacaCleaned с помощью Argilla и использует многоязычный sentence transformer paraphrase-multilingual-mpnet-base-v2. Модель предназначена для проверки качества обучающих данных: она помогает находить инструкции, входы или ответы с проблемами, например выдуманными сведениями о ценах или описаниями несуществующих изображений. В README приведены испытания на английском, немецком и испанском языках; заявлен межъязыковой подход. В метаданных указан контекст 514 токенов. Репозиторий распространяется по лицензии Apache-2.0.
CAMeLBERT-Mix NER — арабоязычная модель распознавания именованных сущностей от CAMeL Lab, полученная дообучением CAMeLBERT Mix на наборе данных ANERcorp. Она размечает токены в тексте тегами сущностей; использовать её можно через компонент NER библиотеки CAMeL Tools или через Transformers pipeline для классификации токенов. Модель построена на архитектуре BERT и содержит 136,3 млн параметров. Она принимает арабский текст, поддерживает контекст до 512 токенов и выдаёт метки токенов. Репозиторий содержит веса в форматах PyTorch и TensorFlow. Модель распространяется по лицензии Apache 2.0.
dslim/bert-base-NER-uncased — модель токенной классификации на архитектуре BERT, опубликованная dslim на Hugging Face. Она предназначена для распознавания именованных сущностей в англоязычном тексте: в частности, персон, организаций, географических названий и сущностей категории MISC. Модель основана на BERT base uncased и дообучена для NER; содержит 136,7 млн параметров и принимает последовательности длиной до 512 токенов. Она возвращает метки для токенов, поэтому подходит для извлечения сущностей из предложений и документов. Доступны веса PyTorch, TensorFlow, JAX и safetensors. Модель ориентирована на английский язык и не является универсальной многоязычной NER-системой. Лицензия — MIT.
dslim/bert-large-NER — дообученная модель BERT Large Cased для распознавания именованных сущностей в английском тексте. Она размечает токены как сущности типа «человек», «организация», «место» и «прочее» либо как текст вне сущностей. Модель имеет 432,3 млн параметров и поддерживает контекст до 512 токенов; доступна в форматах PyTorch, TensorFlow, Flax, ONNX и safetensors. Модель подходит для извлечения имен и организаций из новостных статей и других англоязычных текстов, а также для предварительной разметки документов. Она обучена на английской версии CoNLL-2003, основанной на новостях Reuters; на тестовой выборке в README приведены F1 91,7, точность 91,2 и полнота 92,3. Результаты на других предметных областях могут быть хуже, а отдельные части токенов иногда получают метки сущностей и требуют постобработки. Модель разработал dslim. Лицензия — MIT.
CodeFuse-Mixtral-8x7B — языковая модель для программирования, разработанная CodeFuse и дообученная методом QLoRA на базе Mixtral-8x7B-v0.1. В метаданных указаны архитектура Mixtral с механизмом смеси экспертов (MoE), 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для генерации кода и решения связанных с программированием задач в формате текстового запроса и ответа. README приводит результат 56,1% pass@1 на HumanEval при жадном декодировании. Модель использует формат запросов с метками ролей; для подсказок по коду также применяются метки языка, например Python. В карточке указана лицензия «other», без уточнения конкретных условий. Результат HumanEval отражает один тестовый набор и сам по себе не гарантирует качество на других языках программирования и задачах.
Карточка модели EmTpro01/CodeLlama-7b-java-16bit на Hugging Face совпадает с карточкой EmTpro01/CodeLlama-7b-finetuned-16bit, поэтому описание составлено по ней. Модель EmTpro01 — дообученная версия CodeLlama-7b-hf для генерации кода по текстовым инструкциям. Она создана на базе архитектуры Llama и содержит 6,6 млрд параметров; при обучении использовались Unsloth и библиотека TRL. Для дообучения указан набор инструкций по Python-коду iamtarun/python_code_instructions_18k_alpaca. Модель принимает текст и генерирует текст, включая код; заявленный контекст — до 16 384 токенов. Модель подходит для генерации фрагментов кода Python по запросу и выполнения инструкций, связанных с программированием. В карточке указаны английский язык и лицензия Apache 2.0. Качество, точность и ограничения генерации в README не описаны; как и другие языковые модели, она может выдавать ошибочный или небезопасный код, который следует проверять.
CrisperWhisper 2.0 small — модель распознавания речи от Nyra Labs, основанная на архитектуре Whisper и содержащая 153,1 млн параметров. Она преобразует аудио в текст и поддерживает режимы verbatim, сохраняющий повторы, слова-паразиты, обрывы и вокальные события, и intended, который передаёт предполагаемый смысл в отредактированной записи. Модель также может выдавать временные границы отдельных слов и обрабатывать длинные записи с продолжением транскрипции между фрагментами. Модель предназначена для точной дословной расшифровки речи, подготовки транскриптов для анализа и создания речевых наборов данных. README описывает возможности семейства CrisperWhisper 2.0, включая мультиязычную работу, но метаданные этой версии явно указывают английский и немецкий языки. Для выбранной модели доступны веса safetensors и библиотека crisperwhisper. В README стандартные модели семейства обозначены как распространяемые по некоммерческой исследовательской лицензии с возможностью получить коммерческую лицензию; метаданные указывают лицензию other.
ai4data/devdata-search-minilm-l6-cmnrl — модель-биэнкодер семейства DevData Search, разработанная ai4data для поиска по структурированным статистическим метаданным. Она дообучена на базе sentence-transformers/all-MiniLM-L6-v2 с использованием DevDataBench и функции потерь cmnrl. Модель преобразует запросы и описания наборов данных в векторы для семантического поиска и сравнения. При обучении применялись перестановка порядка полей и исключение части полей, чтобы модель связывала смысл с названиями полей, а не с их порядком. Для работы используются Sentence Transformers; модель не является готовым хостинговым поисковым сервисом. Это англоязычный BERT-энкодер с 25,9 млн параметров и контекстом до 512 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. Она предназначена для векторизации текста и сама не генерирует ответы.
DistilCamemBERT-NER — модель распознавания именованных сущностей на французском языке, разработанная на базе cmarkea/distilcamembert-base и дообученная для классификации токенов. Она выделяет в тексте имена людей, географические названия, организации и сущности категории MISC, например названия книг и фильмов. Для обучения использован датасет wikiner_fr примерно из 170 тысяч размеченных предложений. Модель содержит 81,2 млн параметров и имеет контекст длиной до 514 токенов. В опубликованной оценке общий F1 составил 98,18%; авторы также сообщают об уменьшении времени инференса примерно вдвое по сравнению с CamemBERT при сопоставимом энергопотреблении. В тесте на процессоре AMD Ryzen 5 4500U указано среднее время 43,44 мс; результаты зависят от оборудования и способа запуска. Модель подходит для извлечения сущностей из французских текстов, например при индексации документов и подготовке данных для последующего анализа. Она рассчитана на французский язык и конкретные категории разметки, поэтому результаты на других языках и для иных типов сущностей не подтверждены. Лицензия — MIT.
Модель philschmid/distilroberta-base-ner-conll2003 разработана на основе distilroberta-base и дообучена для распознавания именованных сущностей в текстах с разметкой CoNLL-2003. Это модель архитектуры DistilRoBERTa с 95,2 млн параметров, предназначенная для классификации токенов; она принимает текст и относит его фрагменты к классам сущностей, предусмотренным обучающей разметкой. В README приведены результаты на CoNLL-2003: F1 95,29 на валидационной выборке и 90,74 на тестовой; для исправленной версии CoNLL++ указаны F1 95,29 и 92,23 соответственно. Модель рассчитана на извлечение сущностей в текстах, похожих на данные этих наборов. Результаты на других языках, доменах и стилях текста могут отличаться. Контекст модели составляет до 514 токенов. Лицензия — Apache-2.0.
jinhybr/distilroberta-ConLL2003 — модель на базе distilroberta-base, дообученная автором на наборе данных CoNLL-2003 для распознавания именованных сущностей и классификации токенов. Она принимает текст и присваивает метки его токенам, в частности для задач NER на английском языке. В карточке указаны результаты на тестовой выборке: F1 0,9536 и loss 0,0585. Модель содержит 95,2 млн параметров, использует архитектуру XLM-RoBERTa и поддерживает контекст до 514 токенов. Распространяется по лицензии Apache-2.0.
herbert-base-ner — польская модель для распознавания именованных сущностей, созданная на базе HerBERT. Это дообученная модель архитектуры BERT с 151,6 млн параметров, рассчитанная на контекст до 514 токенов. Она была дообучена на польской части набора WikiAnn и определяет имена людей (PER), географические названия (LOC) и организации (ORG). Модель подходит для извлечения этих сущностей из польских текстов, например для последующей индексации или анализа документов. Доступна в форматах PyTorch и Safetensors; лицензия — CC BY 4.0. Ограничена тремя указанными типами сущностей и польским языком.
unsloth/JanusCoder-8B-GGUF — GGUF-квантизированная версия JanusCoder-8B, подготовленная Unsloth на основе модели internlm/JanusCoder-8B. JanusCoder разработан командой InternLM как открытая фундаментальная модель для единого визуально-программного интерфейса в задачах работы с кодом. Данная версия является текстовой моделью на базе Qwen3-8B и предназначена для генерации кода по текстовым инструкциям, включая построение визуализаций данных, интерактивных веб-интерфейсов, программных анимаций и других программно создаваемых визуальных материалов. Модель обучалась на мультимодальном корпусе JANUSCODE-800K, однако для JanusCoder-8B в README указано текстовое исполнение; отдельные визуально-языковые варианты представлены в семействе JanusCoderV. Среди сильных сторон — универсальность в задачах кодового интеллекта и визуально-программной генерации, а также результаты на PandasPlotBench, ArtifactsBench и DTVBench, где модель превосходит ряд сопоставимых открытых моделей. Размер модели — 8B параметров; конкретные языки программирования и размер контекстного окна не указаны. Для запуска через llama.cpp требуется режим --jinja, а для Transformers рекомендуется версия не ниже 4.55.0. Модель распространяется по лицензии Apache-2.0.
lid-neural-5.1 — компактная модель для определения языка коротких текстов на четырёх основных языках Нигерии: хауса, йоруба, игбо и нигерийском пиджине. Модель разработала OlaVerse как классификационную доработку энкодера ModernBERT olaverse/mist-encoder-base-ng. Она содержит около 30,7 млн параметров, принимает текст с контекстом до 1024 токенов и предназначена для классификации предложений, запросов и сообщений, в том числе твитов. На сбалансированном отложенном наборе предложений авторы сообщают точность 0,9756 и Macro-F1 0,9753. Модель компактна и подходит для запуска на CPU и периферийных устройствах. Распространяется по лицензии Apache-2.0. Модель всегда выбирает один из четырёх поддерживаемых языков и не имеет класса для английского или других языков, поэтому входной текст на них может быть уверенно размечен ошибочно, чаще как нигерийский пиджин. Пиджин — наиболее сложный для распознавания класс; качество также может снижаться на смешанном тексте и нестандартной орфографии.
mrm8488/llama-2-coder-7b — языковая модель для генерации кода, созданная дообучением Llama 2 7B на 20 тысячах инструкций CodeAlpaca с помощью QLoRA и PEFT. Базовую модель разработала Meta; архитектура — плотная авторегрессионная LlamaForCausalLM с 6,6 млрд параметров и контекстом до 4096 токенов. Модель предназначена для ответов на инструкции, связанных с кодом: например, генерации фрагментов программ и помощи при решении задач программирования. Она принимает текстовые запросы и генерирует текст. В карточке указан датасет CodeAlpaca_20K; результаты оценки не приведены. Модель распространяется по лицензии Apache-2.0.
Llama3.1-8B-Cypher — языковая модель, разработанная Azzedine и дообученная на базе unsloth/Llama-3.1-8B-Instruct для генерации запросов Cypher по описанию на естественном языке. Она предназначена для работы с графовыми базами Neo4j и подходит для помощников по запросам, автоматизации извлечения данных и построения взаимодействий с графом. Модель имеет плотную архитектуру LlamaForCausalLM, около 7,5 млрд параметров и контекст до 131 072 токенов. Она принимает текст и генерирует текстовые запросы; основным языком карточка называет английский. Лицензия в метаданных — MIT. Карточка сообщает о высоком качестве на стандартных запросах и ошибках на сложных задачах с многошаговым рассуждением. Модель не предназначена для проверки или оптимизации запросов, поэтому результаты следует проверять перед выполнением. README указывает лицензию Apache 2.0, что расходится с лицензией MIT в метаданных.
Agnuxo публикует Mamba-Codestral-7B-Instruct_CODE_Python-Spanish_English_GGUF_16bit — локально запускаемую модель генерации кода на 7 млрд параметров. Карточка описывает её как помощника для написания кода и указывает семейство Mistral; репозиторий содержит веса в формате GGUF F16. В метаданных Hugging Face основная задача обозначена как text-generation, а языки карточки — английский и испанский. Модель предназначена для генерации и помощи с кодом, включая Python, JavaScript, TypeScript, Rust, Go и C++, а также научные вычисления и машинное обучение с библиотеками NumPy, SciPy, Pandas, PyTorch, TensorFlow и JAX. README также заявляет навыки координации агентов и интеграции MCP/A2A. Модель можно запускать локально через Ollama; лицензия — Apache-2.0. Ограничения: README не приводит результатов тестирования, подробностей об обучении или точного контекста. Перечисленные языки программирования и агентные возможности заявлены в карточке, но не подтверждены метаданными или оценками.
MeridianPII Hindi/Hinglish v2 — модель для обнаружения персональных данных в тексте на хинди (деванагари), хинглише и индийском английском. Она разработана как региональный набор для индийских локалей и дообучена на базе microsoft/Multilingual-MiniLM-L12-H384. Это модель BERT для классификации токенов с 64,3 млн параметров и контекстом до 512 токенов; доступны веса Safetensors и квантированная INT8-версия ONNX размером около 55 МБ для запуска в браузере через transformers.js. Модель размечает имена, адреса и другие контекстные PII-сущности, чтобы их можно было находить перед маскированием или редактированием текста. В описанной авторами оценке на тестовом наборе из 2 000 строк полнота обнаружения частных данных составила 99,8%, однако на человеко-написанных именах хинди вне распределения — 80,4%. Авторы рекомендуют сочетать модель с детерминированными проверками структурированных идентификаторов и отдельно оценивать её на собственных данных. Лицензия — CC BY 4.0.
Solshine/Meta-Llama-3.1-8B-Instruct-Python-Coder — дообученная Solshine языковая модель для генерации текста и помощи с кодом на Python. Она основана на unsloth/Meta-Llama-3.1-8B-Instruct-bnb-4bit и создана с использованием Unsloth и библиотеки Hugging Face TRL. Модель относится к плотной архитектуре LlamaForCausalLM и содержит 7,5 млрд параметров; заявленная длина контекста — 131 072 токена. Модель рассчитана на диалоговое взаимодействие и сценарии написания кода. В карточке указаны английский язык и код; отдельно подтверждена возможность работы с кодом. Репозиторий распространяется по лицензии Apache-2.0. Карточка не приводит подробных результатов оценки качества или перечня поддерживаемых языков программирования.
MyAwesomeModel — модель на базе BERT, опубликованная в Hugging Face Hub пользователем liufeqww1154. Согласно метаданным, она предназначена для извлечения признаков и работает с библиотекой Transformers на PyTorch. Архитектурная информация ограничена указанием семейства BERT; размер модели, модальности, поддерживаемые языки и длина контекста не указаны. README также заявляет об улучшенных рассуждениях, математике, программировании, логике, генерации текста, function calling и снижении галлюцинаций, однако эти сведения не согласуются с основным pipeline-тегом feature-extraction и не сопровождаются техническими деталями реализации. Поэтому модель можно рассматривать прежде всего как инструмент получения векторных представлений текста для последующей классификации, поиска или кластеризации. Модель распространяется по лицензии MIT.
MyAwesomeModel — модель на базе BERT для извлечения признаков из текста, доступная через библиотеку Transformers и реализованная с использованием PyTorch. В метаданных Hugging Face она классифицирована для задачи feature-extraction; автор или организация-разработчик не указаны. Модель предназначена для получения векторных представлений текстов, которые можно использовать в последующей классификации, кластеризации, поиске похожих документов и других задачах анализа текста. README также заявляет о возможностях рассуждения, генерации кода, ответов на вопросы и диалогов, однако эти сведения не согласуются с указанным pipeline-тегом и не подтверждают архитектуру генеративной модели. Модель распространяется по лицензии MIT. В доступных данных не указаны размер модели, поддерживаемые естественные языки и длина контекста.
MyAwesomeModel — модель на базе Transformers с архитектурой семейства BERT, опубликованная в репозитории scq21cs2dsadsa/MyAwesomeModel-TestRepo. Согласно метаданным Hugging Face, она предназначена для извлечения признаков из текста и доступна под лицензией MIT. Модель может применяться для получения векторных представлений текста, последующей классификации, кластеризации, поиска похожих документов и других задач, использующих текстовые embeddings. README также заявляет о возможностях рассуждения, генерации кода, ответов на вопросы и диалогов, однако pipeline_tag feature-extraction и доступные метаданные подтверждают прежде всего сценарии извлечения признаков. Размер модели, длина контекста, поддерживаемые языки и разработчик в предоставленных данных не указаны.