II.8Инженерия данных и аналитика
В разделе собраны самостоятельные задачи, где AI помогает готовить надёжные данные и превращать их в понятную аналитику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
23 488 моделейKoBART-base-v1 — корейская модель семейства BART, опубликованная gogamza. Это плотная модель с архитектурой BartModel, содержащая 79,7 млн параметров; она предназначена для извлечения признаков из текста и может использоваться как основа для построения прикладных NLP-систем. Для загрузки применяются Transformers и PreTrainedTokenizerFast. Модель принимает текст и выдаёт скрытые представления токенов; заявленный размер контекста составляет 1026 токенов. Поддерживаемый язык — корейский. Репозиторий содержит веса PyTorch и Safetensors и распространяется по лицензии MIT.
KoBERT — предварительно обученная языковая модель на архитектуре BERT, разработанная SK Telecom и предназначенная для работы с корейским языком. Репозиторий содержит модель примерно с 119,4 млн параметров и контекстом до 512 токенов; в метаданных указаны реализации PyTorch, Safetensors и ONNX. Модель формирует контекстные векторные представления текста и может служить основой для прикладных задач NLP, например классификации или анализа тональности после соответствующей настройки. Она принимает текст и сама по себе не является генеративной чат-моделью. Лицензия в доступных сведениях не установлена.
kto5k4 — дообученная модель на базе deepseek-ai/deepseek-coder-1.3b-base с архитектурой LlamaForCausalLM. Она предназначена для генерации текста; базовая модель ориентирована на продолжение, автодополнение и заполнение пропусков в коде. Модель содержит 1,3 млрд параметров, принимает текст и поддерживает контекст до 16 384 токенов. Карточка не описывает обучающие данные, целевое поведение или результаты оценки kto5k4, поэтому её специализацию и качество сверх возможностей базовой модели определить нельзя. Репозиторий содержит веса в формате Safetensors. Указана лицензия other; конкретные условия использования по имеющимся данным установить нельзя.
Funnel Transformer large-base — предварительно обученная базовая модель семейства Funnel Transformer, представленная авторами модели в исследовательской работе и опубликованная в репозитории Funnel Transformer. Это uncased-модель для английского языка, обученная на текстах BookCorpus, английской Википедии, ClueWeb, GigaWord и Common Crawl с самоконтролируемой задачей распознавания заменённых токенов, похожей на objective ELECTRA. Архитектура Funnel сжимает последовательность; в этой версии без декодера выходные скрытые состояния имеют длину в четверть от длины входа, а максимальный контекст составляет 512 токенов. Модель извлекает контекстные признаки и в первую очередь служит основой для дообучения на задачах, использующих представление всего предложения или текста, например классификации последовательностей, классификации токенов и ответов на вопросы. Сжатые выходы удобны для задач уровня предложения, но не сохраняют отдельное представление для каждого входного токена. Генерация текста не является её назначением. Репозиторий предоставляет форматы PyTorch и TensorFlow; лицензия — Apache-2.0.
Llama JoyCaption Beta One в формате MLX — визуально-языковая модель для создания подробных текстовых описаний изображений. Порт модели fancyfeast/llama-joycaption-beta-one-hf-llava подготовлен для эффективного инференса на Apple Silicon; разработчик порта — n0kovo. Архитектура LLaVA объединяет визуальный энкодер SigLIP2 и языковую модель Llama 3.1 8B. Модель принимает изображения и формирует текстовые подписи, в частности для подготовки данных и обучения моделей генерации изображений. Языковые веса, проектор и совместимые слои энкодера квантизированы до 8 бит с размером группы 64; часть слоёв энкодера оставлена в FP16. Репозиторий содержит веса safetensors для библиотеки MLX. Лицензия в предоставленных данных не описана.
CDLM-0.5B — компактная языковая модель с маскированной диффузией, разработанная в рамках работы Corrective Diffusion Language Models. Это дообученная на 2 000 шагов версия fredzzp/open-dcoder-0.5B с архитектурой Qwen2 и 494 млн параметров. Модель предназначена для генерации и исправления кода по текстовым запросам; использует двунаправленное внимание и контекст до 32 768 токенов. Для запуска требуется реализация диффузионного Qwen2 из оценочного конвейера проекта: стандартная загрузка через AutoModelForCausalLM интерпретирует веса как причинную модель и даёт неверные результаты. В README также описана особенность использованной реализации функции потерь, из-за которой градиенты при обучении не соответствовали заданным весам отдельных токенов. Модель распространяется по лицензии MIT.
pii-layout-synth-v13 — модель на базе answerdotai/ModernBERT-base, дообученная для классификации токенов. Карточка не раскрывает набор меток и конкретное назначение, однако название указывает на синтетическую разметку персональных данных с учётом их расположения. Модель содержит 149 млн параметров, использует архитектуру ModernBERT и формат safetensors; базовая модель поддерживает контекст до 8192 токенов. В README приведены результаты на оценочном наборе: F1 0,9923, точность 0,9902, полнота 0,9943 и accuracy 0,9986. Датасет неизвестен, поэтому эти показатели нельзя уверенно переносить на другие данные и сценарии. Лицензия — Apache-2.0.
PP-LCNet_x1_0_table_cls_onnx — модель классификации изображений таблиц, разработанная командой PaddlePaddle для использования в составе PaddleOCR. Она определяет категорию таблицы по её изображению, в частности различает таблицы с видимыми линиями и без них, чтобы передавать результат в последующие этапы распознавания и извлечения структуры таблиц. Модель основана на архитектуре PP-LCNet с масштабом x1_0 и распространяется в формате ONNX для запуска через ONNX Runtime. В README указаны поддерживаемые языки English и Chinese, однако входными данными являются изображения, поэтому языковые сведения, вероятно, относятся к соответствующему OCR-конвейеру. Размер модели составляет около 6,6 МБ. Точность Top-1 равна 94,2%; время инференса составляет 2,35 мс в обычном и 0,47 мс в высокопроизводительном режиме на GPU, а на CPU — 4,03 и 1,35 мс соответственно. Сильные стороны модели — компактный размер и высокая скорость, что делает её подходящей для потоковой обработки документов и интеграции в пайплайны распознавания таблиц. Ограничение заключается в узкой специализации: модель классифицирует изображения таблиц по заранее заданным категориям и не выполняет полноценное OCR, распознавание текста или восстановление структуры таблицы. Модель распространяется по лицензии Apache-2.0.
loom-ai-org выпустила экспорт модели kredor/punctuate-all в формате GGUF для запуска через loom.cpp и библиотеку loom-py-rt. Это XLM-RoBERTa-base, дообученная на Europarl для восстановления знаков препинания: модель присваивает класс каждому токену, указывая знак после него. Поддерживаются английский, немецкий, французский, испанский, болгарский, итальянский, польский, нидерландский, чешский, португальский, словацкий и словенский языки. Модель рассчитана на восстановление точки, запятой, вопросительного знака, дефиса, двоеточия или отсутствия знака в тексте с заранее удалённой пунктуацией. Она принимает последовательности по одной, без пакетирования; длина ограничена 512 токенами. Метрики исходной карточки указывают на слабое качество для дефиса и двоеточия, а обучение на формальных парламентских текстах ограничивает перенос на чат, код и разговорную речь. Выходные метки относятся к частям токенизатора, поэтому знак следует брать с последней части слова. Лицензия — MIT.
Qwen2.5-Coder-0.5B-GGUF — это квантизированная в формате GGUF версия базовой модели Qwen2.5-Coder-0.5B, разработанной Qwen. Квантизация выполнена bartowski на основе llama.cpp. Модель предназначена для генерации и автодополнения исходного кода, а также других сценариев продолжения текста, связанных с программированием. Модель имеет контекст длиной 32 тысячи токенов и обучена на 5,5 триллиона токенов исходного кода и связанных данных. В README указан английский язык. Размер базовой модели — 0,5 млрд параметров; сведения о конкретном уровне квантизации и поддерживаемых модальностях не указаны. Это base-модель, поэтому она рассчитана на completion и generation, а не на ведение диалога или выполнение instruct-запросов. К сильным сторонам относятся компактный размер, возможность локального запуска в совместимых инструментах и большой контекст для небольшой модели. Ограничения связаны с базовым, а не инструкционным характером модели: она может хуже следовать указаниям и поддерживать чатовый формат, а качество генерации зависит от выбранного варианта квантизации и аппаратных ресурсов. Лицензия — Apache-2.0.
Qwen3 ASR Enhanced — дообученная модель mrfakename на базе Qwen/Qwen3-ASR-1.7B для распознавания речи и транскрибации аудио с inline-разметкой невербальных вокализаций: смеха, вздохов, кашля, дыхания, прочищения горла и плача. Модель предназначена для расшифровки подкастов, интервью и встреч, создания описательных субтитров, анализа диалогов и подготовки данных для разговорных систем. Модель использует плотную архитектуру Qwen3ASRForConditionalGeneration, принимает аудио и выдаёт текстовую транскрипцию. README заявляет поддержку английского, немецкого и французского языков, устойчивость к шуму, акцентам и длинным записям. Это альфа-версия; автор отмечает нестабильность тегов невербальных звуков и планирует улучшить их, а также добавить диаризацию говорящих. Лицензия — Apache-2.0.
Refact-1.6B-base — базовая авторегрессионная модель для генерации кода от Refact AI. Её основное назначение — дополнение и заполнение пропусков в коде с помощью формата Fill-in-the-Middle (FIM); модель также поддерживает экспериментальный чат в роли программного ассистента. Модель построена на архитектуре GPTRefact с multi-query attention, ALiBi и LayerNorm. Она обучена на 1,2 трлн токенов: примерно поровну на программном коде и английских текстах, включая материалы по информатике. Контекст — 4096 токенов; доступны веса PyTorch, библиотека Transformers. Практическое применение ограничено склонностью FIM-режима к повторениям; качество на естественных языках, кроме английского, ниже. Карточка отмечает возможные проблемы с FIM-форматом. Лицензия — BigScience OpenRAIL-M.
Bachi06/roberta-base-ner-demo — модель семейства RoBERTa для классификации токенов, дообученная автором на основе bayartsogt/mongolian-roberta-base. Она предназначена для разметки последовательностей токенов, в частности для задач распознавания именованных сущностей. Модель содержит 151,8 млн параметров и принимает текст с контекстом до 514 токенов. В README приведены результаты на наборе оценки: F1 — 0,9358, точность — 0,9301, полнота — 0,9415, accuracy — 0,9804. Датасет и типы сущностей не описаны, поэтому эти показатели не позволяют определить качество на конкретных данных или классах сущностей. Лицензия в доступных сведениях не указана.
bsingh/roberta_goEmotion — модель классификации эмоций в тексте на основе RoBERTa, обученная на датасете GoEmotions с 58 тысячами размеченных комментариев Reddit. Она относит текст к 28 категориям, включая восхищение, гнев, радость, грусть, благодарность и нейтральный тон, и подходит для анализа эмоциональной окраски коротких пользовательских сообщений и комментариев. Модель использует архитектуру RobertaForSequenceClassification, содержит 151,8 млн параметров и принимает текст длиной до 514 токенов. В карточке приведены метрики по отдельным категориям; результаты различаются между эмоциями, а для некоторых классов показатели заметно ниже. Модель рассчитана на англоязычные тексты и распространяется по лицензии MIT.
Finnish-NLP/roberta-large-finnish-v2 — крупная предобученная языковая модель RoBERTa, разработанная командой Finnish-NLP для обработки финского текста. Это версия предыдущей Finnish-NLP/roberta-large-finnish, обученная с теми же гиперпараметрами на более тщательно очищенном корпусе; по приведённым в карточке оценкам очистка не дала заметного улучшения результатов. Модель содержит 454,1 млн параметров, использует архитектуру RobertaForMaskedLM и доступна в форматах PyTorch и Flax. Модель обучалась на финских текстах из mC4, Википедии, новостных архивов Yle и STT, а также корпуса Suomi24. Она чувствительна к регистру, использует BPE-токенизацию и принимает последовательности до 514 токенов по метаданным. Основное прямое применение — восстановление замаскированных токенов; также модель предназначена для дообучения на классификации последовательностей и токенов, а также на ответах на вопросы. Для генерации текста она не предназначена. Лицензия — Apache-2.0. Корпуса включают неотфильтрованный интернет-контент, поэтому предсказания модели могут отражать его предвзятость; качество на конкретных задачах зависит от последующего дообучения.
Модель разработал Lakshya Kumar: это дообученная RoBERTa-Large для многометочной классификации эмоций в тексте. Она определяет 28 эмоций и нейтральное состояние по датасету GoEmotions, поэтому одному сообщению может соответствовать несколько меток. Модель содержит 454,1 млн параметров, принимает текст и выдаёт оценки и метки эмоций; заявленная длина контекста — 514 токенов. Для обучения применялись focal loss, отдельная настройка порога для каждой метки и целевая аугментация, чтобы улучшить работу с несбалансированными классами. Модель ориентирована на англоязычный текст, в частности комментарии и короткие сообщения. Она распространяется по лицензии MIT.
Модель seara/rubert-tiny2-russian-emotion-detection-cedr — дообученная автором seara модель RuBERT-tiny2 для распознавания эмоций в коротких русскоязычных текстах. Это BERT-классификатор последовательностей размером 29 млн параметров с контекстом до 2048 токенов. Он выполняет многометочную классификацию по шести классам: отсутствие эмоции, радость, грусть, удивление, страх и гнев. Модель подходит для анализа эмоциональной окраски коротких сообщений, отзывов и других текстов на русском языке. На тестовой выборке CEDR общий micro F1 составил 0,79; качество заметно ниже для класса «гнев» (F1 0,41), поэтому результаты этого класса требуют особой проверки. Модель распространяется по лицензии MIT.
Sensible: ModernBERT Sentiment Analysis — англоязычная модель классификации тональности, разработанная Ankit Aglawe. Она дообучена на ModernBERT-base и определяет, положительный или отрицательный тон у отзывов, комментариев, обратной связи и текстов из социальных сетей. Модель использует архитектуру ModernBERT для классификации последовательностей, содержит 149 млн параметров и принимает контекст длиной до 8192 токенов. В README сообщается точность 0,9461 на валидационной выборке SST-2 из 872 примеров. Модель доступна для Transformers и поддерживает пакетную классификацию. Лицензия — Apache-2.0. Модель обучена на SST-2; её схема меток ограничена классами positive и negative. Результат на SST-2 не гарантирует такую же точность на текстах других типов или на тонких и смешанных оценках.
Это компактная модель SpanMarker для распознавания именованных сущностей в английском тексте. Она разработана на основе prajjwal1/bert-tiny и дообучена на датасете Few-NERD; архитектура использует SpanMarkerModel, а веса доступны в форматах PyTorch и safetensors. Модель предназначена для извлечения упоминаний сущностей и присвоения им классов в задачах NER. Её карточка отмечает применение прежде всего для эффективного тестирования репозитория SpanMarker, поэтому её также можно использовать для экспериментов и проверки конвейеров распознавания сущностей. Лицензия — Apache-2.0.
Модель stefan-it/span-marker-gelectra-large-germeval14 разработана на базе GELECTRA Large и дообучена с архитектурой SpanMarker для распознавания именованных сущностей в немецком тексте. Она предназначена для разметки персон, мест, организаций и прочих сущностей, включая производные от именованных сущностей и составные слова с их фрагментами. Обучение проводилось на наборе GermEval 2014, составленном из немецкой Википедии и новостных текстов. На официальной тестовой оценке GermEval 2014 модель достигла F1 89,08%. Репозиторий содержит веса PyTorch в формате safetensors. Модель распространяется по лицензии MIT. Она ориентирована на немецкий язык и схему разметки GermEval 2014; качество на других языках, доменах или схемах сущностей не подтверждено.
Это модель сегментации речи для диаризации, разработанная сообществом diarizers-community. Она дообучена на испаноязычной части датасета Callhome на основе pyannote/segmentation-3.0 и предназначена для определения речевой активности и сегментов, связанных с говорящими, в аудиозаписях. Её можно использовать через библиотеку diarizers или включить в конвейер диаризации pyannote. На оценочном наборе указаны Loss 0,5198 и DER 0,1745; также приведены показатели ложных срабатываний, пропусков и ошибок идентификации говорящих. Модель распространяется в формате safetensors по лицензии MIT. Метаданные описывают базовую модель как сегментатор 10-секундных фрагментов, способный учитывать перекрывающуюся речь.
m3/sscd-copy-detection — модель извлечения признаков изображений для поиска копий и визуально похожих изображений. Пример в карточке показывает загрузку изображений через Transformers pipeline и сравнение полученных векторов с помощью косинусного сходства. Модель относится к архитектурному семейству SSCD Copy Detection и выдаёт векторные представления изображений. Такой подход подходит для поиска дубликатов в коллекциях и оценки сходства пары изображений. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0.
Stanza для шведского языка — набор моделей лингвистического анализа естественного языка, разработанный Stanford NLP. Модель предназначена для анализа текста: от исходной строки до синтаксического разбора и распознавания сущностей. В карточке Hugging Face она отнесена к задаче классификации токенов и использует библиотеку Stanza; веса представлены в формате PyTorch. Модель подходит для обработки шведских текстов в NLP-конвейерах, включая разметку токенов и извлечение сущностей. Репозиторий распространяется по лицензии Apache-2.0. Карточка не сообщает размер модели и длину контекста.
StarCoder2-3B — плотная авторегрессионная модель семейства StarCoder2 от проекта BigCode, предназначенная для генерации и дополнения программного кода. Она обучена на коде из The Stack v2 с использованием цели Fill-in-the-Middle и поддерживает 17 языков программирования. Модель содержит 4,2 млрд параметров, использует Transformer-декодер с grouped-query attention и скользящим окном внимания; длина контекста составляет 16 384 токена. Модель подходит для продолжения фрагментов кода и заполнения пропусков в существующем коде. Это не instruction-модель: запросы на естественном языке, например просьбы написать функцию, могут обрабатываться плохо. Сгенерированный код может быть ошибочным, неэффективным или содержать уязвимости; он также может дословно воспроизводить код из обучающих данных, поэтому следует проверять лицензионные требования и атрибуцию. Лицензия — BigCode OpenRAIL-M.
Это англоязычная Sentence Transformer модель на базе thomaskim1130/stella_en_1.5B_v5-FinanceRAG, дообученная для финансового поиска и задач RAG. Модель построена на архитектуре Qwen2, содержит 1,5 млрд параметров и преобразует предложения и абзацы в плотные векторы размерности 1024; сходство между ними оценивается косинусной мерой. Модель предназначена для семантического поиска по финансовым текстам, поиска похожих фрагментов и сопоставления запросов с документами. Также её можно применять для сравнения предложений, кластеризации и классификации текста. В карточке указана максимальная длина последовательности 512 токенов; метаданные каталога указывают базовый контекст 131072 токена, но в описании Sentence Transformers ограничение модели составляет 512 токенов. Данных о лицензии в предоставленных источниках нет.
SYNGEN REASONING 0.6B — языковая модель Pinkstack с 507,6 млн параметров на архитектуре Qwen3, дообученная на базе Qwen/Qwen3-0.6B-Base. Она предназначена прежде всего для генерации синтетических рассуждений, привязанных к итоговым ответам, например при преобразовании диалоговых наборов данных в наборы с цепочками рассуждений. Модель также подходит для других задач генерации текста, требующих рассуждений. Модель принимает текст и генерирует текст; заявленный родной контекст — 32 768 токенов. В README приведены рекомендуемые параметры генерации: min_p 0,05, top_p 0,85, temperature 0,55 и до 32 000 новых токенов. Карточка указывает поддержку английского и многоязычного текста, а также возможности диалога и генерации кода. Лицензия — Apache-2.0.
TimeOmni-1-7B — языковая модель для рассуждений о временных рядах, опубликованная в репозитории anton-hugging. Это дообученная методом SFT и последующего обучения с подкреплением модель Qwen2.5-7B-Instruct с архитектурой Qwen2 и 7,1 млрд параметров. Она принимает текстовые запросы с данными или описаниями временных рядов и генерирует текстовые ответы; заявленная длина контекста — 32 768 токенов. Модель предназначена для решения разных задач анализа и рассуждений о временных рядах в единой системе, при этом авторы заявляют, что базовые способности к общим рассуждениям сохраняются. Карточка сообщает об оценке на бенчмарках, но сами таблицы результатов в доступном README опущены. Репозиторий содержит веса в формате safetensors, библиотека — Transformers; лицензия — Apache-2.0.
Ramikan-BR/tinyllama_PY-CODER-bnb-4bit-lora_4k-q4_k_m-v3 — дообученная модель семейства Llama на базе unsloth/tinyllama-bnb-4bit. Разработчик — Ramikan-BR; обучение проводилось с использованием Unsloth и библиотеки TRL. Модель предназначена для генерации текста и, судя по названию репозитория, ориентирована на помощь с кодом на Python. Архитектура — плотная авторегрессионная LlamaForCausalLM примерно с 1 млрд параметров; контекст — до 4096 токенов. Метаданные отмечают английский язык. Репозиторий содержит веса PyTorch. Лицензия — Apache-2.0. Карточка не сообщает результаты оценки качества или подробности обучающих данных, поэтому пригодность для конкретных задач программирования стоит проверять на собственных примерах.
Trendyol DinoV2.1 — модель Trendyol для поиска похожих изображений товаров и визуального поиска в электронной коммерции. Она дообучена на основе DinoV2 ViT-B/14 и использует GeM pooling и линейную проекцию, обученную с ArcFace, для получения эмбеддингов размерности 256. Входное изображение нужно предварительно привести к размеру 224×224 с сохранением пропорций, дополнением до квадрата и нормализацией ImageNet. Модель предназначена для поиска товаров по изображению, визуальных рекомендаций, извлечения признаков и обнаружения дубликатов в каталогах электронной торговли. Экспорт содержит эмбеддинги; классификационные головы, использовавшиеся при обучении, отсутствуют. Для загрузки через Transformers требуется trust_remote_code=True. Модель распространяется по лицензии CC BY-SA 4.0.
Twitter-roBERTa-base — модель RoBERTa-base, дообученная на примерно 58 млн твитов поверх исходного чекпойнта RoBERTa-base. Она предназначена для работы с текстом из Twitter и примеров на английском языке, включая предсказание скрытых слов и получение представлений твитов. Для предобработки автор рекомендует заменять имена пользователей на @user, а ссылки — на http. Модель содержит около 151,8 млн параметров и поддерживает контекст до 514 токенов; опубликованы варианты для PyTorch, TensorFlow и Flax. Карточка описывает обучение и применение модели, но не сообщает лицензию.