II.8Инженерия данных и аналитика
В разделе собраны самостоятельные задачи, где AI помогает готовить надёжные данные и превращать их в понятную аналитику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
23 488 моделейDeepSeek-Coder-6.7B Energy-SFT — модель генерации кода, созданная Саурабхом Сингхом Раджпутом и Шармой в рамках пакета Green Tea для воспроизведения исследования энергоэффективной генерации кода. Это дообученная версия DeepSeek-Coder-6.7B-Base с 6,6 млрд параметров на архитектуре Llama; она принимает текстовые запросы и выдаёт код. Объём контекста — до 16 384 токенов. Модель предназначена для генерации кода с учётом энергопотребления: её обучали методом контрастного supervised fine-tuning, чтобы предпочитать более энергоэффективные решения. В README сообщается результат 1,29% CARET на отложенном наборе из 143 задач. Модель загружается через Transformers; репозиторий содержит веса Safetensors. Лицензия указана как other, конкретные условия использования в предоставленных данных не раскрыты.
gyr66-bert-base-chinese-finetuned-ner-onnx — это ONNX-конверсия модели gyr66/bert-base-chinese-finetuned-ner, выполненная проектом ProtectAI с использованием библиотеки Hugging Face Optimum. Модель предназначена для задачи token classification, в частности для распознавания именованных сущностей в китайском тексте. Модель работает с китайским языком и основана на архитектуре BERT; точный размер и параметры в предоставленных данных не указаны. Формат ONNX может быть удобен для развертывания и выполнения инференса в совместимых оптимизированных средах. При этом проект архивирован и больше не развивается и не поддерживается. Модель распространяется по лицензии Apache-2.0.
Модель nahiar/hatespeech-abusive-xlm-roberta-v1 — дообученная Nahiar модель XLM-RoBERTa для многометочной классификации текстов из социальных сетей. Она одновременно выявляет hate speech и оскорбительную лексику, допуская присвоение обеих меток одному тексту. Архитектура — XLMRobertaForSequenceClassification, размер — 305,2 млн параметров, контекст — до 514 токенов; модель распространяется в формате safetensors и рассчитана на работу через Transformers. Модель предназначена для модерации контента, систем безопасности и мониторинга пользовательских публикаций, включая неформальные и шумные тексты. Заявлена поддержка индонезийского, английского, малайского и ряда региональных языков Индонезии; в README приведены метрики проверки, но их значения могут зависеть от разбиения данных и порога классификации. Лицензия — Apache-2.0. Классификация ограничена двумя метками: hate speech и abusive language. Модель не определяет конкретную цель ненависти или защищённый признак, может ошибаться на сарказме и требует проверки человеком перед применением решений с юридическими или политическими последствиями.
Hindi ELECTRA — компактная языковая модель для представления текстов на хинди, опубликованная monsoon-nlp. Модель построена на архитектуре ELECTRA; в репозитории указано около 22,7 млн параметров и контекст до 512 токенов. Доступны версии для PyTorch, TensorFlow и safetensors. Модель обучена на корпусе, включающем дедуплицированные данные Hindi CommonCrawl из OSCAR и статьи Hindi Wikipedia. Она предназначена для извлечения признаков из текста и может служить основой для задач классификации новостей и анализа тональности отзывов на хинди; автор сообщает о сопоставимых с Multilingual BERT результатах на этих примерах. Автор рекомендует MuRIL для более широкого охвата индийских языков и латинизированной записи хинди. Условия лицензии в предоставленных данных не описаны.
ALM/hubert-base-audioset — модель аудиопредставлений на архитектуре HuBERT Base, разработанная ALM и предварительно обученная на полном наборе AudioSet. Трансформерная модель содержит 113,3 млн параметров и предназначена для извлечения признаков из аудио и последующей адаптации к прикладным задачам, включая классификацию музыки и акустических событий, а также распознавание речи. Модель принимает аудио и формирует аудиопредставления, которые можно использовать как признаки для классификаторов и других downstream-систем. Широкое покрытие источников AudioSet помогает применять её в разных аудиодоменах, однако для узкой области может потребоваться дообучение. В задачах речи качество может уступать HuBERT и Wav2Vec, обученным специально на речевых данных. Лицензия — CC BY-NC-SA 4.0.
Карточка модели Nozim6690/hugging-face_shieldgemma-2-4b-it на Hugging Face совпадает с карточкой google/shieldgemma-2-4b-it, поэтому описание составлено по ней. ShieldGemma 2 4B — модель Google на базе Gemma 3 4B IT для проверки безопасности изображений. Она принимает изображение и текстовую инструкцию с политикой безопасности и оценивает, нарушает ли изображение эту политику, выдавая оценки для ответов «Yes» и «No». Модель предназначена для модерации пользовательских изображений и результатов генерации, а также для фильтрации входов и выходов систем с поддержкой зрения. Она выявляет сексуально откровенный контент, опасные материалы и сцены насилия или жестокости. Модель содержит 4 миллиарда параметров и обучена на примерах с естественными и синтетическими изображениями; для синтетических данных указаны англоязычные сценарии. Результат зависит от формулировки заданной политики. Google предупреждает, что доступные наборы оценки могут не отражать реальные сценарии, а неоднозначные формулировки и языковые нюансы могут приводить к непредсказуемым оценкам. Условия использования определяются лицензией Gemma и правилами Google о запрещённом использовании.
Huihui-gemma-4-12B-agentic-fable5-abliterated — вариант Gemma 4 12B, созданный huihui-ai на основе дообученной модели yuxinlu1/gemma-4-12B-agentic-fable5-composer2.5-v2-3.5x-tau2. Это плотная модель с архитектурой Gemma4UnifiedForConditionalGeneration для генерации текста и диалоговых ответов; метаданные также отмечают поддержку кода. Модель распространяется в формате safetensors и предназначена для использования через Transformers. Автор описывает её как экспериментальную версию с ослабленными отказами, полученную методом abliteration. Она может быть полезна для генерации кода и технических ответов, но карточка характеризует реализацию как грубую proof-of-concept. Ослабление защитных ограничений повышает вероятность чувствительных или неподходящих ответов, поэтому результаты требуют проверки. Лицензия — Apache-2.0.
jkto10k1 — дообученная модель для генерации текста на основе deepseek-ai/deepseek-coder-1.3b-base. Она использует архитектуру Llama с плотной сетью и содержит 1,3 млрд параметров; максимальная длина контекста — 16 384 токена. Базовая модель предназначена для продолжения, автодополнения и заполнения пропусков в коде, однако README не описывает, на каких данных и для каких конкретных сценариев дообучали jkto10k1. Модель сохраняется в формате Safetensors. В метаданных указана лицензия other; конкретные условия использования в доступных сведениях не раскрыты. README не содержит результатов оценки или дополнительных сведений об ограничениях дообученной версии.
mojo-coder-1B — альфа-модель для генерации кода, разработанная lzumot на основе DeepSeek-Coder-1.3B и дообученная на наборе mcysqrd/mojo_code. Она предназначена для режима Fill-in-the-Middle (FIM), когда модель дополняет или редактирует фрагмент кода внутри уже написанного текста, например в качестве помощника по автодополнению кода в редакторе. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 1,3 млрд параметров и поддерживает контекст до 16 384 токенов. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Модель ориентирована на FIM-сценарии и не позиционируется как универсальный ассистент для вопросов и ответов: автор указывает, что обучение ограничено использованием в стиле FIM-копилота, а поддержка Q&A планировалась для будущих версий. Это альфа-версия, поэтому качество может быть ограниченным; разработчик предлагает использовать её через inference endpoint и расширение для VS Code.
NoRefER — модель aiXplain AI Lab для оценки качества распознавания речи без эталонной расшифровки. Она основана на mMiniLMv2, дообученной контрастным обучением, и использует сиамскую архитектуру с общими весами для попарного сравнения текстовых гипотез ASR. Модель применяет известный порядок качества гипотез, полученных при разных уровнях сжатия одной системы распознавания, как сигнал для обучения. NoRefER предназначена для сравнения результатов разных ASR-систем на аудиоданных без эталонных текстов, выбора лучшей гипотезы из нескольких вариантов, приоритизации примеров для проверки человеком или постредактирования, а также A/B-тестирования версий распознавания. В описанных экспериментах точность попарного ранжирования на валидации составила 77%; на слепом тесте метрика хорошо коррелировала с рангами по WER и помогала отбирать гипотезы для ансамбля. Модель принимает текстовые гипотезы и выдаёт признаки для их сравнения, а не аудио-транскрипцию. Поддерживаются английский, французский, испанский, португальский, немецкий и другие языки; контекст составляет 514 токенов, размер — 124,3 млн параметров. Лицензия — MIT.
OneVision-Encoder — визуальный трансформер семейства OneVision-Encoder от LMMS-Lab, предназначенный для извлечения признаков изображений и использования в качестве визуального компонента крупных мультимодальных моделей, включая серию LLaVA-OneVision-2. Модель содержит 402,7 млн параметров и распространяется в формате Safetensors по лицензии Apache-2.0. Архитектура выравнивает визуальные признаки с языковыми моделями. Она поддерживает изображения с исходным разрешением и произвольным соотношением сторон, а также видео с переменным числом кадров. Для видео применяется обработка в стиле кодека: из плотной последовательности кадров выбираются значимые патчи. Технический отчёт описывает 3D Rotary Position Embedding для временной и пространственных осей. Модель подходит для получения визуальных признаков для последующего мультимодального анализа, включая понимание видео, распознавание действий, работу с документами, диаграммами и текстом на изображениях. README сообщает о совместимости с Transformers 4.57.3; версии Transformers 5.0 и выше пока не поддерживаются. Это энкодер признаков, а не самостоятельная разговорная модель.
tincans-ai/pause-asr-alpha — модель распознавания речи на архитектуре wav2vec 2.0, дообученная на базе facebook/wav2vec2-base-960h для распознавания речи с учётом пауз и предсказания смены говорящего. Модель принимает аудио и выдаёт транскрипцию с токенами, связанными с очередностью речи; для вывода используется обычный для wav2vec2 процесс инференса с такими токенами. Модель содержит 113,3 млн параметров и опубликована в формате safetensors для библиотеки Transformers. Базовая модель предназначена для транскрибирования английской речи из аудио с частотой 16 кГц; метаданные карточки указывают английский язык. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но не коммерческое использование. README ссылается на технический отчёт, однако подробности обучения и оценок качества в карточке не приведены.
Pixtral-12B-Captioner-Relaxed — дообученная мультимодальная модель семейства Pixtral от автора репозитория unalignment, созданная на базе mistralai/Pixtral-12B-2409. Она принимает изображение и генерирует подробное описание на естественном языке, в том числе с указанием расположения объектов. Модель настроена на создание подписей для датасетов текстово-изображенческой генерации; описания рассчитаны на использование в промптах для text-to-image-моделей. Модель использует архитектуру LlavaForConditionalGeneration и распространяется в формате safetensors через Transformers. В карточке указан английский язык. Для работы модели размером 12 млрд параметров требуется около 24 ГБ видеопамяти при половинной точности; загрузка в 8- или 4-битном формате снижает производительность. Лицензия — Apache-2.0. Настройка с менее строгими ограничениями позволяет получать более подробные описания, однако качество на других сложных мультимодальных задачах может быть ниже, чем у исходной Pixtral-12B-2409.
PlaidQ-0.7B-1step — чекпойнт непрерывной языковой модели с гауссовой латентной диффузией, разработанный на основе Qwen3-0.6B. Вместо последовательного предсказания токенов модель диффундирует всю последовательность в 16-мерном непрерывном пространстве и восстанавливает её двунаправленным Qwen3-трансформером. Генерация выполняется параллельно по позициям; число шагов денойзинга можно выбирать при семплировании. Чекпойнт содержит 717,4 млн параметров в формате fp32 и опубликован в safetensors. Модель предназначена для генерации текста и кода, включая дополнение фрагментов кода с учётом префикса и суффикса. В README описаны обучение на смеси Nemotron с длиной последовательности 2048 токенов и нулевые примеры кода; базовая модель Qwen3 поддерживает несколько языков. Для запуска требуется собственный репозиторий PlaidQ и токенизатор Qwen/Qwen3-0.6B; это не архитектура Transformers. В репозитории представлены только веса, поэтому по этому чекпойнту нельзя возобновить обучение. Модель является дообученной производной Qwen/Qwen3-0.6B. Лицензия — Apache-2.0.
PolyCoder-0.4B — языковая модель для генерации кода, представленная в исследовании «A Systematic Evaluation of Large Language Models of Code». Модель разработана исследовательской группой PolyCoder и содержит 454,2 млн параметров; архитектура — плотная GPT-NeoX с авторегрессионной генерацией текста. Модель обучена на 249 ГБ кода на 12 языках программирования и предназначена для генерации продолжения кода по текстовому контексту. Её можно применять для предложений кода и экспериментальной оценки языковых моделей кода. Контекст модели — до 2048 токенов. Репозиторий содержит веса PyTorch; для использования README указывает Transformers версии не ниже 4.23.0. Карточка не сообщает лицензию, поэтому условия использования по имеющимся данным определить нельзя. Модель компактнее крупных кодовых моделей, но ограниченный размер и контекст могут снижать качество на сложных задачах и больших фрагментах кода; результаты также зависят от поддерживаемых обучением языков программирования.
PyThagorean-3B — текстовая диалоговая модель для математики и Python, созданная PrithivMLMods на основе Meta Llama 3.2 3B Instruct. Модель дообучена на 1,5 млн примеров и предназначена для решения математических задач с помощью Python-библиотек, генерации кода и пошаговых объяснений. Архитектура — плотная авторегрессионная LlamaForCausalLM; модель содержит 3,2 млрд параметров, использует формат safetensors и имеет контекст до 131 072 токенов. Модель подходит для учебных помощников, генерации математических примеров и Python-решений, а также диалоговых сценариев поиска и суммаризации знаний. README заявляет мультиязычное применение, но метаданные карточки указывают английский язык. Модель может ошибаться в многошаговых и специализированных задачах, при неоднозначных запросах и в коде, зависящем от конкретных Python-библиотек; с ростом контекста возможно усечение входных данных. Лицензия — Llama 3.2 license.
leomaurodesenv/roberta-base-nvidia-aegis-v1-augmented — модель RoBERTa, дообученная на базе FacebookAI/roberta-base для классификации текста. Она содержит 151,8 млн параметров, использует архитектуру RobertaForSequenceClassification и принимает последовательности длиной до 514 токенов. В README приведены результаты оценки: accuracy 0,9409 и loss 0,1728; набор данных и подробности классификационных меток не описаны. Модель подходит для классификации текстовых последовательностей в системах на базе Transformers. Карточка не раскрывает целевую предметную область, поэтому её нельзя надёжно определить по имеющимся сведениям. Лицензия — MIT.
Модель Kostya165/rubert_tiny2_russian_emotion_sentiment разработана как дообученная версия cointegrated/rubert-tiny2 — компактного BERT-энкодера с 29 млн параметров. Она классифицирует русскоязычные сообщения по пяти категориям: агрессия, тревожность, нейтральное состояние, позитив и сарказм. Модель принимает текст и выдаёт метку класса; для работы с ней в README указаны Transformers и PyTorch. Длина контекста составляет 2048 токенов. На валидации автор сообщает accuracy 0,8911 и macro F1 0,8910; точность для сарказма ниже, чем для остальных классов, — 0,8426. Модель можно применять для анализа тональности и эмоций в русскоязычных сообщениях, однако качество на других источниках текста может отличаться. Обучение выполнено на датасете Kostya165/ru_emotion_dvach. Лицензия — CC-BY-SA 4.0.
Модель alsgyu/sentiment-analysis-fine-tuned-model — дообученный разработчиком чекпойнт beomi/KcBERT-base для анализа тональности корейского текста. Она классифицирует текст по эмоциональным меткам, включая позитивную, негативную и нейтральную тональность, и подходит для анализа отзывов клиентов, мониторинга социальных сетей и определения эмоционального контекста. Модель построена на архитектуре BERT с классификационной головой BertForSequenceClassification, содержит 136,3 млн параметров и принимает последовательности длиной до 300 токенов. Обучение проводилось на корейском наборе эмоциональных данных AI Hub с нормализацией текста и кодированием меток; для работы используются Transformers и формат весов safetensors. README указывает лицензию MIT, разрешающую использование, изменение и распространение модели. Качество зависит от соответствия входного текста корейскому обучающему набору и заданным эмоциональным меткам; характеристики на других языках или в иных предметных областях не заявлены.
SSLAM AudioSet-2M Finetuned — чекпойнт аудиомодели на архитектуре EAT ViT Base, подготовленный на данных AudioSet-2M. Репозиторий содержит веса в формате Safetensors для использования через Transformers. Модель предназначена для извлечения аудиопризнаков и получения меток классов звуковых событий. Её можно применять для обнаружения и классификации событий в аудиозаписях; в карточке указана mAP 50,2. Модель принимает аудио и выдаёт признаки или метки звуковых событий. Лицензия — MIT. Карточка не уточняет поддерживаемые языки или подробные ограничения качества и применения.
HuggingFaceTB/stack-edu-classifier-markdown — классификатор образовательной ценности файлов Markdown в наборе The Stack v2. Модель разработана HuggingFaceTB и представляет собой дообученную на StarEncoder архитектуру BERT с классификационной головой; её обучали на примерах Markdown-кода, размеченных Llama 3.1 70B Instruct. Параметры модели занимают 151 млн, контекст — до 1024 токенов. Она использовалась при создании набора Stack-Edu для обучения SmolLM2. Модель предназначена для оценки качества и образовательной ценности отдельных файлов Markdown. README описывает классификацию, а не генерацию текста; метаданные указывают pipeline text-classification и библиотеку Transformers. Лицензия в предоставленных данных не указана.
stanfordnlp/stanza-sk — модель из набора Stanza, разработанного Stanford NLP для лингвистического анализа словацкого языка. Она предназначена для разметки текста на уровне токенов в конвейере обработки словацкого текста. Stanza предоставляет инструменты анализа от исходного текста до синтаксического разбора и распознавания сущностей; данная карточка подтверждает задачу token-classification и язык sk. Модель распространяется в формате PyTorch по лицензии Apache-2.0. Карточка не сообщает размер модели, длину контекста или конкретные виды токенных меток, поэтому эти характеристики не указаны.
STORM Qwen3 Keyword Generator — дообученная компактная языковая модель на базе Qwen3-0.6B, представленная для генерации поисковых ключевых слов и расширения запросов. Она предназначена для лексического поиска: модель предлагает термины для исходного запроса, чтобы уменьшить несовпадение словаря при поиске по индексу BM25. По карточке STORM — это метод пошаговой оптимизации генерации с оценкой вариантов по метрикам поиска; авторы сообщают о результатах на TREC DL и BEIR, а также о переносе на 18 языков. Модель имеет плотную архитектуру Qwen3ForCausalLM, около 507,9 млн параметров и контекст до 40 960 токенов; репозиторий содержит веса safetensors и поддерживает диалоговый интерфейс. Для использования нужны PyTorch и Transformers; в README приведены варианты декодирования с beam search. Указана лицензия Apache 2.0 для базовой модели, но лицензия самого чекпойнта отдельно в предоставленных данных не приведена.
Sunbird/sunflower_language_classification — дообученная модель классификации текста на базе google/t5-efficient-tiny, разработанная Sunbird. Она предназначена для отнесения входного текста к классам; конкретная схема меток и целевая область применения в карточке не раскрыты. Модель построена на архитектуре T5ForSequenceClassification, содержит 11,9 млн параметров и принимает последовательности длиной до 512 токенов. В README приведены результаты оценки: accuracy 0,8297, precision 0,8471, recall 0,8297 и F1 0,8191. Модель распространяется в формате safetensors по лицензии Apache-2.0. Данные обучения в README обозначены как None, поэтому назначение классов и переносимость метрик на другие данные определить нельзя.
Sweep Next-Edit 1.5B — модель Sweep AI для автодополнения кода, которая предсказывает следующее изменение в файле с учётом его текущего содержимого, связанных файлов и недавних правок. Репозиторий Xenova содержит версию для Transformers в формате safetensors и конвертацию в ONNX; архитектура — плотная Qwen2ForCausalLM, около 1,4 млрд параметров. Метаданные указывают контекст до 32 768 токенов. Модель предназначена для локального дополнения кода в редакторах и IDE. В README заявлены быстрое выполнение на ноутбуке и результаты выше моделей более чем в четыре раза крупнее на бенчмарках предсказания следующих правок; это заявления авторов карточки. Для подсказки модель принимает текстовый контекст файлов и изменений и генерирует текст предполагаемой правки. Указаны библиотека Transformers и лицензия Apache 2.0.
Vishnou/TinyBERT_SST2 — компактная модель классификации текста, созданная дообучением huawei-noah/TinyBERT_General_4L_312D на датасете SST-2. Она использует архитектуру BERT для классификации последовательностей и содержит 15,6 млн параметров; максимальная длина контекста — 512 токенов. Модель предназначена для определения тональности коротких текстов, в частности для классификации отзывов по задаче SST-2. На указанном в карточке оценочном наборе она показала accuracy 0,8865 и loss 0,5142. Данные не описывают поддержку языков помимо языка SST-2. Модель опубликована в формате safetensors. Сведения о лицензии в предоставленных данных отсутствуют.
sgugger/tiny-distilbert-classification — компактная модель классификации последовательностей на базе DistilBERT, опубликованная пользователем Hugging Face sgugger. Карточка Hugging Face показывает её применение через pipeline text-classification; архитектура — DistilBertForSequenceClassification. Модель предназначена для присвоения тексту метки из набора классов, заданного при обучении. Модель принимает текст и выдаёт метки классов. Контекст составляет 512 токенов. В репозитории указаны форматы PyTorch и TensorFlow. Конкретная схема меток и предметная область из доступных сведений не устанавливаются, поэтому модель уместно рассматривать как пример компактного классификатора, а не как подтверждённое решение для конкретного прикладного сценария. Лицензия в доступных сведениях не установлена.
akahana/tiny-roberta-indonesia — компактная модель семейства RoBERTa, предназначенная для извлечения признаков из текста на индонезийском языке. В карточке показаны применение как masked language model для заполнения пропусков и использование через конвейер feature-extraction. Модель содержит около 803,8 тыс. параметров и поддерживает контекст длиной до 256 токенов. Модель принимает текст и выдаёт векторные представления токенов или текста. Она может служить основой для получения признаков в NLP-задачах на индонезийском языке. Доступна в форматах PyTorch, Safetensors и TensorFlow; лицензия — MIT.
Модель Hate-speech-CNERG/urdu-abusive-MuRIL разработана для выявления оскорбительной речи на урду. Это дообученная на наборе данных для распознавания оскорбительной речи модель MuRIL с архитектурой BERT для классификации последовательностей; она относит текст к классу «нормальный» или «оскорбительный». Модель рассчитана на классификацию текста на урду, имеет 264,8 млн параметров и контекст до 512 токенов. Модель подходит для автоматической фильтрации оскорбительных высказываний и анализа пользовательских текстов на урду, в том числе в условиях ограниченных данных для этого языка. Она описана в работе о методах расширения данных для выявления оскорбительной речи в индийских языках. Лицензия — AFL-3.0; при публикации результатов с использованием ресурса авторы просят цитировать эту работу.
Модель dvs/videomae-base-finetuned-movienet-take2 — дообученная разработчиком модель VideoMAE-base для классификации видео. Она содержит 113,2 млн параметров и распространяется в формате PyTorch. Базовая модель MCG-NJU/videomae-base — видеотрансформер, предварительно обученный без учителя для извлечения признаков и последующего дообучения. Модель предназначена для присвоения видео категорий. В README приведены результаты оценки: accuracy 0,7969 и loss 1,0793; набор данных и состав классов не раскрыты. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.