II.8Инженерия данных и аналитика
В разделе собраны самостоятельные задачи, где AI помогает готовить надёжные данные и превращать их в понятную аналитику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
23 488 моделейЭто модель разметки границ сегментов типа situation entity в тексте, разработанная авторами репозитория coling-unia. Она дообучена на FacebookAI/xlm-roberta-large: к энкодеру добавлены линейный классификатор и CRF-декодер, который восстанавливает последовательность тегов B-EDU и I-EDU для токенов. Сегменты соответствуют непрерывным фрагментам на уровне придаточных или клауз, описывающим один тип ситуации. Модель предназначена для сегментации английских предложений по типам ситуаций и анализа аспектуальной структуры текста. В README сообщается о F1 0,907 для границ B-EDU на тестовой выборке. Хотя мультиязычная основа может помочь переносу на другие языковые варианты, обучение и оценка проводились на английском корпусе; качество переноса не подтверждено. Для инференса рекомендуется сначала разбивать текст на предложения и токенизировать их с помощью spaCy, как в обучении; последовательности длиннее 512 токенов нужно делить на части. Весы опубликованы по лицензии MIT, при этом данные обучения лицензированы Apache 2.0.
stable-codec-speech-16k — аудиокодек на архитектуре Transformer, разработанный Stability AI. Он кодирует речевые аудиосигналы в дискретные токены и декодирует их обратно в форму волны, чтобы сжимать речь с низким битрейтом и использовать её в генеративных системах. Модель предназначена для хранения и потоковой передачи речи, телекоммуникаций и разработки систем синтеза, распознавания и понимания речи. Она обучена на чистой английской речи без перекрывающихся голосов, созданной на основе аудиокниг из открытых и общественного достояния источников; для музыки и окружающих звуков не предназначена. Для организаций и лиц с годовой выручкой от 1 млн долларов США требуется коммерческая лицензия Stability AI; также необходимо соблюдать Community License и Acceptable Use Policy.
therealcyberlord/stanford-car-vit-patch16 — модель классификации изображений на базе Vision Transformer (ViT), дообученная на наборе Stanford Cars. Она распознаёт 196 классов автомобилей, обычно различающихся маркой, моделью и годом выпуска, например Tesla Model S 2012 года или BMW M3 Coupe 2012 года. В карточке заявлена точность около 86% на тестовой выборке. Модель предназначена для определения модели автомобиля по изображению и может служить базовым решением для экспериментов или последующего дообучения. Доступны веса в форматах PyTorch и Safetensors; для загрузки README показывает библиотеку Transformers. Набор данных не содержит новых моделей автомобилей, поэтому распознавание актуальных выпусков может быть ненадёжным. Лицензия — Apache-2.0.
Prince Nasamu Alhassan разработал эту модель для автоматического распознавания речи на языке тви. Это продолжение tekyerema-asr-ctc: модель Wav2Vec2BertForCTC размером 402,7 млн параметров дообучалась на прежних весах в течение 796 шагов. Для распознавания аудио подают в формате моно, 16 кГц; модель выдаёт текстовую расшифровку. Модель предназначена для транскрибации речи на тви, в том числе в финансовых, религиозных и других обучающих доменах. На тестах внутри доменов, представленных в обучении, автор сообщает улучшение относительно v1, однако на отложенных чистых наборах результат почти не изменился. Оценка основана на чтении и машинном переводе, поэтому не отражает надёжно распознавание естественных телефонных команд и смешанной речи. Это исследовательская работа для хакатона, не поддерживаемый продукт; в описанной системе она не подключена, и там продолжает использоваться v1. Лицензия модели — CC BY-NC 4.0. Обучающие данные Twi использованы с разрешения Farmerline только для некоммерческих исследований.
pVAD v1 — Telenow AI разработала потоковую speaker-conditioned модель voice activity detection для телефонного аудио. Она помечает каждые 10 мс как тишину, речь зарегистрированного абонента или речь другого источника; это позволяет голосовому агенту распознавать перебивание абонента до получения транскрипции и отфильтровывать голоса окружающих, телевизор и собственное эхо агента. Модель содержит 171 тыс. параметров. Архитектура включает входные log-mel признаки с 40 полосами, причинные свёртки, FiLM-кондиционирование по 192-мерному эмбеддингу говорящего и двухслойный GRU с 96 скрытыми измерениями. Рассчитана на потоковый вход с частотой 8 кГц и шагом 10 мс; есть также граф для обработки целой последовательности. Для работы требуется эмбеддинг WeSpeaker ECAPA-TDNN512-LM, полученный из 1,5–3 секунд чистой речи абонента. На удержанных записях с синтетическими смесями модель показала 96% принятия речи абонента при отсутствии помех, 81% при наложении голоса другого человека и 6% ложных срабатываний на речь постороннего. Проверка не включала реальные записи шумных помещений. Модель обучена на индийских телефонных записях на хинди, английском и других индийских языках; широкополосное и нетелефонное аудио находится вне распределения обучения. До накопления примерно 1,5 секунды речи абонента кондиционирование недоступно; модель определяет говорящего, но не адресата речи. Репозиторий содержит ONNX-версии и PyTorch state_dict. Лицензия указана как other, конкретные условия в предоставленных данных не раскрыты.
Это вариант Sapiens2-0.1B от Meta, опубликованный в формате timm: веса базовой модели facebook/sapiens2-pretrain-0.1b сопоставлены с именованием timm и сохранены в safetensors. Это Vision Transformer для извлечения плотных признаков по участкам изображения людей и подготовки основы для дообучения специализированных голов. Модель содержит 0,114 млрд параметров; архитектура включает RoPE, GQA, SwiGLU, RMSNorm и QK-norm, а конфигурация имеет 12 слоёв и размер эмбеддинга 768. Семейство Sapiens2 предварительно обучено на миллиарде изображений людей. Модель предназначена для построения систем оценки позы, сегментации частей тела, предсказания нормалей поверхности и pointmaps, а также для исследований компьютерного зрения с фокусом на людях. Карточка уточняет, что веса не дообучались при переносе в timm. Указана лицензия Sapiens2 License; её условия следует проверять перед использованием.
Это версия V-JEPA 2 ViT-g с разрешением 384 и головой классификации видео, дообученная FAIR (Meta) на наборе Diving48. Модель предназначена для классификации действий в видеороликах о прыжках в воду и относится к семейству видеомоделей V-JEPA 2. Она содержит около 1,3 млрд параметров и рассчитана на обработку видео; для запуска используется библиотека Transformers. Модель может служить для распознавания категорий действий в видео Diving48 и для экспериментов с классификацией спортивных роликов. В карточке не приведены подробности о точности, длине входного видео или перечне классов. Лицензия — MIT.
MIbrahimAI/Wav2Vec-SER — модель классификации аудио, дообученная на основе elgeish/wav2vec2-large-xlsr-53-arabic. Она использует архитектуру Wav2Vec2ForSequenceClassification и содержит 402,7 млн параметров; веса опубликованы в формате safetensors. Название SER указывает на распознавание эмоций в речи, однако README не подтверждает перечень классов или набор данных. Модель предназначена для классификации аудиозаписей речи. В README приведены результаты оценки: accuracy 0,5745 и loss 1,0637; они получены на неизвестном наборе данных и потому не позволяют судить о качестве в других условиях. Базовая модель ориентирована на арабскую речь. Лицензия — Apache-2.0.
VasilisAsim/wavlm-finetuned-SAVEE — дообученная модель Microsoft WavLM Base Plus для классификации аудио. Она использует архитектуру WavLMForSequenceClassification и содержит 113,3 млн параметров. Карточка указывает, что обучение проводилось на неизвестном наборе данных; название репозитория указывает на SAVEE, но README этого не подтверждает. Модель принимает аудио и выдаёт классы. На оценочном наборе указаны accuracy 0,3542 и loss 1,6940, поэтому качество распознавания по имеющимся результатам ограничено. Лицензия в предоставленных данных не указана.
XLM-R Biomedical African QA Dense Retriever — дообученная модель SentenceTransformer на основе FacebookAI/xlm-roberta-base, разработанная для плотного поиска подходящих ответов в многоязычных базах вопросов и ответов по биомедицинской тематике и здравоохранению. Она сопоставляет вопрос с документами в формате «вопрос — ответ» и предназначена для поиска кандидатов в конвейере формирования ответов на вопросы. Модель содержит 305,2 млн параметров, построена на архитектуре XLM-RoBERTa и принимает текст, формируя векторные представления для поиска и оценки сходства предложений. Контекст модели — до 514 токенов. В README указан обучающий подход MultipleNegativesRankingLoss на положительных парах «вопрос — документ»; метаданные отмечают многоязычную поддержку, но конкретные языки не перечислены. Лицензия в предоставленных данных не указана.
Модель keremberke/yolov8m-hard-hat-detection — детектор объектов на базе YOLOv8, предназначенный для обнаружения на изображениях людей в защитных касках и без них. Она может использоваться для автоматической проверки ношения касок на строительных площадках и в других рабочих зонах. Модель построена на Ultralytics и опубликована в формате PyTorch; карточка указывает два класса: Hardhat и NO-Hardhat. Модель ориентирована на визуальный контроль средств индивидуальной защиты. Лицензия и сведения о точном размере модели в доступных материалах не приведены.
Модель keremberke/yolov8m-protective-equipment-detection — детектор объектов семейства YOLOv8, опубликованный Keremberke и рассчитанный на поиск средств индивидуальной защиты на изображениях. Она распознаёт перчатки, защитные очки, каски, маски и обувь, а также отдельные классы отсутствия этих элементов. Модель предназначена для автоматизированной проверки соблюдения требований к защитной экипировке, например на рабочих площадках. Репозиторий содержит веса PyTorch и использует библиотеку Ultralytics. В карточке приведён список классов, но нет сведений о точности, размере модели или ограничениях применения; качество может зависеть от условий съёмки и сходства изображений с обучающими данными. Лицензия в предоставленных данных не указана.
mwalmsley/zoobot-encoder-convnext_nano — дообученный визуальный энкодер Zoobot на основе ConvNeXt Nano. Он предназначен для классификации изображений и извлечения визуальных признаков; модель можно загружать через timm как энкодер без классификационной головы. Модель построена на PyTorch и основана на timm/convnext_nano.in12k. Карточка указывает Apache-2.0. README отсылает к документации Zoobot за инструкциями по загрузке и дообучению, но не приводит сведения о конкретных классах, данных обучения или качестве.
Aerial Film Restorer — модель восстановления изображений, разработанная Jan Grzybek для сканов исторической аэрофотосъёмки. Она предназначена для устранения следов плёночного зерна, дымки, потери локального контраста и неоднородности между экспонированными пластинами, сохраняя содержание исходного снимка. Модель использует собственную реализацию NAFRestore из семейства NAFNet с 17,32 млн параметров и восемью входными каналами. Она обрабатывает изображение на нескольких масштабах одновременно и учитывает размер пикселя; поддерживаемый диапазон — примерно от 23 до 0,09 м/пиксель. Для инференса строится пирамида изображения, затем выполняется обработка перекрывающихся фрагментов. Репозиторий содержит веса Safetensors, лицензия — CC BY 4.0. Модель обучена на синтетически испорченных ортофотоснимках с использованием чистых исторических и современных ортофотопланов; реальные пары сканов и профессионально очищенных изображений использовались для оценки. Разработчик сообщает о проверке на отложенных парах. Модель не восстанавливает достоверно детали в насыщенных областях и не должна считаться источником новых деталей; ниже примерно 0,8 м/пиксель нет плёночной эталонной разметки, поэтому качество на мелких масштабах следует оценивать визуально. Для цветных снимков рекомендуется восстанавливать яркостный канал, перенося цветность отдельно.
gary109 выпустил wav2vec2-модель, дообученную для автоматического распознавания речи на наборе GARY109/AI_LIGHT_DANCE - ONSET-IDMT-SMT-DRUMS-V2+MDBDRUMS. Это модель с архитектурой Wav2Vec2ForCTC и 113,3 млн параметров; репозиторий содержит веса PyTorch. По результатам оценки на тестовой выборке значение WER составляет 0,3635, а loss — 0,5264. Карточка не описывает дополнительные сценарии использования или ограничения качества, поэтому результаты оценки не следует переносить на другие данные без проверки. Лицензия в предоставленных данных не указана.
gary109 выпустил модель автоматического распознавания речи на базе wav2vec2. Это плотная модель Wav2Vec2ForCTC размером 113,3 млн параметров в формате PyTorch, дообученная на наборе GARY109/AI_LIGHT_DANCE - ONSET-IDMT-SMT-DRUMS-V2+MDBDRUMS. Несмотря на обозначение задачи в карточке как распознавания речи, указанное обучающее множество посвящено ударным инструментам; применение модели к распознаванию речи или транскрибированию музыкальных событий README подробно не поясняет. На оценочном наборе указаны loss 0,5550 и WER 0,3147. Модель принимает аудио и предназначена для автоматического распознавания аудиосигнала. README не описывает языки, сценарии использования и ограничения, поэтому оценить её пригодность для конкретных типов аудио нельзя. Условия лицензии в предоставленных данных не указаны.
ahmedmohamed55/ast-tennis — это дообученная модель для классификации аудио на базе MIT/ast-finetuned-audioset-10-10-0.4593. Она построена на архитектуре Audio Spectrogram Transformer и содержит 113,2 млн параметров; веса представлены в формате Safetensors и предназначены для использования с библиотекой Transformers. Модель рассчитана на классификацию звуковых событий в аудио. Название указывает на специализацию на теннисе, однако описание датасета и перечень классов в карточке отсутствуют, поэтому конкретные распознаваемые звуки определить нельзя. В README приведены результаты оценки: accuracy 0,9828 и F1 0,9815; состав оценочной выборки не описан. Лицензия — BSD 3-Clause.
AudioProtoPNet-1-BirdSet-XCL — модель группы DBD-research-group для многометочной классификации видов птиц по их вокализациям. Она сочетает сверточную основу ConvNeXt Base, предварительно обученную на ImageNet-22k, с классификатором на прототипах: модель сопоставляет аудиозапись с изученными характерными паттернами и тем самым помогает интерпретировать предсказания. Для распознавания звука используются спектрограммы записей. Модель обучена на обучающей части BirdSet, включающей записи тысяч видов птиц, и оценивалась на тестовых наборах из разных географических регионов. В README сообщается о среднем AUROC 0,90 и cmAP 0,42 для варианта AudioProtoPNet-5 и о результатах выше Perch и ConvNeXt на этих оценках. Версия модели в репозитории — AudioProtoPNet-1. Метаданные указывают библиотеку Transformers и формат safetensors. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое использование.
Модель daisyxie21/bert-base-uncased-8-50-0.01 — версия BERT base uncased, дообученная на наборе GLUE для классификации текстов. Она принимает последовательности текста и выдаёт метки классов; архитектура — BertForSequenceClassification, размер — 136,7 млн параметров, максимальная длина контекста — 512 токенов. Карточка приводит результаты оценки на тестовой выборке: loss 0,9219 и коэффициент корреляции Мэтьюса 0,0. Эти значения не подтверждают полезное качество классификации, поэтому пригодность модели для прикладного использования следует проверять отдельно. Модель опубликована под лицензией Apache-2.0.
CamemBERT Spam Detector — классификатор спама и рекламных сообщений во франкоязычных сообществах разработчиков. Модель основана на архитектуре CamemBERT и предназначена для классификации текста; карточка указывает французский язык и задачу text-classification. Размер модели — 435,4 млн параметров, длина контекста — 514 токенов. Модель подходит для автоматической фильтрации спама и саморекламы в сообщениях сообществ разработчиков. В репозитории указана лицензия MIT. README содержит предупреждение о требованиях к версии Transformers, но строка с командами установки повреждена, поэтому точные зависимости из неё определить нельзя.
CeLLaTe-tapt-pubmedbert-tokenizer-adapted-baseline — англоязычная модель на базе BERT, дообученная Mardiyyah на наборе Mardiyyah/TAPT_CeLLaTe2.0. Она предназначена для предсказания замаскированных слов в биомедицинских текстах. Модель содержит 138,2 млн параметров, принимает последовательности длиной до 512 токенов и доступна в формате safetensors для библиотеки Transformers. На оценочном наборе указаны loss 1,1076, accuracy 0,7643 и perplexity 3,0272. Базовая BiomedBERT обучалась на биомедицинских публикациях; README не приводит дополнительных сведений о составе обучающих данных, сценариях применения или ограничениях. Лицензия модели — Apache-2.0.
ChronoDepth — официальный чекпойнт модели из работы «Learning Temporally Consistent Video Depth from Video Diffusion Priors», разработанный Jiahao Shao, Yuanbo Yang, Hongyu Zhou, Youmin Zhang, Yujun Shen, Matteo Poggi и Yiyi Liao. Модель предназначена для оценки глубины в видео с временной согласованностью, используя видеодиффузионные априорные знания. Модель распространяется в формате Diffusers с весами Safetensors и поддерживает задачу depth-estimation. Репозиторий создан 11 июня 2024 года. Лицензия — MIT. Сведений о размере модели, длине контекста и поддерживаемых естественных языках в предоставленных данных нет.
syntheticbot/clip-face-expression — модель классификации изображений, дообученная на основе openai/clip-vit-large-patch14 для распознавания выражений лица. Разработчик заморозил визуальный энкодер CLIP и обучил линейную классификационную голову на датасете FER-2013. Модель относит изображение лица к одному из семи классов: злость, отвращение, страх, радость, нейтральное выражение, грусть и удивление. Репозиторий содержит веса safetensors для PyTorch; заявленная точность на тестовой выборке FER-2013 — 72%. Модель предназначена для исследовательских задач и использования как базовый ориентир при разработке систем распознавания выражений, например для анализа изображений в социальных исследованиях или вспомогательных приложениях. Лицензия — Apache-2.0. Качество может различаться между демографическими группами из-за смещений FER-2013; модель обучалась преимущественно на фронтальных изображениях с выраженными эмоциями и может хуже работать на естественных, тонких или непрофильных выражениях. Предсказание по статичному изображению не является объективным определением эмоционального состояния человека. В README не рекомендуется применять модель для наблюдения или автоматических решений, существенно влияющих на людей.
AvitoTech разработала дообученную модель DINOv2-Small для распознавания отдельных кошек и собак. Она преобразует изображение животного в эмбеддинг размерностью 384, пригодный для сравнения изображений, повторной идентификации и проверки совпадения. Модель принимает изображения размером 224×224 пикселя; архитектура основана на DINOv2 и содержит 28,3 млн параметров. Модель предназначена для поиска одного и того же животного на разных фотографиях: например, для сопоставления найденного питомца с базой объявлений или для ведения ветеринарных записей. В описанных испытаниях показаны результаты на наборах данных для кошек и собак, однако качество зависит от фотографий и состава конкретной базы. Для работы с эмбеддингами приложению потребуется отдельный механизм сравнения или поиска. Модель распространяется под лицензией Apache-2.0. README описывает обучение на наборах PetFace, Dogs-World, LCW и отобранных веб-изображениях; заявленная область применения — идентификация кошек и собак.
Bunny2308 разработал эту модель, дообучив компактную DistilHuBERT от NTU на наборе GTZAN. Это аудиоклассификатор на архитектуре HuBERT с 18,9 млн параметров; модель предназначена для классификации музыкальных аудиозаписей. На оценочной выборке указаны loss 0,5938 и accuracy 0,8. Модель принимает аудио и выдаёт метки классов. Распространяется по лицензии Apache-2.0.
DPDFNet — семейство одно-канальных каузальных моделей подавления шума в речи, разработанное авторами работы «DPDFNet: Boosting DeepFilterNet2 via Dual-Path RNN». Модели предназначены для потоковой обработки аудио в реальном времени и развивают DeepFilterNet2, добавляя в энкодер блоки Dual-Path RNN для моделирования более дальних зависимостей. В семействе представлены варианты для аудио с частотой дискретизации 8, 16 и 48 кГц. Размер моделей составляет примерно 2,3–3,6 млн параметров; доступны веса PyTorch, ONNX и TFLite. Реализация потокового инференса сохраняет состояние RNN между фрагментами и выдаёт очищенный звук по мере накопления кадров. В репозитории рекомендован запуск ONNX на CPU. Модель принимает зашумлённую речь и выдаёт улучшенный аудиосигнал. Карточка не описывает языковую специализацию и не приводит измерений качества или подробных ограничений применимости. Лицензия — Apache-2.0.
DPRNNTasNet-ks2_WHAM_sepclean — модель разделения аудиосигнала, обученная Мануэлем Париенте по рецепту DPRNN в библиотеке Asteroid. Она предназначена для задачи sep_clean на наборе данных WHAM! и принимает аудио, выдавая разделённые аудиодорожки. В карточке приведены результаты оценки, включая SI-SDR 19,32 дБ и STOI 0,978. Модель представлена в формате PyTorch и распространяется по лицензии CC BY-SA 4.0. Карточка не сообщает размер модели, длину контекста или конкретные языки; задача разделения аудио не требует текстового ввода.
Модель edwinpalegre/ee8225-group4-vit-trashnet-enhanced — дообученная Edwin Palegre модель Vision Transformer для классификации изображений мусора. Она основана на google/vit-base-patch16-224-in21k и обучена на наборе данных edwinpalegre/trashnet-enhanced. Архитектура ViT имеет около 113,2 млн параметров; веса опубликованы в формате safetensors. Модель предназначена для распознавания категорий мусора на изображениях, например в приложениях для сортировки отходов или анализа снимков мусора. В README указана точность 0,9817 и loss 0,0793 на оценочном наборе; эти результаты относятся к описанной оценке и не гарантируют такую же точность на других данных. Модель распространяется по лицензии Apache-2.0.
hmrizal/emotion_classification — модель классификации изображений на базе Vision Transformer ViT-Base, дообученная автором на наборе данных imagefolder. Она предназначена для анализа визуальных эмоциональных выражений и отнесения изображений к эмоциональным категориям. Модель содержит 113,2 млн параметров и распространяется в формате safetensors; лицензия — Apache-2.0. На оценочной выборке указаны accuracy 0,6438 и loss 1,2002. Описание не раскрывает перечень классов эмоций и детали обучающих данных, поэтому качество для конкретных категорий и сценариев по этим показателям оценить нельзя.
Модель gerhardien/face-emotion — дообученный Vision Transformer google/vit-base-patch16-224-in21k для классификации изображений лицевых выражений. Она обучена на наборе FER2013 и предназначена для отнесения изображения к одной из четырёх категорий выражений. Модель содержит 113,2 млн параметров и распространяется в формате safetensors по лицензии MIT. В карточке приведены точность 83,27% на обучающей выборке и 76,52% на валидационной. Эти результаты относятся к указанному набору данных и не гарантируют такую же точность на изображениях из других источников. Модель подходит для исследовательских и прикладных сценариев анализа выражений лица по изображениям. Карточка предупреждает о рисках, смещениях и ограничениях, но дополнительных рекомендаций не приводит.