II.8Инженерия данных и аналитика
В разделе собраны самостоятельные задачи, где AI помогает готовить надёжные данные и превращать их в понятную аналитику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
23 488 моделейOTel-Embedding-0.6B — текстовая модель эмбеддингов для поиска в документах телекоммуникационной отрасли, выпущенная в рамках открытой инициативы OTel по созданию справочных ИИ-ресурсов для отрасли. Это плотная архитектура Qwen3 примерно с 507,6 млн параметров, полученная полнопараметрическим дообучением Qwen/Qwen3-Embedding-0.6B на данных OTel-Embedding. Модель принимает текст и формирует векторные представления для семантического поиска и извлечения релевантных фрагментов из стандартов, RFC, спецификаций, технических статей и других отраслевых документов. Модель предназначена для этапа извлечения в телекоммуникационном RAG-конвейере, в том числе с последующим реранжированием результатов и передачей контекста языковой модели. Для выборки OTel-Embedding автор сообщает NDCG@10 90,5% ± 0,4 против 79,7% у базовой модели; это результат на отложенной части того же набора данных, а не независимого внешнего теста. Контекст составляет 32 768 токенов. Карточка указывает поддержку только английского языка. Лицензия — Apache-2.0; также необходимо соблюдать условия лицензии или использования базовой модели.
mnoukhov/pythia1b-rm-tldr6.9b — модель классификации текста на базе архитектуры GPT-NeoX с 1,2 млрд параметров. Она дообучена на mnoukhov/pythia1b-sft-tldr; README сообщает о потере 0,4685 и точности 0,7693 на оценочном наборе, но не описывает его состав. Модель предназначена для классификации текстовых входов. Метаданные указывают максимальный контекст 2048 токенов и формат весов safetensors. Репозиторий распространяется по лицензии Apache-2.0. Сведения о конкретных метках, обучающих данных и ограничениях применения не приведены.
posttrainllm подготовила Qwen3-4B ReST Fused — плотную языковую модель на 3,7 млрд параметров, дообученную методом teacher-free ReST на траекториях с успешными проверками и примерах операций с файлами. Модель предназначена для вызова инструментов в формате BFCL/OpenAI и специализированного выполнения файловых операций; её можно исследовать на Mac или использовать за явным маршрутизатором агента. Контекст составляет до 262 144 токенов, модель работает с текстом и выдаёт текстовые ответы и вызовы инструментов. Данные карточки указывают английский язык; базовая модель Qwen3-4B-Instruct-2507 поддерживает диалоги, следование инструкциям и вызов инструментов. В проверках модель улучшила результат на узком наборе операций с файлами: 12 из 12 случаев против 9 из 12 у базовой модели, без неожиданных побочных эффектов. При этом на более широком наборе вызова инструментов она уступила базовой модели — 25 из 45 против 30 из 45, поэтому её следует считать специализированным исследовательским кандидатом, а не универсальным агентом или заменой планировщика Pace. Файлы распространяются в формате safetensors для HF/MLX; лицензия Apache-2.0.
timm/qwen3_vit_416m_enc.qwen3_5_9b — визуальный энкодер изображений на основе собственного vision-энкодера Qwen3.5-9B, представленный в формате timm. Он извлекает пространственные признаки и после spatial merger проецирует токены в ширину 4096, соответствующую исходной языковой модели. Веса перенесены в формат timm без дополнительного обучения; языковые веса и обученная классификационная голова отсутствуют. Модель предназначена для извлечения признаков из RGB-изображений и подготовки визуальных токенов для мультимодальных систем. Архитектура включает backbone шириной 1152 с MLP на GELU-tanh, обучаемыми абсолютными позициями и осевым 2D RoPE. Указанный в карточке размер изображения — 768 × 768; поддерживаются прямоугольные входы с размерами, кратными 16, а варианты с мерджером 2 × 2 требуют кратности 32. Вход нормализуется со средним и стандартным отклонением 0,5 для каждого RGB-канала. Модель выдаёт визуальные признаки, а не классы изображений или текстовые ответы. Она не включает языковую часть Qwen3.5-9B, поэтому для диалога, рассуждений или ответов о содержимом изображения потребуется отдельная модель. Лицензия — Apache 2.0.
Это извлечённый из Qwen3.8-Flash-Next визуальный энкодер Qwen ViT, преобразованный в формат timm без дополнительного обучения. Модель содержит энкодер изображений, пространственный объединитель токенов и проекцию в размерность исходной языковой модели; весов языковой модели и обученной классификационной головы в репозитории нет. Вариант рассчитан на извлечение признаков изображений, а не на генерацию текста или классификацию готовыми метками. Энкодер имеет около 448 млн параметров, ширину backbone 1152 и размерность проекции 2560; указанный размер изображения — 768 × 768. Поддерживаются прямоугольные RGB-изображения: размеры сторон должны делиться на 16, а для вариантов с объединителем 2 × 2 — на 32. В архитектуре используются MLP с GELU-tanh, обучаемые абсолютные позиционные представления и двумерный осевой RoPE. Для изображений временное ядро Conv3d свёрнуто в Conv2d суммированием весов. Модель подходит для получения визуальных признаков и пространственных токенов как компонента мультимодального конвейера; сама по себе она не включает языковую модель для диалога или анализа изображений. Лицензия — Qwen Community License 1.0.
Это визуальный энкодер семейства Qwen3-VL, опубликованный в формате timm и извлечённый из Qwen/Qwen3-VL-32B-Instruct. Модель преобразует изображения в пространственные признаки и токены слияния; языковых весов и обученной классификационной головы в чекпойнте нет. Параметры энкодера включают визуальный backbone шириной 1152 и проекцию шириной 5120; размер изображения в карточке — 768 × 768, поддерживаются прямоугольные входы. Архитектура использует GELU-tanh MLP, обучаемые абсолютные позиции и осевое 2D RoPE; доступны промежуточные карты признаков. Реализация предназначена только для изображений: временное ядро исходного Conv3d сведено к Conv2d. Размеры изображения должны делиться на 16, а для вариантов с merger 2×2 — на 32. Веса преобразованы в формат timm без дополнительного обучения. Лицензия — Apache 2.0.
kapliff89/roberta-base-finetuned-nmrv — модель классификации текста на архитектуре RoBERTa, дообученная на основе klue/roberta-base. В репозитории указано, что она обучалась на наборе данных «None»; подробности о метках классов и назначении задачи не приведены. Модель содержит 137,8 млн параметров, принимает текст и выдаёт результат классификации. Длина контекста составляет 514 токенов. В карточке приведено значение функции потерь 0,4680 на оценочной выборке, но не описаны метрики качества, данные оценки или смысл классов. Базовая модель предназначена для понимания корейского текста, однако язык и целевая область этого дообучения отдельно не подтверждены. Модель опубликована в формате safetensors; лицензия в предоставленных данных не указана.
Koichi Yasuoka разработал модель на архитектуре RoBERTa для морфологической разметки корейского текста. Она назначает каждому морфему тег части речи UPOS из универсального набора и предназначена для автоматической обработки корейских текстов; карточка также указывает на обучение для синтаксического разбора зависимостей. Модель дообучена на основе KoichiYasuoka/roberta-base-korean-hanja с использованием morphUD-korean. Модель содержит 143,4 млн параметров, принимает текст и выдаёт последовательность меток токенов. Максимальная длина контекста — 514 токенов. Репозиторий содержит веса PyTorch, лицензия — CC BY-SA 4.0. Ограничение по назначению: разметка UPOS описана для морфем корейского языка; применение для других языков карточкой не подтверждено.
Koichi Yasuoka разработал RoBERTa-base-ukrainian — языковую модель RoBERTa, предварительно обученную на корпусе UberText. Модель содержит 136,3 млн параметров, использует архитектуру RobertaForMaskedLM и принимает последовательности длиной до 512 токенов. Модель предназначена для заполнения пропусков в украинском тексте и дообучения для задач обработки украинского языка, включая разметку частей речи и синтаксический анализ зависимостей. Она работает с текстом и выдаёт текстовые предсказания; в репозитории доступны веса PyTorch. Модель распространяется по лицензии CC BY-SA 4.0. Для задач, отличных от заполнения пропусков, потребуется дообучение; качество в конкретных прикладных сценариях зависит от данных и настройки.
RouteNER — компактная модель распознавания сущностей для запросов о планировании поездок, разработанная boltuix на основе BERT-mini и дообученная для классификации токенов. Она выделяет пункты отправления (From), назначения (To) и виды транспорта (Mode) в англоязычных текстовых запросах. Модель предназначена для интеграции в туристические ассистенты, чат-боты, навигационные и транспортные приложения, где нужно преобразовать запрос пользователя в структурированные данные о маршруте. Архитектура BERT, около 5 млн параметров и контекст до 512 токенов позволяют использовать её в приложениях с ограниченными ресурсами. Модель принимает текст и выдаёт метки сущностей для его токенов. Лицензия — Apache-2.0. Карточка заявляет высокую точность, но не приводит метрик или подробностей оценки; качество для языков и сущностей вне описанного сценария не подтверждено.
Social Orientation Tagger — англоязычная модель классификации диалоговых реплик, разработанная Todd Morrill при финансировании DARPA. Она дообучена на базе DistilBERT и обучена на Conversations Gone Awry с метками социальной ориентации, подготовленными с помощью GPT-4. Модель присваивает репликам одну из девяти меток, включая Warm-Agreeable, Arrogant-Calculating и Not Available; максимальная длина контекста — 512 токенов. Модель предназначена для анализа межличностного тона диалогов и может добавлять метки ориентации к репликам для последующих систем, например при оценке вероятного успеха разговора. В карточке приведены точности 33,29% на валидационной и 33,99% на тестовой выборках; без взвешивания классов указана точность 45%, поэтому предсказания следует трактовать с осторожностью. Лицензия — MIT.
Карточка модели Simon-Kotchou/ssast-base-patch-audioset-16-16 на Hugging Face совпадает с карточкой Simon-Kotchou/ssast-small-patch-audioset-16-16, поэтому описание составлено по ней. Simon-Kotchou/ssast-small-patch-audioset-16-16 — модель Self-Supervised Audio Spectrogram Transformer (SSAST) для анализа аудио, основанная на архитектуре Vision Transformer, применённой к спектрограммам. Модель предобучена на AudioSet и LibriSpeech; в репозитории указано 28,3 млн параметров. Классификационная голова не обучена, поэтому перед классификацией её необходимо дообучить на целевой задаче. Модель предназначена для построения систем классификации аудио после настройки классификационной головы. Она принимает аудио, преобразованное в спектрограмму, и выдаёт классовые оценки. Для работы используется Transformers; веса опубликованы в формате safetensors. Лицензия — BSD 3-Clause.
Модель Somos NLP Hackathon 2022, созданная medardodt, MariaIsabel, ManRo, lucel172 и robertou2. Это дообученная для классификации текста модель pysentimiento/robertuito-base-uncased на наборе EXIST; она выявляет сексизм в испаноязычных сообщениях Twitter. Модель основана на RoBERTa и содержит 136,3 млн параметров. Её нативная длина контекста — 130 токенов. Модель предназначена для выявления сексистских высказываний в испаноязычных сообщениях и может использоваться для анализа публикаций в социальных сетях или как отправная точка для исследовательских и учебных проектов по распознаванию сексизма. На тестовом наборе авторы сообщают accuracy 0,80, F1 0,83 и F2 0,89. Обучение опиралось на испаноязычные твиты из EXIST и данные MeTwo. Авторы отмечают ограничения наборов данных, в том числе связанные с лицензиями и политиками распространения, а также намерение расширить данные и улучшить модель. Репозиторий распространяется по лицензии Apache-2.0.
Cliffer1 дообучил VideoMAE Base для классификации видео на два класса: насилие и отсутствие насилия. Модель построена на архитектуре VideoMAE и содержит 113,2 млн параметров; исходная модель была дообучена на Kinetics-400. Для обработки видео используется библиотека Transformers. В README указана точность 0,9805 и loss 0,0753 на оценочном наборе, однако датасет, протокол оценки и распределение классов не описаны. Модель подходит для автоматической разметки видеороликов по наличию насилия, но заявленные результаты нельзя уверенно переносить на другие данные без дополнительной проверки. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.
Toan2408 phát triển mô hình ViT5-Base tinh chỉnh cho hiệu chỉnh lỗi và chấm điểm lại đầu ra nhận dạng tiếng nói tiếng Việt. Mô hình dùng kiến trúc T5 encoder-decoder, có 126,8 triệu tham số và độ dài ngữ cảnh 512 token; trọng số được cung cấp ở định dạng safetensors. README mô tả việc huấn luyện với Phonetic-Weighted Loss (hệ số 3,5) và Phonetic Syllable Gating để xử lý các nhầm lẫn âm vị đặc trưng của tiếng Việt, gồm phụ âm đầu, phụ âm cuối, vần và thanh điệu. Mô hình предназначена для постобработки ASR: исправляет гипотезу распознавания и помогает ранжировать варианты с учётом фонетических ошибок. Разработчик заявляет, что gating снижает риск исправления корректных фраз. Данные описывают работу с текстом на вьетнамском языке; вход — распознанный текст, выход — исправленный или переоценённый текст. Лицензия MIT.
DAMO-NLP-SG/VL3-SigLIP-NaViT — визуальный энкодер VideoLLaMA 3, разработанный командой DAMO-NLP-SG. Модель принимает изображения и извлекает визуальные признаки для мультимодальных систем; она предназначена для обработки изображений и кадров разного разрешения в сценариях понимания видео. Энкодер основан на архитектуре ViT и дообучен на базе google/siglip-so400m-patch14-384. В подходе Any-resolution Vision Tokenization используются 2D-RoPE вместо абсолютных позиционных эмбеддингов, чтобы представлять изображения с разным разрешением с сохранением деталей. Число параметров — 544,9 млн; доступны веса Safetensors для Transformers. В ходе адаптации энкодер и проектор обучались на изображениях сцен, документах и изображениях с текстом. Модель извлекает признаки, которые могут служить визуальным представлением для задач понимания сцен, документов и видео. Она не является самостоятельной диалоговой моделью. Распространяется по лицензии Apache-2.0.
Мультиязычный классификатор токсичности текста от TextDetox, созданный дообучением XLM-RoBERTa large на бинарной задаче классификации токсичности с использованием обновлённого датасета textdetox/multilingual_toxicity_dataset. Модель предназначена для автоматической проверки текстов и определения, относятся ли они к токсичным. Классификатор охватывает 15 языков. В карточке приведены оценки F1 0,9225 для английского, 0,9525 для русского и 0,96 для украинского. Модель имеет 658,7 млн параметров, принимает последовательности длиной до 514 токенов и распространяется в формате Safetensors. Для использования требуется библиотека Transformers; лицензия — OpenRAIL++. Классификация бинарная и не объясняет причину присвоенной метки. Приведённые оценки относятся только к указанным языкам и могут не отражать качество на других текстах и доменах; автоматическую метку следует проверять в контексте предполагаемого применения.
Kuongan/xlm-roberta-base-swa-finetuned — дообученная Kuongan версия XLM-RoBERTa Base для классификации текста. Модель построена на архитектуре XLM-RoBERTa и содержит 305,2 млн параметров; максимальная длина контекста — 514 токенов. Доступна в формате safetensors и распространяется по лицензии MIT. Модель предназначена для задач классификации последовательностей. В карточке приведены результаты оценки: loss 0,3626, F1 0,2049, ROC AUC 0,5682 и accuracy 0,4428. Название набора данных указано как None, а описание назначения, обучающих данных и ограничений не приведено, поэтому область применения и качество для конкретных классов по этим сведениям определить нельзя.
anton-l/xtreme_s_xlsr_minds14 — модель классификации аудио на базе архитектуры wav2vec2, дообученная автором на наборе данных, обозначенном в карточке как None. Она предназначена для отнесения аудиозаписей к классам; в метаданных Hugging Face основная задача указана как audio-classification. Число параметров — около 402,7 млн, веса опубликованы в формате PyTorch. В карточке приведены результаты оценки: F1 0,946 и accuracy 0,947. Язык записей, состав классов и практические сценарии подробнее не описаны. Модель распространяется по лицензии Apache-2.0.
zoobot-encoder-resnet18 — энкодер ResNet18 для изображений, опубликованный mwalmsley в рамках проекта Zoobot. Он предназначен для извлечения признаков из изображений и может использоваться как основа для дообучения классификатора; карточка показывает загрузку через timm с отключённой классификационной головой. В метаданных задача указана как классификация изображений, библиотека — timm, формат весов — PyTorch. Модель распространяется по лицензии Apache 2.0. Карточка не описывает обучающие данные, специализированные классы или количественные показатели качества, поэтому пригодность для конкретного набора изображений следует проверять отдельно.
AIGC Detector (MPU), версия Env1, — классификатор текста, разработанный Юйчуанем Тянем и соавторами для работы «Multiscale Positive-Unlabeled Detection of AI-Generated Texts». Модель определяет, был ли текст сгенерирован искусственным интеллектом; версия Env1 обучена на англоязычном наборе HC3-English с применением метода Multiscale Positive-Unlabeled на базе предварительно обученной RoBERTa-Base. Это модель RoBERTa для классификации последовательностей с 151,8 млн параметров и контекстом до 514 токенов. Она принимает текст и выдаёт классификационные метки. Репозиторий содержит веса PyTorch; модель распространяется по лицензии Apache-2.0.
Модель ghadeermobasher/BC5CDR-Disease-Modified_BiomedNLP-PubMedBERT-base-uncased-abstract опубликована пользователем ghadeermobasher на Hugging Face. Это модель классификации токенов на базе архитектуры BERT, связанная с BiomedNLP-PubMedBERT и набором BC5CDR-Disease. Она предназначена для извлечения и разметки упоминаний заболеваний в биомедицинских текстах, включая аннотации публикаций PubMed. Модель содержит около 136,7 млн параметров и поддерживает контекст до 512 токенов. Она рассчитана на работу через библиотеку Transformers с фреймворком PyTorch. Модель специализирована на биомедицинской предметной области и не является универсальной генеративной моделью. Ограничения включают максимальную длину контекста 512 токенов и узкую специализацию на токен-классификации заболеваний. Лицензия в доступных данных не установлена.
BERT base Japanese Whole Word Masking — это японская предварительно обученная модель семейства BERT, разработанная командой Tohoku NLP. Она использует архитектуру BERT base с 12 слоями, скрытым размером 768 и 12 головами внимания; всего 137,8 млн параметров. Для токенизации применяется морфологический анализатор MeCab со словарём IPA, затем WordPiece с размером словаря 32 000. Модель обучена предсказывать замаскированные токены, причём при whole word masking маскируются сразу все части одного слова. Модель предназначена для заполнения пропусков в японском тексте и может служить базой для задач понимания японского языка. Обучение проводилось на японской Википедии по состоянию на 1 сентября 2019 года; максимальная длина входа составляет 512 токенов. Доступны версии весов для PyTorch, TensorFlow и JAX/Flax. Модель распространяется по лицензии CC BY-SA 4.0. Она обучена только на японской Википедии, поэтому может хуже работать с текстами других языков, жанров и предметных областей; её контекст ограничен 512 токенами.
Модель Davlan/bert-base-multilingual-cased-finetuned-hausa — версия BERT, дообученная разработчиком на текстах на языке хауса. Она основана на bert-base-multilingual-cased и предназначена прежде всего для предсказания скрытых токенов в тексте; README также приводит улучшенные результаты на наборах для классификации текстов и распознавания именованных сущностей по сравнению с исходной многоязычной моделью. Модель содержит 205,1 млн параметров, использует архитектуру BertForMaskedLM и принимает последовательности длиной до 512 токенов. Обучение проводилось на корпусе Hausa CC-100; оценка на MasakhaNER и VOA Hausa Textclass показывает пользу дообучения для распознавания сущностей и классификации новостных текстов. Данные об условиях лицензии в предоставленной карточке отсутствуют.
trungnv1983/bge_m3_multiplenegativesrankingloss — модель для создания текстовых эмбеддингов, дообученная на базе BAAI/bge-m3 для банковской тематики. Она предназначена для семантического поиска и извлечения релевантных текстов, а также сравнения сходства предложений. Архитектура — XLM-RoBERTa; размер — 658,7 млн параметров, контекст — до 8194 токенов. Модель поддерживает многоязычные тексты и использует библиотеку Sentence Transformers. Применяйте её для поиска ответов и документов по банковским запросам, например для подбора условий кредитной карты по вопросу пользователя. Модель возвращает эмбеддинги, которые можно использовать для ранжирования или поиска по сходству. Лицензия — Apache 2.0.
BlueBERT — англоязычная модель на архитектуре BERT, предварительно обученная на медицинских текстах: аннотациях PubMed и клинических записях MIMIC-III. В репозитории представлены варианты с 12 слоями, скрытым размером 768 и 12 головами внимания; размер модели составляет 136,7 млн параметров, длина контекста — до 512 токенов. Доступны веса PyTorch и Flax. Модель предназначена для последующей настройки и применения в задачах обработки биомедицинского и клинического текста, например для классификации медицинских документов или извлечения сведений из клинических записей. Она специализируется на англоязычной медицинской лексике благодаря предобучению на PubMed и MIMIC-III. Лицензия — CC0 1.0. Результаты не предназначены для самостоятельной диагностики или принятия медицинских решений без проверки клиническим специалистом.
CED-Base — модель семейства CED на основе Vision Transformer и трансформера, разработанная авторами работы «CED: Consistent ensemble distillation for audio tagging». Она предназначена для аудиотегирования: классификации аудиозаписей по звуковым классам. В карточке указана версия Base; README описывает семейство CED и приводит результаты для вариантов Tiny, Mini и Small, поэтому эти размеры и метрики нельзя приписать Base. Модель принимает аудио и выдаёт метки классов. Среди особенностей семейства — обработка входов переменной длины, нормализация мел-спектрограмм пакетной нормализацией и ускоренный вывод благодаря 64-мерным mel-фильтрам и неперекрывающимся патчам 16×16. Обучение и оценка описаны на AudioSet; README также показывает пример дообучения линейной головы для ESC-50 при замороженном энкодере. Репозиторий содержит форматы ONNX и safetensors. Лицензия — Apache-2.0. Заявления README о качестве относятся к семейству моделей и не дают отдельной оценки CED-Base; также не приведены размер Base, языковые характеристики и подробности обучающих данных помимо упоминания AudioSet.
Shobhank-iiitdwd/Clinical_sentence_transformers_mpnet_base_v2 — дообученная модель Sentence Transformers на базе sentence-transformers/all-mpnet-base-v2, предназначенная для кодирования предложений и абзацев в плотные векторы размерностью 768 для работы с клиническими текстами. В основе лежит MPNet с усреднением токенных представлений и нормализацией; близость векторов можно оценивать косинусным сходством. Модель содержит 136,7 млн параметров и принимает последовательности длиной до 514 токенов по метаданным; README указывает ограничение 384 токена. Её можно использовать для семантического поиска и сравнения клинических текстов, поиска перефразировок, классификации и кластеризации. Модель принимает текст и выдаёт векторы; конкретные поддерживаемые естественные языки в карточке не названы. Репозиторий использует формат safetensors и библиотеку sentence-transformers. Лицензия в предоставленных данных не указана.
Koichi Yasuoka разработал DeBERTa V2 large, предварительно обученную на японских текстах из 青空文庫 (Aozora Bunko). Модель с архитектурой DeBERTa V2 и 435,4 млн параметров обучена для предсказания замаскированных токенов; она подходит как основа для дообучения под задачи обработки японского языка, включая разметку частей речи и синтаксический анализ зависимостей. Работает с текстом в контексте до 512 токенов и распространяется в формате PyTorch по лицензии CC BY-SA 4.0.
Это дообученная модель обнаружения объектов на изображениях, построенная на архитектуре DETR и основанная на nsugianto/detr-resnet50_finetuned_lstabledetv1s9_lsdocelementdetv1type3_session3. Репозиторий содержит веса в формате safetensors; в метаданных указано 6,3 млн параметров и контекст 1024 токена. Модель предназначена для локализации объектов на изображениях и выдачи рамок обнаружения с метками классов. Карточка называет её дообученной на неизвестном наборе данных, поэтому конкретные классы объектов, условия применения и качество распознавания определить нельзя. Лицензия в предоставленных данных не указана.