II.8Инженерия данных и аналитика
В разделе собраны самостоятельные задачи, где AI помогает готовить надёжные данные и превращать их в понятную аналитику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
23 488 моделейDINOv3 ViT-7B/16 — зрительная модель Meta AI, предварительно обученная с нуля на наборе веб-изображений LVD-1689M. Это Vision Transformer с размером патча 16, размерностью представления 4096, 32 головами и четырьмя register-токенами; модель содержит около 6,716 млрд параметров. Она принимает изображения и возвращает токены класса, патчей и регистров, формируя плотные признаки для последующих задач компьютерного зрения. Для изображений 224×224 получается 201 токен; размеры изображения могут быть больше, если стороны кратны 16. Модель предназначена для использования как универсальная основа зрения без дообучения: её признаки подходят для классификации изображений, поиска похожих изображений, сегментации, оценки глубины, обнаружения объектов и анализа видео. При необходимости признаки можно использовать с простыми классификаторами или дообучить модель. В карточке указана лицензия DINOv3 License; условия следует сверять с её текстом. Описаны различия качества между географическими регионами и снижение результатов для группы стран с низким доходом; дообучение может усилить смещения.
PIA-SPACE-LAB/dinov3-vitl-pretrain-lvd1689m — производная модель DINOv3 от Meta AI, опубликованная PIA-SPACE-LAB. Это зрительный энкодер Vision Transformer с 402,7 млн параметров, дообученный на основе facebook/dinov3-vit7b16-pretrain-lvd1689m и предназначенный для извлечения признаков изображений. Модель возвращает класс-токен и токены патчей; размер патча — 16 пикселей. Размер изображения должен быть кратен 16: иначе модель обрезает его до ближайшего меньшего подходящего размера. Признаки подходят для поиска похожих изображений, классификации, сегментации, оценки глубины и других задач компьютерного зрения. Их можно использовать без дообучения модели, добавив простой классификатор или применив поиск ближайших соседей. Карточка указывает на различия качества между регионами и доходными группами; тонкая настройка может усилить смещения признаков. Лицензия — DINOv3 License, обозначенная в метаданных как other.
joeddav/distilbert-base-uncased-go-emotions-student — англоязычный классификатор эмоций, разработанный как компактная ученическая модель на базе DistilBERT. Его обучили дистилляцией предсказаний модели zero-shot классификации на неразмеченных данных GoEmotions; обучение продолжалось 10 эпох со смешанной точностью. Модель предназначена для классификации текста по эмоциональным категориям GoEmotions и для демонстрации способа переноса знаний от ресурсоёмкой NLI-модели к более эффективному классификатору, обучаемому на неразмеченных данных. Она поддерживает входной текст длиной до 512 токенов и выдаёт метки классов. По заявлению автора, качество может быть ниже, чем у модели, обученной на полностью размеченных данных. Хотя GoEmotions допускает несколько меток для одного примера, учитель создавал псевдометки только одного класса. Модель распространяется по лицензии MIT.
Классификатор текста Elias Al Bouzidi, Massine El Khader, Abdellah Oumida, Mohammed Sbaihi и Eliott Binard для отнесения текста к одной из двух категорий: safe или nsfw. Модель основана на DistilBERT и дообучена для задач модерации и фильтрации контента; она принимает строку текста и выдаёт вероятности классов. В карточке указано 60 млн параметров, английский язык и контекст до 512 токенов. Модель обучена на 190 тысячах размеченных примеров, включая описания изображений и сцен; авторы сообщают F1 0,974 на выборке из 40 тысяч примеров. Лицензия — Apache-2.0. Для повышения качества требуется предварительная обработка текста, а результат следует проверять с учётом возможных ошибок классификации.
EstBERT — предварительно обученная регистрозависимая модель семейства BERT, разработанная tartuNLP для эстонского языка. Она обучена на корпусе Estonian National Corpus 2017 и представлена в вариантах обучения с длиной последовательности 128 и 512 токенов; максимальный контекст составляет 512 токенов. Модель содержит 151,6 млн параметров и основана на google-bert/bert-base-cased. Основной сценарий применения — предсказание замаскированных слов. После дообучения EstBERT можно использовать для разметки частей речи и морфологии, распознавания именованных сущностей, классификации тем и анализа тональности на эстонских текстах. В приведённых авторами сравнениях она превосходит mBERT и XLM-RoBERTa по ряду задач, хотя результаты зависят от задачи и варианта оценки. Модель принимает текст и выдаёт предсказания токенов. Доступны веса в форматах PyTorch, Flax и Safetensors. Лицензия — CC BY 4.0; при распространении и использовании необходимо соблюдать её условия и указывать авторство.
Это версия Grounding DINO Base, подготовленная zeromodels как реализация на Keras 3 и преобразованная из IDEA-Research/grounding-dino-base. Модель обнаруживает объекты на изображениях по свободным текстовым запросам: она не ограничена заранее заданным набором классов и может искать категории, отсутствовавшие в обучающей выборке детектора. Архитектура сочетает визуальный энкодер Swin-Base и текстовый энкодер BERT; модуль деформируемого объединения признаков связывает изображение с текстом, а декодер предсказывает рамки объектов и оценки соответствия словам запроса. Модель предназначена для локализации названных пользователем объектов на изображениях, в том числе для поиска новых категорий без примеров разметки. Реализация Keras 3 работает с TensorFlow, PyTorch и JAX. Для чистых результатов можно повышать порог оценки; при запуске на Torch README предупреждает о возможном большом расходе памяти из-за графа autograd и рекомендует отключать его для инференса. Лицензия — Apache 2.0.
jdpo5k3 — дообученная на наборе данных generator модель DeepSeek Coder, разработанная владельцем репозитория stojchet. Она предназначена для генерации текста; базовая модель DeepSeek Coder рассчитана на продолжение и автодополнение кода, поэтому модель может быть полезна для подобных сценариев. Модель использует плотную архитектуру LlamaForCausalLM и содержит 1,3 млрд параметров. Максимальная длина контекста — 16 384 токена. Веса опубликованы в формате safetensors. Для репозитория указана лицензия other; конкретные условия лицензии следует проверить перед использованием. README не приводит результатов оценки и подробностей о данных или ограничениях дообучения.
Mask2Former — модель компьютерного зрения для сегментации объектов на изображениях, разработанная командой Mask2Former и представленная в статье «Masked-attention Mask Transformer for Universal Image Segmentation». Этот чекпойнт обучен на COCO для сегментации экземпляров объектов; используется компактная версия с Tiny-бэкбоном Swin. Модель предсказывает маски объектов и соответствующие им классы. Архитектура Mask2Former применяет многомасштабный декодер пикселей с deformable attention и Transformer-декодер с masked attention. Семейство архитектур поддерживает сегментацию экземпляров, семантическую и паноптическую сегментацию, но этот чекпойнт предназначен для сегментации экземпляров. Модель принимает изображения и выдаёт маски и метки классов объектов. Репозиторий содержит веса PyTorch и Safetensors. Лицензия указана как other, поэтому перед использованием следует проверить условия в карточке модели.
MaxViT Tiny TF 384 IN1K — модель классификации изображений из семейства MaxViT, обученная авторами исходной работы на ImageNet-1k в TensorFlow и перенесённая в PyTorch Россом Уайтманом для библиотеки timm. Архитектура сочетает блок MBConv и два блока self-attention с разбиением на окна и сетку. Модель содержит около 31 млн параметров и рассчитана на входные изображения размером 384 × 384 пикселя. Модель предназначена для определения категорий объектов на изображениях и может использоваться как визуальная основа для извлечения признаков и эмбеддингов. В карточке указана оценка top-1 83,8% и top-5 96,2% на ImageNet-1k. Репозиторий содержит веса PyTorch в формате safetensors. Лицензия — Apache-2.0.
Карточка модели TroyDoesAI/MermaidSolar_LASER на Hugging Face совпадает с карточкой TroyDoesAI/MermaidSolar, поэтому описание составлено по ней. MermaidSolar — языковая модель TroyDoesAI на архитектуре Llama, обученная на базе Solar 10.7B Base Model с тем же набором данных, что и MermaidMistral, MermaidLLama и MermaidStable3B. В метаданных указано 10,6 млрд параметров, контекст 4096 токенов и формат safetensors; модель предназначена для генерации Mermaid-диаграмм по текстовому контексту. В описанном автором сценарии запросы оформляются так, чтобы ответ содержал заголовок «Response:» и блок Mermaid. Автор сообщает, что при обучении использовал 800 вручную составленных примеров с разнообразными пограничными случаями. Лицензия — CC BY-NC-SA 4.0; она требует указания авторства и распространения производных материалов на тех же условиях, а также запрещает коммерческое использование.
Карточка модели facebook/MobileLLM-R1.5-360M на Hugging Face совпадает с карточкой facebook/MobileLLM-R1.5-140M, поэтому описание составлено по ней. MobileLLM-R1.5-140M — компактная языковая модель Meta, дообученная методом on-policy дистилляции от facebook/MobileLLM-R1-140M-base. Это SFT-модель для решения математических и научных задач, а также задач программирования на Python и C++; разработчики отдельно отмечают, что она не предназначена для универсального общения. Модель содержит 140 млн параметров, использует текст на входе и выдаёт текст, поддерживает контекст до 32 тыс. токенов и словарь размером 128 тыс. токенов. Архитектура включает 15 слоёв, 9 attention heads и 3 KV heads. Дополнительная on-policy дистилляция применена как заключительный этап постобучения и, по данным авторов, улучшает результаты небольших моделей на сложных задачах рассуждения. Карточка приводит результаты семейства MobileLLM-R1.5, но конкретные численные показатели для версии 140M не выделяет. Модель опубликована под лицензией с обозначением «other»; условия лицензии следует проверить в карточке репозитория перед использованием.
Artiwise ModernBERT Base Turkish Uncased — турецкая адаптация encoder-only модели ModernBERT, разработанная Artiwise и дообученная от answerdotai/ModernBERT-base на турецкой части набора CulturaX. Модель содержит 134,9 млн параметров, использует архитектуру ModernBERT и поддерживает контекст до 8192 токенов. Основная задача — предсказание замаскированных токенов; архитектура также подходит для построения классификаторов текста и разметки последовательностей. Модель предназначена для турецкоязычного понимания текста: восстановления пропусков, анализа отзывов, ответов на вопросы и обработки специализированных текстов, включая биомедицинские. В README приведены результаты сравнения с турецкими BERT-моделями на задачах с разными долями маскирования; эти результаты относятся к описанным авторам экспериментам. Для работы нужны PyTorch не ниже 2.6.0 и Transformers не ниже 4.50.0. В карточке указана лицензия MIT.
ModernBERT-Ja-130M — двуязычная японско-английская модель SB Intuitions на архитектуре ModernBERT для предсказания замаскированных токенов и дообучения под задачи обработки естественного языка. Она содержит 132,1 млн параметров, использует 19 слоёв Transformer и поддерживает контекст до 8 192 токенов. В архитектуре сочетаются локальное и глобальное внимание, а позиционные представления используют RoPE. Токенизатор SentencePiece с моделью unigram и словарём на 102 400 элементов позволяет подавать исходный японский текст без предварительной токенизации. Модель обучена на японских и английских текстовых корпусах; README указывает общий объём обучения около 4,39 трлн токенов и два этапа расширения контекста до 8 192 токенов. Её можно дообучать для классификации, языковых и семантических задач. Модель не предназначена для генерации текста; из-за несовпадения границ токенов с морфемами качество задач разметки токенов, например распознавания именованных сущностей и извлечения фрагментов, может быть низким. Лицензия — MIT.
codechrl/modernbert-lite — англоязычный encoder-only чекпойнт семейства ModernBERT для заполнения пропусков в тексте и последующей адаптации к прикладным задачам. Он основан на answerdotai/ModernBERT-base и содержит около 149 млн параметров; архитектура включает 22 слоя Transformer с размером скрытого состояния 768. Контекст — до 8192 токенов. Веса хранятся в формате float16, что примерно вдвое уменьшает объём модели и потребление памяти при сохранении близкого к базовой модели качества на GLUE. Модель предназначена для дообучения, например, для классификации последовательностей, а не является готовым классификатором. Карточка сообщает о демонстрационном бюджете сжатия и рекомендует для производственного применения повторить сжатие с большим числом шагов и корпусом. Лицензия — Apache-2.0.
MuRIL Large — мультиязычная модель Google на архитектуре BERT Large с 24 слоями и примерно 604,7 млн параметров. Она предварительно обучена на корпусах Википедии, Common Crawl, PMINDIA и Dakshina для 17 индийских языков и их транслитерированных вариантов. При обучении использовались маскирование целых слов, а также пары переводов и транслитераций; максимальная длина последовательности составляет 512 токенов. Модель предназначена для извлечения контекстных представлений и последующей настройки под задачи NLP для индийских языков. В карточке показаны результаты настройки для распознавания именованных сущностей, разметки частей речи, определения межъязыкового следования и ответов на вопросы. Она поддерживает работу с транслитерированным текстом, но не рассчитана на языки за пределами обучающего набора. Указанная в репозитории лицензия не приводится в предоставленных данных.
nkto4 — дообученная модель генерации текста на базе deepseek-ai/deepseek-coder-1.3b-base. Она использует архитектуру Llama и содержит 1,3 млрд параметров; формат весов — safetensors, контекст — до 16 384 токенов. Базовая модель предназначена для продолжения, автодополнения и заполнения пропусков в коде, однако карточка nkto4 не описывает отдельно её целевые сценарии или языки. В README приведены метрики оценки, включая loss 0,2065 и eval rewards для предпочтительных и отклонённых ответов, но нет сведений о наборе данных и методике обучения. Лицензия указана как other, поэтому условия использования следует сверить с репозиторием и лицензией базовой модели перед применением.
OdiaGenAIOCR разработала модель для распознавания печатного текста на письме одия. Это дообученная с помощью LoRA модель Qwen2.5-VL-3B-Instruct: она принимает изображение и возвращает распознанный текст. Модель рассчитана прежде всего на отдельные слова, вырезанные из изображений; обучение проводилось на 145 тысячах таких фрагментов из нескольких корпусов одия. В метаданных указаны 3,1 млрд параметров, контекст 128 000 токенов и формат safetensors. На чистых изображениях с высоким контрастом модель часто точно распознаёт слова. Сложные соединения букв и диакритические знаки вызывают ошибки, а длинные слова могут обрезаться; рукописный и сильно ухудшенный текст подходят хуже. Смешанные документы на одия и английском не тестировались. Модель распространяется по лицензии Apache-2.0.
opensearch-project/opensearch-neural-sparse-encoding-doc-v1 — модель OpenSearch Contributors для поиска документов по текстовым запросам. Это learned sparse retriever на архитектуре BERT с 136,7 млн параметров; модель обучена на MS MARCO и предназначена для использования с OpenSearch, включая индексацию и поиск через инвертированный индекс Lucene. Модель кодирует документы в разреженные векторы размерности 30 522, где ненулевые значения отражают важность токенов словаря. Для запросов README описывает формирование векторов с помощью токенизатора и таблицы весов; релевантность вычисляется как скалярное произведение векторов запроса и документа. Режим inference-free для retrieval снижает вычислительные затраты при поиске. Доступный контекст — до 512 токенов; заявлен английский язык. В сравнении из README средний NDCG@10 на подмножестве BEIR составляет 0,490, а средний FLOPS — 2,3; результаты различаются по наборам данных. Модель распространяется по лицензии Apache-2.0. Карточка не приводит отдельного описания известных сбоев или ограничений помимо контекста, языка и представленных результатов бенчмарка.
zeromodels/owlv2-base-patch16 — преобразованная в формат Keras 3 модель Google OWLv2-base-patch16 для обнаружения объектов на изображениях по свободным текстовым запросам. Она сохраняет двухбашенную архитектуру OWL-ViT с детекционной головой для патчей и использует оценку объектности; исходная модель масштабирована с помощью самообучения на веб-парах изображений и текста. Реализация работает с TensorFlow, PyTorch и JAX. Модель предназначена для поиска объектов по заданным текстовым категориям без фиксированного набора классов. При обработке изображений OWLv2 дополняет их до квадратной формы перед изменением размера, поэтому при постобработке нужно корректно передавать исходные размеры изображения. Для open-vocabulary детектора обычно подходят более низкие пороги уверенности, чем для детекторов с закрытым набором классов. Лицензия — Apache 2.0.
PulseThink-TestRepo-r30 — опубликованный SOTAagi2030 чекпойнт на базе архитектуры BERT, предназначенный для извлечения признаков из текста. README описывает PulseThink как обновлённого разговорного помощника с улучшенными рассуждениями, генерацией и вызовом функций, но эти возможности не подтверждаются метаданными модели, где указана только задача feature-extraction. В README приведены результаты PulseThink на тестах математики, логики и здравого смысла, однако конкретные характеристики этого репозитория, включая размер модели и контекст, не сообщаются. Репозиторий использует формат PyTorch и библиотеку Transformers. Лицензия — MIT.
Qybera — диалоговая языковая модель Stackpulse Cloud, обученная в Кении на базе Qwen/Qwen2.5-0.5B-Instruct. Это компактный decoder-only Transformer с архитектурой Qwen2 и 494 млн параметров; модель принимает текст и генерирует ответы в формате беседы. Она рассчитана на помощь с программированием, обучением, планированием и решением повседневных задач, общаясь в доброжелательном, поддерживающем тоне с лёгкими кенийскими разговорными выражениями. Основной язык — английский; карточка также указывает контекст длиной до 32 768 токенов. Модель подходит для учебного помощника по программированию, интеграции в инструменты разработчика и дружелюбных ботов для сообществ Восточной Африки. Лицензия — Apache 2.0. Как компактная модель примерно на 500 млн параметров, она может ошибаться в фактах и коде и уступать более крупным моделям в сложных многошаговых рассуждениях; результаты следует проверять. Кенийский сленг используется умеренно, а модель не предназначена для профессиональных медицинских, юридических или финансовых советов.
ResNet-50 — сверточная модель классификации изображений из библиотеки timm. Она предварительно обучена авторами статьи на подмножестве YFCC100M с использованием полу-контролируемого обучения, а затем дообучена на ImageNet-1k. Архитектура использует ReLU, свертку 7×7 с пулингом и остаточные связи с проекцией через свертки 1×1. Модель предназначена для классификации изображений и может использоваться как основа для извлечения карт признаков и эмбеддингов изображений. Она рассчитана на вход размером 224×224 и содержит 25,6 млн параметров. Репозиторий предоставляет веса в форматах PyTorch и safetensors. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но некоммерческое.
SecureBERT 2.0 Bi-Encoder — англоязычная модель Cisco AI для поиска и сопоставления текстов по кибербезопасности. Она дообучена на базе cisco-ai/SecureBERT2.0-base и использует архитектуру ModernBERT в формате Sentence Transformer: запрос и документ кодируются независимо в общее векторное пространство. Модель содержит 149 млн параметров, выдаёт эмбеддинги размерности 768 и принимает последовательности длиной до 8192 токенов по метаданным Hugging Face; в README указана максимальная длина 1024 токена. Модель предназначена для семантического поиска, извлечения документов и построения эмбеддингов в корпусах кибербезопасности, включая отчёты об угрозах, рекомендации и заметки об уязвимостях. Независимое кодирование текстов позволяет использовать её для масштабируемого поиска ближайших соседей, а также в RAG, кластеризации и системах анализа данных SOC. Обучение включало контрастивную оптимизацию с MultipleNegativesRankingLoss на парах и инструктивных данных по кибербезопасности и управлению безопасностью. Модель не предназначена для генерации текста или диалогов; README также ограничивает её применение техническими текстами и не рекомендует общие задачи сходства текстов. Лицензия — Apache-2.0.
SepFormer на WHAM! — модель разделения аудиоисточников, реализованная командой SpeechBrain и обученная на наборе WHAM!, содержащем смеси речи с фоновым шумом. Она предназначена для выделения отдельных речевых источников из одноканальной записи; для работы ожидается аудио с частотой дискретизации 8 кГц. В README указано качество 16,3 дБ SI-SNRi и 16,7 дБ SDRi на тестовой выборке WHAM!. Модель основана на архитектуре SepFormer с Transformer и распространяется в формате PyTorch. Карточка указывает английский язык. Лицензия — Apache-2.0. Авторы предупреждают, что качество на наборах данных, отличающихся от WHAM!, не гарантируется.
Карточка модели mitra-mir/setfit-model-Feb11-Miscellaneous-Misinformation на Hugging Face совпадает с карточкой mitra-mir/setfit-model-Feb11-Misinformation-on-Trudeau, поэтому описание составлено по ней. Это модель Sentence-Transformers на базе MPNet, созданная для проекта классификации дезинформации о Джастине Трюдо. Она преобразует предложения и абзацы в плотные векторы размерности 768 и подходит для семантического поиска, сравнения текстов и кластеризации. Модель содержит 136,7 млн параметров и рассчитана на контекст до 514 токенов. Её можно применять для поиска текстов, семантически близких к утверждениям о Трюдо, и группировки похожих сообщений. README указывает на обучение с CosineSimilarityLoss, но не приводит сведения о датасете, метриках или точности выявления дезинформации; поэтому качество классификации фактов не подтверждено. Модель опубликована в формате PyTorch; сведения о лицензии в предоставленных данных отсутствуют.
Buseak/spellcorrector_20_02_050_qwerty_v11 — дообученная модель семейства CANINE для классификации токенов, предназначенная для коррекции орфографических ошибок. По карточке, модель дообучена на базе Buseak/spellcorrector_20_02_050_qwerty_v7; указанный датасет обозначен как None. Архитектура CanineForTokenClassification содержит 113,2 млн параметров, формат весов — safetensors, длина контекста — до 16 384 токенов. Модель может использоваться для разметки токенов при исправлении опечаток, в том числе в тексте с раскладкой QWERTY. В карточке приведены результаты оценки: precision 0,9989, recall 0,9984, F1 0,9987 и accuracy 1,0000; без сведений о составе и размере тестовой выборки эти показатели нельзя переносить на другие данные. Модель распространяется по лицензии Apache-2.0.
thealper2/tapas-wtq — модель, созданная дообучением google/tapas-base на датасете WikiTableQuestions для ответов на вопросы по таблицам. Она принимает вопрос и таблицу, выбирает релевантные ячейки и определяет операцию агрегации: без агрегации, SUM, AVERAGE или COUNT. Архитектура TAPAS реализована в Transformers; модель содержит 136,7 млн параметров, использует формат safetensors и рассчитана на контекст до 1024 токенов. Поддерживаемый язык — английский. На validation-разбиении WikiTableQuestions точность ответа после нормализации составила 0,3178; точность выбора ячеек — 0,2715, а определения агрегации — 0,7412. Эти результаты относятся к указанному набору данных и не гарантируют качество на других таблицах. Лицензия — Apache-2.0.
timm/tf_efficientnet_lite3.in1k — свёрточная модель семейства EfficientNet-Lite для классификации изображений и извлечения визуальных признаков. Исходную модель обучили авторы EfficientNet на ImageNet-1k в TensorFlow, затем Ross Wightman перенёс веса в PyTorch; репозиторий распространяет модель в форматах PyTorch и safetensors через библиотеку timm. Модель содержит около 8,2 млн параметров, рассчитана на изображения размером 300 × 300 пикселей и выполняет классификацию по категориям ImageNet-1k. Её также можно использовать как визуальную основу для извлечения карт признаков и эмбеддингов изображений. Лицензия — Apache-2.0.
tf_efficientnetv2_l.in21k_ft_in1k — сверточная модель EfficientNetV2-L для классификации изображений. Её обучили авторы статьи на ImageNet-21k и дообучили на ImageNet-1k; Ross Wightman перенёс веса из TensorFlow в PyTorch. Модель содержит около 118,5 млн параметров и доступна через библиотеку timm. Модель предназначена для классификации изображений и может использоваться как основа для извлечения признаков, карт признаков и эмбеддингов изображений. Размер изображения при обучении — 384×384 пикселя, при тестировании — 480×480. Репозиторий содержит веса в форматах PyTorch и safetensors. Лицензия — Apache-2.0.
tiny-bert-sst2-distilled — компактная модель классификации последовательностей на базе BERT, дообученная автором philschmid на датасете GLUE для задачи SST-2. Она содержит 4,4 млн параметров, использует архитектуру BertForSequenceClassification и принимает текстовые последовательности длиной до 512 токенов. На оценочной выборке указана точность 0,8326. Модель подходит для определения тональности коротких текстов, например отзывов и комментариев. Она работает с английским текстом; README не описывает дополнительные сценарии применения. Лицензия — Apache-2.0. Показатель качества относится к указанной оценочной выборке и сам по себе не гарантирует такую же точность на других данных.