II.10Разработка и эксплуатация AI/ML-систем

timm/coat_lite_tiny.in1k — модель CoaT (Co-Scale Conv-Attentional Transformer) для классификации изображений и извлечения визуальных признаков. Её обучили авторы статьи на ImageNet-1k; модель распространяется через библиотеку timm в формате PyTorch. Модель содержит 5,7 млн параметров, имеет вычислительную сложность 1,6 GMACs и рассчитана на изображения размером 224 × 224 пикселя. Её можно применять для определения классов объектов на изображении, а также как визуальную основу для извлечения эмбеддингов. Лицензия — Apache-2.0. Обучение и оценка ориентированы на ImageNet-1k; качество на иных типах изображений может отличаться.

CoAtNet Nano RW 224 SW IN1K — модель классификации изображений из библиотеки timm, разработанная Ross Wightman. Она обучена на ImageNet-1k и предназначена для отнесения изображений к классам, а также может использоваться как визуальный backbone для извлечения признаковых карт и эмбеддингов. Архитектура CoAtNet сочетает блоки MBConv на ранних этапах с блоками self-attention на последующих. Модель содержит около 15,1 млн параметров, рассчитана на изображения размером 224 × 224 и требует около 2,41 GMAC на изображение. В приведённой таблице для неё указаны точность top-1 81,70% и top-5 95,64% на ImageNet-1k. Модель принимает изображения и выдаёт метки классов либо визуальные признаки в зависимости от способа использования. Карточка не описывает поддержку естественных языков. Лицензия репозитория — Apache-2.0; официальные веса CoAtNet от авторов исходной статьи не выпускались, а эта версия является конфигурацией timm.

Luyu/co-condenser-marco — модель семейства coCondenser, опубликованная Luyu Gao и соавторами для подготовки к плотному поиску по текстовым коллекциям. Это encoder на архитектуре BERT с примерно 136,7 млн параметров и контекстом до 512 токенов; модель обучена на коллекции MS MARCO. На странице Hugging Face она представлена как masked language model с задачей fill-mask, поэтому её можно использовать для предсказания замаскированных токенов. Для retrieval-сценариев это чекпойнт предварительного обучения, который можно дообучать или использовать как основу для моделей извлечения текстовых представлений. Поддерживаемый язык — английский, что соответствует англоязычной коллекции MS MARCO. Лицензия в предоставленных метаданных и карточке не установлена.

ConViT Small — модель классификации изображений и визуальный backbone из библиотеки timm. Её обучили авторы работы ConViT на ImageNet-1k; модель сочетает подход Vision Transformer с мягкими свёрточными индуктивными смещениями. Веса доступны в форматах PyTorch и safetensors, лицензия — Apache-2.0. Модель предназначена для классификации изображений и извлечения визуальных признаков. Она рассчитана на изображения размером 224 × 224 пикселя и содержит 27,8 млн параметров; вычислительная стоимость составляет 5,8 GMACs. Обучение на ImageNet-1k делает её подходящей для стандартных задач распознавания объектов и как основу для прикладных систем компьютерного зрения. Карточка не описывает ограничения качества вне ImageNet-1k или специальные гарантии для иных наборов данных и сценариев. Для таких применений результаты следует проверять отдельно.

convnext_atto.d2_in1k — компактная модель классификации изображений из библиотеки timm, обученная Россом Уайтманом на ImageNet-1k. Она основана на архитектуре ConvNeXt, описанной в работе «A ConvNet for the 2020s», и содержит около 3,7 млн параметров. Модель предназначена для присвоения изображениям меток из набора ImageNet-1k. Её также можно использовать как визуальный backbone для извлечения карт признаков и эмбеддингов. Размер изображения при обучении составляет 224 × 224 пикселя, при тестировании — 288 × 288. Для запуска доступны веса PyTorch и safetensors; в метаданных указана лицензия Apache-2.0. Компактный размер делает модель подходящей для классификации изображений при ограниченных вычислительных ресурсах и для построения визуальных систем на основе извлечённых признаков. Модель обучена на ImageNet-1k, поэтому её классы и качество за пределами этого набора могут не соответствовать конкретной прикладной задаче; для специализированных категорий может потребоваться дополнительная настройка.

ConvNeXt Nano OLS — модель классификации изображений из библиотеки timm, обученная Россом Уайтменом на ImageNet-1k. Она также подходит как визуальный backbone для извлечения карт признаков и эмбеддингов изображений. Модель содержит 15,6 млн параметров и требует около 2,7 GMACs на изображение. Размер изображения при обучении — 224 × 224 пикселя, при оценке — 288 × 288. В карточке приведены метрики классификации ImageNet-1k и примеры использования для классификации и извлечения признаков. Лицензия — Apache-2.0. Модель предназначена для распознавания объектов и категорий на изображениях; её качество и набор классов ориентированы на ImageNet-1k, поэтому для специализированных предметных областей может потребоваться адаптация.

ConvNeXt-Tiny — сверточная модель классификации изображений из библиотеки timm, созданная авторами работы «A ConvNet for the 2020s» и предварительно обученная на ImageNet-22k. Модель содержит около 44,6 млн параметров; указанный размер изображения — 224 × 224 пикселя. Её можно использовать для классификации, извлечения карт признаков и получения векторных представлений изображений. Модель предназначена для распознавания объектов на изображениях и построения визуальных признаков в системах компьютерного зрения. Карточка приводит вычислительные характеристики: 4,5 GMACs и 13,5 млн активаций. Репозиторий предоставляет веса в форматах PyTorch и safetensors; лицензия — Apache-2.0.

ConvNeXt Tiny — сверточная модель классификации изображений, представленная в библиотеке timm. Она предварительно обучена на ImageNet-22k, затем дообучена авторами статьи на ImageNet-1k. Модель содержит около 28,6 млн параметров; для тестирования в карточке указано разрешение 288 × 288 пикселей, для обучения — 224 × 224. Модель предназначена для классификации изображений и может использоваться как backbone для извлечения карт признаков и эмбеддингов. В README приведены результаты на ImageNet-1k: точность top-1 — 82,1%, top-5 — 96,0%. Доступны веса PyTorch и safetensors; лицензия — Apache-2.0.

convnextv2_pico.fcmae — компактная визуальная модель семейства ConvNeXt V2 из библиотеки timm. Это сверточный backbone примерно на 8,6 млн параметров, предварительно обученный на ImageNet-1k с помощью самообучения по схеме fully convolutional masked autoencoder (FCMAE). Модель рассчитана на изображения размером 224 × 224 и не имеет предварительно обученной классификационной головы. Её можно дообучать для классификации изображений или использовать для извлечения признаков и эмбеддингов изображений. Модель принимает изображения и возвращает визуальные признаки; готовая классификация требует подходящей головы и настройки под задачу. Карточка не указывает языковые возможности, поскольку модель работает с изображениями. Репозиторий распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.

ConvNeXt-XLarge — свёрточная нейросеть для классификации изображений, опубликованная авторами работы «A ConvNet for the 2020s» и доступная в библиотеке timm. Модель предварительно обучена на ImageNet-22k; в ней около 392,9 млн параметров, а стандартный размер входного изображения — 224 × 224 пикселя. Модель присваивает изображению классы и может использоваться как backbone для извлечения карт признаков и эмбеддингов изображений. Она подходит для классификации объектов на фотографиях и как визуальный энкодер в прикладных системах компьютерного зрения. Репозиторий содержит веса PyTorch в формате safetensors. Лицензия — Apache 2.0.

AutoCyberAI разработала CRP Process Reward Model — классификатор на архитектуре DeBERTa-v3-large, дообученной для оценки отдельных шагов рассуждения. Модель получает исходную задачу и предыдущие шаги вместе с проверяемым шагом и присваивает ему метку VALID или INVALID: оценивает, следует ли он из контекста и согласуется ли с ним. Модель содержит 533,8 млн параметров, использует библиотеку Transformers и принимает контекст длиной до 512 токенов. Модель предназначена для проверки шагов рассуждения в составе CRP Verification Relay и может использоваться как дополнительный оценщик в конвейерах верификации. В README указаны held-out AUC 0,793 на тестовых шагах PRM800K и 8 правильных ответов из 10 на курируемых примерах. Лицензия в метаданных обозначена как other; точные условия следует проверить на странице модели.

microsoft/cvt-13 — модель Convolutional Vision Transformer (CvT-13), представленная Microsoft и предварительно обученная на ImageNet-1k для классификации изображений. Она принимает изображение размером 224×224 и предсказывает один из 1000 классов ImageNet. Архитектура CvT сочетает свёрточные операции с Vision Transformer; модель поддерживается в форматах PyTorch, Safetensors и TensorFlow. Модель подходит для распознавания объектов и сцен на изображениях, в том числе как готовый классификатор или основа для последующей адаптации под другие наборы классов. Карточка не приводит отдельные оценки качества и сведения о размере модели. Распространяется по лицензии Apache-2.0.

Data2Vec-Audio-Large — крупная модель самоконтролируемого обучения аудиоречи, разработанная Facebook. Она использует Transformer и метод self-distillation: по маскированному представлению входного аудио предсказывает контекстные латентные представления. Модель содержит 402,7 млн параметров и предназначена для извлечения признаков из речи; входное аудио должно быть дискретизировано с частотой 16 кГц. Чекпойнт предварительно обучен на аудио без текстовой разметки и не содержит токенизатора. Для распознавания речи его нужно дообучить на размеченных текстовых данных и добавить токенизатор. Модель рассчитана на английскую речь; в карточке указан набор LibriSpeech ASR. Распространяется под лицензией Apache-2.0.

deit3_base_patch16_384.fb_in22k_ft_in1k — модель классификации изображений семейства DeiT-III, опубликованная авторами статьи DeiT III: Revenge of the ViT. Она предварительно обучена на ImageNet-22k и дообучена на ImageNet-1k. Модель содержит 86,9 млн параметров и принимает изображения размером 384 × 384 пикселя. Модель предназначена для классификации изображений по категориям, а также может использоваться как визуальный backbone для извлечения эмбеддингов и построения прикладных систем компьютерного зрения. Она работает с библиотекой timm и доступна в форматах PyTorch и Safetensors. Лицензия — Apache-2.0. Качество модели зависит от соответствия входных изображений обучающим данным и классовому набору ImageNet-1k; для других предметных областей может потребоваться адаптация. Карточка не приводит измерений качества и не описывает дополнительные ограничения.

facebook/deit-small-patch16-224 — компактная модель Data-efficient Image Transformer (DeiT), разработанная авторами статьи Touvron et al.; веса конвертированы из репозитория timm. Это ViT-энкодер с примерно 28,3 млн параметров, обученный и дообученный на ImageNet-1k для классификации изображений на 1000 классов. Модель разбивает изображение на патчи 16×16, обрабатывает их трансформерными слоями и использует токен CLS для классификации. Модель предназначена для классификации изображений и извлечения визуальных признаков, которые можно использовать в последующих задачах с размеченными данными. Она принимает изображения RGB, обычно после изменения размера и центрального кадрирования до 224×224 пикселей, и выдаёт оценки классов. На ImageNet-1k указана точность top-1 79,9% и top-5 95,0%. Репозиторий предоставляет веса в форматах PyTorch и TensorFlow; лицензия — Apache-2.0. Модель ориентирована на ImageNet-подобную классификацию, поэтому качество на других предметных областях может потребовать дообучения.

DETR-ResNet101-DC5 — модель обнаружения объектов, разработанная на основе реализации DETR от Facebook Research и подготовленная Qualcomm для устройств на базе чипсетов Qualcomm. Модель обучена на датасете COCO и предназначена для автоматического обнаружения объектов на изображениях, включая сценарии компьютерного зрения на мобильных, встраиваемых и периферийных устройствах. В основе модели используется backbone ResNet101 с конфигурацией DC5. Разрешение входного изображения составляет 480×480 пикселей, размер модели в формате float — около 232 МБ. Модель работает с визуальными входными данными; сведения о поддерживаемых языках и текстовых модальностях неприменимы. Доступны предварительно экспортированные варианты ONNX, QNN_DLC и TFLITE с вычислениями в формате float, оптимизированные для выполнения на NPU Qualcomm. Для ONNX указана совместимость с ONNX Runtime 1.27.1 и QAIRT 2.45, для QNN_DLC и TFLITE — с QAIRT 2.45. Сильными сторонами модели являются готовность к развертыванию на широком спектре устройств Qualcomm, поддержка NPU и возможность экспорта с пользовательскими весами, формами входа, целевым устройством и конфигурацией runtime. Производительность зависит от аппаратной платформы: в приведённых измерениях время инференса составляет примерно от 21,8 до 220,3 мс. К ограничениям относятся значительный размер модели, фиксированное указанное входное разрешение и зависимость скорости и потребления памяти от конкретного чипсета и формата запуска. Модель распространяется по лицензии Apache-2.0.

microsoft/DialogRPT-human-vs-machine — модель классификации последовательностей на базе GPT-2, опубликованная группой Microsoft Research NLP. Она оценивает, насколько вероятно, что ответ в диалоге написан человеком, а не машиной; оценку можно использовать для анализа ответов и выбора кандидатов, сгенерированных диалоговой моделью. Семейство DialogRPT обучалось предсказывать реакцию людей на ответы в диалогах по более чем 100 млн примеров обратной связи. Модель принимает текст контекста и ответа и выдаёт оценку human_vs_machine. Максимальная длина контекста — 1024 токена; формат весов — PyTorch. Лицензия в предоставленных данных не указана.

zeromodels/dinov2-base — конверсия модели facebook/dinov2-base в Keras 3, опубликованная zeromodels. Это визуальный трансформер DINOv2, предварительно обученный на изображениях без учителя; модель служит backbone и извлекает признаки и patch-токены для последующих задач компьютерного зрения, а не содержит специализированную выходную голову для отдельной задачи. Модель принимает изображения и предназначена для построения признаковых представлений, которые можно использовать в downstream-моделях и задачах компьютерного зрения. Реализация работает с TensorFlow, PyTorch и JAX; процессор изображений выполняет нормализацию. Репозиторий предоставляет веса в формате TensorFlow. Лицензия — Apache 2.0.

Facebook DINOv2 — базовая модель Vision Transformer, обученная методом DINOv2 на большом наборе изображений без учителя. Архитектура состоит из трансформерного энкодера, который разбивает изображение на патчи и формирует представление изображения; модель содержит 113,2 млн параметров и выпущена в формате PyTorch. Модель предназначена для классификации изображений по 1000 классам ImageNet, а также для извлечения визуальных признаков и дальнейшей адаптации к задачам компьютерного зрения. Веса не содержат дообученной классификационной головы, поэтому для прикладной классификации может потребоваться отдельный классификатор, обученный поверх представлений модели. Модель выпущена по лицензии Apache-2.0.

facebook/dinov2-large-imagenet1k-1-layer — модель Vision Transformer большой конфигурации, основанная на методе DINOv2 от команды Meta. Она обучена на изображениях без учителя и предназначена для классификации изображений по 1000 меткам ImageNet-1k. В архитектуре ViT изображение разбивается на фиксированные патчи, которые обрабатывает трансформерный энкодер; модель содержит около 402,7 млн параметров и распространяется в форматах PyTorch и Safetensors. Модель также может служить энкодером для извлечения визуальных признаков и последующего обучения классификатора на размеченных данных. Карточка предупреждает, что в репозитории нет дообученных голов классификации; для прикладных задач может понадобиться отдельная голова или дообученная версия. Лицензия — Apache-2.0.

Это конверсия на Keras 3 модели визуального представления DINOv3 ViT-L/16, подготовленная zeromodels на основе весов Meta. Модель использует самообученное визуальное предварительное обучение и выступает как backbone без специализированной выходной головы; она извлекает признаки изображений для последующих моделей компьютерного зрения. Вариант ViT также предоставляет register-токены. Модель принимает изображения и выдаёт визуальные признаки, которые можно использовать для построения downstream-решений, например классификаторов или других голов компьютерного зрения. Реализация работает с TensorFlow, Torch и JAX. Веса распространяются по лицензии DINOv3; доступ к исходным весам Meta ограничен условиями этой лицензии.

Многоязычный классификатор токсичности от Gravitee, созданный на основе DistilBERT и дообученный на датасете gravitee-io/textdetox-multilingual-toxicity-dataset. Он относит текст к одному из двух классов: «токсичный» или «нетоксичный»; модель подходит для модерации пользовательских сообщений и фильтрации токсичного контента в приложениях и API-шлюзах. Модель основана на DistilBertForSequenceClassification и принимает текст длиной до 512 токенов. В карточке указана поддержка 12 языков, включая русский, английский, украинский, немецкий, испанский, китайский, арабский, хинди, итальянский, французский, иврит и японский. README сообщает о высоких значениях F1 на валидационных выборках, в частности 0,9572 для русского и 0,9528 для английского; также приведено сравнение с квантизированной версией ONNX. Веса доступны в форматах Safetensors и ONNX. Лицензия — OpenRAIL++. Показатели оценки зависят от языка и набора данных; результаты из README сами по себе не гарантируют качество на других типах текста и в реальных сценариях модерации.

dla46x_c.in1k — модель семейства DLA (Deep Layer Aggregation) для классификации изображений и извлечения визуальных признаков. Разработана авторами работы о Deep Layer Aggregation и обучена на ImageNet-1k; модель распространяется в библиотеке timm. Модель содержит около 1,1 млн параметров, требует изображения размером 224 × 224 пикселя и имеет вычислительную сложность около 0,5 GMAC. Её можно применять для классификации изображений, извлечения карт признаков и получения эмбеддингов изображений. Лицензия — BSD 3-Clause. Модель предназначена для изображений общего назначения; сведения о точности и других ограничениях в карточке не приведены.

timm/dpn68.mx_in1k — модель классификации изображений на архитектуре DPN (Dual-Path Network). Её обучили авторы статьи на ImageNet-1k в MXNet, затем Ross Wightman перенёс веса в PyTorch; репозиторий поддерживает загрузку через timm и содержит веса в форматах PyTorch и safetensors. Модель предназначена для классификации изображений и может использоваться как базовая сеть для извлечения признаков и эмбеддингов изображений. В ней 12,6 млн параметров; указанное разрешение входного изображения — 224 × 224 пикселя. Обучение на ImageNet-1k делает её пригодной для задач распознавания объектов из набора классов ImageNet и для получения визуальных признаков. Лицензия репозитория — Apache-2.0.

EAGLE-3 — это черновая модель компании Nebius для ускорения генерации текста базовой моделью meta-llama/Llama-3.1-8B-Instruct с помощью speculative decoding в vLLM. Она предлагает кандидаты токенов, которые основная модель проверяет; сама по себе модель не предназначена для самостоятельного диалога. Модель обучена с нуля с использованием LK losses, нацеленных непосредственно на повышение доли принятых черновых токенов. В репозитории около 743,4 млн параметров, архитектура LlamaForCausalLM, веса в формате safetensors; указанная длина контекста — 2048 токенов. В README приведены показатели средней длины принятой последовательности при K=7 на MT-bench, HumanEval и GSM8K: 4,43 при температуре 0 и 4,01 при температуре 1. Для использования приведён пример настройки speculative decoding в vLLM; для стохастического выбора черновых токенов нужны соответствующие возможности версии vLLM. Лицензия — CC BY 4.0. Практическая польза зависит от совместного использования с базовой моделью и совместимой конфигурации инференса.

ECA-NFNet-L0 — предварительно обученная на ImageNet модель классификации изображений из семейства NFNet, опубликованная под организацией timm. Вариант уменьшен относительно F0 для повышения скорости работы и снижения потребления памяти на GPU. Архитектура не использует слои нормализации: вместо них применяются стандартизированные по весам свёртки с дополнительными коэффициентами масштабирования. Также модель использует Efficient Channel Attention (ECA) вместо Squeeze-Excitation и активации SiLU вместо GELU. Модель классифицирует изображения по 1000 меткам ImageNet; её также можно дообучить для классификации с другим набором меток, сегментации или обнаружения объектов. Для оценки ImageNet указаны точность top-1 82,6% и top-5 96,5%. Репозиторий доступен в форматах PyTorch и Safetensors, для работы предусмотрена библиотека timm. Лицензия — Apache-2.0. Обучающие изображения преимущественно представляют фотографии, ясно соответствующие одной из категорий ImageNet, поэтому модель может хуже работать с рисунками и сценами с несколькими объектами. Географическое распределение данных также может влиять на качество для изображений из разных стран; унаследованные от ImageNet смещения могут проявляться в предсказаниях.

ECA-ResNet-D — свёрточная модель классификации изображений и извлечения признаков, обученная Alibaba MIIL на ImageNet-1k. Она использует остаточную архитектуру ResNet-D с трёхслойным начальным блоком из свёрток 3×3, усредняющим пулингом в shortcut-связях и механизмом Efficient Channel Attention. Модель содержит 44,6 млн параметров; для обучения использовался размер изображения 224×224, для оценки — 288×288. Модель предназначена для отнесения изображений к категориям ImageNet-1k, извлечения карт признаков и получения эмбеддингов. Её можно использовать как визуальный backbone в системах поиска по изображениям и как компонент компьютерного зрения. В репозитории доступны веса PyTorch и safetensors, библиотека — timm. Лицензия Apache-2.0.

zeromodels/efficientformer_l7_snap_dist_in1k — конверсия модели EfficientFormer L7, разработанной авторами EfficientFormer и представленной в timm, в формат Keras 3. Модель предназначена для классификации изображений и может использоваться как четырёхэтапный визуальный backbone для извлечения признаков. EfficientFormer перестраивает архитектуру vision transformer для высокой скорости на мобильных устройствах; реализация Keras работает с TensorFlow, Torch и JAX. Классификатор выдаёт логиты классов, а режим backbone — визуальные признаки, в том числе многоуровневые этапы. Модель предварительно обучена на ImageNet-1k. Репозиторий распространяется по лицензии Apache-2.0.

Это предобученные на ImageNet веса EfficientNet-B1, опубликованные для использования в качестве энкодера в библиотеке segmentation-models-pytorch. Модель предназначена для классификации изображений и может служить энкодером при создании систем сегментации изображений. Репозиторий содержит веса в формате Safetensors. Карточка не сообщает размер модели, контекст или поддерживаемые языки. Лицензия указана как other, поэтому перед использованием следует проверить условия лицензирования репозитория.

ERNIE 2.0 Base English — плотная модель Baidu на архитектуре ERNIE, выпущенная в формате PyTorch и преобразованная из официальной модели PaddlePaddle. В README ERNIE 2.0 описана как framework непрерывного предварительного обучения с последовательным добавлением задач и многозадачным обучением; этот репозиторий предоставляет английскую базовую модель с 136,7 млн параметров и контекстом до 512 токенов. Модель предназначена для извлечения признаковых представлений текста, которые можно использовать как основу для последующей обработки или адаптации. В статье о семействе сообщается о результатах выше BERT и XLNet на 16 задачах, включая английские тесты GLUE; эти результаты относятся к экспериментам семейства, а не обязательно к этому чекпойнту отдельно. Для загрузки указаны AutoTokenizer и AutoModel из Transformers. Репозиторий содержит преобразованные веса PyTorch; лицензия в предоставленных данных не указана.