II.10Разработка и эксплуатация AI/ML-систем
В разделе собраны самостоятельные задачи, где AI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
49 000 моделейSafetyAdapter-Scorecard — компактный адаптер для повышения согласованности отказов, обработки чувствительных данных и осторожных ответов с учётом политик у инструкционно настроенных языковых моделей. Он сохраняет архитектуру базовой модели и подключается к ней вместе с исходным шаблоном чата. В README приведены результаты сравнений по устойчивости к токсичности, отказам на jailbreak-запросы и редактированию персональных данных; также описан выбор контрольной точки по сочетанию безопасности и калибровки. Метаданные репозитория указывают на архитектуру BERT и задачу feature-extraction, но README описывает применение адаптера с инструкционной языковой моделью. Базовая модель не названа. Репозиторий содержит файлы PyTorch и распространяется по лицензии MIT. Адаптер предназначен для сценариев, где важны осторожные ответы и корректные отказы. Он не заменяет проверку политик безопасности конкретного приложения; README рекомендует оценивать его с целевой базовой моделью и аудиторией перед развёртыванием.
seresnext101_32x4d.gluon_in1k — свёрточная модель классификации изображений из библиотеки timm. Она основана на архитектуре SE-ResNeXt-101 с блоками ResNeXt и механизмом Squeeze-and-Excitation для внимания к каналам. Модель содержит 49 млн параметров, требует изображения размером 224 × 224 и имеет вычислительную сложность около 8 GMACs. Модель обучена на ImageNet-1k с использованием рецептов Bag-of-Tricks и исходно реализована в Apache Gluon. Её можно применять для классификации изображений, извлечения карт признаков и получения эмбеддингов изображений. Репозиторий содержит веса PyTorch в формате Safetensors; лицензия — Apache 2.0.
Skywork-VL-Reward-7B — мультимодальная модель вознаграждения, разработанная Skywork на основе Qwen2.5-VL-7B-Instruct с добавленной value head. Она оценивает ответы на запросы, содержащие текст и визуальные данные, и предназначена для обучения и оценки систем мультимодального понимания и рассуждения, включая применение в мультимодальном обучении с подкреплением. В README указаны результаты 73,1 на VL-RewardBench и 90,1 на RewardBench. Модель построена на архитектуре Qwen2.5-VL с 7 млрд параметров в базовой модели; репозиторий использует Transformers и формат safetensors. Лицензия — MIT. Модель выдаёт оценки вознаграждения, а не предназначенные для пользователя развёрнутые ответы; сведений о поддерживаемых языках и ограничениях оценки в карточке нет.
Это черновая модель MTP для спекулятивного декодирования с базовой моделью Step-3.7-Flash-NVFP4. В репозиторий включены три исходных слоя предсказания следующих токенов StepFun, извлечённые из BF16-выпуска Step-3.7-Flash и сохранённые в BF16; веса не переобучались. Модель предназначена для совместного использования с базовым NVFP4-чекпойнтом через vLLM и ускорения генерации текста. Черновая модель содержит около 5,9 ГБ весов и использует архитектуру семейства Step3p7. В README приведены замеры ускорения на двух RTX PRO 6000 Blackwell: около 17–25% для одиночного потока на нескольких типах запросов, включая код и японский текст; результат зависит от контекста, нагрузки и параметров спекулятивного декодирования. Для запуска требуется совместимая сборка vLLM с поддержкой Step3p5MTP и базовая модель NVFP4. Лицензия репозитория — Apache-2.0.
qylu4156/strongreject-15k-v1 — дообученный PEFT-адаптер, опубликованный пользователем qylu4156 на Hugging Face. Он предназначен не для обычной генерации текста, а для автоматической оценки вредоносности ответов языковых моделей в задачах анализа jailbreak-атак и безопасности. Модель используется в StrongREJECT для оценки того, насколько ответ предоставляет полезную вредную информацию по запрещённому запросу. Адаптер применяется поверх базовой модели google/gemma-2b, поэтому использует её архитектуру causal language model и соответствующие ограничения. Согласно описаниям StrongREJECT, оцениватель анализирует пару из запрещённого запроса и ответа и выдаёт оценку вредоносности в диапазоне от 0 до 1, где большее значение означает более вредный ответ. Сильная сторона модели — ориентация на содержательную оценку вреда, а не на простое выявление ключевых слов или отсутствие отказа. Для работы требуется совместимая базовая модель Gemma 2B и загрузка адаптера через PEFT. В найденных источниках не указаны надёжные сведения о поддерживаемых языках, размере контекста, точных параметрах дообучения, лицензии и дополнительных ограничениях использования. Модель следует применять прежде всего как компонент исследовательского или оценочного конвейера безопасности, а не как самостоятельную универсальную диалоговую модель.
NVIDIA Switchyard — это маршрутизатор запросов, который выбирает одну из моделей, перечисленных пользователем в параметре `models`. Решение о маршрутизации принимает библиотека Switchyard с открытым исходным кодом, работающая на инфраструктуре OpenRouter. Модель предназначена для направления запросов к подходящей модели из заданного набора. В README приведён пример использования с идентификатором `nvidia/switchyard`; дополнительных сведений о размере, архитектуре, поддерживаемых языках и условиях лицензии в доступных данных нет.
TabPFN-v2-clf — трансформерная базовая модель для классификации табличных данных, разработанная Prior Labs. Она применяет обучение на основе априорных распределений по данным и предназначена для классификации на небольших табличных наборах без отдельного обучения модели под каждую задачу. В репозитории размещены производственные базовые чекпойнты; файлы с суффиксом finetuned-* являются идентичными псевдонимами соответствующих базовых чекпойнтов. Модель работает с табличными данными и выдаёт результаты классификации. Для использования предусмотрена библиотека tabpfn на базе PyTorch. В карточке указана лицензия Prior Labs License — Apache 2.0 с дополнительным требованием атрибуции. README приводит требования к программной среде и оборудованию, но не сообщает о поддерживаемых естественных языках или конкретном пределе размера входного набора.
tf_efficientnet_b4.aa_in1k — модель классификации изображений семейства EfficientNet, портированная Россом Уайтменом (Ross Wightman) из TensorFlow в PyTorch. Исходные веса обучены авторами EfficientNet на ImageNet-1k с применением AutoAugment. Модель содержит 19,3 млн параметров, требует изображения размером 380 × 380 пикселей и может использоваться также как backbone для извлечения признаковых карт и эмбеддингов изображений. Модель предназначена для отнесения изображений к классам ImageNet-1k и извлечения визуальных признаков для последующей обработки. Репозиторий распространяет веса в форматах PyTorch и safetensors; библиотека для работы с моделью — timm. Лицензия — Apache-2.0. Карточка не описывает ограничений помимо обучения на ImageNet-1k, поэтому качество на изображениях и классах вне этого набора может отличаться.
timm/tf_efficientnet_b6.ns_jft_in1k — сверточная модель EfficientNet-B6 для классификации изображений и извлечения визуальных признаков. Исходную модель обучили авторы статей на ImageNet-1k и неразмеченных данных JFT-300M методом полуавтоматического обучения Noisy Student; Ross Wightman перенёс веса в PyTorch. Модель доступна через библиотеку timm и в форматах PyTorch и Safetensors. Модель содержит около 43 млн параметров и рассчитана на изображения размером 528 × 528 пикселей. Она подходит для классификации изображений по категориям ImageNet-1k, извлечения карт признаков и получения эмбеддингов изображений. Лицензия репозитория — Apache-2.0.
timm/tf_efficientnet_el.in1k — сверточная модель семейства EfficientNet-EdgeTPU для классификации изображений и извлечения визуальных признаков. Её обучили авторы работ на ImageNet-1k в TensorFlow, а Ross Wightman перенёс веса в PyTorch; модель распространяется через timm. Модель содержит около 10,6 млн параметров и рассчитана на изображения размером 300 × 300 пикселей. Помимо классификации, её можно использовать как основу для извлечения карт признаков и визуальных эмбеддингов. Она предназначена для распознавания объектов из категорий ImageNet-1k и может служить визуальным backbone в системах компьютерного зрения. Лицензия — Apache-2.0. Классификация ограничена набором классов ImageNet-1k; качество на иных предметных областях и изображениях может отличаться и требует отдельной проверки.
tf_efficientnetv2_s.in1k — модель классификации изображений семейства EfficientNetV2, обученная авторами статьи на ImageNet-1k в TensorFlow и перенесённая в PyTorch Россом Уайтманом. Она также подходит как базовая сеть для извлечения признаковых карт и визуальных эмбеддингов. Модель содержит около 21,5 млн параметров и использует изображения размером 300 × 300 при обучении и 384 × 384 при тестировании. Репозиторий поддерживает загрузку через timm; веса доступны в форматах PyTorch и Safetensors. Модель предназначена для распознавания объектов на изображениях и получения признаков для последующих задач компьютерного зрения. В карточке не приведены сведения о точности на конкретных метриках. Лицензия — Apache-2.0.
Это предобученные на ImageNet веса EfficientNet-B3 из семейства timm, предназначенные для использования в качестве энкодера в библиотеке segmentation-models-pytorch. Модель также подходит для классификации изображений, что отражено в задаче image-classification в метаданных. Веса можно применять как основу для сегментационных моделей: энкодер извлекает признаки из изображений, которые затем используются для предсказания масок. Репозиторий содержит веса в формате safetensors; README указывает на использование через библиотеку segmentation-models-pytorch. Модель принимает изображения и выдаёт классы либо признаки для последующей сегментации. Лицензия указана как other, поэтому конкретные условия использования следует проверить в файлах репозитория и источниках лицензии.
timm/vgg13_bn.tv_in1k — сверточная модель классификации изображений семейства VGG13 с пакетной нормализацией, опубликованная в timm. Она обучена на ImageNet-1k и основана на оригинальных весах torchvision. Модель содержит около 133,1 млн параметров, требует изображения размером 224 × 224 пикселя и может использоваться как классификатор или как сверточная основа для извлечения признаков и эмбеддингов изображений. Модель подходит для определения объектов и сцен из набора классов ImageNet-1k, а также для построения визуальных признаков в прикладных системах компьютерного зрения. Карточка указывает лицензию BSD-3-Clause. Веса предназначены для классификации ImageNet; карточка не сообщает о поддержке других наборов классов или языковых возможностей.
Это модель классификации изображений на основе Vision Transformer (ViT), обученная авторами исследований на ImageNet-1k с дополнительной аугментацией и регуляризацией. Её портировал в PyTorch Росс Уайтман; модель доступна через библиотеку timm. Модель содержит 86,9 млн параметров и рассчитана на изображения размером 384 × 384 пикселя. Её можно использовать для классификации изображений по категориям ImageNet-1k, а также как визуальный backbone и для получения эмбеддингов изображений. Модель предназначена для задач компьютерного зрения общего назначения. Для работы с другими наборами категорий может потребоваться адаптация или дообучение. Лицензия — Apache-2.0.
vit_betwixt_patch16_reg1_gap_256.sbb_in1k — модель классификации изображений на основе Vision Transformer из библиотеки timm. Она обучена на ImageNet-1k и предназначена для распознавания объектов на изображениях, а также может использоваться как визуальный бэкбон для извлечения признаковых карт и эмбеддингов. Модель содержит 60,4 млн параметров и рассчитана на изображения размером 256 × 256 пикселей. Архитектура использует патчи 16 × 16, регистры и глобальное усреднение признаков. Репозиторий распространяет веса в форматах PyTorch и Safetensors; лицензия — Apache-2.0. Модель подходит для стандартной классификации изображений и получения визуальных признаков для последующих систем. Она обучена на ImageNet-1k, поэтому качество на специализированных предметных областях и типах изображений за пределами обучающих данных может быть ниже.
Google ViT Large Patch16-384 — большая модель Vision Transformer для классификации изображений. Архитектура состоит из трансформерного энкодера: изображение разбивается на патчи 16×16, линейно проецируется в последовательность токенов и обрабатывается вместе с позиционными эмбеддингами и токеном [CLS]. Модель содержит 402,7 млн параметров. Модель предварительно обучена с учителем на ImageNet-21k, затем дообучена на ImageNet 2012 для классификации по 1000 классам. При дообучении используется разрешение 384×384 пикселя. Она подходит для классификации изображений и извлечения признаков, которые можно использовать в последующих задачах компьютерного зрения. Для работы требуется подготовить и нормализовать RGB-изображение; опубликованы варианты весов для PyTorch, TensorFlow и Flax. Качество зависит от соответствия целевых изображений классам ImageNet, а для других наборов данных может потребоваться дополнительное обучение. Лицензия — Apache-2.0.
Wav2Vec2-Base-VoxPopuli — базовая модель Facebook AI на архитектуре Wav2Vec2 с 113,3 млн параметров. Она предварительно обучена на 10 тысячах неразмеченных примеров из мультиязычного корпуса VoxPopuli и предназначена для последующей адаптации к распознаванию речи на конкретном языке. Модель принимает аудио и может служить основой для систем автоматического распознавания речи после дообучения. Карточка советует использовать её как чекпойнт для fine-tuning, но не приводит готовых показателей качества или списка поддерживаемых языков распознавания. Веса опубликованы в формате PyTorch по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.
Facebook AI разработала Wav2Vec2-base-VoxPopuli-V2 как базовую модель семейства wav2vec2 для представления речевого аудио. Модель содержит 113,3 млн параметров и предварительно обучена на 22,8 тыс. часов неразмеченной французской речи из корпуса VoxPopuli. Она принимает аудио с частотой дискретизации 16 кГц. Чекпойнт предназначен для дальнейшей настройки на размеченных французских аудиоданных, чтобы создать систему распознавания речи. В нём нет токенизатора, поэтому сам по себе он не выдаёт текст транскрипции; для ASR нужно создать токенизатор и дообучить модель. Опубликованные веса доступны в формате PyTorch по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.
Модель nguyenvulebinh/wav2vec2-base-vietnamese-250h — акустическая модель для распознавания вьетнамской речи, созданная на основе Wav2Vec 2.0. Разработчики предварительно обучили её на 13 тысячах часов неразмеченной аудиозаписи с YouTube, а затем дообучили на 250 часах размеченной речи из набора VLSP. Модель содержит 113,3 млн параметров и использует архитектуру Wav2Vec2ForCTC с функцией потерь CTC. Модель преобразует вьетнамскую речь в текст и предназначена для систем автоматического распознавания речи. Для лучшего качества её можно сочетать с предоставленной авторами 4-граммной языковой моделью. В README приведены результаты WER на VIVOS, Common Voice VI и двух тестах VLSP: для VIVOS WER составляет 10,77 без языковой модели и 6,15 с ней. На вход подаётся речь, записанная с частотой 16 кГц; рекомендуемая длина аудио — менее 10 секунд. Модель не является полноценной системой распознавания с языковой моделью, а представляет её акустическую часть. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение.
Wav2Vec2-Large-LV60 — базовая модель Facebook для предварительного обучения на речевом аудио без текстовых расшифровок. Она построена на архитектуре wav2vec 2.0 и содержит 402,7 млн параметров. Модель принимает аудио с частотой дискретизации 16 кГц; предобучение использует маскирование представлений речи и контрастивную цель. Модель предназначена для получения представлений речи и как основа для систем распознавания речи после добавления токенизатора и дообучения на размеченных аудиозаписях. В карточке описаны результаты экспериментов wav2vec 2.0 на английском корпусе LibriSpeech, в том числе при ограниченном объёме размеченных данных; эти результаты относятся к экспериментам статьи, а не к распознаванию непосредственно этой базовой моделью. Без дообучения модель не выдаёт текст: у неё нет токенизатора, и она обучена только на аудио. Для использования в распознавании речи необходимы токенизатор и дообучение на размеченных текстом аудиоданных. Модель распространяется по лицензии Apache-2.0.
timm/xception65.tf_in1k — модель классификации изображений на архитектуре Aligned Xception, обученная на ImageNet-1k в TensorFlow и перенесённая в PyTorch Россом Уайтманом. Модель содержит 39,9 млн параметров и предназначена для классификации изображений, а также может использоваться как backbone для извлечения карт признаков и эмбеддингов изображений. Рекомендуемый размер входного изображения — 299 × 299 пикселей. Архитектура использует глубинные свёртки, разделённые по каналам и пространственным измерениям. Модель принимает изображения и выдаёт оценки классов; обучена на ImageNet-1k. Распространяется по лицензии Apache-2.0.
Unbabel/xlm-roberta-comet-small — компактная модель на архитектуре XLM-RoBERTa, разработанная Unbabel. В основе лежит mMiniLM-L12xH384: её дообучили на аннотациях прямой оценки качества машинного перевода из выпусков Workshop on Statistical Machine Translation за 2015–2020 годы. Модель содержит 110,2 млн параметров и обрабатывает текст с контекстом до 514 токенов. Модель предназначена для извлечения текстовых представлений в задачах автоматической оценки качества машинного перевода. По сравнению с XLM-RoBERTa base и large она компактнее. В репозитории указаны веса PyTorch. Лицензия в предоставленных данных не приведена.
Yolo-X — модель компьютерного зрения для обнаружения объектов на изображениях, разработанная Qualcomm на основе реализации YOLOX от Megvii-BaseDetection. Модель предсказывает ограничивающие рамки и классы объектов и ориентирована на сценарии реального времени, включая развёртывание на Android-устройствах и других системах на базе Qualcomm. Она предназначена для инференса на Qualcomm NPU и поставляется в форматах ONNX, QNN_DLC и TFLITE. Используется конфигурация YoloX Small с входным разрешением 640×640 и примерно 8,98 млн параметров. Размер float-версии составляет 34,3 МБ, вариантов w8a16 и w8a8 — 9,53 и 8,96 МБ соответственно. Доступны плавающая точность и квантованные варианты w8a16, w8a8 и w8a8_mixed_int16. Предэкспортированные модели совместимы с QAIRT 2.45 и ONNX Runtime 1.27.1; также поддерживается экспорт с пользовательскими весами, формами входа, целевым устройством и runtime-конфигурацией. К сильным сторонам относятся компактный размер, варианты квантования и оптимизация для широкого набора чипсетов Qualcomm, включая Snapdragon и Dragonwing, с использованием NPU. В README не указаны поддерживаемые языки, конкретный набор классов объектов, обучающий датасет, точность обнаружения и ограничения по условиям съёмки, поэтому эти характеристики нельзя оценить по представленным данным. Модель распространяется по лицензии Apache-2.0.
BatchOnline-GRPO-1.5B — компактный кодовый верификатор от INSAIT Institute, дообученный методом GRPO с полусинхронным обновлением политики генератора каждые четыре шага. Модель основана на DeepSeek-R1-Distill-Qwen-1.5B: это плотная архитектура Qwen2 с 1,5 млрд параметров и контекстом до 131 072 токенов. Модель принимает условие задачи по программированию и несколько предложенных решений, затем оценивает и ранжирует их, определяя правильный вариант. Её можно использовать как функцию вознаграждения для оптимизации генераторов кода и как LLM-судью при автоматической оценке программных решений. Обучение проводилось на INSAIT-Institute/Aletheia-Train — наборе примеров с задачами и кандидатными решениями, где правильность проверялась исполнением. Модель ориентирована на верификацию решений задач по программированию и не предназначена для общего ранжирования или генерации кода. Карточка не приводит отдельных оценок качества или ограничений по языкам программирования; набор обучения включает Python, C++ и Java. Лицензия — CC BY-NC-SA 4.0, с условиями некоммерческого использования и распространения производных работ на тех же условиях.
ruanchaves/bert-base-portuguese-cased-hatebr — модель классификации текста на основе BERTimbau, дообученная для обнаружения оскорбительной речи на португальском языке. Она относит текст к одному из двух классов: неоскорбительный или оскорбительный. Модель предназначена для модерации португалоязычных текстов, например публикаций и пользовательских комментариев. Архитектура — BERT для классификации последовательностей; в модели 136,1 млн параметров, она принимает текст с контекстом до 512 токенов и распространяется в формате PyTorch. Модель основана на neuralmind/bert-base-portuguese-cased и дообучена на наборе HateBR. Карточка указывает, что набор данных предназначен исключительно для академических и исследовательских целей; коммерческое и иное неакадемическое использование требует предварительного письменного согласия SINCH. Это условие следует учитывать при использовании модели.
caformer_s18.sail_in22k_ft_in1k — модель классификации изображений семейства CAFormer и архитектуры MetaFormer, опубликованная авторами статьи и доступная в библиотеке timm. Она предварительно обучена на ImageNet-22k, затем дообучена для классификации на ImageNet-1k. Модель содержит 26,3 млн параметров, выполняет 4,1 GMACs и рассчитана на изображения размером 224 × 224 пикселя. Модель предназначена для отнесения изображений к категориям ImageNet-1k, а также может использоваться как визуальный backbone для извлечения признаков и эмбеддингов изображений. Подходит для классификации объектов на фотографиях и построения систем компьютерного зрения на основе извлечённых признаков. Доступна в форматах PyTorch и safetensors; лицензия Apache-2.0.
Chinese-LLaMA-2-7B-16K — базовая языковая модель проекта Chinese LLaMA & Alpaca, созданного на основе Llama 2. Разработчики расширили словарь китайскими токенами и продолжили предварительное обучение на крупномасштабных китайских данных. Это полная модель с архитектурой Llama 2 и примерно 6,7 млрд параметров, рассчитанная на контекст до 16 384 токенов; веса доступны в формате PyTorch для инференса и обучения с полным обновлением параметров. Модель предназначена для генерации текста и использования как основа для дальнейшей адаптации, в том числе для китайскоязычных приложений с длинным контекстом. Карточка указывает поддержку китайского и английского языков и совместимость с экосистемой Transformers и другими инструментами развёртывания. Это базовая модель, а не вариант Instruction/Chat, поэтому сама по себе не ориентирована на выполнение инструкций в диалоговом формате. Распространяется по лицензии Apache-2.0.
CoAtNeXt Nano — модель классификации изображений из библиотеки timm, обученная Россом Уайтманом на ImageNet-1k. Архитектура CoAtNeXt сочетает блоки ConvNeXt на ранних этапах с блоками self-attention на последующих; модель содержит около 14,7 млн параметров и рассчитана на изображения размером 224 × 224 пикселя. Модель предназначена для отнесения изображений к категориям ImageNet-1k и может использоваться как визуальный backbone для извлечения карт признаков и эмбеддингов. В карточке приведены показатели top-1 81,95% и top-5 95,92% на ImageNet-1k. Репозиторий распространяется под лицензией Apache-2.0.
timm/convnext_tiny.fb_in1k — свёрточная модель ConvNeXt Tiny для классификации изображений и извлечения признаков. Она обучена авторами архитектуры на ImageNet-1k и распространяется через библиотеку timm в форматах PyTorch и safetensors по лицензии Apache-2.0. Модель содержит около 28,6 млн параметров и требует примерно 4,5 GMACs на изображение. В карточке указаны размер изображения 224 × 224 для обучения и 288 × 288 для тестирования. Модель можно использовать для предсказания классов ImageNet-1k, извлечения карт признаков и получения векторных представлений изображений. Она предназначена для задач компьютерного зрения общего назначения, включая классификацию и работу с изображениями как с признаками для последующих систем. Область распознавания ограничена классами и распределением данных ImageNet-1k; карточка не описывает специализированную адаптацию к другим областям.
CPUBone B0 bfrobust — модель классификации изображений и извлечения визуальных признаков, разработанная авторами работы CPUBone и представленная в формате весов timm. Архитектура сочетает варианты grouped MBConv, уменьшенные свёрточные ядра и механизм внимания LowFormer в двух последних этапах. Модель содержит около 10,4 млн параметров и рассчитана на изображения 224 × 224 пикселя; обучение выполнено на ImageNet-1k. Модель предназначена для классификации изображений по классам ImageNet-1k, получения эмбеддингов изображений и извлечения многомасштабных карт признаков. Её архитектура ориентирована на эффективный вывод на CPU, в том числе на устройствах с ограниченными возможностями параллельной обработки. Для предобработки используются бикубическое масштабирование, нормализация со статистиками ImageNet и центральное кадрирование. В отчёте авторов для разрешения 224 пикселя указана точность ImageNet-1k Top-1 77,632% и Top-5 93,548% в FP32. Фактическая задержка CPU зависит от оборудования, среды выполнения, способа экспорта и размера пакета. Лицензия — Apache 2.0.