II.10Разработка и эксплуатация AI/ML-систем
В разделе собраны самостоятельные задачи, где AI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
49 000 моделейЭто дообученная черновая модель ysober для спекулятивного декодирования китайского и английского текста совместно с целевой Qwen/Qwen3.8-27B-FP8. Она основана на RadixArk/Qwen3.8-27B-DSpark и предназначена для использования в SGLang как черновая модель DSpark, а не как самостоятельная чат-модель.
Qwen3.8-27B-Uncensored-NVFP4-RTX5090 — это квантизированный вариант мультимодальной vision-language модели Qwen3.8-27B, разработанный на основе orcarouter/Qwen3.8-27B-Uncensored и опубликованный fleetml. Модель предназначена для задач image-text-to-text, локальных исследований, оценки моделей и разработки агентных систем. Поддерживаемые языки — английский и китайский. Модель использует архитектуру Qwen3_5ForConditionalGeneration, сохраняет vision-language возможности и 15 нативных MTP-тензоров. Квантование выполнено в формате ModelOpt NVFP4; размер целевой модели составляет около 20,59 ГБ. Максимальный архитектурный контекст заявлен на уровне 262 144 токенов, а проверенный профиль запуска поддерживает 122 880 токенов. Рекомендуемая конфигурация рассчитана на NVIDIA RTX 5090 с 32 ГБ видеопамяти и запуск через SGLang с парой DSpark для speculative decoding. К сильным сторонам относятся высокая скорость декодирования, поддержка длинного контекста и оптимизация под RTX 5090: в указанном тесте медианная скорость составила 217,73 токена в секунду, а медианное время до первого токена — 0,113 секунды. Эти показатели получены при ограниченной конфигурации тестирования и не включают обработку промпта; производительность и доступная ёмкость могут зависеть от версии runtime и состояния GPU. Использование ориентировано на локальный контролируемый запуск, а совместимость с другой аппаратурой и средами не подтверждена. Модель распространяется по лицензии Apache 2.0.
Qwen3Guard-Gen-4B Danger Intent — Open Data + Qwen Synthetic + Supplement — это бинарный классификатор пользовательских запросов на SAFE и UNSAFE, созданный дообучением Qwen/Qwen3Guard-Gen-4B. Модель на архитектуре Qwen3 с 3,7 млрд параметров распространяется как объединённые BF16-веса; в репозитории также сохранены исходные LoRA-тензоры. Она предназначена для классификации опасных намерений и включения в конвейеры модерации, а не для диалога общего назначения. В обучающих данных есть английский и китайский языки. Для фиксированного оценщика максимальный контекст классификации составляет 1 024 токена: длинные входы обрезаются, что может удалить важные сведения. Оценка UNSAFE — относительный балл по логитам меток SAFE и UNSAFE, а не калиброванная вероятность; SAFE не гарантирует безвредность запроса или последующего ответа. README описывает модель как исследовательский классификатор, который не является независимо сертифицированной системой безопасности. Лицензия — CC BY-NC 4.0.
Это визуальный энкодер семейства Qwen3.5, извлечённый из Qwen/Qwen3.5-27B и перенесённый в формат timm без дополнительного обучения. Модель принимает RGB-изображения и выдаёт векторные представления и пространственные признаки; языковые веса и обученная классификационная голова в чекпойнт не входят. Энкодер использует vision transformer с шириной backbone 1152, проекцией до 5120 и пространственным merger; выход модели по умолчанию — усреднённый эмбеддинг изображения. В README указан размер изображения 768 × 768, поддерживаются прямоугольные размеры при условии, что каждая сторона делится на 16; варианты с merger 2×2 требуют делимости на 32. Для классификации необходимо добавить и обучить новую голову на целевом наборе данных. Модель распространяется по лицензии Apache 2.0.
Qwen3-VL-4B-Instruct-GPTQ-W4A16 — сторонний квантованный чекпойнт на базе Qwen/Qwen3-VL-4B-Instruct. Модель предназначена для мультимодального вывода и обработки задач, объединяющих изображения и текст, включая эффективный инференс, оценивание в VLMEvalKit, эксперименты с vLLM, построение baseline для post-training quantization и исследования квантования vision-language моделей. Указанные языки — английский и китайский. Модель использует архитектуру семейства Qwen3-VL и поддерживает мультимодальный сценарий image-text-to-text. Применено посттренировочное квантование GPTQ W4A16 в llm-compressor: веса Linear-слоёв сжаты до 4-битных симметричных целых значений с group_size 128, при этом lm_head и визуальные модули не квантовались. Для калибровки использованы 128 мультимодальных примеров из Flickr30k, максимальная длина последовательности составляла 2048 токенов. В конфигурации оценки указан максимальный контекст 16384 токена, однако это значение относится к рекомендуемому запуску и не обязательно описывает полный предел базовой модели. Основные преимущества — уменьшенный объём хранения, более эффективное развертывание и сохранение визуальных модулей без квантования. Ограничения включают возможное снижение качества, особенно в задачах детального визуального понимания и рассуждений; это неофициальный релиз команды Qwen, а сторонняя сжатая версия. Репозиторий распространяется по лицензии Apache-2.0.
Q-Judger — дообученная мультимодальная модель оценки изображений, созданных по текстовому запросу. Она основана на Qwen3.6-27B и принимает описание запроса вместе с сгенерированным изображением, после чего формирует JSON с оценками по иерархии критериев. Модель доступна в формате safetensors и использует библиотеку Transformers. Модель предназначена для автоматизированного сравнения и анализа качества генерации изображений. Она оценивает визуальное качество, композицию и эстетику, соответствие изображения запросу, правдоподобие, безопасность и творческие аспекты, включая отрисовку текста и визуальное повествование. Итоговые оценки агрегируются по уровням критериев; в README также описана проверка согласованности ранжирования с оценками экспертов. В метаданных указаны английский и китайский языки. Модель выпущена под лицензией Apache-2.0. Она является оценщиком изображений, а не моделью для их генерации; результаты следует трактовать как структурированную автоматическую оценку, а не как гарантированную замену экспертной проверке.
RegNetY-32GF — свёрточная модель классификации изображений из семейства RegNetY, опубликованная в библиотеке timm. Веса предварительно обучены авторами статьи на ImageNet-1k. Модель содержит около 145 млн параметров и рассчитана на изображения размером 224 × 224 пикселя. Модель предназначена для определения классов объектов на изображениях, а также может использоваться как визуальный backbone для извлечения карт признаков и эмбеддингов. Реализация timm поддерживает стохастическую глубину, gradient checkpointing и настройку выходного stride, функций активации и нормализации. Репозиторий распространяется под лицензией MIT.
ResNet18.a1_in1k — модель классификации изображений семейства ResNet, опубликованная командой timm. Она обучена на ImageNet-1k по рецепту ResNet Strikes Back A1 и использует активации ReLU, начальную свёртку 7×7 с пулингом и свёрточные shortcut-соединения 1×1 для уменьшения размерности. Модель содержит 11,7 млн параметров; рекомендуемый размер изображения при проверке — 288×288 пикселей, при обучении использовался размер 224×224. Модель предназначена для распознавания объектов на изображениях, а также может использоваться как основа для извлечения карт признаков и эмбеддингов изображений. В карточке приведены результаты ImageNet-классификации и характеристики вычислительной стоимости. Доступна по лицензии Apache-2.0.
ResNet34.a1_in1k — сверточная модель классификации изображений из библиотеки timm, обученная на ImageNet-1k по рецепту ResNet Strikes Back A1. Архитектура ResNet-B использует активации ReLU, свёртку 7×7 с пулингом и сокращённые связи с проекцией через свёртку 1×1. В модели около 21,8 млн параметров и 3,7 GMACs; рекомендуемый размер изображения при обучении — 224×224, при проверке — 288×288. Модель предназначена для классификации изображений по категориям ImageNet, извлечения карт признаков и получения векторных представлений изображений. Она может служить визуальной основой для прикладных компьютерно-зрительных систем. Репозиторий распространяется под лицензией Apache-2.0.
timm/resnet50.bt_in1k — сверточная модель ResNet-50 для классификации изображений и извлечения признаков, опубликованная разработчиками timm. Она обучена на ImageNet-1k с рецептом Bag of Tricks, оптимизатором SGD с Nesterov и косинусным расписанием скорости обучения с разогревом. Архитектура использует ReLU, начальную свёртку 7×7 с пулингом и свёрточные обходные связи 1×1. Модель содержит 25,6 млн параметров; для обучения указано разрешение 224×224, для тестирования — 288×288. Модель подходит для классификации объектов на изображениях, построения эмбеддингов и извлечения карт признаков, в том числе как основа компьютерного зрения в прикладных системах. Репозиторий содержит веса PyTorch в формате safetensors. Лицензия — Apache-2.0. Карточка описывает обучение и архитектуру, но не приводит конкретных показателей качества именно этой модели.
ResNet-50.c1_in1k — сверточная модель классификации изображений из библиотеки timm. Она обучена на ImageNet-1k по рецепту ResNet Strikes Back C и предназначена для распознавания объектов на изображениях, а также может использоваться как backbone для извлечения признаковых карт и эмбеддингов. Архитектура использует активации ReLU, начальную свертку 7×7 с пулингом и shortcut-соединения с проекцией 1×1. В модели около 25,6 млн параметров и 4,1 GMACs. Для обучения использовался размер изображения 224×224, для оценки — 288×288. Репозиторий распространяется под лицензией Apache-2.0.
ResNet50D RA2 In1k — сверточная модель классификации изображений из библиотеки timm. Она обучена на ImageNet-1k с рецептом аугментации RandAugment RA2, оптимизатором RMSProp и усреднением весов EMA. Архитектура включает трехслойный блок начальной обработки из сверток 3×3 с пулингом и укороченные соединения с усредняющим пулингом 2×2 и сверткой 1×1. Модель содержит 25,6 млн параметров и требует 4,4 GMACs; размер изображения при обучении — 224×224, при тестировании — 288×288. Модель предназначена для классификации изображений и может использоваться как сверточная основа для извлечения признаковых карт и эмбеддингов. Она принимает изображения и выдает метки классов. Карточка не сообщает специальных ограничений по применению; лицензия Apache-2.0.
Это дообученная модель классификации текста на базе FacebookAI/roberta-base, опубликованная пользователем leomaurodesenv. По названию она предназначена для выявления jailbreak-запросов, однако README не раскрывает назначение подробнее и указывает, что данные обучения неизвестны. Модель содержит 151,8 млн параметров, использует архитектуру RoBERTa для классификации последовательностей и принимает текст длиной до 514 токенов. На указанном в README наборе оценки достигла accuracy 0,9564 и loss 0,1497; состав и методика оценки не описаны. Распространяется по лицензии MIT.
ScopeGuard-2 — специализированная языковая модель на 4 млрд параметров от Principled Intelligence для классификации запросов по границам и правилам AI-сервиса. Она анализирует последнее сообщение пользователя с учётом предыдущих реплик и относит запрос к одному из семи классов, на основе которых приложение может ответить, отказать, перенаправить запрос, отправить заранее заданный ответ или передать его человеку. Модель предназначена для проверки запросов в рабочих приложениях, предварительной проверки действий агентов и маршрутизации обращений. Модель дообучена на базе unsloth/Qwen3.5-4B и распространяется в формате safetensors для Transformers. В README заявлены улучшенная точность и меньшая задержка по сравнению с предыдущей версией; результаты зависят от промпта и условий оценки. Обучающие данные преимущественно англоязычные, а качество классификации на других языках не измерялось. Для корректной работы без библиотеки orbitals требуется в точности воспроизводить обучающий промпт. Лицензия указана как other, поэтому условия использования следует уточнить в карточке модели.
SPEED-synthesis-8b-senior — модель генерации текста, представленная Haonan Chen как старший генератор данных в рамках проекта SPEED. В статье «Little Giants: Synthesizing High-Quality Embedding Data at Scale» модель используется для синтеза обучающих данных; карточка демонстрирует генерацию данных для классификации. Модель основана на дообученной Meta-Llama-3-8B с плотной архитектурой LlamaForCausalLM и содержит 7,5 млрд параметров. Она принимает текст и генерирует текст, поддерживает английский язык и контекст до 8192 токенов. Репозиторий содержит веса Safetensors; лицензия — MIT. Модель предназначена для синтеза высококачественных данных для обучения моделей, в частности примеров для задач классификации. Доступные сведения не раскрывают метрики качества или полный набор сценариев применения, поэтому пригодность синтетических данных следует проверять для конкретной задачи.
Это модель Swin Transformer для классификации изображений и извлечения визуальных признаков. Её разработали авторы статьи Swin Transformer; модель предварительно обучена на ImageNet-22k и распространяется через библиотеку timm. Веса содержат около 44,3 млн параметров, модель рассчитана на изображения размером 224 × 224 пикселя. Модель подходит для присвоения изображениям классов, извлечения карт признаков и получения эмбеддингов изображений. Её можно использовать как визуальную основу в системах распознавания и анализа изображений. Лицензия — MIT.
TAMEV-Micro-MiniLM — компактная модель принятия решений и маршрутизации, разработанная автором репозитория Tamkimd. Это дообученный энкодер на базе sentence-transformers/all-MiniLM-L6-v2: он получает состояние, вопрос и переданный список вариантов, затем за один проход выдаёт распределение вероятностей по вариантам. Поддерживаются выбор одного из нескольких вариантов, ответы «да/нет» и порядковая оценка; фиксированный набор меток не требуется, поэтому список вариантов можно менять при вызове. Модель предназначена для маршрутизации запросов к инструментам и агентам, классификации намерений, оценки вариантов и предварительной сортировки решений. В README заявлены точность top-1 82,23%, ECE 0,0224 и задержка p50 7,29 мс на одном потоке CPU Apple M4; эти показатели получены на конкретном тестовом наборе и не гарантируют качество на новых данных. Варианты кодируются независимо, поэтому перестановка их порядка переставляет оценки без изменения самих значений; каждый вариант ограничен окном в 48 токенов. Модель не генерирует текст, не предназначена для открытых вопросов и не должна быть единственным непроверяемым механизмом безопасности. Качество на распределениях, отличающихся от обучающего, может быть близким к случайному; для рабочих сценариев автор рекомендует дообучение на данных целевого домена. Репозиторий распространяется по лицензии Apache-2.0.
Ternary-Bonsai-2-27B-Heretic-Satellite — текстовая модель Convai Innovations, созданная на базе Qwen3.8-27B-Bonsai-2-27B-Heretic. Это плотная причинно-языковая архитектура Qwen3_5ForCausalLM с 22,3 млрд параметров и контекстом до 262 144 токенов. Модель дообучена с помощью LoRA-дистилляции решений учителя convaiinnovations/laya; веса учителя в репозитории не распространяются. Модель анализирует стенограмму и выдаёт структурированное решение о сжатии рабочего контекста: нужно ли его сжать, какие сведения сохранить, а также уровень и режим сжатия. Предназначена для управления длинным контекстом в разговорных системах и других приложениях, которым нужно решать, когда и как сокращать историю. Она принимает только текст и не подходит для анализа изображений. В карточке приведена оценка на 20 отложенных сессиях: совпадение с решениями laya по главному решению составило 17 из 20; точное совпадение по всем четырём полям — лишь 3–4 из 20. Поэтому значения preserve и level следует проверять перед программным использованием. Доступны safetensors и GGUF в нескольких вариантах точности; для GGUF указана поддержка llama.cpp, а для safetensors — Transformers. Лицензия обозначена как other, конкретные условия в предоставленных данных не раскрыты.
tf_efficientnet_b1.aa_in1k — свёрточная модель EfficientNet для классификации изображений. Её обучили авторы оригинальных работ на ImageNet-1k с автоаугментацией, а Ross Wightman перенёс веса в PyTorch для библиотеки timm. Модель содержит около 7,8 млн параметров, использует изображения размером 240 × 240 пикселей и требует около 0,7 GMAC на проход. Помимо предсказания классов ImageNet, её можно использовать как основу для извлечения карт признаков и векторных представлений изображений. Модель подходит для задач распознавания объектов из набора классов ImageNet и как компактный визуальный бэкбон. Она не предназначена для генерации изображений или понимания произвольных текстовых запросов. Распространяется по лицензии Apache-2.0.
timm/tf_efficientnet_b4.in1k — сверточная модель EfficientNet-B4 для классификации изображений, первоначально обученная авторами статьи на ImageNet-1k в TensorFlow и перенесённая в PyTorch Россом Уайтманом. В репозитории доступны веса PyTorch и SafeTensors; модель содержит около 19,3 млн параметров и рассчитана на изображения размером 380 × 380 пикселей. Модель определяет классы объектов на изображении и может использоваться как сверточная основа для извлечения карт признаков и эмбеддингов изображений. Она подходит для классификации изображений общего назначения в сценариях компьютерного зрения. Обучение проведено на ImageNet-1k. Лицензия — Apache-2.0. Модель принимает изображения и выдаёт оценки классов; в README также описано получение карт признаков и эмбеддингов. Данные не устанавливают языковую поддержку или специализированные предметные области.
tf_efficientnet_b7.ra_in1k — сверточная модель EfficientNet-B7 для классификации изображений и извлечения визуальных признаков. Она обучена авторами статьи на ImageNet-1k с аугментацией RandAugment, а затем перенесена из TensorFlow в PyTorch Россом Уайтменом и опубликована в библиотеке timm. Модель содержит около 66,3 млн параметров, рассчитана на изображения размером 600 × 600 пикселей и может использоваться как классификатор, backbone для извлечения карт признаков или источник эмбеддингов изображений. Обучение на ImageNet-1k делает её подходящей для распознавания объектов из набора классов ImageNet и переноса признаков в другие компьютерно-зрительные задачи. Веса доступны в форматах PyTorch и safetensors. Модель принимает изображения и выдаёт классовые оценки либо визуальные признаки; языковой ввод и генерация не предусмотрены. Лицензия — Apache-2.0.
tf_efficientnetv2_l.in21k_ft_in1k — сверточная модель EfficientNetV2-L для классификации изображений. Её обучили авторы статьи на ImageNet-21k и дообучили на ImageNet-1k; Ross Wightman перенёс веса из TensorFlow в PyTorch. Модель содержит около 118,5 млн параметров и доступна через библиотеку timm. Модель предназначена для классификации изображений и может использоваться как основа для извлечения признаков, карт признаков и эмбеддингов изображений. Размер изображения при обучении — 384×384 пикселя, при тестировании — 480×480. Репозиторий содержит веса в форматах PyTorch и safetensors. Лицензия — Apache-2.0.
tf_mobilenetv3_large_minimal_100.in1k — модель классификации изображений семейства MobileNetV3, обученная авторами статьи Searching for MobileNetV3 на ImageNet-1k в TensorFlow и перенесённая в PyTorch Россом Уайтманом. Она доступна через библиотеку timm и предназначена для определения объектов на изображениях, а также может использоваться как компактная основа для извлечения признаков и построения эмбеддингов. Модель содержит около 3,9 млн параметров, рассчитана на изображения размером 224 × 224 пикселя и имеет вычислительную сложность около 0,2 GMAC. Небольшой размер делает её подходящей для эффективной классификации изображений. Репозиторий содержит веса PyTorch и safetensors; лицензия — Apache-2.0.
Это предварительно обученные веса noisy-student для EfficientNet-B4 из библиотеки timm, опубликованные в репозитории smp-hub и предназначенные для использования в качестве энкодера библиотеки segmentation-models-pytorch. Они подходят для классификации изображений и могут служить визуальным энкодером в моделях сегментации. Веса распространяются в формате safetensors; метаданные указывают лицензию other.
nreimers/TinyBERT_L-6_H-768_v2 — версия General_TinyBERT_v2 с 6 слоями и размерностью скрытого представления 768, перенесённая в библиотеку Hugging Face Transformers. Модель построена на архитектуре BERT и предназначена для извлечения контекстных векторных представлений текста, которые можно использовать в последующих NLP-задачах. В репозитории доступны веса PyTorch и Flax. Модель содержит 80,1 млн параметров и принимает последовательности длиной до 512 токенов. Лицензия в предоставленных данных не указана.
UTMOS22 strong learner — модель для оценки качества речи по аудиозаписи, опубликованная пользователем prj-beatrice. Это перенос реализации SpeechMOS с использованием PyTorch, torchaudio и Transformers; модель возвращает числовую оценку для переданного аудио. Репозиторий содержит веса в формате safetensors, а для пакетной обработки предусмотрена подача дополненных до общей длины волн и их фактических длин. Модель предназначена для автоматической оценки качества синтезированной или записанной речи в задачах анализа и сравнения аудиоматериалов. Она принимает аудиосигнал и выдаёт оценку качества; сведения о конкретном наборе поддерживаемых языков и аудиоформатов в карточке не приведены. Лицензия — MIT.
ARTPARK-IISc разработала Vaani-LID_v0 — модель классификации устной речи по языку для 42 языков Индии и соседних регионов. Она принимает аудио и определяет, на каком из поддерживаемых языков или вариантов языка говорят. Модель построена на энкодере whisper-large-v3-turbo с модулем pooled attention и линейным классификатором. Она дообучена целиком на наборе ARTPARK-IISc/Vaani. В оценке на тестовых выборках точность составила 0,71 на FLEURS, 0,63 на Kathbath и 0,77 на Vaani. Модель подходит для определения языка в аудиозаписях, например перед выбором последующей системы распознавания речи. Она выдаёт метку языка, а не текстовую расшифровку речи. Лицензия — MIT.
Это модель классификации изображений на базе Vision Transformer (ViT) с патчами 14×14, разработанная и опубликованная в экосистеме timm. Модель предварительно обучена на парах изображений и текста LAION-2B с помощью OpenCLIP, затем дообучена на ImageNet-1k. Она содержит около 632 млн параметров и рассчитана на изображения размером 224×224 пикселя. Модель подходит для классификации изображений по категориям ImageNet-1k и может использоваться как визуальный backbone для извлечения признаков и эмбеддингов изображений. Веса доступны в форматах PyTorch и Safetensors; лицензия — Apache-2.0. Для практического применения нужны изображения на входе, а результатом классификации служат метки классов; при извлечении признаков модель выдаёт векторы.
Google ViT-Large Patch32-224-in21k — визуальный Transformer-энкодер, предварительно обученный на ImageNet-21k с учителем. Модель имеет около 402,7 млн параметров и обрабатывает изображения разрешением 224×224 пикселя, разбивая их на патчи 32×32 и передавая последовательность патчей энкодеру Transformer. Веса были конвертированы из репозитория timm; доступны варианты PyTorch, TensorFlow и Flax. Модель предназначена для извлечения признаков изображений и использования в качестве основы для классификаторов и других задач компьютерного зрения. Представление токена CLS можно использовать как векторное описание изображения, а предварительно обученный pooler — для последующих задач. Специализированной головы классификации в этой версии нет. Лицензия — Apache-2.0.
Это версия модели ViT-Tiny Classification, подготовленная Geti™ и преобразованная в формат OpenVINO IR с посттренировочным сжатием весов до INT8. Квантованы веса и активации; модель предназначена для классификации изображений и может быть дообучена на пользовательском наборе данных через Geti™. Модель рассчитана на инференс в OpenVINO версии 2026.1.0 и выше с Model API версии 0.4.0 и выше. Карточка не описывает поддерживаемые языки или конкретные классы изображений. Исходная модель распространяется по лицензии Apache-2.0.