II.10Разработка и эксплуатация AI/ML-систем
В разделе собраны самостоятельные задачи, где AI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
49 000 моделейDRISTI V1-fast — компонент System 1 каскадного маршрутизатора DRISTI, созданный Swaraj Chattaraj на базе DistilBERT. Модель предназначена для быстрой локальной классификации запросов и маршрутизации простых задач к подходящим компонентам AI-инфраструктуры; при низкой уверенности или запросе вне распределения система DRISTI передаёт запрос более тяжёлому компоненту V2 на основе DeBERTa. Для работы с весами README указывает официальный движок вывода DRISTI. В метаданных указаны архитектура DistilBERT, класс DistilBertForMaskedLM, библиотека PyTorch, контекст 512 токенов и задача text-classification; формат репозитория — PyTorch. Карточка приводит замеры маршрутизатора на ноутбучной NVIDIA RTX 3050: около 45,6 мс задержки и 21,93 запроса в секунду; это результаты автора для конкретного сценария, а не гарантия производительности на другом оборудовании. Модель распространяется по лицензии MIT.
Это веса EfficientNet-B7, предварительно обученной на ImageNet и опубликованные для использования в качестве энкодера в библиотеке segmentation-models-pytorch. Модель принимает изображения и предназначена для классификации изображений; её также можно использовать как энкодер в составе моделей сегментации. Репозиторий содержит веса в формате Safetensors. В карточке указана лицензия other, без конкретизации условий. Данных о размере модели, поддерживаемых языках и ограничениях качества нет.
EfficientViT-M2 — модель классификации изображений и визуальный backbone семейства EfficientViT, разработанного MSRA. Авторы статьи обучили её на ImageNet-1k; модель также можно использовать для извлечения карт признаков и эмбеддингов изображений. Модель содержит около 4,2 млн параметров, рассчитана на изображения размером 224 × 224 и имеет вычислительную сложность около 0,2 GMAC. Она предназначена для классификации изображений и построения компактных визуальных представлений в компьютерном зрении. Репозиторий использует библиотеку timm и содержит веса PyTorch в формате Safetensors. Лицензия — MIT. Модель обучена на ImageNet-1k, поэтому её качество и применимость к изображениям из других предметных областей могут отличаться; результаты для целевых данных следует проверять отдельно.
EfficientViT-M4 — модель классификации изображений и извлечения визуальных признаков из семейства EfficientViT, разработанного MSRA. Авторы статьи обучили её на ImageNet-1k; модель доступна через библиотеку timm и рассчитана на изображения размером 224 × 224 пикселя. Она содержит около 8,8 млн параметров и требует 0,3 GMAC на обработку изображения. Модель подходит для классификации изображений по категориям ImageNet-1k, извлечения карт признаков и получения векторных представлений изображений. Архитектура использует каскадное групповое внимание и ориентирована на экономичную обработку изображений. Веса опубликованы в форматах PyTorch и safetensors под лицензией MIT.
EfficientViT-M5 — модель классификации изображений и извлечения признаков из семейства EfficientViT, разработанного MSRA. Авторы статьи обучили её на ImageNet-1k; модель также может выступать визуальным backbone и формировать карты признаков и эмбеддинги изображений. Модель содержит 12,5 млн параметров, рассчитана на изображения размером 224 × 224 и имеет вычислительную сложность 0,5 GMAC. Она предназначена для классификации изображений и использования в компьютерном зрении, где нужны компактные признаки или эмбеддинги. Для работы с моделью используется библиотека timm, веса доступны в форматах PyTorch и safetensors. Лицензия — MIT. Модель обучена на ImageNet-1k; сведения о специальных ограничениях или оценках качества в карточке не приведены.
leomaurodesenv/electra-base-discriminator-answerable-or-not-augmented — модель классификации текста, дообученная на базе google/electra-base-discriminator. По названию она предназначена для определения того, можно ли ответить на вопрос по предоставленному контексту; README не раскрывает подробности набора данных или способа применения. Модель использует энкодер ELECTRA и классификационную голову ElectraForSequenceClassification. Она содержит 136,7 млн параметров, принимает текстовые последовательности длиной до 512 токенов и выдаёт метку класса. В README приведены результаты оценки: accuracy 0,9374 и loss 0,2293; состав и размер оценочного набора не описаны. Лицензия — Apache-2.0. Карточка указывает английскую базовую модель, но язык обучающих данных не раскрывает, поэтому английский сценарий можно считать предположительным. Качество на других данных и языках не подтверждено.
Модель leomaurodesenv/electra-base-discriminator-trustairlab-jailbreak — дообученный энкодер ELECTRA для классификации текста. Она основана на google/electra-base-discriminator, содержит 136,7 млн параметров и принимает последовательности длиной до 512 токенов. Модель распространяется в формате Safetensors по лицензии Apache-2.0. В README приведены результаты оценки: accuracy 0,9417 и loss 0,1880. Назначение модели связано с выявлением jailbreak-атак по названию репозитория, однако описание не уточняет метки классов и набор данных. Поэтому результаты не позволяют судить о качестве на других данных или о том, какие именно типы атак распознаются.
EVA Large Patch14 196 — модель компьютерного зрения для классификации изображений и получения визуальных признаков. Чекпойнт опубликован авторами paper EVA и предоставлен в библиотеке timm; он содержит около 304,1 млн параметров и рассчитан на изображения размером 196 × 196 пикселей. Модель предварительно обучена на ImageNet-22k с помощью masked image modeling, где EVA-CLIP использовалась как учитель, а затем дообучена на ImageNet-22k и ImageNet-1k. Её можно применять для отнесения изображений к классам и как визуальный backbone для извлечения признаков. В карточке приведены метрики классификации на ImageNet-1k и пример получения эмбеддингов. Чекпойнт распространяется в формате PyTorch/safetensors под лицензией MIT. В репозитории timm веса сохранены в float32; оригинальные версии некоторых чекпойнтов доступны в float16 или bfloat16. Работа модели описана для классификации изображений, поэтому точность и пригодность для других наборов данных или задач следует проверять отдельно.
Havenlon Execution Boundary — Qwen35 0.8B — компактная текстовая генеративная модель Havenlon из семейства Execution Boundary. Она предназначена для изучения того, можно ли сохранить рассуждения о допуске действий к исполнению в небольшой модели для локальной работы и устройств с ограниченными ресурсами. Модель помогает оценивать инициатора и содержание действия, затрагиваемый ресурс, текущее состояние, подтверждающие данные и ограничения политики, формируя решение вроде «разрешить», «отклонить», «запросить дополнительные данные» или «перейти в безопасное состояние».
FasterNet S — модель классификации изображений и извлечения признаков семейства FasterNet, опубликованная авторами исследования и обученная на ImageNet-1k. Вариант содержит 31,2 млн параметров и рассчитан на изображения размером 224 × 224; вычислительная стоимость составляет 4,6 GMACs. Модель подходит для классификации изображений по классам ImageNet-1k, получения карт признаков и векторных представлений изображений. Архитектура ориентирована на высокую вычислительную пропускную способность. Репозиторий предоставляет веса PyTorch и Safetensors, библиотека для работы — timm. Лицензия Apache-2.0.
FastViT-SA12 Apple Distilled — модель классификации изображений и визуальный backbone из семейства FastViT, опубликованная авторами статьи FastViT. Она обучена на ImageNet-1k с дистилляцией и подходит для присвоения изображению класса, извлечения карт признаков и получения векторных представлений изображений. Модель содержит 11,6 млн параметров, требует 2,0 GMACs и рассчитана на входные изображения размером 256 × 256 пикселей. FastViT использует гибридную архитектуру vision transformer и свёрточных компонентов с структурной репараметризацией. Репозиторий содержит веса PyTorch в формате safetensors. Лицензия указана как other; README просит соблюдать исходную лицензию, поэтому перед использованием следует проверить её условия в источнике модели.
FastViT-SA36 — модель классификации изображений и визуальная backbone-модель, обученная авторами статьи FastViT на ImageNet-1k. Репозиторий timm/fastvit_sa36.apple_in1k содержит вариант с 31,5 млн параметров; модель рассчитана на изображения размером 256 × 256 пикселей и требует около 5,6 GMACs на проход. Архитектура FastViT сочетает свёрточные и трансформерные компоненты и использует структурную репараметризацию. Модель предсказывает классы изображений и может использоваться как основа для извлечения карт признаков и эмбеддингов изображений. Это подходит для классификации объектов на изображениях и получения визуальных признаков для последующих задач компьютерного зрения. Обучение проведено на ImageNet-1k; описанный набор классов и качество вне этого распределения могут ограничивать применение. В карточке указана лицензия other с требованием соблюдать исходную лицензию FastViT. Перед использованием следует проверить условия исходной лицензии.
Flames-scorer — модель для оценки ценностного соответствия больших языковых моделей на китайском бенчмарке FLAMES. Её разработали Shanghai AI Lab и Fudan NLP Group. Бенчмарк содержит состязательные примеры для проверки того, насколько ответы LLM соответствуют заданным ценностным критериям. В основе лежит InternLM-chat-7b: поверх него добавлены отдельные классификаторы для разных измерений оценки, обученные совместно в многозадачном режиме. Модель принимает текст на китайском языке и классифицирует его; карточка указывает архитектуру InternLMForSequenceClassification, размер 6,9 млрд параметров и контекст до 2048 токенов. Для практического использования README предлагает запускать оценивание через infer.py. Модель предназначена для оценки ответов в рамках FLAMES и не подтверждена как универсальный классификатор ценностей для других языков или сценариев. Лицензия в предоставленных данных не указана.
FlexiViT Base 600ep IN1K — модель классификации изображений и визуальный backbone, обученный авторами статьи на ImageNet-1k с использованием JAX и перенесённый в PyTorch Россом Уайтманом. Модель относится к семейству Vision Transformer и содержит 86,6 млн параметров; указанный размер входного изображения — 240 × 240 пикселей. Модель предназначена для классификации изображений по классам ImageNet-1k и может использоваться как визуальная основа для извлечения признаков и эмбеддингов изображений. FlexiViT обучается с поддержкой разных размеров патчей, что позволяет применять одну модель при различных настройках разбиения изображения на патчи. Репозиторий содержит веса PyTorch и Safetensors. Лицензия — Apache-2.0.
Карточка модели Jinstudio/FLUX.2-small-decoder на Hugging Face совпадает с карточкой black-forest-labs/FLUX.2-small-decoder, поэтому описание составлено по ней. FLUX.2 Small Decoder — декодер VAE от Black Forest Labs, дистиллированная компактная замена стандартному декодеру FLUX.2. Он предназначен для декодирования латентных представлений в изображения в совместимых моделях FLUX.2: Klein 4B, Klein 9B, Klein 9B-KV и Dev; кодировщик при этом остаётся без изменений. Декодер содержит около 28 млн параметров против примерно 50 млн у полной версии и использует более узкие каналы. По данным карточки, он декодирует примерно в 1,4 раза быстрее и требует примерно в 1,4 раза меньше видеопамяти, сохраняя почти такое же качество изображений. Указана лицензия Apache 2.0. Модель предназначена для использования как компонент совместимого пайплайна генерации или редактирования изображений, а не для самостоятельного диалога или выдачи фактических ответов. Карточка отмечает возможные искажения текста на изображениях, несоответствие результата запросу и влияние стиля промпта.
FocalNet Small LRF — модель компьютерного зрения для классификации изображений и извлечения признаков, опубликованная авторами статьи о Focal Modulation Networks и доступная через библиотеку timm. Она предварительно обучена на ImageNet-1k; число параметров — 50,3 млн, вычислительная сложность — 8,7 GMACs. Указанный размер входного изображения — 224 × 224 пикселя. Модель предназначена для отнесения изображений к классам ImageNet, а также может использоваться как визуальный backbone для извлечения карт признаков и эмбеддингов. Репозиторий содержит веса PyTorch и safetensors. Лицензия — MIT.
Это конвертированная в формат MLX модель Gemma 4 12B IT Assistant, основанная на чекпойнте Google Gemma 4 12B IT Assistant. Конверсию выполнило сообщество mlx-community с помощью mlx-vlm 0.6.0; веса представлены в формате safetensors и имеют точность bf16. Модель предназначена для ускорения генерации текста в режиме speculative decoding: она предлагает токены, которые проверяет целевая модель. Для запуска в MLX можно использовать библиотеку mlx-vlm. В метаданных указана лицензия Apache 2.0. Это плотная модель семейства Gemma 4 Unified Assistant с архитектурой Gemma4UnifiedAssistantForCausalLM и размером 12 млрд параметров. Карточка рекомендует обращаться к исходной модели за дополнительными сведениями о возможностях и ограничениях; поэтому языки, контекст и дополнительные модальности здесь не уточняются.
pleasen/Gemma-4-E2B-IT-QAT — оптимизированная версия модели Gemma 4 E2B IT для развёртывания на устройствах с ограниченными ресурсами, включая мобильные. В README описаны уменьшение размера и квантование компонентов, связанных со зрением: vision-слои приведены к Q8_0 или Q4_K_M, а позиционные эмбеддинги — к FP16. Репозиторий также содержит варианты GGUF Q4_0, Q4_K_M, Q4_K_XL и Q8_0. Из модели удалены аудиоэнкодеры, поэтому она не предназначена для обработки аудио. Оптимизации сокращают размер файла mmproj-BF16 примерно до 14% или 20% от исходного, в зависимости от варианта квантования. Лицензия — Gemma.
Aratako/gemma-4-E4B-it-audio-encoder — аудиоэнкодер, извлечённый из Google Gemma 4 E4B Instruct. Это плотная модель класса Gemma4AudioEncoder, подготовленная для Transformers и распространяемая в формате safetensors. При включённой по умолчанию проекции она выдаёт векторы размерности 2560 в пространстве эмбеддингов языковой модели Gemma 4 E4B; без проекции — исходные аудиопредставления размерности 1536. Модель предназначена для извлечения признаков из аудио и передачи полученных представлений компонентам Gemma 4 E4B или другим совместимым системам. Для загрузки требуется Transformers версии 5.5.0 или новее. Лицензия — Apache 2.0. README не сообщает о поддерживаемых языках аудио и отдельных ограничениях качества или применения.
Модель nahiar/hatespeech-abusive-xlm-roberta-v1 — дообученная Nahiar модель XLM-RoBERTa для многометочной классификации текстов из социальных сетей. Она одновременно выявляет hate speech и оскорбительную лексику, допуская присвоение обеих меток одному тексту. Архитектура — XLMRobertaForSequenceClassification, размер — 305,2 млн параметров, контекст — до 514 токенов; модель распространяется в формате safetensors и рассчитана на работу через Transformers. Модель предназначена для модерации контента, систем безопасности и мониторинга пользовательских публикаций, включая неформальные и шумные тексты. Заявлена поддержка индонезийского, английского, малайского и ряда региональных языков Индонезии; в README приведены метрики проверки, но их значения могут зависеть от разбиения данных и порога классификации. Лицензия — Apache-2.0. Классификация ограничена двумя метками: hate speech и abusive language. Модель не определяет конкретную цель ненависти или защищённый признак, может ошибаться на сарказме и требует проверки человеком перед применением решений с юридическими или политическими последствиями.
Карточка модели kyutai/helium-1-2b-life на Hugging Face совпадает с карточкой kyutai/helium-1-2b, поэтому описание составлено по ней. Helium-1-2B — базовая языковая модель Kyutai с архитектурой Llama и 1,9 млрд параметров, представленная в формате safetensors для библиотеки Transformers. Модель обучена на текстах на 24 официальных языках Европейского союза; её контекст составляет 4096 токенов. По карточке, модель дистиллирована из Gemma 2. Модель предназначена для генерации и понимания текста, а также для исследований и разработки систем NLP. Она не дообучена следовать инструкциям или предпочтениям людей, поэтому для прикладных сценариев обычно требуется дополнительное выравнивание, например supervised fine-tuning или RLHF. Компактный размер ориентирован на использование на устройствах с ограниченными ресурсами, включая мобильные и периферийные устройства. Модель может генерировать фактические ошибки, предвзятый, вредный или бесполезный текст; перед применением необходимы оценка и меры снижения рисков. Поддерживаются английский, болгарский, чешский, датский, немецкий, греческий, испанский, эстонский, финский, французский, ирландский, хорватский, венгерский, итальянский, литовский, латышский, мальтийский, нидерландский, польский, португальский, румынский, словацкий, словенский и шведский языки. Лицензия — CC-BY-SA 4.0; также действуют условия использования Gemma.
HGNet-V2 B5 — сверточная модель классификации изображений и визуальная backbone-сеть семейства High Performance GPU Net. Авторы обучили её на очищенных данных ImageNet-22k и ImageNet-1k с применением дистилляции SSLD. Модель содержит 39,6 млн параметров; для оценки используется размер изображения 288 × 288 пикселей, для обучения — 224 × 224. Репозиторий предоставляет веса в форматах PyTorch и safetensors и поддерживает библиотеку timm. Модель предназначена для классификации изображений по классам ImageNet, извлечения карт признаков и получения векторных представлений изображений. Её можно использовать как визуальный backbone в компьютерном зрении. Лицензия — Apache-2.0.
Inception-v3 gluon_in1k — модель классификации изображений из библиотеки timm, обученная авторами MxNet GLUON на ImageNet-1k. Она предназначена для отнесения изображения к одному из классов и может использоваться как визуальная основа для извлечения признаков и эмбеддингов. Модель содержит 23,8 млн параметров, требует изображения размером 299 × 299 пикселей и имеет вычислительную сложность 5,7 GMACs. Репозиторий предоставляет веса в форматах PyTorch и safetensors; лицензия — Apache-2.0. Модель работает с изображениями и выдаёт метки классов либо признаки и эмбеддинги при соответствующем использовании. Она обучена на ImageNet-1k, поэтому её классификационные возможности ориентированы на классы этого набора данных; качество на других предметных областях отдельно не подтверждено.
IndoBERT Base phase 1 uncased — предварительно обученная языковая модель для индонезийского языка, разработанная командой IndoBenchmark на основе архитектуры BERT. Она обучена на корпусе Indo4B объёмом 23,43 ГБ с задачами masked language modeling и next sentence prediction; в карточке репозитория указано 124,5 млн параметров, а метаданные каталога оценивают размер примерно в 151,6 млн. Модель принимает текст и формирует контекстные векторные представления токенов; максимальная длина контекста — 512 токенов. Модель предназначена для извлечения признаков и может служить основой для индонезийских NLP-сценариев, например классификации текста или разметки последовательностей после дополнительной настройки. Доступны веса в форматах PyTorch, TensorFlow и Flax. Лицензия — MIT. Это базовая модель без указаний на прикладную настройку под конкретную предметную область; качество для задач пользователя зависит от последующей настройки и реализации.
IndoBERT-Lite Base phase 2 uncased — предварительно обученная языковая модель для индонезийского языка, разработанная командой IndoBenchmark. Она основана на архитектуре ALBERT и обучена на корпусе Indo4B с задачами masked language modeling и next sentence prediction. Модель содержит 136,3 млн параметров и поддерживает контекст до 512 токенов. Модель предназначена для извлечения контекстных векторных представлений текста, которые можно использовать как основу для задач обработки индонезийского языка и последующего дообучения. Доступны веса PyTorch и TensorFlow; в карточке показано использование через Transformers. Лицензия — MIT. Модель рассчитана на индонезийский текст; качество на других языках и в специализированных областях карточкой не подтверждено.
RadixArk/Inkling-Small-DSpark-Preview — исследовательская предварительная версия спекулятивной модели-черновика для ускорения инференса целевой модели Inkling-Small NVFP4. Она использует подход DSpark на основе параллельного чернового предсказания DFlash с Markov logit-bias и головкой оценки уверенности; архитектура черновика выполнена в стиле Qwen3 и содержит 5 слоёв. В метаданных указано 1,5 млрд параметров, а карточка сообщает о 0,90 млрд обучаемых параметров в весах черновика BF16 Safetensors. Модель предназначена для спекулятивного декодирования через SGLang. Для работы требуются точно соответствующие целевой чекпойнт thinkingmachines/Inkling-Small-NVFP4 и токенизатор; веса эмбеддингов и выходного слоя целевой модели в репозитории отсутствуют. Указанный адресуемый контекст — до 1 048 576 токенов, но обучение проводилось на последовательностях до 65 536 токенов, а штатный обучающий контекст составлял 8 192 токена. Приведены результаты оценки длины принятого продолжения на GSM8K, MATH500 и MBPP; официальные обучение и оценка ещё продолжаются. Требуется сборка SGLang с поддержкой DSpark. Условия лицензии в предоставленных данных не приведены.
JudgeLM-7B-v1.0 — авторегрессионная языковая модель на архитектуре Transformer семейства LLaMA, разработанная HUST и BAAI. Модель дообучена на Vicuna с использованием набора JudgeLM-100K и содержит 6,6 млрд параметров; максимальный контекст составляет 2048 токенов. Модель предназначена для исследовательской оценки ответов больших языковых моделей и чат-ботов: она выносит суждения о качестве ответов и может использоваться в экспериментах по сравнению моделей. Карточка описывает проверку на валидационном наборе JudgeLM с суждениями GPT-4 в роли учителя. Указана лицензия для некоммерческого использования.
kimi-k3-eagle3.1-mla — вспомогательная модель чернового предсказания EAGLE-3.1 от lightseekorg для ускорения генерации Kimi-K3 методом speculative decoding. Это дообученный чекпойнт архитектуры Eagle3DeepseekV2ForCausalLM размером 1,8 млрд параметров с Multi-Latent Attention; он предсказывает токены-кандидаты, которые основная модель проверяет, и сам по себе не предназначен для обычного диалога. В README описано обучение TorchSpec с Anchored EAGLE-3 и нормализацией скрытых состояний; MLA уменьшает нагрузку на KV-кэш и согласуется с архитектурой целевой модели. Модель рассчитана на ускорение обслуживания запросов Kimi-K3, включая диалоговые, математические, программные и длинноконтекстные сценарии. Для указанной конфигурации в README приведены результаты принятия токенов и пропускной способности на конкретном оборудовании; выигрыш зависит от нагрузки, настроек декодирования, точности целевой модели и корректной конфигурации захвата вспомогательных состояний. Совместимое обслуживание описано для TokenSpeed и vLLM от версии 0.20.0, требуется NVIDIA GPU с CUDA 12.0 или новее. Лицензия в метаданных обозначена как other; конкретные условия следует сверять с карточкой репозитория.
Это независимая неофициальная конверсия KittenML/kitten-asr-tiny в формат ONNX, подготовленная для движка распознавания речи itamaker/kitten-asr-go. Модель принимает аудио и выполняет автоматическое распознавание речи с выдачей текста; в комплект входят аудиокодировщик для входа длительностью до 30 секунд и авторегрессионный текстовый декодер с KV-кэшем. Таблица эмбеддингов поставляется отдельно в формате float32. Конверсия предназначена для запуска в приложениях на Go через CLI, HTTP-сервер или библиотеку itamaker/kitten-asr-go. README не сообщает поддерживаемые языки или лицензию исходной модели; метаданные указывают лицензию «other».
KoBERT — корейская модель семейства BERT, опубликованная monologg. Она предназначена для извлечения признаков из текста и может служить основой для задач обработки корейского языка. Архитектура — плотная BertModel размером 119,4 млн параметров; максимальная длина контекста составляет 512 токенов. Репозиторий содержит веса PyTorch, Flax и safetensors. Для загрузки токенизатора через AutoTokenizer в Transformers требуется параметр trust_remote_code=True. Модель распространяется по лицензии Apache-2.0. Карточка содержит краткий пример импорта, но не приводит результаты оценки качества или подробностей обучения.