II.10Разработка и эксплуатация AI/ML-систем

Qwen/Qwen2-72B — базовая языковая модель из семейства Qwen2, разработанного командой Qwen. Это плотная авторегрессионная модель на архитектуре Transformer с 71,5 млрд параметров; в карточке указан формат весов safetensors. Архитектура включает активацию SwiGLU, смещение в QKV внимания и group query attention. Модель рассчитана на генерацию текста и может использоваться как основа для последующего дообучения, например SFT, RLHF или продолжения предобучения; разработчики не рекомендуют применять базовую версию для непосредственной генерации текста.

Huang2020/Qwen3-4B-Domino-b16 — черновая модель Domino/DFlash для ускорения генерации с помощью спекулятивного декодирования совместно с целевой моделью Qwen/Qwen3-4B. Она предназначена для параллельного чернового предсказания блоков токенов с лёгкой причинной корректирующей головой, повышающей долю принятых черновых токенов. Размер блока — 16 токенов; модель не предназначена для самостоятельной генерации и должна использоваться вместе с целевой моделью. В README описан запуск через SGLang или Transformers; для прямого пути spec_generate рекомендован один GPU, а для Qwen3 следует отключить режим рассуждений. Репозиторий содержит веса в формате Safetensors, библиотека — Transformers; базовая модель имеет контекстное окно 40960 токенов. Лицензия в предоставленных данных не указана.

Qwen3.5-27B-DFlash — черновая модель для спекулятивного декодирования, совместно переобученная Z-Lab и Modal на основе Qwen/Qwen3.5-27B. Это не самостоятельная языковая модель: её подключают к целевой модели в совместимом сервере инференса, например SGLang. Модель использует облегчённый блочно-диффузионный черновой декодер, который параллельно предлагает несколько токенов. Целевая модель проверяет предложения, сохраняя своё распределение выходов и потенциально увеличивая пропускную способность генерации. По метаданным модель содержит 3,3 млрд параметров, использует архитектуру DFlashDraftModel и формат safetensors; базовая модель рассчитана на контекст до 262 144 токенов. В README указано обучение с длиной последовательности 40 000 токенов и скользящим окном внимания. Предназначена для ускорения обслуживания запросов к Qwen3.5-27B, в том числе при генерации ответов, математических решений и кода. В опубликованных авторами тестах на одной NVIDIA B200 с SGLang ускорение зависело от нагрузки и размера блока и достигало 6,20 раза при параллелизме 1 и 3,01 раза при параллелизме 32. Результаты относятся к указанной конфигурации и наборам тестов; производительность в других условиях может отличаться. Лицензия — Apache-2.0.

Qwen3.5-2B DFlash — черновая модель для ускорения генерации текста целевой моделью Qwen3.5-2B. Она реализует метод спекулятивного декодирования DFlash: по скрытым состояниям нескольких промежуточных слоёв целевой модели за один проход предлагает блоки токенов, которые затем проверяются целевой моделью. При жадном декодировании проверенный результат совпадает с результатом целевой модели, а при ограничении пропускной способностью памяти такой подход может ускорить инференс. Модель разработана для применения с целевой Qwen3.5-2B и использует класс DFlashDraftModel; веса доступны в формате Safetensors, метод обучения связан с SpecForge. В тестах с SGLang при жадном декодировании средняя длина принятого блока составила 4,163 токена для блока размером 8 и 4,781 для блока размером 16; результаты приведены для набора задач, включающего GSM8K, MATH500 и AIME25. Модель содержит 749,7 млн параметров и заявленное контекстное окно 262 144 токена. Карточка указывает поддержку английского и китайского языков. Лицензия — Apache-2.0. Для работы требуется совместимая целевая модель Qwen3.5-2B и реализация спекулятивного декодирования DFlash; ускорение зависит от оборудования и сценария инференса.

Qwen3.5-4B-DFlash — черновая модель спекулятивного декодирования, совместно переобученная Z-Lab и Modal на базе Qwen/Qwen3.5-4B. Это не самостоятельная языковая модель: её подключают к целевой модели в совместимом сервере инференса, чтобы предлагать несколько токенов параллельно, а целевая модель проверяет предложения и сохраняет своё распределение выходов. Модель использует лёгкий блочный диффузионный подход и скользящее окно внимания; в README указано обучение на последовательностях длиной 40 тысяч токенов. Метаданные указывают 1,2 млрд параметров и нативный контекст 262 144 токена. Она предназначена для ускорения обслуживания запросов к Qwen3.5-4B при спекулятивном декодировании; в тестах авторов на одной NVIDIA B200 с SGLang показано ускорение до 4,60 раза при параллелизме 1 и до 2,61 раза при параллелизме 32. Для работы требуется целевая модель Qwen/Qwen3.5-4B и сервер с поддержкой DFlash; README описывает использование SGLang, а поддержку vLLM связывает с незавершённым pull request. Результаты производительности относятся к указанной конфигурации и наборам тестов и не гарантируют такого же ускорения на другом оборудовании или нагрузке. Лицензия — Apache-2.0.

Qwythos-9B-Claude-Mythos-5-1M-GGUF — это GGUF-квантизации модели Qwythos-9B-Claude-Mythos-5-1M, разработанной Empero. Модель предназначена для запуска в llama.cpp, Ollama, LM Studio, jan, KoboldCpp и других совместимых средах. Она создана на основе Qwen3.5-9B и дообучена более чем на 500 миллионах токенов трасс Claude Mythos и Claude Fable с использованием внутреннего инструмента Empero AI rethink. Модель ориентирована на рассуждения, агентские сценарии, вызов функций, анализ кибербезопасности и биомедицинских задач. Она поддерживает нативный function calling по спецификации Qwen3.5, английский язык и контекст до 1 048 576 токенов благодаря масштабированию RoPE YaRN. Это мультимодальная модель с поддержкой изображений: для обработки изображений требуется отдельный файл vision projector mmproj, унаследованный от Qwen3.5-9B. Заявлены возможности описания изображений, OCR, чтения графиков и таблиц, понимания интерфейсов и документов, а также базового пространственного анализа. Доступны варианты квантизации от Q4_K_M до Q8_0 и BF16, включая версии с MTP для спекулятивного декодирования. Q4_K_M указан как рекомендуемый компромисс между размером и качеством. Сильными сторонами являются большой контекст, рассуждения, поддержка инструментов и локального мультимодального запуска. Ограничения включают зависимость производительности и качества от выбранной квантизации, поддержки MTP конкретным рантаймом и наличия отдельного vision projector для изображений; подробные результаты оценки и полное описание возможностей находятся в карточке базовой модели. Модель распространяется по лицензии Apache-2.0.

regnetx_016.tv2_in1k — модель классификации изображений на архитектуре RegNetX, распространяемая авторами timm. Она предварительно обучена на ImageNet-1k с весами torchvision ImageNet-1K V2 и может использоваться как классификатор или как базовая сеть для извлечения карт признаков и эмбеддингов изображений. Вариант содержит около 9,2 млн параметров, требует 1,6 GMACs и рассчитан на изображения размером 224 × 224 пикселя. Реализация timm поддерживает stochastic depth, gradient checkpointing, настройку выходного шага и выбор слоёв активации и нормализации. Модель подходит для классификации объектов на изображениях и получения признаковых представлений в компьютерном зрении. Репозиторий предоставляет веса PyTorch и Safetensors. Лицензия — BSD-3-Clause.

RegNetY-800MF — модель классификации изображений из семейства RegNet, опубликованная авторами статьи и доступная в библиотеке timm. Она предварительно обучена на ImageNet-1k и предназначена для распознавания объектов на изображениях, а также для использования в качестве визуального backbone и извлечения карт признаков или эмбеддингов. Модель содержит 6,3 млн параметров, обрабатывает изображения размером 224 × 224 и требует около 0,8 GMAC на изображение. Реализация timm поддерживает стохастическую глубину, градиентное чекпойнтирование, настройку шага выхода и слоёв активации и нормализации. Эти возможности позволяют применять модель как для готовой классификации, так и как основу для других компьютерно-зрительных систем. Лицензия — MIT.

RePolicy-4B — языковая модель для проверки безопасности действий ИИ-агентов, разработанная на базе Qwen/Qwen3-4B-Instruct-2507. Она получает траекторию действий агента и названия доступных политик, выбирает подходящую политику, запрашивает её положения через вызов инструмента get_policy, а затем выдаёт обоснование и итоговую оценку безопасности траектории. Модель содержит 3,7 млрд параметров, использует плотную архитектуру Qwen3 и работает с контекстом до 262 144 токенов. Она дообучена методом SFT на PolicyTraj-20K, затем обучена с GRPO и вознаграждением за выбор политики и точность оценки безопасности. Модель предназначена для англоязычной проверки траекторий агентов по библиотеке политик; карточка сообщает результаты на шести офлайн-бенчмарках безопасности агентов. Для работы нужен двухэтапный сценарий с поддержкой вызова инструмента: после запроса политики необходимо передать модели текст её положений. Лицензия — Apache-2.0. Модель предполагает, что в библиотеке есть применимая политика, выбирает одну основную политику за раз и требует дополнительного шага вывода; качество обоснования отдельно не гарантировано проверенными вознаграждениями.

ResNet101.a3_in1k — сверточная модель классификации изображений из библиотеки timm, обученная на ImageNet-1k по рецепту ResNet Strikes Back A3. Архитектура ResNet-B использует активации ReLU, свёртку 7×7 с пулингом и свёрточные проекции 1×1 в обходных соединениях; модель содержит около 44,5 млн параметров и требует изображения размером 224×224 на этапе тестирования. Модель подходит для классификации изображений по классам ImageNet-1k, извлечения карт признаков и получения векторных представлений изображений. Её можно использовать как готовую модель компьютерного зрения или как основу для собственного конвейера обработки изображений. Обучение проводилось с оптимизатором LAMB, функцией потерь BCE и косинусным расписанием скорости обучения с разогревом. Лицензия — Apache-2.0.

ResNetV2-50x1 BiT — модель классификации изображений и визуальный backbone семейства ResNet-V2, опубликованный авторами timm. Модель дистиллирована из учителя, предварительно обученного на ImageNet-21k, на ImageNet-1k. Она использует Group Normalization и Weight Standardization вместо Batch Normalization и содержит 25,5 млн параметров. Модель рассчитана на классификацию изображений, извлечение карт признаков и получение визуальных эмбеддингов. Указанный размер входного изображения — 224 × 224 пикселя; вычислительная сложность — 4,2 GMACs. Репозиторий содержит веса PyTorch и Safetensors, библиотека для работы — timm. Лицензия — Apache-2.0.

Safiron — дообученная языковая модель для проверки планов действий LLM-агентов до их выполнения. Она анализирует план, определяет, является ли он безопасным или рискованным, относит риск к категории и формирует краткое объяснение. Для унификации разных форматов планов авторы рекомендуют использовать модель вместе с модулем Adapter. Модель основана на плотной архитектуре MistralForCausalLM с 7,5 млрд параметров и контекстом до 32 768 токенов. Обучение включало supervised fine-tuning на синтетических безопасных и рискованных траекториях, а затем оптимизацию GRPO. Указан английский язык. Модель предназначена для генерации текста и запускается через vLLM или совместимые инструменты; метаданные также отмечают интерфейс вызова функций. Safiron может помогать выявлять опасные действия на этапе планирования и объяснять классификацию, но описание не приводит численных результатов оценки или подробностей ограничений по типам риска и форматам входных данных. Лицензия — CC BY 4.0.

Shenava Koochik v1.0 — модель распознавания персидской речи из семейства Shenava-1, разработанная автором репозитория Reza2kn. Это исходный чекпойнт NeMo в формате FP32 с 114 млн параметров, основанный на NVIDIA stt_fa_fastconformer_hybrid_large и дообученный для персидского автоматического распознавания речи. Архитектура FastConformer Hybrid RNNT/CTC; в опубликованных вариантах развёртывания используется CTC-голова. Модель принимает одноканальную персидскую речь с частотой дискретизации 16 кГц и выдаёт текст на персидском языке. Поддерживаются режимы с несколькими настройками контекста; модель предназначена для оценки, дальнейшей тонкой настройки и экспорта. В опубликованных тестах указаны WER 7,49% на visualears-golden-6669 и 10,64% на FLEURS-fa при контексте [70,13] и принятой авторами нормализации текста. Качество распознавания может снижаться из-за акцента, шума, наложения речи, особенностей канала записи и переключения языков; важные по смыслу расшифровки следует проверять. Лицензия — Apache-2.0.

Silero VAD v6.2.1 MLX — порт модели Silero VAD проекта snakers4 в формат MLX для запуска на устройствах Apple Silicon. Модель содержит 309 121 параметр, использует веса Float32 без квантизации и распространяется в формате MLX safetensors. Лицензия — MIT. Модель предназначена для обнаружения речевой активности в аудио и выделения речевых сегментов, в том числе при потоковой обработке. В README приведены замеры на Apple Silicon для аудио 16 кГц: задержка составляет около 0,5 мс на фрагмент; также заявлено совпадение преобразованных весов с исходным состоянием Silero VAD v6.2.1. Это конвертированный порт, ориентированный на MLX и Apple Silicon; приведённые показатели относятся к указанной тестовой конфигурации.

Speech Truncation Detection (12M) — модель MythicInfinity для определения, заканчивается ли речевая запись резким обрывом или естественной паузой. Она предназначена для проверки качества наборов речевых данных, валидации аудио при загрузке и отбора записей перед распознаванием речи или исправлением транскриптов. Модель использует плотную архитектуру SpeechTruncationDetectionModel и обрабатывает аудио покадрово. Она выдаёт вероятность обрыва для каждого кадра, общую оценку уверенности и булево решение для записи. Число 12M в названии указывает на размер модели; веса опубликованы в формате safetensors. Лицензия — Apache-2.0. Модель рассчитана на речевые записи и не предназначена для классификации музыки, окружающих звуков или общих акустических событий. Для загрузки через Transformers README показывает вариант с пользовательским кодом репозитория.

TAMEV-Small-ModernBERT — небольшая модель принятия решений и маршрутизации от Tamkimd, дообученная на базе Alibaba-NLP/gte-modernbert-base. Это энкодер, который оценивает переданные пользователем варианты и возвращает распределение вероятностей: выбор одного из нескольких вариантов, ответ «да/нет» или порядковую оценку. Модель не генерирует текст; состояние и каждый вариант кодируются отдельно, что обеспечивает инвариантность оценок к перестановке вариантов. Для каждого варианта используется отдельное окно до 64 токенов. Модель предназначена для маршрутизации запросов к инструментам и агентам, классификации намерений, первичной проверки безопасности и оценивания вариантов или критериев. В README заявлены точность top-1 84,07% и ECE 0,0378 на сбалансированном тестовом наборе из 19 999 примеров; производительность измерялась на одном CPU-потоке. Эти показатели относятся к данным и настройкам оценки автора и не гарантируют качество на других распределениях. Модель не подходит для генерации текста, ответов на фактические вопросы или использования как единственного непроверенного средства контроля безопасности. Лицензия — Apache-2.0.

timm/tf_efficientnet_b0.ns_jft_in1k — сверточная модель классификации изображений семейства EfficientNet-B0. Исходную модель обучили авторы работ по EfficientNet и Noisy Student на ImageNet-1k и неразмеченных данных JFT-300M; Росс Уайтман перенёс веса в PyTorch для библиотеки timm. Модель содержит около 5,3 млн параметров и рассчитана на изображения размером 224 × 224 пикселя. Её можно использовать для классификации изображений по классам ImageNet-1k, извлечения карт признаков и получения векторных представлений изображений. Модель принимает изображения и выдаёт оценки классов либо признаки для последующих задач компьютерного зрения. Репозиторий содержит веса PyTorch и safetensors. Лицензия — Apache-2.0.

timm/tf_efficientnet_b3.in1k — модель классификации изображений семейства EfficientNet, обученная авторами статьи на ImageNet-1k в TensorFlow и перенесённая в PyTorch Россом Уайтманом. Вариант содержит около 12,2 млн параметров и рассчитан на изображения размером 300 × 300 пикселей. Модель предназначена для классификации изображений по категориям ImageNet-1k. Её также можно использовать как сверточную основу для извлечения карт признаков и изображенческих эмбеддингов. Репозиторий предоставляет веса в форматах PyTorch и safetensors и распространяется по лицензии Apache-2.0.

timm/tf_efficientnet_lite3.in1k — свёрточная модель семейства EfficientNet-Lite для классификации изображений и извлечения визуальных признаков. Исходную модель обучили авторы EfficientNet на ImageNet-1k в TensorFlow, затем Ross Wightman перенёс веса в PyTorch; репозиторий распространяет модель в форматах PyTorch и safetensors через библиотеку timm. Модель содержит около 8,2 млн параметров, рассчитана на изображения размером 300 × 300 пикселей и выполняет классификацию по категориям ImageNet-1k. Её также можно использовать как визуальную основу для извлечения карт признаков и эмбеддингов изображений. Лицензия — Apache-2.0.

timm/tf_efficientnetv2_b2.in1k — сверточная модель семейства EfficientNetV2 для классификации изображений и извлечения визуальных признаков. Исходную модель обучили авторы статьи на ImageNet-1k в TensorFlow, а Ross Wightman перенёс веса в PyTorch; модель распространяется через библиотеку timm. Она содержит около 10,1 млн параметров и требует изображение размером 260 × 260 пикселей при тестировании (размер обучения — 208 × 208).

tf_mobilenetv3_small_minimal_100.in1k — компактная модель классификации изображений семейства MobileNetV3. Её обучили авторы статьи «Searching for MobileNetV3» на ImageNet-1k в TensorFlow, затем Ross Wightman перенёс веса в PyTorch; модель доступна через библиотеку timm. В ней около 2 млн параметров, вычислительная сложность составляет 0,1 GMAC, а рекомендованный размер входного изображения — 224 × 224 пикселя. Модель предназначена для классификации изображений по категориям ImageNet-1k, а также может использоваться как свёрточная основа для извлечения карт признаков и эмбеддингов изображений. Компактный размер и низкая вычислительная стоимость подходят для приложений с ограниченными ресурсами. Репозиторий содержит веса PyTorch и safetensors. Лицензия — Apache-2.0.

Это веса модели timm-efficientnet-b0, предварительно обученной на ImageNet и предназначенной для использования как энкодер в библиотеке segmentation-models-pytorch. EfficientNet-B0 — компактная сверточная архитектура для классификации изображений; в этом репозитории доступны веса в формате safetensors. Модель подходит для извлечения признаков изображений и классификации, а также как компонент моделей сегментации на базе segmentation-models-pytorch. Она принимает изображения и выдаёт классовые предсказания или признаки для последующих слоёв. Лицензия указана как other, поэтому условия использования следует сверить с карточкой репозитория.

Vela-1.0-Encoder-307M-Modality — классификатор запросов на основе ModernBERT, разработанный vLLM Semantic Router. Модель определяет, нужен ли запросу текстовый ответ (AR), генерация изображения (DIFFUSION) или оба варианта (BOTH), и подходит для маршрутизации запросов к соответствующим генеративным системам. Модель содержит 306,9 млн параметров и принимает до 32 768 токенов с учётом специальных токенов. Она обучена для классификации последовательностей и поддерживает английский, китайский, испанский, французский, немецкий и японский языки. В описанной оценке на наборах разработки показала Macro F1 81,10 для коротких запросов и 82,22 для контролируемых примеров длиной 4K и 8K; авторы отмечают, что эти наборы не являются независимым тестом. Доступны веса Safetensors и ONNX; библиотека — Transformers. Лицензия Apache-2.0.

timm/vit_base_patch16_224.mae — модель извлечения признаков изображений на основе Vision Transformer (ViT), предоставленная в библиотеке timm. Она предварительно обучена на ImageNet-1k методом masked autoencoder (MAE) и подходит как визуальная основа для классификации изображений и получения их эмбеддингов. Модель содержит около 85,8 млн параметров и рассчитана на изображения размером 224 × 224 пикселя. Модель принимает изображения и выдаёт признаки для последующих задач компьютерного зрения. Репозиторий содержит веса PyTorch и safetensors. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но некоммерческое.

timm/vit_base_patch16_224.orig_in21k — базовая модель Vision Transformer, обученная авторами статьи в JAX на ImageNet-21k и перенесённая в PyTorch Россом Уайтманом. Модель насчитывает 85,8 млн параметров, использует патчи 16×16 и рассчитана на изображения размером 224×224 пикселя. Классификационная голова отсутствует. Модель предназначена прежде всего для извлечения признаков и эмбеддингов изображений, а также как основа для последующего дообучения под задачи компьютерного зрения. Лицензия — Apache-2.0. Карточка описывает ImageNet-21k как обучающий набор данных.

google/vit-base-patch16-384 — модель Vision Transformer (ViT) базового размера для классификации изображений, основанная на архитектуре трансформерного энкодера. Веса были конвертированы из timm: исходные веса ViT перенесли из JAX в PyTorch, а Hugging Face подготовила карточку модели. Модель содержит 113,2 млн параметров и доступна в форматах PyTorch, TensorFlow и Flax. Модель предварительно обучена на ImageNet-21k при разрешении 224×224, затем дообучена на ImageNet 2012 для распознавания 1000 классов при разрешении 384×384. Изображение разбивается на патчи 16×16, которые преобразуются в последовательность для обработки трансформером; представление токена CLS используется для классификации. Модель подходит для распознавания объектов из классов ImageNet и для извлечения признаков при разработке собственных классификаторов. Лицензия — Apache-2.0. Классификация ограничена набором из 1000 классов ImageNet: для других категорий потребуется дообучение или отдельная классификационная голова. Качество зависит от подходящей предобработки и масштаба изображения.

Это модель Vision Transformer (ViT), первоначально обученная авторами статьи на ImageNet-21k в JAX и перенесённая в PyTorch Россом Уайтманом. Она предназначена для извлечения признаков изображений и использования в качестве основы для последующего дообучения; классификационная голова отсутствует. Модель содержит около 87,5 млн параметров, обрабатывает изображения размером 224 × 224 пикселя и имеет архитектуру с патчами 32 × 32. Её можно применять для получения эмбеддингов изображений и построения собственных классификаторов или других задач компьютерного зрения. Доступны веса PyTorch и Safetensors, лицензия — Apache-2.0. Ограничение: для готовой классификации потребуется добавить классификационную голову и при необходимости дообучить модель.

vit_base_r50_s16_224.orig_in21k — гибридная модель компьютерного зрения ResNet–Vision Transformer из библиотеки timm. Её предварительно обучили на ImageNet-21k авторы исходной работы в JAX, а Ross Wightman перенёс веса в PyTorch. В репозитории опубликованы веса в форматах PyTorch и safetensors; лицензия — Apache-2.0. Модель содержит 97,9 млн параметров и обрабатывает изображения размером 224 × 224 пикселя. Классификационная голова отсутствует: модель предназначена для извлечения признаков и эмбеддингов изображений, а также для дообучения под конкретную задачу. Её можно использовать как визуальную основу для классификаторов и других систем компьютерного зрения. Модель принимает изображения и выдаёт векторные признаки. Карточка не описывает поддержку языковых входов или конкретные ограничения качества.

Это модель классификации изображений на базе Vision Transformer (ViT), разработанная для библиотеки timm. Вариант использует патчи 16×16, регистровый токен, глобальное усреднение признаков и дифференциальное внимание; число параметров — 22,5 млн, вычислительная сложность — 6,3 GMACs. Модель рассчитана на изображения размером 256×256 и обучена на ImageNet-1k. Модель можно применять для классификации изображений, извлечения карт признаков и получения эмбеддингов изображений. Репозиторий содержит веса в формате safetensors, библиотека для работы с моделью — timm. Лицензия — Apache-2.0. Показатели сравнения в карточке относятся к другим, более крупным моделям, поэтому их нельзя считать оценкой качества этого варианта. Для практического использования изображения следует подавать с предусмотренной для модели предобработкой.

Google ViT Huge Patch14 — визуальный трансформер-энкодер, предобученный на ImageNet-21k с учителем. Модель содержит около 839 млн параметров и принимает изображения размером 224×224 пикселя, разбивая их на патчи 14×14 для обработки трансформером. Веса в репозитории конвертированы из timm; доступны варианты для PyTorch, TensorFlow и JAX/Flax. Модель предназначена для извлечения признаковых представлений изображений и последующего обучения классификатора или другой задачи компьютерного зрения. Веса классификационной головы не настроены, но предобученное представление и pooler можно использовать в downstream-задачах. Для тонкой настройки на классификацию в исходной карточке отмечено, что более высокое разрешение 384×384 может давать лучшие результаты. Лицензия — Apache-2.0.