II.10Разработка и эксплуатация AI/ML-систем

LLM-LAT/robust-llama3-8b-instruct — диалоговая языковая модель на базе Llama 3, опубликованная организацией LLM-LAT. Модель предназначена для генерации ответов в формате чата и обучена с применением Latent Adversarial Training для повышения устойчивости к jailbreak-запросам. Это плотная авторегрессионная модель класса LlamaForCausalLM примерно на 7,5 млрд параметров, работающая с текстом и имеющая контекст до 8192 токенов. В карточке Hugging Face используется тег text-generation и приведён пример диалогового применения через Transformers. Языковая поддержка и лицензия в доступной карточке не подтверждены, поэтому их нельзя надёжно уточнить. Модель может быть полезна для диалоговых приложений и исследований устойчивости к jailbreak-атакам. Специализация на устойчивости не гарантирует защиту от всех атак или корректность ответов. Карточка не содержит надёжной информации об условиях лицензирования.

shieldgemma-2b-IMat-GGUF — GGUF-квантизированная версия модели google/shieldgemma-2b, разработанной Google. Это текстовая decoder-only языковая модель семейства Gemma 2 примерно с 2 млрд параметров, предназначенная не для общего диалога, а для модерации безопасности содержимого. Она классифицирует пользовательские запросы и ответы моделей по категориям сексуально откровенного, опасного, дискриминационного и оскорбительного контента, возвращая оценку в формате, начинающемся с «Yes» или «No». Модель работает с текстом и ориентирована на английский язык. Репозиторий legraphista содержит преобразование исходной модели в GGUF с использованием llama.cpp и imatrix-квантизации. Доступны варианты от 1- и 2-битных до 8-битных, а также BF16/FP16; это позволяет запускать модель локально с меньшими требованиями к памяти, но более агрессивное квантование может снижать качество. Для оптимальной работы требуется специальный шаблон запроса с описанием политики безопасности; результаты чувствительны к формулировке этой политики, а доступные наборы оценки могут недостаточно отражать реальные сценарии и языковые нюансы. Исходная модель распространяется с открытыми весами на условиях Gemma Terms of Use; также применяются политики запрещённого использования Google. Квантизированный репозиторий указывает лицензию gemma. Модель подходит для фильтрации входов пользователей и выходов генеративных систем, но её классификации не следует считать безошибочными, особенно в неоднозначных или контекстно-зависимых случаях.

SwinV2 Base window 8 256 — модель классификации изображений семейства Swin Transformer V2, опубликованная авторами соответствующей научной работы и доступная в библиотеке timm. Модель предварительно обучена на ImageNet-1k и содержит около 87,9 млн параметров; она рассчитана на изображения размером 256 × 256 пикселей. Модель присваивает изображению класс из набора ImageNet-1k и может использоваться как визуальный backbone для извлечения карт признаков и эмбеддингов изображений. Подходит для классификации фотографий и как компонент более крупных систем компьютерного зрения. Вычислительная сложность указана как 20,4 GMACs. Веса доступны в форматах PyTorch и safetensors. Лицензия — MIT.

TAMEV-Large-Qwen3.5-4B — модель принятия решений и маршрутизации от Tamkimd на основе Qwen3.5-4B. Она оценивает переданный список вариантов и возвращает распределение вероятностей, помогая выбрать один из вариантов, определить ответ «да/нет» или выставить порядковую оценку. Подходит для маршрутизации запросов и агентов, допуска вызова инструментов, первичной сортировки обращений, проверки политик и задач множественного выбора. Поддерживает английский язык; README описывает архитектуру in-context causal с обученной pointer head, которая оценивает предложенные варианты за один проход. Базовая модель Qwen3.5-4B загружается отдельно; для корректной работы требуется объединить с ней LoRA-адаптер jaredpalmer/kev-4b. Репозиторий распространяется по лицензии Apache-2.0. В README приведены результаты на наборе из 838 примеров: точность top-1 70,64%, top-3 97,49%, ECE 0,1190 и медианная задержка 513,59 мс на Apple Silicon Metal MPS. Это незавершённая версия, а измерения не прошли аудит на пересечение обучающих и тестовых данных. Вероятности зависят от порядка и формулировок вариантов, а калибровка зависит от набора данных. Модель предназначена как компонент принятия решений в системе и не подходит для генерации текста, ответов на фактические вопросы или самостоятельного контроля безопасности.

timm/tf_efficientnet_b1.ns_jft_in1k — сверточная модель семейства EfficientNet-B1 для классификации изображений и извлечения визуальных признаков. Исходную модель обучили авторы статьи на ImageNet-1k и неразмеченных данных JFT-300M методом полунадзорного обучения Noisy Student; Ross Wightman перенёс её веса в PyTorch для библиотеки timm. Модель содержит около 7,8 млн параметров, использует изображения размером 240 × 240 и требует примерно 0,7 GMAC на изображение. Модель подходит для определения классов объектов на изображениях, построения карт признаков и получения визуальных эмбеддингов. Её можно использовать как компактную визуальную основу в системах компьютерного зрения. Карточка указывает лицензию Apache-2.0. В метаданных репозитория указаны форматы PyTorch и safetensors.

timm/tf_efficientnet_b4.ap_in1k — сверточная модель EfficientNet-B4 для классификации изображений и извлечения признаков. Её обучили авторы исходных работ на ImageNet-1k с применением AdvProp, то есть обучения с состязательными примерами; в PyTorch модель перенёс Росс Вайтман. Веса доступны в форматах PyTorch и safetensors, библиотека для работы с моделью — timm. Модель содержит около 19,3 млн параметров, требует изображения размером 380 × 380 пикселей и может использоваться как классификатор или как основа для извлечения карт признаков и эмбеддингов изображений. Она предназначена для распознавания объектов из общего набора классов ImageNet-1k, а не для отдельной прикладной области. Лицензия — Apache-2.0.

tf_efficientnet_b5.in1k — свёрточная модель классификации изображений семейства EfficientNet, обученная авторами статьи на ImageNet-1k в TensorFlow и перенесённая в PyTorch Россом Уайтманом. Модель содержит около 30,4 млн параметров и рассчитана на изображения размером 456 × 456 пикселей. Она предназначена для отнесения изображений к классам ImageNet-1k и может использоваться как визуальный backbone для извлечения карт признаков и эмбеддингов изображений. Модель доступна через библиотеку timm; веса представлены в форматах PyTorch и Safetensors. Модель распространяется по лицензии Apache-2.0. Её классификация ориентирована на классы ImageNet-1k, поэтому для специализированных классов или иных предметных областей может потребоваться адаптация.

tf_efficientnet_b5.ra_in1k — модель классификации изображений из семейства EfficientNet, обученная авторами статьи на ImageNet-1k с аугментацией RandAugment и портированная в PyTorch Россом Уайтменом. Репозиторий распространяет модель через библиотеку timm; доступны веса PyTorch и Safetensors, лицензия Apache-2.0. Модель предназначена для классификации изображений, а также может использоваться как визуальный backbone для извлечения карт признаков и эмбеддингов. Она содержит около 30,4 млн параметров и рассчитана на изображения размером 456 × 456 пикселей. Карточка не приводит отдельные сведения о точности или перечне классов.

tf_efficientnet_lite4.in1k — сверточная модель EfficientNet-Lite для классификации изображений. Её обучили авторы оригинальной работы на ImageNet-1k в TensorFlow, а Ross Wightman перенёс веса в PyTorch; модель распространяется через timm. Модель предназначена для присвоения изображениям меток из ImageNet-1k и может использоваться как базовая сеть для извлечения признаковых карт и эмбеддингов изображений. Она содержит около 13 млн параметров, требует изображения размером 380 × 380 пикселей и рассчитана на обработку визуальных данных. Веса доступны в форматах PyTorch и safetensors. Лицензия репозитория — Apache-2.0. Карточка не приводит показателей точности и не описывает специальные ограничения модели.

EfficientNetV2-M — модель классификации изображений семейства EfficientNetV2. Её исходные веса обучены авторами статьи на ImageNet-21k и дообучены на ImageNet-1k в TensorFlow; Ross Wightman перенёс модель в PyTorch для библиотеки timm. В репозитории доступны веса PyTorch и Safetensors под лицензией Apache-2.0. Модель предназначена для классификации изображений и может использоваться как backbone для извлечения признаков, карт признаков и эмбеддингов изображений. Она содержит около 54,1 млн параметров; размер входа при обучении составлял 384×384 пикселя, при тестировании — 480×480. Её можно применять для категоризации изображений и как основу для задач компьютерного зрения с собственными головами или последующей обработкой признаков.

tf_efficientnetv2_xl.in21k_ft_in1k — модель классификации изображений на архитектуре EfficientNetV2, созданная авторами соответствующей научной работы и перенесённая в PyTorch Россом Уайтманом. Модель предварительно обучена на ImageNet-21k, затем дообучена на ImageNet-1k; её также можно использовать как основу для извлечения признаковых карт и эмбеддингов изображений. Модель содержит около 208,1 млн параметров. Размер изображения при обучении составлял 384 × 384 пикселя, при тестировании — 512 × 512 пикселей. Репозиторий использует библиотеку timm и содержит веса в форматах PyTorch и Safetensors. Модель предназначена для распознавания объектов и категорий на изображениях, а также получения визуальных признаков для последующих задач. Она обучена на датасетах ImageNet и может быть ограничена их набором классов и распределением данных. Лицензия репозитория — Apache-2.0.

tinynet_d.in1k — компактная модель классификации изображений из семейства TinyNet, обученная авторами статьи на ImageNet-1k. Она также предназначена для извлечения карт признаков и получения эмбеддингов изображений. Модель содержит 2,3 млн параметров, требует изображения размером 152 × 152 пикселя и имеет вычислительную сложность около 0,1 GMAC. Модель подходит для классификации изображений и как лёгкая визуальная основа в системах компьютерного зрения с ограниченным бюджетом вычислений. Репозиторий предоставляет веса в форматах PyTorch и SafeTensors, а для работы указана библиотека timm. Лицензия Apache-2.0.

TitaNet-Large-GGUF — преобразованная в формат GGUF версия модели nvidia/speakerverification_en_titanet_large для инференса на C/C++ через CrispASR. Это аудиомодель на основе depthwise separable Conv1D encoder и ASP decoder; она содержит 23 млн параметров и формирует L2-нормализованные векторы голоса размерности 192. Модель предназначена для извлечения голосовых эмбеддингов, регистрации образцов голоса и идентификации говорящих, в том числе во время транскрибации. Проверка показывает почти полное совпадение эмбеддингов с эталонной реализацией NeMo при подаче готовых mel-признаков; сквозное совпадение ниже из-за различий точности вычисления STFT в mel-фронтенде. Репозиторий содержит конверсию и/или квантизацию весов в GGUF без дообучения и изменения архитектуры или возможностей исходной модели. Лицензия — CC-BY-4.0; применяются условия лицензии исходной модели NVIDIA.

USP (User Simulator with Implicit Profiles) — модель-симулятор пользователей, разработанная авторами проекта USP. Она генерирует реалистичные реплики в диалогах с большими языковыми моделями, воспроизводя различное поведение пользователей на основе заданных профилей. Модель построена на архитектуре LLaMA 3 8B и дообучена методами Conditional Supervised Fine-Tuning и Reinforcement Learning with Cycle Consistency. USP предназначена для создания многоходовых диалоговых сценариев и оценки поведения LLM в симулированных взаимодействиях. Это плотная авторегрессионная языковая модель с 7,5 млрд параметров; метаданные указывают контекст до 8192 токенов, тогда как README рекомендует ограничивать вход 4096 токенами во избежание ухудшения качества. Модель оптимизирована для английского языка; качество на других языках может быть нестабильным. Лицензия — MIT.

Vela-1.0-Encoder-307M — многоязычный энкодер ModernBERT от llm-semantic-router, дообученный на базе jhu-clsp/mmBERT-base. Он предназначен для использования как основа специализированных моделей маршрутизации и для задачи заполнения маскированных токенов. Модель содержит 306,9 млн параметров, принимает последовательности длиной до 32 768 токенов и распространяется в формате Safetensors. В карточке приведено сравнение masked-token negative log-likelihood с исходным mmBERT32K Base на многоязычном наборе разработки: Vela показала более низкие значения на длинах контекста 512, 8K и 16K. Набор охватывает английский, китайский, немецкий, французский, японский и арабский языки; он использовался для выбора чекпойнта и не является независимым тестом. Лицензия — MIT.

Vicuna-68M — компактная языковая модель семейства LLaMA, разработанная как черновая модель для метода ускоренной генерации Small Speculative Model в статье MCSD. По README, модель дообучена на данных ShareGPT по схеме Vicuna и лучше согласуется с моделями Vicuna, чем исходная LLaMA-68M, при небольшом снижении согласованности с моделями LLaMA. Метаданные указывают архитектуру LlamaForCausalLM, 43,5 млн параметров и контекст до 2048 токенов. Модель предназначена для генерации текста и использования в качестве черновой модели при спекулятивном декодировании совместно с более крупной целевой моделью. В README приведены сравнения совместимости с LLaMA-13/33B и Vicuna-13/33B. Модель принимает текст и генерирует текст; карточка ориентирована на английский язык. Модель распространяется в формате safetensors по лицензии Apache-2.0. Компактный размер ограничивает её самостоятельные возможности по сравнению с крупными моделями; качество и совместимость зависят от выбранной целевой модели и сценария спекулятивного декодирования.

VideoScore-v1.1 — модель TIGER-Lab для автоматической оценки качества видео и соответствия видео текстовому описанию. Это регрессионная мультимодальная модель на базе Mantis-8B-Idefics2, дообученная на наборе VideoFeedback с человеческими оценками по нескольким аспектам. В метаданных указана архитектура Idefics2ForSequenceClassification и формат весов safetensors. Модель принимает видео и текст и выдаёт оценки качества, пригодные для сравнения с человеческими оценками. В версии 1.1 улучшена оценка соответствия текста видео и поддержан инференс по 48 кадрам. В README сообщается о корреляции Спирмена 74,0 на тестовой части VideoFeedback и результатах на GenAI-Bench и VBench; эти показатели относятся к указанным бенчмаркам. Модель предназначена для оценки и ранжирования результатов генерации видео, но не создаёт видео. Она опубликована под лицензией MIT. Результаты оценки могут не совпадать с человеческими предпочтениями за пределами обучающих данных и проверенных бенчмарков.

google/vit-base-patch32-384 — базовая модель Vision Transformer (ViT), представленная в исследовании Dosovitskiy и соавторов. Весовые файлы были конвертированы из timm в формат PyTorch; модель опубликована под лицензией Apache 2.0. Модель принимает изображения и классифицирует их по 1 000 классам ImageNet. Она использует трансформерный энкодер: делит изображение на патчи 32×32, преобразует их в последовательность векторов и обрабатывает с позиционными эмбеддингами и токеном [CLS]. Предобучение выполнено на ImageNet-21k с разрешением 224×224, затем модель дообучена на ImageNet 2012 с разрешением 384×384. Размер модели — 113,2 млн параметров. ViT подходит для классификации изображений и как основа для извлечения признаков и обучения классификаторов на целевых размеченных данных. Классы и качество распознавания ограничены обучением на ImageNet; для других задач может потребоваться дообученная версия. Поддерживаются веса PyTorch, TensorFlow и Flax, а также формат safetensors.

vit_base_patch8_224.dino — визуальная модель семейства Vision Transformer (ViT), опубликованная разработчиками timm. Она обучена на ImageNet-1k методом самообучения DINO и предназначена для извлечения признаков из изображений; её также можно использовать как основу для классификации изображений. Модель содержит 85,8 млн параметров и обрабатывает изображения размером 224 × 224 пикселя. Модель формирует визуальные признаки и эмбеддинги, пригодные для построения классификаторов и других систем компьютерного зрения. В карточке также приведены вычислительные характеристики: 66,9 GMACs и 65,7 млн активаций. Репозиторий содержит веса PyTorch и safetensors; лицензия — Apache-2.0.

gaunernst/vit_small_patch8_gap_112.cosface_ms1mv3 — модель Vision Transformer для распознавания лиц, обученная на наборе MS1MV3 и опубликованная gaunernst. Она извлекает из изображения лица вектор признаков размерности 512; выход модели не нормализован, поэтому для получения нормализованных эмбеддингов README рекомендует применить нормализацию L2. Модель запускается через библиотеку timm и принимает изображения размером 112 × 112 пикселей. Модель подходит для извлечения признаков лица и построения систем сравнения или поиска лиц по эмбеддингам. Веса доступны в формате safetensors. В карточке не указаны лицензия и сведения о точности или ограничениях на конкретных типах изображений; набор MS1MV3 предназначен для обучения распознаванию лиц.

Это модель Vision Transformer для классификации изображений из семейства timm, обученная разработчиками timm на ImageNet-1k. Вариант wee использует патчи 16×16, один register-токен и глобальное усреднение признаков; в модели около 13,4 млн параметров, она рассчитана на изображения 256×256 пикселей. Модель предсказывает классы изображений и может использоваться как энкодер признаков для извлечения карт признаков и эмбеддингов. Она подходит для классификации изображений, а также как визуальный компонент в прикладных конвейерах компьютерного зрения. Веса доступны в форматах PyTorch и safetensors, библиотека для работы — timm. Лицензия Apache-2.0.

Wav2Vec2-Large-Robust — предобученная на аудио модель Facebook для извлечения речевых представлений. Она использует архитектуру Wav2Vec2 и содержит 402,7 млн параметров. Модель обучалась на речи с частотой дискретизации 16 кГц из нескольких доменов: аудиокнигах Libri-Light, записях Common Voice и телефонных разговорах Switchboard и Fisher. Модель рассчитана на последующую адаптацию к распознаванию речи и другим задачам анализа речи. В исходном виде у неё нет токенизатора, и она не выполняет распознавание речи напрямую: для этого нужны токенизатор и дообучение на размеченных текстовых данных. На вход следует подавать аудио с частотой 16 кГц. Репозиторий распространяется по лицензии Apache-2.0.

DrishtiSharma/wav2vec2-large-xls-r-300m-hi-CV7 — модель распознавания речи, разработанная Drishti Sharma и дообученная на базе facebook/wav2vec2-xls-r-300m на наборе Common Voice 7.0 для языка хинди. Она использует архитектуру Wav2Vec2 с CTC-выходом и содержит около 402,7 млн параметров. Модель принимает аудио и преобразует речь в текст на хинди. Модель подходит для транскрибирования записей речи и оценки систем распознавания хинди. В README указаны значения loss 0,6588 и WER 0,2987 на оценочном наборе. Модель распространяется по лицензии Apache-2.0.

WAVe-1B-Multimodal-PT — модель оценки качества синтетической речи, разработанная Yuriyvnv. Она сопоставляет аудио с транскриптом на уровне отдельных слов, чтобы выявлять ошибки произношения и синтеза, неестественную просодию, плохое качество звука и несовпадения между речью и текстом. Основной сценарий применения — отбор синтетических аудиозаписей для обучения систем распознавания речи. Модель объединяет текстовый энкодер XLM-RoBERTa, аудиоэнкодер Wav2Vec2-BERT 2.0 и модуль выравнивания на основе многоголового внимания и GLU. Она выдаёт оценку качества, сходство аудио и текста, оценки выравнивания по словам, матрицу внимания и эмбеддинги размерности 768. Модель обучена на португальских данных; заявлена поддержка обработки аудио длительностью примерно до 30 секунд. Для входа требуется монофоническое аудио с частотой дискретизации 16 кГц и соответствующий текст транскрипта. Ограничения: модель обучена на португальском и может плохо обобщать на другие языки; обработка ограничена длиной последовательности энкодеров, а инференс требует существенных вычислительных ресурсов. Лицензия — Apache-2.0.

WebJudge-7B — мультимодальная модель оценки действий веб-агентов, разработанная OSU NLP и дообученная на Qwen2.5-VL-7B-Instruct. Она анализирует скриншоты и текстовые данные о ходе взаимодействия с веб-сайтом, чтобы оценить траекторию агента и сохранить важные промежуточные визуальные наблюдения без избыточной нагрузки на контекст. Модель предназначена для оценки качества выполнения веб-задач и может использоваться как reward model в отборе примеров для дообучения, рефлексии и обучения с подкреплением. Модель построена на архитектуре Qwen2.5-VL, содержит 7,1 млрд параметров, поддерживает изображения и текст, а её контекст составляет до 128 000 токенов. В карточке заявлены результаты на наборах Online-Mind2Web и AgentRewardBench, включая высокое согласие с оценками людей и перенос на несколько тестов вне обучающего распределения. Использование — по лицензии Apache-2.0.

Whisper Kannada Small — дообученная версия модели Whisper-small от OpenAI, созданная участником проекта Whisper fine-tuning sprint для распознавания речи на каннада. Модель принимает аудио и генерирует текстовую расшифровку; её можно применять для транскрибирования записей и оценки систем ASR на корпусах каннада. Модель основана на архитектуре Whisper и содержит около 153,1 млн параметров. Для дообучения использованы корпуса IISc-MILE Kannada ASR, ULCA ASR, Shrutilipi ASR и обучающая и валидационная выборки Google Fleurs. Карточка указывает Apache 2.0 в качестве лицензии. Оценка проводилась на тестовой выборке Google Fleurs, тесте IISc-MILE и OpenSLR.

Модель sanchit-gandhi/whisper-small-ft-common-language-id — дообученная Sanchit Gandhi версия Whisper Small от OpenAI для классификации аудио по языку речи. Она основана на архитектуре Whisper и обучена на датасете Common Language; в метаданных указано 153,1 млн параметров. На оценочной выборке модель достигла точности 0,8860 при значении loss 0,6409. Подходит для определения языка в аудиозаписях, например перед выбором подходящей системы распознавания речи. Распространяется по лицензии Apache-2.0.

xLAM-7b-fc-r — языковая модель семейства xLAM от Salesforce, предназначенная для вызова функций и использования инструментов в агентных приложениях. Это плотная авторегрессионная архитектура Llama с 6,5 млрд параметров по метаданным; карточка относит её к серии, дообученной на моделях DeepSeek-Coder, а датасет обучения указан как Salesforce/xlam-function-calling-60k. Модель принимает текстовые запросы и описания доступных API и генерирует структурированные ответы для вызова функций. Модель подходит для автоматизации рабочих процессов и взаимодействия с цифровыми сервисами: например, агент может запросить погоду, управлять публикациями в соцсетях или обращаться к финансовым сервисам. README сообщает о результате 88,24% на Berkeley Function-Calling Leaderboard на дату оценки 18 июля 2024 года. Метаданные указывают контекст 4096 токенов и поддержку английского языка. Для запуска предусмотрены Transformers и vLLM; веса опубликованы в формате safetensors. Лицензия CC-BY-NC-4.0 ограничивает коммерческое использование. Результат на бенчмарке относится к указанной конфигурации оценки, а фактическое качество зависит от формата API и сценария применения.

AI Detect Model — англоязычный классификатор от wangkevin02 на архитектуре Longformer, дообученной на наборе LMSYS-USP. Он относит текст к одному из двух классов: сгенерированный ИИ (метка 1) или написанный человеком (метка 0). В диалоговом контексте ответы ассистента размечались как сгенерированные ИИ, а сообщения пользователей — как написанные человеком. Модель предназначена для классификации текста и может использоваться для оценки происхождения реплик в диалогах, в том числе как сигнал вознаграждения для предотвращения reward hacking при обучении RLCC. Это Longformer с 151,8 млн параметров и контекстом до 4098 токенов; модель распространяется в формате safetensors и использует библиотеку Transformers. Лицензия — MIT. Модель оптимизирована для английского языка. Результаты на других языках могут быть нестабильными, а качество классификации может снижаться для входов длиннее 4096 токенов.

Aurora-Spec-Minimax-M2.5 — компактная черновая модель архитектуры EAGLE3 от Together Computer для ускорения генерации с помощью спекулятивного декодирования. Она обучена с нуля в рамках онлайн-обучения Aurora и предназначена для совместной работы с целевой моделью MiniMaxAI/MiniMax-M2.5: черновая модель предлагает токены, а целевая модель проверяет их параллельно. В README указаны 715,3 млн параметров, однослойный Transformer-декодер и контекст 196 608 токенов из метаданных; карточка отмечает английский язык. Модель рассчитана на универсальные текстовые запросы к целевой модели и может ускорять генерацию; для рекомендуемой конфигурации с lookahead 4 заявлена средняя длина принятой последовательности 2,62 токена. Модель используют как черновую часть EAGLE3-конвейера, например в SGLang с MiniMax M2.5. Она оптимизирована именно под эту целевую модель, требует совместимого движка спекулятивного декодирования, а скорость зависит от размера пакета и конфигурации; с другими целевыми моделями производительность может отличаться. Лицензия — Apache-2.0.