II.10Разработка и эксплуатация AI/ML-систем

OneBrain Rerank v1 — мультиязычная модель переранжирования от OneBrain, созданная на основе BAAI/bge-reranker-v2-m3. Это cross-encoder для второго этапа поиска: модель получает пару «запрос — фрагмент текста» отобранных BM25- или векторным поиском кандидатов и вычисляет показатель релевантности. Она не предназначена для первичного поиска и не создаёт векторные эмбеддинги. Модель представляет собой оптимизированную сборку в формате ONNX с динамической int8-квантизацией, рассчитанную прежде всего на локальный инференс на CPU, включая устройства уровня Raspberry Pi. Размер файла модели составляет около 569 МБ против 2,27 ГБ у fp32-экспорта. На выходе формируется необработанный logit для каждой пары; после применения sigmoid получается оценка релевантности от 0 до 1. Максимальная длина входа — 512 токенов, поэтому более длинные фрагменты обрезаются. Поддержка Thai и English унаследована от базовой модели. Сильные стороны модели — уменьшенный размер, более низкая стоимость CPU-инференса и сохранение порядка ранжирования относительно fp32-версии; на приведённых проверочных парах максимальное изменение sigmoid-оценки составило 0,0046. При этом v1 не дообучалась под конкретный домен, а её оценка проводилась только на внутреннем наборе OneBrain, поэтому публичные показатели MTEB, BEIR или MIRACL отсутствуют. Модель предназначена для переранжирования небольшого числа кандидатов и не является заменой полноценному поисковому или embedding-компоненту. Распространяется по лицензии Apache-2.0.

Ornith-1.5-35B-A3B uncensored (NVFP4) — доработанная и квантованная версия модели Ornith-1.5-35B-A3B от команды Ornith, подготовленная Robert Ressl. Модель основана на архитектуре Mixture-of-Experts: общий размер составляет 35B параметров, около 3B параметров активны при обработке токена. Это текстовая генеративная модель на английском языке, предназначенная для генерации текста, рассуждений, вызова инструментов, исследований безопасности, red-teaming и penetration testing. В README также указано, что мультимодальная оболочка и vision tower сохранены, однако подробные сведения о поддерживаемых визуальных сценариях не приведены. Модель использует abliteration в один проход и формат NVFP4 только для экспертных тензоров; attention, shared expert, router и embeddings остаются в BF16. Размер экспортированной модели составляет около 23 ГБ вместо 71,9 ГБ у BF16-версии, заявленная длина контекста — 262 144 токена. Для запуска рекомендованы SGLang и NVIDIA GPU с поддержкой Blackwell; на одной NVIDIA RTX PRO 6000 Blackwell 96 GB измерена скорость 213 токенов в секунду при коротких запросах. К сильным сторонам относятся существенно сниженная частота жёстких отказов, сохранение инструментального вызова и близкое к базовой модели качество на GPQA-Diamond: 58,6% против 61,1%. Ограничения включают остаточные отказы, возможное влияние квантования на поведение и отсутствие MTP speculative decoding, поскольку тензоры mtp.* были удалены из экспортированного контрольного пункта. Модель по умолчанию ориентирована на рассуждения; для коротких прямых ответов рекомендуется отключать режим thinking. Лицензия — MIT, унаследованная от базовой модели Ornith.

OpenVINO/Phi-3-mini-FastDraft-50M-int8-ov — компактная черновая модель Intel Labs на архитектуре Phi-3, предназначенная для ускорения генерации Phi-3-mini-4k-instruct с помощью спекулятивного декодирования. FastDraft разработана для предварительного обучения и согласования черновых моделей с целевой LLM; эта версия обучена сопровождать Phi-3-mini-4k-instruct и представлена в формате OpenVINO IR. Модель содержит 35,7 млн параметров и принимает текстовый контекст длиной до 4096 токенов. Веса сжаты до INT8 методом асимметричной компрессии NNCF. Репозиторий рассчитан на OpenVINO 2024.5 и новее, а также Optimum Intel 1.20.0 и новее; для спекулятивного декодирования используется OpenVINO GenAI. Лицензия — Intel Research Use License Agreement.

Plano-Orchestrator — семейство моделей маршрутизации и оркестрации, разработанное Katanemo. Эта версия представляет собой плотную языковую модель Qwen3ForCausalLM с 3,7 млрд параметров, дообученную на основе Qwen/Qwen3-4B-Instruct-2507 и сохранённую в формате safetensors. Она принимает текстовые запросы и историю диалога, анализирует намерения и контекст, чтобы определить, каким агентам или LLM передать запрос и в какой последовательности. Модель предназначена для систем с несколькими агентами и сценариев с маршрутизацией в реальном времени. Она обрабатывает несколько намерений в одном сообщении, учитывает уточнения и продолжения диалога, разрешает контекстные ссылки и распознаёт случаи, когда специализированный агент не нужен. В карточке описаны оценки на наборах общих, связанных с программированием и длинных диалогов; заявлена пригодность для низколатентных производственных систем. Метаданные указывают поддержку чата и контекст до 262 144 токенов. Лицензия обозначена как other, поэтому конкретные условия использования следует проверять в карточке репозитория. Описание не приводит подробностей схемы выходных данных и количественных результатов бенчмарка; совместимость решений маршрутизации с конкретной системой агентов нужно оценивать отдельно.

Prompt Safety Classifier — небольшая генеративная модель-классификатор для фильтрации входящих запросов к LLM. Разработчик дообучил Llama 3.2 1B Instruct с помощью QLoRA; модель принимает текст запроса и выдаёт одну из трёх меток: benign, harmful или jailbreak. В метаданных указаны 1,2 млрд параметров, контекст до 131 072 токенов, архитектура Llama и поддержка чата. Модель предназначена для исследований и прототипирования защитных фильтров: предварительной проверки запросов, блокировки очевидных попыток обхода ограничений и направления подозрительных запросов на проверку. В описанной оценке на тестовой выборке из 900 примеров она правильно классифицировала 893 примера; результаты получены на небольшом наборе и не гарантируют устойчивость к новым или специально сконструированным атакам. Модель работает только с английским языком и классифицирует входящие запросы, а не ответы LLM. Для применения требуется базовая модель; лицензия — Apache-2.0.

Q-ReAlign-Lite-4B — мультимодальная модель для оценки воспринимаемого качества и эстетической привлекательности изображений и видео. Её разработчики дообучили Qwen3.5-VL методом полного SFT; архитектура Qwen3_5ForConditionalGeneration объединяет языковую часть с линейным и полным вниманием и визуальный энкодер типа SigLIP. В модели около 4 млрд параметров согласно размеру в названии; обучение проводилось в bf16. Модель оценивает изображение или видео по шкале из пяти словесных уровней — от excellent до bad — и сводит вероятности этих уровней к числу от 0 до 1, где большее значение означает более высокое качество. Она предназначена для оценки качества изображений, эстетики и видео, отбора и ранжирования медиа, а также формирования сигналов вознаграждения для генеративных конвейеров. Для видео README предлагает передавать последовательность выбранных кадров. В описанных авторами испытаниях на семи наборах данных Lite показала средний SRCC 0,889 против 0,869 у Q-Align. Оценки зависят от распределения оценок обучающих данных и лучше подходят для относительного сравнения; перед объединением с другими шкалами их следует калибровать. Модель не предназначена для модерации безопасности, проверки фактов и личности, медицинской или судебной оценки. Лицензия — Apache-2.0.

Q-ReAlign-Pro-9B — мультимодальная модель оценки визуального качества и эстетики, разработанная командой Q-Future на основе Qwen3.5-VL. Это дообученная модель с архитектурой Qwen3_5ForConditionalGeneration: текстовая часть сочетает линейное и полное внимание, а визуальная использует энкодер в стиле SigLIP. Версия Pro содержит 9 млрд параметров; модель принимает изображения и текстовые инструкции, а для оценки видео — последовательность выбранных кадров. Модель предназначена для безэталонной оценки качества изображений и видео, эстетической оценки изображений, ранжирования и фильтрации визуального контента, а также формирования оценочных сигналов для генеративных систем. Она выбирает один из уровней excellent, good, fair, poor, bad, а затем сводит распределение вероятностей по ним к числу от 0 до 1. В заявленных тестах на семи наборах данных Pro показала средний SRCC 0,896. Оценки отражают восприятие качества и зависят от распределения оценок в обучающих данных; абсолютные значения лучше интерпретировать относительно друг друга и калибровать перед объединением с другими шкалами. Модель не предназначена для модерации безопасности, проверки фактов или личности, медицинской и судебной экспертизы. Лицензия — Apache-2.0.

QRM-Gemma-2-27B — модель Nicolai Dorka для оценки ответов в сценариях RLHF. Она строит распределение награды, объединяя распределения оценок по отдельным атрибутам, включая полезность и безвредность. Модель использует Skywork/Skywork-Reward-Gemma-2-27B-v0.2 в качестве основы и обучена предсказывать 19 квантилей для пяти целей из набора HelpSteer2; для обучения gating-сети использовался Skywork/Skywork-Reward-Preference-80K-v0.2. Это плотная архитектура Gemma 2 с 27,6 млрд параметров и контекстом 8192 токена. Основной сценарий — оценивание и ранжирование ответов по качеству для разработки и анализа систем RLHF. В репозитории представлены веса в формате safetensors. Лицензия указана как llama3.

bbanany разработал дообученную модель на базе Qwen2.5-3B-Instruct для классификации фрагментов-кандидатов в ответах корейской RAG-системы: модель определяет, содержит ли фрагмент персональные данные (PII) или не содержит их (NOT_PII). Это плотная авторегрессионная модель семейства Qwen2 с 3,1 млрд параметров и контекстом до 32 768 токенов; основное назначение — проверка и фильтрация ответов перед выдачей пользователю. Модель обучена методом QLoRA с 4-битной NF4-квантизацией, после чего адаптер объединён с базовой моделью и сохранён в FP16 Safetensors. Репозиторий также содержит LoRA-адаптер. Корейский язык указан как целевой; для загрузки объединённых весов не требуются PEFT или bitsandbytes, поддерживаются CUDA и Apple Silicon MPS. Классификатор выдаёт только два класса. Данные обучения преимущественно синтетические и ориентированы на рабочие контексты, поэтому поведение на реальных документах, новых тегах и языковых вариантах нужно отдельно проверять. Модель не предназначена для юридического установления факта обработки персональных данных. Лицензия указана как other, конкретные условия в доступных сведениях не раскрыты.

Qwen2.5-72B — базовая языковая модель семейства Qwen2.5, разработанного командой Qwen. Это предварительно обученная плотная авторегрессионная модель на 71,5 млрд параметров с архитектурой Qwen2 и классом Qwen2ForCausalLM. В архитектуре используются RoPE, SwiGLU, RMSNorm и смещение в проекциях QKV внимания; модель содержит 80 слоёв и поддерживает контекст до 131 072 токенов. Модель предназначена для продолжения текста и как основа для последующего дообучения, например SFT или RLHF. Семейство Qwen2.5 поддерживает более 29 языков, включая русский, и улучшено для задач программирования, математики, следования инструкциям, работы с таблицами и создания структурированных ответов. Однако эта версия — базовая, а не настроенная для диалога, поэтому её не рекомендуют напрямую использовать для разговорных сценариев. Репозиторий распространяется под лицензией с обозначением `other`; конкретные условия следует сверить с лицензией модели на Hugging Face.

NVIDIA Qwen3-235B-A22B-Thinking-2507-Eagle3 — вспомогательная модель Eagle3, разработанная NVIDIA на основе Qwen3-235B-A22B-Thinking-2507 от Alibaba. Она обучена на синтетических данных, полученных с помощью базовой модели, и предназначена для спекулятивного декодирования: предлагает несколько следующих токенов, которые затем проверяет исходная модель, ускоряя генерацию без замены основной модели. Архитектура указана как LlamaForCausalLMEagle3; веса опубликованы в формате safetensors. По метаданным модель содержит 840,4 млн параметров, контекст — до 262 144 токенов. Модель рассчитана на текстовую генерацию в системах TensorRT-LLM, включая чат-боты, агентные системы, RAG-приложения и выполнение инструкций. README сообщает о поддержке NVIDIA Blackwell и Linux и о готовности к коммерческому и некоммерческому использованию; для неё указан тип лицензии other, а в README приведена ссылка на Apache License 2.0. Перед использованием следует проверить условия лицензии и совместимость с целевой средой.

alhparsa/qwen35-9b-dflash — вспомогательная модель DFlash для ускорения генерации текста при спекулятивном декодировании. Она использует лёгкую блочную диффузионную архитектуру, чтобы параллельно предлагать несколько токенов для проверки основной авторегрессионной моделью; её нужно использовать вместе с Qwen/Qwen3.5-9B. В README заявлено ускорение до 4,4 раза относительно обычного авторегрессионного декодирования в описанных тестах на NVIDIA B200 с vLLM или SGLang. В метаданных указаны семейство Qwen3, архитектура DFlashDraftModel, 2 млрд параметров, контекст 262 144 токена, формат safetensors и библиотека Transformers. Модель предназначена для повышения пропускной способности при генерации, включая длинные контексты и агентные сценарии; сама по себе она не заменяет основную языковую модель. Лицензия — MIT. Результаты скорости зависят от оборудования, настроек и нагрузки.

Qwen3.5-9B-DFlash — черновая модель для спекулятивного декодирования, совместно переобученная Z-Lab и Modal на базе Qwen/Qwen3.5-9B. Это не самостоятельная языковая модель: её подключают к целевой модели в сервере инференса с поддержкой DFlash, например SGLang. Лёгкая блочная диффузионная модель предлагает несколько токенов параллельно, а целевая модель проверяет их; такой процесс ускоряет генерацию, сохраняя распределение выходов целевой модели. В карточке сообщается об ускорении до 5,01 раза при конкуренции 1 и до 2,58 раза при конкуренции 32 в указанных тестах, выполненных на NVIDIA B200. Модель обучалась с длиной последовательности 40 тысяч токенов и скользящим вниманием. Метаданные указывают 2,2 млрд параметров и контекстное окно 262 144 токена. Репозиторий содержит веса safetensors и лицензирован по Apache-2.0. Модель предназначена для ускорения инференса целевой Qwen3.5-9B; сама по себе она не заменяет её и требует совместимого сервера спекулятивного декодирования. Приведённые показатели относятся к описанной конфигурации и тестовым нагрузкам, поэтому фактическое ускорение зависит от оборудования, сервера и сценария использования.

Qwen3.5-9B-DFlash — черновая модель для спекулятивного декодирования, совместно переобученная Z-Lab и Modal на основе Qwen/Qwen3.5-9B. Это не самостоятельная языковая модель: её подключают к целевой модели Qwen3.5-9B в совместимом сервере вывода, например SGLang. Модель использует облегчённый блоковый диффузионный черновик, который параллельно предлагает несколько токенов, а целевая модель проверяет предложения. Такой режим повышает пропускную способность генерации, сохраняя распределение выходов целевой модели. Архитектура — DFlashDraftModel; в репозитории указаны веса safetensors и 2,2 млрд параметров. Карточка сообщает о переобучении с длиной последовательности 40 тыс. токенов и скользящим оконным вниманием; метаданные указывают нативный контекст 262 144 токена. Модель предназначена для ускорения обслуживания запросов к Qwen3.5-9B, в том числе задач рассуждений и программирования, на которых авторы проводили тесты. В опубликованных измерениях на одном NVIDIA B200 прирост скорости достигал 5,01× при параллелизме 1 и 2,58× при параллелизме 32; результаты зависят от нагрузки и конфигурации оборудования. Для работы требуется целевая модель и сервер с поддержкой DFlash; README описывает интеграцию с SGLang и отмечает, что поддержка vLLM ещё не готова к слиянию. Лицензия — Apache-2.0.

Qwen3.6-35B-A3B-DFlash — черновая модель для спекулятивного декодирования, совместно переобученная Z-Lab и Modal для целевой модели Qwen/Qwen3.6-35B-A3B. Она не предназначена для самостоятельной генерации текста: модель подключают к целевой модели через сервер инференса с поддержкой DFlash, например SGLang. Модель использует облегчённый блоковый диффузионный подход, чтобы параллельно предлагать несколько токенов; целевая модель проверяет предложения, сохраняя своё распределение выходов и потенциально повышая пропускную способность. В README описаны обучение с последовательностями до 40 тыс. токенов и скользящим окном внимания; метаданные указывают размер 798 млн параметров и контекст 262 144 токена. Бенчмарки на одной NVIDIA B200 показывают ускорение до 3,61 раза при низкой конкурентности и до 2,89 раза при высокой, но результаты относятся к указанной конфигурации и наборам задач. Репозиторий содержит веса Safetensors и использует библиотеку Transformers; для работы требуется совместимый сервер спекулятивного декодирования и базовая модель Qwen/Qwen3.6-35B-A3B. Лицензия — Apache-2.0. Модель сама по себе не является чат-моделью и не выдает готовые ответы без целевой модели.

Qwen3.8-27B-DFlash2-memra — блоковая diffusion-модель чернового предсказания для ускорения генерации с помощью speculative decoding в serving engine tiyuvta. Она создаёт блоки предполагаемых токенов для целевой модели Qwen3.8-27B, которая проверяет каждый токен; сама по себе модель не предназначена для диалога или самостоятельной генерации. В README указано, что веса побайтно совпадают с z-lab/Qwen3.8-27B-DFlash2 и распространяются по лицензии Apache-2.0; репозиторий добавляет конфигурацию обслуживания. Метаданные указывают архитектуру DFlash2DraftModel семейства Qwen3, 2,9 млрд параметров, формат safetensors и контекст 262 144 токена. Модель предназначена для ускорения обслуживания текстовой генерации, в том числе чатов и агентных сценариев, при проверке предсказанных блоков целевой моделью. README приводит измерения для RTX PRO 6000 Blackwell и настройки tiyuvta, включая выигрыш пропускной способности в отдельных режимах и повторное использование кэша между ходами диалога. Точность спекулятивного маршрута описана как побайтно совпадающая с обычной жадной генерацией; в то же время скорость и принятие черновых токенов зависят от нагрузки и конфигурации. Для работы необходимы целевая модель и совместимый serving engine; это не автономная модель-ассистент.

Это визуальный энкодер на базе Qwen3.8-Flash-Next, подготовленный как модель извлечения признаков изображений для библиотеки timm. Веса зрения перенесены в формат timm без дополнительного обучения; языковые веса и обученная голова классификации не входят в чекпойнт. Архитектура включает ViT-бэкбон шириной 1152, пространственный merger и проекцию до 2560 измерений; всего 448 млн параметров. Модель принимает RGB-изображения, поддерживает прямоугольные размеры, интерполирует абсолютные позиционные эмбеддинги и пересчитывает 2D RoPE для каждого размера. Примерный размер изображения — 768 × 768; размеры сторон должны делиться на 16, а для вариантов с merger 2×2 — на 32. На выходе доступны токены признаков и пулингованные эмбеддинги изображения. Модель предназначена для получения визуальных признаков и как основа для последующего дообучения классификатора на целевом наборе данных. Для нормализации RGB используется среднее и стандартное отклонение 0,5 по каждому каналу. Указана лицензия Qwen Community License 1.0; перед использованием следует учитывать её условия. Чекпойнт не содержит языковой модели или готовой обученной головы классификации.

Это модель извлечения признаков изображений на основе зрительной части Qwen3.5-0.8B, преобразованной в формат timm. Она предназначена для получения пространственных признаков и векторных представлений изображений, а также для подготовки основы под классификатор, который нужно дообучить на целевых данных. Модель сохраняет пространственный merger и проекцию до ширины 1024, затем применяет усредняющий пулинг и LayerNorm без аффинных параметров. Зрительная основа имеет ширину 768; используются MLP с GELU-tanh, обучаемые абсолютные позиционные эмбеддинги и осевой 2D RoPE. Заявленный размер изображения — 768 × 768. Поддерживаются прямоугольные изображения; размеры сторон должны делиться на 16, а для вариантов с merger 2×2 — на 32. Для изображений временные веса Conv3d сводятся к Conv2d. Чекпойнт содержит около 100 млн параметров и веса зрительной части, но не содержит языковую модель и обученную классификационную голову. Для классификации новую линейную голову необходимо обучить на целевом наборе данных. Веса опубликованы в формате safetensors; лицензия — Apache 2.0.

ResNet50.tv2_in1k — сверточная модель классификации изображений из библиотеки timm, обученная на ImageNet-1k с рецептами обучения torchvision v2. Архитектура ResNet-B использует активации ReLU, начальную свёртку 7×7 с пулингом и проекции 1×1 в shortcut-соединениях. Модель содержит около 25,6 млн параметров и требует 2,6 GMACs; для обучения использовался размер изображения 176×176, для оценки — 224×224. Модель предназначена для классификации изображений по классам ImageNet-1k, а также может использоваться как backbone для извлечения карт признаков и визуальных эмбеддингов. Доступны веса в форматах PyTorch и safetensors. Лицензия — BSD 3-Clause.

ResNeXt-50 32x4d A2 In1k — модель классификации изображений и извлечения признаков из семейства ResNeXt, предоставленная авторами timm. Она обучена на ImageNet-1k с рецептом ResNet Strikes Back A2. Архитектура использует групповые свёртки 3×3 в bottleneck-блоках, активации ReLU, начальную свёртку 7×7 с пулингом и остаточные соединения с проекцией 1×1. Модель содержит около 25 млн параметров и предназначена для классификации изображений, извлечения карт признаков и получения эмбеддингов. Для обучения указано разрешение 224×224, для тестирования — 288×288. Модель принимает изображения и выдаёт метки классов либо признаки, в зависимости от используемого сценария. В карточке приведены результаты сравнения на ImageNet, но они не гарантируют качество на других наборах данных. Для специализированных классов может потребоваться дообучение. Распространяется по лицензии Apache-2.0.

RWKV-7 Goose 1.5B — базовая языковая модель, официальный выпуск BlinkDL в формате Transformers. Это плотная причинная языковая модель на рекуррентной архитектуре RWKV-7 без attention: размер рекуррентного состояния постоянен, а вычислительная работа на каждый новый токен не растёт с длиной последовательности; обучение можно распараллеливать. Модель содержит 1,5 млрд параметров, веса представлены в safetensors, для работы предусмотрена библиотека Transformers и собственная интеграция RWKV-7. Чекпойнт предварительно обучен на веб-текстах, коде, синтетических, инструкционных, чатовых и рассуждательных данных. Он предназначен для генерации текста, оценки, последующего обучения и дообучения; шаблон чата задаёт формат запросов, но сам по себе не означает, что модель настроена как безопасный ассистент. В карточке заявлена поддержка английского, китайского, французского, испанского, немецкого, португальского, русского, итальянского, японского, корейского, вьетнамского и арабского языков. Лицензия — Apache-2.0. К ограничениям относятся зависимость качества следования инструкциям и языкового поведения от конкретного чекпойнта, промптинга и последующего обучения, отсутствие заявленных оценок безопасности, предвзятости, токсичности и фактической точности, а также отсутствие поддержки отката рекуррентного кэша для некоторых режимов спекулятивного декодирования без сохранения состояний. Оптимизированный запуск зависит от оборудования и конфигурации; для полного TileLang-режима требуется проверка численного соответствия.

msingiai/sauti-asr — модель распознавания речи на суахили, разработанная Msingi AI в рамках конвейера Sauti ASR и дообученная на базе microsoft/paza-whisper-large-v3-turbo. Это модель семейства Whisper с архитектурой WhisperForConditionalGeneration и примерно 905,3 млн параметров; она принимает аудио и преобразует его в текст. В карточке указано, что это текущий предварительный кандидат Track A для оценки в исследованиях и продуктах. На тесте из 500 образцов кенийской речи на суахили получены WER 13,72% и CER 3,88%.

ShieldGemma 9B — модель модерации контента от Google на базе Gemma 2 с 9 млрд параметров. Это текстовая авторегрессионная языковая модель, дообученная для классификации нарушений правил безопасности в четырёх категориях: сексуально откровенный контент, опасные материалы, язык ненависти и травля. Модель принимает текстовый запрос, оформленный по заданному шаблону и содержащий проверяемый текст и описание политики безопасности. Она предназначена для фильтрации пользовательских запросов, ответов модели или обоих типов содержимого и выдаёт текстовый ответ, начинающийся с «Yes» или «No», о соответствии указанной политике. Поддерживается английский язык; веса доступны в формате safetensors для Transformers. Качество классификации чувствительно к формулировке правил, а неоднозначные и тонкие языковые случаи могут обрабатываться непредсказуемо. Доступные бенчмарки ограничены и могут не отражать реальные сценарии. Использование регулируется условиями Gemma и политиками Google по запрещённому использованию.

SR-Emb-0.6B — компактная модель для поиска навыков, инструментов и описаний плагинов в больших каталогах LLM-агентов. Разработчик дообучил её на базе Qwen/Qwen3-Embedding-0.6B; модель использует архитектуру bi-encoder и содержит около 507,6 млн параметров. На вход подаются текст запроса с инструкционным префиксом и текст навыка в формате «имя | описание | содержимое». Модель выдаёт L2-нормализованные плотные эмбеддинги, пригодные для сравнения по косинусному сходству. Её предназначение — первый этап двухэтапного поиска: отобрать небольшой набор кандидатов для последующего переранжирования или выполнения. Контекст — до 32 768 токенов; в карточке указан английский язык. По README, модель улучшает точность маршрутизации относительно базовой версии на бенчмарке SkillRouter и подходит для поиска по каталогам примерно из 80 тысяч навыков. Она не предназначена для генерации текста или составления ответов. Распространяется по лицензии Apache-2.0.

StepGuard — дообученная языковая модель на 3,7 млрд параметров, разработанная авторами проекта StepGuard и представленная как средство проверки безопасности агентов, использующих инструменты. Она основана на Qwen/Qwen3-4B-Instruct-2507 и дообучена методом полного SFT с последующим Balance-GRPO на примерах StepGuard-Data. Модель проверяет предлагаемое агентом действие до вызова инструмента и анализирует завершённые последовательности действий и наблюдений. Она выдаёт оценку «безопасно/небезопасно», обоснование и источник риска, а при аудите траектории также указывает индекс небезопасного шага. Контекст модели — до 262 144 токенов; архитектура — плотная Qwen3ForCausalLM. В метаданных указан английский язык. В опубликованной статической оценке измерялась точность классификации безопасности на наборах тестов; качество объяснений, определения источника риска и локализации шага этими метриками не оценивалось. Модель может пропускать опасные действия или блокировать безопасные, поэтому её вывод не гарантирует безопасность. Лицензия — Apache-2.0.

Tanaos разработала эту компактную модель-ограничитель на базе distilbert/distilbert-base-multilingual-cased с помощью библиотеки Artifex. Модель дообучена на синтетическом наборе данных и классифицирует текст как безопасный или небезопасный; её задача в Hugging Face — text-classification. Она рассчитана на роль первого фильтра для запросов пользователей и ответов чат-ботов и может выявлять ненормативную лексику и разжигание ненависти, насилие и самоповреждение, сексуальный контент, травлю, персональные данные, попытки prompt injection и jailbreak. В карточке указан английский язык, а мультиязычная базовая модель сама по себе не подтверждает поддержку других языков этой версии. Контекст модели составляет 512 токенов. Модель помечена как устаревшая и больше не сопровождается; разработчик рекомендует использовать tanaos/tanaos-guardrail-v2. Она не предназначена для юридической или медицинской классификации и проверки фактической точности. Лицензия — MIT.

tf_efficientnet_b7.ns_jft_in1k — свёрточная модель EfficientNet-B7 для классификации изображений и извлечения признаков. Исходную модель обучили авторы статей на ImageNet-1k и неразмеченных данных JFT-300M методом полуобучения Noisy Student; Ross Wightman перенёс веса в PyTorch. Репозиторий использует timm и содержит веса в форматах PyTorch и safetensors. Модель насчитывает 66,3 млн параметров и рассчитана на изображения размером 600 × 600 пикселей. Она предсказывает классы ImageNet-1k, а также может служить основой для извлечения карт признаков и эмбеддингов изображений. Подходит для классификации объектов на фотографиях и как визуальный backbone в прикладных системах компьютерного зрения. Лицензия — Apache-2.0. Модель ориентирована на классы ImageNet-1k; для других наборов классов может потребоваться дообучение или настройка. Высокое разрешение входа и вычислительная сложность модели могут увеличить требования к памяти и времени обработки.

tf_mobilenetv3_large_100.in1k — сверточная модель классификации изображений из семейства MobileNetV3. Её обучили авторы статьи Searching for MobileNetV3 на ImageNet-1k в TensorFlow, затем Ross Wightman перенёс веса в PyTorch; модель доступна через библиотеку timm. В ней около 5,5 млн параметров, расчётный размер изображения — 224 × 224 пикселя. Модель предназначена для классификации изображений на категории ImageNet-1k и может использоваться как визуальный backbone для извлечения карт признаков и эмбеддингов. Компактность и низкая вычислительная стоимость делают её подходящей для приложений с ограниченными ресурсами. Лицензия репозитория — Apache-2.0.

ThinkingBudgetRouter — компактный классификатор на базе DistilBERT, разработанный для выбора бюджета рассуждений до вызова языковой модели. Он относит сообщение пользователя к одному из трёх классов: немедленный ответ без рассуждений, краткое рассуждение примерно на 512 токенов или углублённое рассуждение на 8192 токена и более. Модель предназначена для маршрутизации запросов в системах с настраиваемым режимом рассуждений, включая стеки агентов и интеграции с Qwen3 и DeepSeek-R1. Модель содержит около 66 млн параметров, принимает текст и выдаёт метку класса. В README заявлена задержка около 10 мс при работе на CPU; базовый контекст составляет 512 токенов. Карточка описывает английский язык и приводит примеры задач от простых фактических вопросов до проектирования систем и математических доказательств. Распространяется по лицензии Apache-2.0. Выбор бюджета — классификационная оценка: корректность маршрутизации для конкретных запросов и совместимость параметров следует проверять в целевой системе.

Thought-Aligner-7B — модуль защиты поведения агентов, разработанный Shanghai Innovation Institute, Fudan University и WhitzardAgent. Модель дообучена на Qwen2.5-7B-Instruct и предназначена для исправления потенциально небезопасных рассуждений агента до выполнения соответствующих действий. Она анализирует мысль на текущем шаге, выявляет рискованные шаблоны и возвращает исправленный вариант в контекст агента, чтобы тот мог продолжить работу с более безопасным контекстом. Модель рассчитана на интеграцию с агентами, использующими инструменты, и на сценарии, где важно снизить риск небезопасных решений, использования инструментов или нарушения приватности без остановки выполнения. В карточке заявлены проверки на ToolEmu, Agent-SafetyBench, AgentHarm, AgentDojo и InjecAgent, а также внедрение в OpenClaw. Архитектура — плотная Qwen2 с 7,1 млрд параметров; контекст — 32 768 токенов. Указана поддержка английского языка и интерфейс диалога с вызовом инструментов. Лицензия в предоставленных данных не указана.