II.10Разработка и эксплуатация AI/ML-систем

PairRM — попарная модель оценки ответов больших языковых моделей, разработанная проектом LLM-Blender. Она принимает инструкцию и два варианта ответа, затем сравнивает их и оценивает относительное качество. Модель предназначена для ранжирования ответов, выбора лучшего из нескольких сгенерированных вариантов и использования в оценке или выравнивании моделей с помощью RLHF. PairRM основана на архитектуре DeBERTa-v3-large и содержит около 0,4 млрд параметров. Благодаря двунаправленному вниманию она сравнивает ответы напрямую, а не оценивает каждый независимо. Общая длина входа ограничена 2048 токенами: до 1224 токенов для инструкции и 412 токенов для каждого кандидата. Модель обучена на наборах данных с человеческими предпочтениями, включая WebGPT Comparisons, Anthropic HH-RLHF, Chatbot Arena Conversations и UltraFeedback. Карточка сообщает о высокой согласованности оценок с человеческими предпочтениями, но фактическое качество зависит от задачи и набора кандидатов. Модель ориентирована на английский язык. Распространяется по лицензии MIT.

PairRM — модель оценки предпочтений, разработанная в рамках проекта LLM-Blender. Она принимает инструкцию и два варианта ответа, а затем выдаёт оценку относительного качества каждого варианта. Модель предназначена для попарного сравнения и ранжирования ответов языковых моделей, в том числе для выбора лучшего результата из нескольких сгенерированных вариантов и использования в конвейерах RLHF. Модель использует архитектуру DeBERTa-v2 и содержит около 533,7 млн параметров. В README указано, что исходная PairRM основана на microsoft/deberta-v3-large; эта версия совместима с Hugging Face и форматом safetensors. Модель обучалась на шести наборах данных с человеческими предпочтениями и поддерживает английский язык. Метаданные указывают контекст 512 токенов, тогда как README описывает для PairRM предел до 2048 токенов суммарно; фактический предел зависит от используемой конфигурации и способа подачи входа. PairRM компактна для модели оценки предпочтений и сравнивает пару ответов совместно, что помогает учитывать различия между ними. Это оценщик относительного качества, а не генератор ответов; оценки могут не совпадать с предпочтениями конкретного пользователя или предметной области. Лицензия — MIT.

PangolinGuard-Base — дообученная модель-классификатор на базе ModernBERT Base, разработанная для обнаружения вредоносных запросов, в частности prompt injection и jailbreak-атак. Она предназначена для локальной и недорогой защиты AI-агентов и диалоговых интерфейсов от попыток нарушить заданное поведение или извлечь чувствительные данные. Модель построена на архитектуре ModernBERT и содержит 149 млн параметров. Она принимает текст и выполняет классификацию; заявленная длина контекста — 8192 токена. В README описана оценка на наборах NotInject, BIPIA, Wildguard-Benign и PINT, включая проверку склонности к избыточной блокировке безобидных, но неоднозначных запросов. Карточка не приводит численных метрик качества, поэтому пригодность для конкретной системы защиты следует оценивать на её собственных данных. Модель распространяется по лицензии Apache-2.0.

Карточка модели ToxicityPrompts/PolyGuard-Qwen на Hugging Face совпадает с карточкой ToxicityPrompts/PolyGuard-Qwen-Smol, поэтому описание составлено по ней. ToxicityPrompts/PolyGuard-Qwen-Smol — компактная многоязычная модель для модерации безопасности ответов LLM, разработанная авторами PolyGuard. Это плотная авторегрессионная модель семейства Qwen2 с 494 млн параметров и контекстом до 32 768 токенов; репозиторий содержит веса в формате safetensors. В карточке заявлена поддержка 17 языков: арабского, чешского, китайского, нидерландского, английского, французского, немецкого, хинди, тайского, итальянского, японского, корейского, польского, португальского, русского, испанского и шведского. Модель предназначена для оценки безопасности пользовательских запросов и ответов LLM, включая выявление вредоносного или токсичного содержания и отказов в ответе. PolyGuard обучена на PolyGuardMix из 1,91 млн примеров и представлена вместе с набором PolyGuardPrompts для оценки защитных механизмов. По описанию авторов, в проведённых оценках она превзошла другие открытые и коммерческие классификаторы безопасности в среднем на 5,5%. Метаданные указывают задачу text-generation и возможности чата; поэтому её можно применять в текстовых сценариях модерации и защитных цепочках LLM. Лицензия — CC BY 4.0. Карточка не уточняет ограничения по применению и ошибки классификации; результаты модерации следует проверять с учётом языка и контекста, особенно в критичных сценариях.

henry202/prism-performance-rm-downscaled-creativity — дообученная с помощью TRL модель на базе meta-llama/Llama-3.2-1B-Instruct. Она предназначена для оценки текста и выдачи скалярной оценки качества или предпочтительности, например для сравнения ответов и применения в контурах обучения с наградой. Модель построена на плотной архитектуре LlamaForSequenceClassification, содержит 1,2 млрд параметров, принимает текст и возвращает оценку. Контекстная длина составляет до 131 072 токенов; базовая модель поддерживает несколько языков. Модель распространяется в формате safetensors по лицензии базовой модели Llama 3.2 — Community License от Meta, условия которой следует проверить перед использованием.

Prompt Guard OSS Small — мультиязычный бинарный классификатор NeuralTrust для выявления jailbreak-попыток и прямых prompt injection в пользовательском тексте перед передачей запроса языковой модели. Он предназначен для первичной быстрой проверки в двухэтапной схеме: подозрительные запросы можно направлять более крупному детектору для уточнения. Модель основана на jhu-clsp/mmBERT-small: это энкодер ModernBERT с линейной головой классификации последовательностей, примерно 140,5 млн параметров. Она выдаёт метки benign и jailbreak; в README для токенизации рекомендовано ограничивать вход 512 токенами. Метаданные указывают нативный контекст 8192 токена, однако заявленный сценарий и приведённые результаты относятся к первым 512 токенам. Поддерживаются каталанский, немецкий, английский, испанский, французский, галисийский, итальянский, португальский и турецкий; качество на других языках не установлено. Модель ориентирована на высокий охват атак при первичной фильтрации, но качество зависит от распределения данных: на отдельных внешних наборах наблюдались заметные ложноположительные срабатывания. Она не предназначена для модерации токсичности, анализа инструкций внутри документов и результатов инструментов, оценки целых диалогов или использования как единственной границы безопасности. Лицензия — MIT.

Prompt Injection Guard base — многоязычный классификатор от Horizon Labs для выявления прямых попыток prompt injection и jailbreak, а также внедрённых инструкций в письмах, веб-страницах, документах, фрагментах RAG и ответах инструментов. Модель построена на энкодере mmBERT-base с архитектурой ModernBERT, содержит около 306,9 млн параметров и принимает текст с контекстом до 8192 токенов. Она относит текст к классам INJECTION или SAFE и предназначена для предварительной проверки содержимого, которое читает ИИ-агент. Модель обучена на примерах атак и чистых документов разных типов; карточка перечисляет наборы данных для обучения и оценки, включая синтетические многоязычные данные. Доступны веса Safetensors и ONNX, включая вариант ONNX с квантованными int8-эмбеддингами, а также запуск через Transformers.js. Заявлены 30 языков обучения, при этом английский представлен наиболее широко. Лицензия Apache-2.0. Классификатор помогает обнаруживать инструкции, нацеленные на изменение поведения ИИ, и в приведённых разработчиком оценках редко принимает некоторые похожие на атаки безопасные тексты за инъекции. Это один из уровней защиты, а не гарантия: адаптивные атаки могут обходить классификатор, безобидные ролевые запросы иногда помечаются как атаки, а инструкции в виде простых вопросов в документах могут пропускаться. Английский покрыт лучше остальных языков; модель оценивает текст отдельно и не определяет по контексту, является ли инструкция легитимной.

PromptShield — дообученная модель DistilBERT, созданная Сохамом Дахивалкаром для обнаружения атак с внедрением промптов в приложениях на основе больших языковых моделей. Она классифицирует текст как безопасный или содержащий атаку и предназначена для проверки пользовательских запросов, извлечённых документов и другого текста перед передачей LLM. Модель основана на distilbert/distilbert-base-uncased, использует архитектуру DistilBertForSequenceClassification и принимает текстовые последовательности длиной до 512 токенов. В карточке заявлено обнаружение переопределения инструкций, имитации ролей и jailbreak-попыток, извлечения системного промпта, инъекций разделителей, социальной инженерии, обфускации, манипуляции контекстом и попыток эксфильтрации данных. Карточка указывает английский язык и датасет Shomi28/prompt-injection-dataset. PromptShield подходит как компонент фильтрации в конвейере безопасности LLM, но результат классификации следует рассматривать как сигнал для последующей проверки: карточка не приводит оценок качества и не подтверждает полноту обнаружения всех вариантов атак. Модель распространяется по лицензии MIT.

Provence-reranker-debertav3-v1 — модель Naver Labs Europe для отбора релевантного контекста в системах поиска и генерации с дополнением контекста (RAG). Она принимает вопрос и найденный фрагмент текста, оценивает релевантность предложений и удаляет предложения, не относящиеся к вопросу. Модель также сохраняет возможность ранжировать фрагменты по релевантности. Модель основана на DeBERTav3-reranker, дообученном на базе DeBERTa-v3-large, и содержит 533,8 млн параметров по метаданным Hugging Face. Она совместно кодирует предложения фрагмента, что помогает учитывать связи между ними, и автоматически выбирает предложения для сохранения по пороговому значению. Заявленный предел контекста — 512 токенов. Модель рассчитана на английский язык и может использоваться перед любой LLM для сокращения контекста и снижения шума при ответах на вопросы. В README сообщается о проверке на наборах из разных областей и о сохранении качества ответов при удалении нерелевантных предложений; результат зависит от порога сжатия и конкретного сценария. Лицензия в метаданных — CC BY-NC-ND 4.0; README также указывает CC BY-NC-ND 4.0, несмотря на упоминание ShareAlike в тексте названия лицензии.

Qwen-2.5-Nemotron-32B-Reward — разработанная NVIDIA модель вознаграждения на архитектуре Transformer Qwen2.5 с 32 млрд параметров, дообученная на основе Qwen/Qwen2.5-32B-Instruct. Она оценивает ответ языковой модели на запрос пользователя и выдаёт одно числовое значение: более высокий балл указывает на более качественный ответ в рамках того же диалога. Модель предназначена для сравнения ответов и оценки их качества, в том числе по чатовым, математическим, программным и безопасностным сценариям. Модель принимает текст. В README указан максимум 128 тыс. токенов на вход, при этом обучение проводилось на диалогах длиной до 8 тыс. токенов; метаданные Hugging Face указывают нативный контекст 32 768 токенов. Поэтому оценки для длинных диалогов могут быть менее надёжны. Числовые оценки сопоставимы в рамках одного запроса, но не предназначены для сравнения ответов на разные запросы. Модель распространяется по лицензии other; README заявляет возможность коммерческого и некоммерческого использования. Для запуска описана интеграция с Transformers и потребность в GPU-памяти, зависящая от конфигурации оборудования.

Карточка модели npario/Qwen3-Embedding-0.6B-8bit на Hugging Face совпадает с карточкой mlx-community/Qwen3-Embedding-0.6B-8bit, поэтому описание составлено по ней. Qwen3-Embedding-0.6B-8bit — 8-битная версия модели для создания текстовых эмбеддингов, подготовленная mlx-community в формате MLX из Qwen/Qwen3-Embedding-0.6B. Это плотная модель семейства Qwen3 примерно с 508 млн параметров, предназначенная для извлечения признаков текста и семантического поиска. Она подходит для построения векторных представлений запросов и документов, поиска похожих текстов и систем RAG. Модель поддерживает контекст до 32 768 токенов и распространяется по лицензии Apache-2.0. Карточка указывает на преобразование в MLX, а метаданные связывают репозиторий с базовой моделью Qwen/Qwen3-Embedding-0.6B. Хотя каталог также помечает архитектуру тегом text-generation, основное пользовательское назначение — получение эмбеддингов, что соответствует pipeline_tag feature-extraction. В README не приведены дополнительные сведения о качестве или ограничениях; применимость зависит от языка и предметной области входных текстов.

Qwen3Guard-Gen-0.6B — генеративная модель модерации безопасности из семейства Qwen3, разработанная командой Qwen. Она дообучена на 1,19 млн промптов и ответов с метками безопасности и предназначена для классификации пользовательских запросов и ответов моделей как безопасных, спорных или небезопасных. Модель поддерживает 119 языков и диалектов и рассчитана на сценарии многоязычной проверки контента. Модель построена на плотной архитектуре Qwen3ForCausalLM, содержит 507,9 млн параметров и имеет контекст длиной до 32 768 токенов. Она выдаёт генеративную классификацию по категориям насилия, незаконных действий, сексуального контента, персональных данных, самоповреждения, неэтичного поведения, политически чувствительных тем, нарушения авторских прав и попыток обхода инструкций во входных запросах. Указанная лицензия — Apache-2.0. Модель ориентирована на модерацию и оценку риска, а не на универсальную генерацию ответов. Заявленные сильные стороны — три уровня серьёзности и многоязычная поддержка; README также сообщает о высокой результативности на тестах безопасности, но не приводит здесь конкретных метрик. Как классификатор на основе генерации, она может требовать настройки формата вывода и порогов под конкретную политику модерации.

Карточка модели Tonycoder11/Qwen3Guard-Gen-8B на Hugging Face совпадает с карточкой Qwen/Qwen3Guard-Gen-8B, поэтому описание составлено по ней. Qwen3Guard-Gen-8B — модель модерации безопасности от команды Qwen, дообученная на базе Qwen3-8B. Она формулирует классификацию как задачу следования инструкциям и оценивает пользовательские запросы и ответы модели по трём уровням: безопасный, спорный и небезопасный. Репозиторий содержит плотную причинную языковую модель Qwen3ForCausalLM размером 7,6 млрд параметров с контекстом до 32 768 токенов, предназначенную для запуска через Transformers. Модель рассчитана на проверку входящих запросов и сгенерированных ответов в системах модерации, включая многоязычные сценарии: в README заявлена поддержка 119 языков и диалектов. Она охватывает категории насилия, незаконных действий, сексуального контента, персональных данных, самоповреждения, неэтичного контента, политически чувствительных тем, нарушения авторских прав и попыток обхода инструкций во входных запросах. Доступна по лицензии Apache-2.0. Классификация может зависеть от контекста и выбранной политики применения; показатели качества и ограничения по отдельным языкам в предоставленных материалах не детализированы.

Qwen3Guard-Gen-8B-GGUF — GGUF-версия генеративной модели модерации безопасности Qwen3Guard-Gen-8B, разработанной командой Qwen на базе Qwen3-8B. Представленная сборка подготовлена с использованием llama.cpp; в ней применён вариант квантования с повышением точности отдельных важных слоёв, что должно улучшать качество при заданном уровне квантования ценой увеличения размера файла. Модель предназначена для классификации пользовательских запросов и ответов языковых моделей по уровню безопасности. Она формулирует классификацию как задачу следования инструкциям и определяет один из трёх уровней: Safe, Controversial или Unsafe. Также модель может выявлять категории риска, включая насилие, незаконные действия, сексуальный контент, персональные данные, суицид и самоповреждение, неэтичные действия, политически чувствительные темы, нарушение авторских прав и попытки jailbreak. Поддерживаются 119 языков и диалектов, что делает модель пригодной для многоязычной модерации и проверки ответов в глобальных приложениях. Ключевые ограничения связаны с тем, что это именно модель классификации безопасности с генеративным интерфейсом, а не универсальная диалоговая модель. Качество и скорость зависят от выбранного формата GGUF, уровня квантования и оборудования; повышение точности отдельных слоёв увеличивает размер модели. Максимальный контекст и другие эксплуатационные характеристики в карточке не указаны. Модель распространяется по лицензии Apache 2.0.

Qwen3Guard-Stream-8B — модель модерации безопасности из серии Qwen3Guard, разработанной на базе Qwen3. Она дообучена на 1,19 млн размеченных безопасных и небезопасных запросов и ответов. Версия Stream предназначена для проверки текста по мере его генерации: токеновый классификационный слой позволяет отслеживать риски в потоковых сценариях. Модель относит содержимое к трём уровням: безопасное, спорное и небезопасное; охватывает насилие, незаконные действия, сексуальный контент, персональные данные, самоповреждение, неэтичное поведение, политически чувствительные темы, нарушения авторских прав и попытки обхода инструкций во входных данных. Модель поддерживает 119 языков и диалектов. Это плотная архитектура Qwen3 с 7,6 млрд параметров и контекстом 8192 токена; репозиторий содержит веса Safetensors, а для работы указаны Transformers и SGLang. Лицензия — Apache-2.0. В метаданных основная задача обозначена как извлечение признаков, поэтому модель следует интегрировать как классификатор в совместимый потоковый конвейер модерации; поддержка vLLM в README на момент публикации ещё разрабатывалась.

Qwen3-Nemotron-14B-BRRM — дообученная NVIDIA модель оценки ответов больших языковых моделей, основанная на Qwen3-14B. Она предназначена для сравнения двух ответов на запрос и выявления их сильных и слабых сторон в сценариях оценки качества и RLHF. Модель использует двухэтапный подход: сначала выбирает от одного до трёх важных для конкретного запроса критериев, затем проводит углублённый анализ с учётом выбранных критериев. Модель имеет плотную архитектуру Qwen3ForCausalLM, содержит 14 млрд параметров и рассчитана на контекст до 40 960 токенов. README сообщает о результатах на RewardBench, RM-Bench и RMB, включая среднюю оценку 84,2 для этой версии. Метаданные указывают английский язык; модель работает с текстом и выдаёт текстовые оценки и объяснения. Лицензия указана как other, поэтому перед использованием следует проверить условия NVIDIA для конкретного сценария.

Qwen3-Nemotron-8B-BRRM — модель оценки ответов, разработанная NVIDIA по методу Branch-and-Rethink Reasoning Reward Model. Она сравнивает два ответа на запрос пользователя и помогает определить, какой из них качественнее, для оценки генераций LLM и интеграции в конвейеры RLHF. Модель построена на плотной архитектуре Qwen3ForCausalLM и содержит 7,6 млрд параметров. Её двухэтапный подход сначала выбирает от одной до трёх важных для конкретного примера критериев и выявляет проблемы в ответах, затем проводит углублённый анализ с учётом выбранных критериев. Модель рассчитана на английский язык и поддерживает контекст до 40 960 токенов. В README сообщается о результатах на RewardBench, RM-Bench и RMB: средняя оценка составляет 82,6. Указанная лицензия — other; перед использованием следует проверить её условия. Авторы отмечают, что модель предназначена для интеграции в RLHF, однако автоматические оценки могут не совпадать с человеческими суждениями и зависят от критериев оценки и данных.

RAG-PIF RoBERTa — классификатор попыток prompt injection, разработанный как третий слой каскадного фильтра для систем Retrieval-Augmented Generation. Модель дообучена на базе FacebookAI/roberta-base и выполняет бинарную классификацию: относит короткие и средние текстовые фрагменты к доброкачественным или содержащим prompt injection. Её используют для проверки запросов и найденных документов после быстрого regex-фильтра и проверки сходства эмбеддингов. Модель содержит 151,8 млн параметров, построена на архитектуре RoBERTa и принимает текст с контекстом до 514 токенов. В обучающих данных использованы примеры атак из HackaPrompt, синтетические варианты обхода фильтров, доброкачественные фрагменты Википедии и сложные отрицательные примеры. Для стандартного тестового набора автор сообщает F1 0,996; на примерах с обфускацией указана доля обнаружения 1,00. Лицензия — MIT. Классификатор не предназначен для самостоятельной модерации контента. Он может пропускать семантические перефразирования без узнаваемых маркеров, а тексты о prompt injection в контексте исследований безопасности дают ложные срабатывания.

RavenGuard-Gen — компактная мультиязычная модель Netis AI для проверки безопасности запросов и ответов LLM-агентов. Это плотная авторегрессионная языковая модель семейства RavenGuard с архитектурой RavenGuardForCausalLM, построенная на Netis Amniota, обученной с нуля; размер модели — около 0,8 млрд параметров. Для работы используется Transformers и формат весов safetensors. Модель анализирует запрос или полный ответ и генерирует структурированный блок с решением, риском, уровнем серьёзности, категориями и признаком отказа. Её применяют как фильтр перед передачей запроса основному агенту и как проверку ответа перед показом пользователю. В карточке заявлена поддержка 18 языков; каталог подтверждает языковые теги для 17 из них. Контекстное окно в доступных данных не указано. В опубликованных карточкой оценках модель показывает высокую точность и заметный отзыв на китайском наборе; на мультиязычном наборе у неё более высокий FPR, чем у некоторых крупных базовых систем. Это компактная проверка целого запроса или ответа, а не потоковая остановка генерации по токенам. Для запуска README требует attention backend SDPA и указывает на необходимость batch size 1, поскольку обработка attention_mask в поставляемом forward пока не реализована. Лицензия — Apache-2.0.

RewardAnything-8B-v1-f32-GGUF — модель оценки ответов с 8 млрд параметров в формате GGUF, представленная prithivMLmods. Она основана на дообученной Qwen3-8B и предназначена для оценки ответов по принципам и критериям, заданным на естественном языке. Критерии можно менять во время работы без повторного обучения модели. Модель поддерживает текстовую генерацию и диалоговый режим. В README заявлены обобщение на новые критерии оценки, объяснение решений и применение в конвейерах RLHF, включая PPO и GRPO. Доступны варианты BF16, F16 и F32; файл F32 занимает 32,8 ГБ. Лицензия — Apache-2.0. Вариант GGUF рассчитан на локальный запуск, пакетную обработку и интеграцию с Ollama или Hugging Face. Качество и скорость зависят от выбранного файла и оборудования; заявленные результаты на RM-Bench и RABench приведены в README без численных подробностей.

RaushanTurganbay/reward_model_deberta_large_Anthropic_hh — модель оценки вознаграждения на базе DeBERTa-large-v3, дообученная на датасете Anthropic/hh-rlhf. Она сравнивает последний запрос человека с ответом ассистента и предназначена для оценки качества ответов в сценариях обучения и отбора диалоговых моделей. В README сообщается точность 87% на этом датасете; число параметров — 533,8 млн, максимальная длина контекста — 512 токенов. Модель принимает текст и выдаёт оценку классификации; заявленная точность относится к исходному датасету и не гарантирует такое же качество на других данных. Лицензия — Apache-2.0.

RM-Mistral-7B — reward-модель, разработанная автором репозитория и дообученная на базе mistralai/Mistral-7B-Instruct-v0.2. Она оценивает ответы на запросы и ранжирует их по предпочтительности, помогая выбирать более полезные варианты и использовать оценку в обучении или настройке диалоговых систем. Модель построена на плотной архитектуре MistralForSequenceClassification, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Обучение проводилось в течение одной эпохи на смеси HH-RLHF, SHP, UltraFeedback, Capybara, HelpSteer и Orca. В README сообщается, что на RewardBench модель заняла второе место. Модель предназначена для сравнения ответов и оценки качества диалога; метаданные также отмечают возможность chat. Карточка не приводит конкретных ограничений оценки и условий лицензии, поэтому их нельзя надёжно описать. В репозитории указаны веса Safetensors.

ScopeGuard — компактная языковая модель для классификации запросов по области применения сервиса и заданным правилам управления ИИ. Её разработала Principled Intelligence; версия scope-guard-4B-q-2601 дообучена на базе unsloth/Qwen3-4B-Instruct-2507 и описана авторами как дистиллированная версия закрытой scope-guard-pro-2601. Модель содержит 3,7 млрд параметров, использует архитектуру Qwen3 и принимает текстовые запросы. Для неё заявлен контекст до 262 144 токенов; веса опубликованы в формате safetensors. Модель предназначена для классификации запросов на соответствующие и не соответствующие назначению сервиса, а также для применения общих и пользовательских политик безопасности. Её можно встроить в качестве предварительного фильтра для клиентских ассистентов и агентных систем, использовать перед вызовом инструментов или для маршрутизации и мониторинга запросов. Карточка описывает поддержку пяти языков, а метаданные перечисляют английский, итальянский, французский, испанский и немецкий. Авторы позиционируют компактность модели как преимущество для задержки и стоимости развёртывания, но не приводят здесь численных показателей скорости. ScopeGuard рассчитана на управляемую классификацию, а не на свободную генерацию текста. Результаты на тестах безопасности могут зависеть от формулировки запросов и условий оценки и не гарантируют аналогичного качества в других сценариях. Модель выпущена по лицензии Apache-2.0.

SGuard-JailbreakFilter-2B — специализированная модель классификации запросов для выявления попыток jailbreak в диалогах с ИИ. Её разработала исследовательская команда Samsung SDS, дообучив IBM Granite 3.3 2B Instruct с 2,5 млрд параметров. Модель принимает текстовый промпт и выдаёт метку «safe» или «unsafe»; обучение охватывает более 50 типов атак, включая prompt injection, подмену формата, кодирование и ролевые сценарии. Контекст модели — 131 072 токена, однако разработчик рекомендует подавать на вход не более 8 тыс. токенов. Модель предназначена для фильтрации пользовательских запросов перед передачей их основной языковой модели. Настройка приоритета в шаблоне промпта позволяет предпочесть удобство пользователя или более осторожную классификацию. Основные языки обучения — корейский и английский; для других языков, поддерживаемых базовой Granite, надёжность не гарантируется. Модель не выявляет вредоносное содержание само по себе, если в запросе нет попытки jailbreak, и может ошибаться на новых атаках, пограничных примерах и узкоспециализированных темах. Лицензия — Apache-2.0.

ShieldLM-6B-chatglm3 — двуязычная модель команды thu-coai на архитектуре ChatGLM, инициализированная из chatglm3-6b. Она предназначена для выявления проблем безопасности в ответах языковых моделей: модель оценивает сгенерированный текст по правилам безопасности и может объяснять свои решения. Поддерживаются настраиваемые правила с детальной классификацией; заявлены результаты на четырёх тестовых наборах, включая наборы с данными вне обучающего распределения. Модель содержит 7,8 млрд параметров и поддерживает контекст до 8192 токенов. Лицензия — MIT.

ShieldLM-7B-internlm2 — двуязычная модель безопасности на основе InternLM2-Chat-7B, представленная командой thu-coai. Она предназначена для выявления проблем безопасности в ответах, сгенерированных большими языковыми моделями. Модель поддерживает настраиваемые правила проверки с детальными категориями и объясняет принятые решения. Модель построена на плотной архитектуре InternLM2ForCausalLM и содержит 7,4 млрд параметров. Она принимает текст, поддерживает китайский и английский языки и имеет контекст длиной до 32 768 токенов. В метаданных основная задача указана как извлечение признаков, при этом карточка описывает её как детектор безопасности, а каталог также отмечает генерацию текста как поддерживаемую задачу. В README заявлены высокие результаты на четырёх тестовых наборах, включая наборы с данными вне обучающего распределения, в сравнении с GPT-4, Llama Guard и Perspective API; подробные результаты доступны в статье. Модель распространяется по лицензии MIT.

Skywork-Reward-Gemma-2-27B — наградная модель Skywork на архитектуре Google Gemma 2 27B IT, дообученная на примерно 80 тысячах пар предпочтений из открытых источников. Она оценивает ответы в диалогах и помогает выбирать более предпочтительный вариант при обучении или проверке языковых моделей. По данным README, модель показала высокие результаты в RewardBench, включая категории сложных диалогов, рассуждений и безопасности. Модель имеет плотную архитектуру Gemma2ForSequenceClassification, содержит 27,6 млрд параметров и поддерживает контекст до 8192 токенов. В качестве обучающих данных использована коллекция Skywork Reward Preference 80K, собранная из нескольких публичных наборов. README отдельно отмечает необходимость использовать реализацию внимания flash_attention_2 или eager для оптимальной работы 27B-модели. Модель предназначена для выставления оценок и сравнения ответов, а не для самостоятельной генерации пользовательских ответов. README просит не развёртывать её в интернет-сервисах без проверки безопасности и соблюдения применимых правил. Лицензия в предоставленных данных не указана.

Skywork-Reward-V2-Llama-3.1-8B-40M — экспериментальная модель вознаграждения от команды Skywork, созданная на базе meta-llama/Llama-3.1-8B-Instruct и дообученная на предпочтениях. Это модель Bradley–Terry для оценки качества ответов и диалогов: она выдаёт оценку, которую можно использовать для сравнения вариантов ответа и ранжирования результатов языковых моделей. Модель относится к семейству Llama, имеет около 7,5 млрд параметров и принимает текстовые диалоги. Для серии Skywork-Reward-V2 указано обучение на смеси из 26 млн пар предпочтений и высокие результаты на семи бенчмарках reward-моделей; конкретно вариант 40M назван экспериментальным и рекомендуется к использованию преимущественно в сравнительных оценках. Контекст базовой архитектуры составляет 131 072 токена. Данные не уточняют языковой охват именно этой модели. Модель подходит для оценки ответов при разработке и сравнении чат-моделей, отбора предпочтительных ответов и построения пайплайнов ранжирования. Она выдаёт reward-оценку, а не предназначена для генерации обычных пользовательских ответов. Лицензия — Llama 3.1; применяйте модель с соблюдением её условий.

Snowflake Arctic Embed S — компактная модель текстовых эмбеддингов, разработанная Snowflake для качественного поиска по смыслу. Она основана на intfloat/e5-small-unsupervised и обучена в несколько этапов на парах запросов и документов, а затем на триплетах с трудными отрицательными примерами. Архитектура — BERT; модель содержит около 40 млн параметров по метаданным, формирует векторы размерности 384 и принимает до 512 токенов. Модель предназначена для семантического поиска по большим коллекциям, сопоставления запросов с документами и построения retrieval-компонента для RAG. В README для неё указан результат 51,98 по MTEB Retrieval NDCG@10; заявленный профиль ориентирован на высокую точность при небольшом размере и масштабировании на большие наборы данных. Модель принимает текст и выдаёт эмбеддинги; сведения указывают на англоязычную основу и не подтверждают поддержку других языков. Модель опубликована по лицензии Apache-2.0. Она формирует эмбеддинги, а не готовые ответы, поэтому для поиска обычно требуется индексирование векторов и отдельный механизм ранжирования или генерации. В README отмечено, что более новые версии Arctic Embed рассчитаны на многоязычные сценарии и рекомендуются вместо прежних версий.

Vela Shield — разработанная vLLM Semantic Router командасының Vela-1.0-Encoder-307M энкодерінен дообученная многоязычная модель для оценки безопасности запросов и ответов. Основная модель в корне репозитория классифицирует запрос как безопасный или небезопасный; дополнительные головы оценивают 34 категории угроз, попытки prompt injection и jailbreak, вредоносность ответа и отказ модели. Для этих оценок текст обрабатывается одним проходом энкодера, а отдельная label-conditioned голова позволяет проверять категории по их текстовым описаниям. Модель построена на ModernBERT, содержит 306,9 млн параметров и принимает до 32 768 токенов, включая специальные; обучение проводилось на последовательностях длиной 1 536 токенов. Данные охватывают 17 языков, включая русский и английский. Модель предназначена для интеграции в защитные фильтры и маршрутизаторы LLM; основная голова совместима с safety-слотом Vela Router. Распространяется по лицензии Apache-2.0. Классификация запросов и ответов, категории угроз и оценка отказа не заменяют полноценную оценку контекста: риск-сигнал сам по себе не означает, что нужно отказать. Качество не оценивалось для входов длиннее 1 536 токенов, хотя архитектура принимает более длинный контекст. Модель не предназначена для определения предметной области, модальности, сложности, намерений, персональных данных или галлюцинаций.