II.10Разработка и эксплуатация AI/ML-систем

VirbiusGuard-4B — разработанная i1see1you модель классификации безопасности запросов для систем модерации и AI-агентов. Это дообученная с помощью LoRA версия Qwen3Guard-Gen-4B с архитектурой Qwen3ForCausalLM и примерно 3,7 млрд параметров. Модель принимает текст и выдаёт классификацию в виде JSON с полями hit_rule и triggered_id: отмечает безопасный запрос либо относит небезопасный к одной из десяти категорий, включая jailbreak, злоупотребление инструментами агента, самоповреждение, насилие, утечку персональных данных и сексуальный контент. Модель предназначена для проверки пользовательских запросов в конвейерах безопасности, фильтрации jailbreak-попыток и выявления небезопасного поведения агентов. Карточка описывает версию v2.0 и приводит результаты на наборе gold_1000: точность 98,2%, полнота 98,4% и 8 ложных срабатываний из 385 безопасных примеров; это результаты конкретного набора и разметки, а не гарантия для новых данных. Поддерживаются китайский и английский языки. Максимальный контекст — 32 768 токенов, однако обучение проводилось с max_seq 1024. Доступны веса Safetensors и GGUF в вариантах F16, Q8_0 и Q4_K_M. Лицензия — Apache-2.0. Модель настроена на строгий JSON-протокол, поэтому приложениям следует проверять корректность ответа и учитывать заданную в обучении политику маркировки: упоминание темы может считаться нарушением, а политически чувствительные темы фильтруются строго.

WildGuard — модель модерации и оценки безопасности от Allen Institute for AI (AI2), дообученная на базе mistralai/Mistral-7B-v0.3. Это языковая модель на 7 млрд параметров для классификации вредоносных запросов пользователей, вредных ответов LLM и отказов модели отвечать. Она охватывает риски, связанные с конфиденциальностью, дезинформацией, вредоносной речью и злонамеренным использованием, включая 13 подкатегорий. Модель предназначена для модерации диалогов с LLM и оценки поведения моделей, в том числе частоты чрезмерных отказов. В опубликованных оценках WildGuard показала высокие результаты на наборах WildGuardTest и других бенчмарках. Поддерживаемый язык — английский. Модель распространяется под лицензией Apache 2.0. WildGuard может ошибаться; при автоматической модерации это может привести к пропуску вредных запросов или ответов либо к неверной классификации.

Qwen/WorldPM-72B-HelpSteer2 — модель предпочтений, созданная на базе WorldPM-72B и дообученная на 7 тысячах примеров датасета HelpSteer2. Это плотная архитектура Qwen2 с 71,5 млрд параметров; она оценивает ответы языковых моделей и предназначена для сравнения их качества и релевантности. Модель выявляет намеренные ошибки, нерелевантные или неполные ответы и может использоваться для оценки ответов при обучении и проверке LLM. Модель обучена на данных о человеческих предпочтениях; README сообщает о масштабном обучении семейства WorldPM на 15 млн примеров предпочтений и отмечает лучшие результаты при оценке в объективных областях по мере увеличения размера моделей. Для субъективных оценок устойчивого улучшения с ростом модели не обнаружено: результат может зависеть от стилевых предпочтений. Контекст составляет 2048 токенов, для работы требуется Transformers версии 4.40.0 или новее. Лицензия — Apache-2.0.

Qwen/WorldPM-72B-UltraFeedback — модель предпочтений, разработанная авторами WorldPM и дообученная на 100 тысячах примеров датасета UltraFeedback. Это плотная архитектура Qwen2 с 71,5 млрд параметров, реализованная как Qwen2ForRewardModel. Модель оценивает ответы языковых моделей по предпочтениям и подходит для ранжирования кандидатов, отбора более качественных ответов и оценки их релевантности. Модель рассчитана на текстовый ввод и выдаёт оценку, используемую для классификации или сравнения ответов. В карточке указаны английский язык и контекст до 2048 токенов. Авторы отмечают, что предпочтения в объективных областях масштабируются лучше, чем субъективные оценки: модель может сохранять стилистические предпочтения, поэтому результаты субъективного оценивания могут быть менее надёжными. Для оптимального качества на конкретной задаче README рекомендует дополнительное дообучение. Лицензия — Apache-2.0.

Это компактный бинарный классификатор для обнаружения косвенных prompt injection-атак в содержимом, которое LLM-агент получает из файлов, веб-страниц и ответов API во время выполнения задачи. Модель разработана автором репозитория и дообучена на базе microsoft/deberta-v3-small; архитектура — DeBERTa V2 для классификации последовательностей. В метаданных указаны 155 млн параметров, формат safetensors и контекст до 512 токенов. Модель предназначена для фильтрации недоверенных результатов инструментов и защиты контекста агента. В README сообщаются результаты проверки на отложенной выборке: F1 0,968, ROC-AUC 0,995 и полнота 0,950 при доле ложных срабатываний 1%. Эти показатели относятся к указанной выборке и не гарантируют устойчивость к новым атакам. Лицензия — MIT.

AgentDoG 1.5 Qwen3.5 4B — модель для проверки безопасности траекторий действий ИИ-агентов, разработанная AI45Research в рамках семейства AgentDoG. Она принимает полную текстовую траекторию работы агента, включая взаимодействие с инструментами и средой, и классифицирует её как безопасную или небезопасную. Для небезопасных траекторий модель также может определять тип сбоя, возможные последствия риска и его источник. Модель построена на плотной архитектуре Qwen3.5 и содержит 4 млрд параметров. Она предназначена для классификации и мониторинга агентных сценариев, в том числе для работы в качестве онлайн-защитного барьера, способного выявлять риск и вмешиваться в выполнение workflow. Для развёртывания README рекомендует совместимые версии SGLang или vLLM. Модель распространяется под лицензией Apache-2.0. Карточка не приводит конкретных ограничений точности или списка поддерживаемых естественных языков; результаты следует интерпретировать в контексте заданной таксономии безопасности и формата входной траектории.

ProCreations auto-0.4b-2 iteration 1 — классификатор на основе энкодера ModernBERT, разработанный ProCreations. Он оценивает предложенный агентом вызов инструмента с учётом запроса пользователя и истории действий и выдаёт решение approve или deny. Модель предназначена для проверки, разрешено ли действие и безопасно ли оно в данном контексте; это классификатор, а не диалоговая модель. Модель содержит около 395 млн параметров, принимает текст и поддерживает контекст до 65 536 токенов. В README приведены результаты на синтетическом бенчмарке из 3 000 примеров: точность 97,00%, 36 ложных разрешений и 54 ложных отказа. Также указаны проверки длинных входов и наборы проб для skills, MCP и пользовательских инструментов. Ложные разрешения всё ещё возможны. Модель не может анализировать скрытое содержимое файлов, определять поведение непрозрачных исполняемых файлов или предсказывать поведение URL во время выполнения. Метки синтетические, а бенчмарк использовался при выборе версии, поэтому перед применением на реальном потоке данных нужна собственная оценка. Лицензия — Apache-2.0.

Карточка модели avsolatorio/AVES_BAAI_bge-base-en-v1.5-20240125221415-latest на Hugging Face совпадает с карточкой BAAI/bge-small-zh-v1.5, поэтому описание составлено по ней. BAAI/bge-small-zh-v1.5 — компактная модель эмбеддингов из семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует китайский текст в плотные векторы для поиска документов, семантического поиска, классификации и кластеризации, а также для использования в векторных базах данных и системах дополненной генерации. Модель построена на архитектуре BERT, содержит 27,6 млн параметров и принимает последовательности длиной до 512 токенов. Версия v1.5 улучшает поиск без специальных инструкций и смягчает проблему распределения сходства: для поиска важнее относительный порядок оценок, чем их абсолютное значение. Для коротких запросов к длинным документам инструкция запроса может улучшить результат; её пользу рекомендуется оценивать на конкретной задаче. Модель выдаёт эмбеддинги, а не готовые ответы или оценки ранжирования; для более точного переранжирования README рекомендует отдельную модель BGE reranker. Лицензия — MIT.

marklkelly/bert-tiny-injection-detector — компактный бинарный классификатор текста, разработанный для обнаружения prompt injection и попыток переопределения инструкций. Модель дообучена на базе prajjwal1/bert-tiny с дистилляцией знаний от protectai/deberta-v3-small-prompt-injection-v2 и дополнительными метками. Она содержит около 4,4 млн параметров, использует архитектуру BERT для классификации последовательностей и принимает текст длиной до 128 токенов. Модель предназначена для проверки пользовательского ввода перед передачей его другой языковой модели, в том числе при развёртывании на периферийных устройствах и в средах с ограниченными ресурсами. Она выдаёт метку SAFE или INJECTION и оценку вероятности; для длинных входов в целевом сценарии применяются обрезка с сохранением начала и конца текста и настраиваемые пороги срабатывания. Репозиторий содержит экспорты ONNX, рассчитанные на запуск без Python, в том числе в Rust WASM через tract-onnx. Валидация показывает высокие результаты на использованном наборе данных, однако он сбалансирован по классам и отдельного тестового набора не было. При низкой реальной распространённости атак возрастает доля ложных блокировок; длинные входы могут потерять важные фрагменты в середине, а устойчивость к Unicode-обфускации и многоязычные атаки систематически не проверялись. Модель специализирована на инъекциях инструкций, не предназначена для общей модерации или обнаружения jailbreak и не должна быть единственным уровнем защиты. Лицензия — Apache-2.0.

cyberagent/ca-reward-3b-ja — CyberAgent разработала эту японскую модель вознаграждения для оценки предпочтительности ответа на инструкцию. Она классифицирует ответы и количественно оценивает, насколько они предпочтительны; её можно использовать для сравнения вариантов ответа и оценки диалоговых моделей. Модель основана на SB Intuitions Sarashina 2.2 3B Instruct и дообучена полным обновлением параметров на 601 348 примерах с псевдометками предпочтений, созданными с помощью LLM-as-a-judge. Архитектура — плотная Llama для классификации последовательностей; число параметров — 3,1 млрд, контекст — до 8192 токенов. README описывает оценку на японских примерах HelpSteer3 и llm-jp-chatbot-arena; на этих наборах точность составила 0,7032 и 0,5366 соответственно. Модель выпущена в 2025 году под лицензией Apache-2.0. Часть обучающих ответов взята из набора cyberagent/calm2-7b-chat-dpo-experimental с лицензией CC-BY-4.0.

Карточка модели opencompass/CompassJudger-1-32B-Instruct на Hugging Face совпадает с карточкой opencompass/CompassJudger-1-7B-Instruct, поэтому описание составлено по ней. CompassJudger-1-7B-Instruct — разработанная OpenCompass модель-судья на базе Qwen2.5-7B-Instruct с 7,1 млрд параметров. Это плотная авторегрессионная языковая модель семейства Qwen2, предназначенная для оценки ответов и моделей по инструкциям пользователя. Модель поддерживает выставление оценок, попарное сравнение, подробную критику и отзывы в заданном формате. Её можно применять для автоматической оценки ответов на субъективных наборах данных и как универсальную инструктивную модель для диалогов и повседневных задач. Контекст — до 32 768 токенов; README также отмечает возможность ускоренного инференса через vLLM и LMDeploy. Модель принимает и генерирует текст. Языки в карточке не перечислены. Лицензия — Apache-2.0. Оценки модели-судьи могут зависеть от формулировки критериев и смещений при автоматической оценке; README не приводит конкретных ограничений качества.

CompassJudger-1-7B-Instruct — разработанная OpenCompass модель-судья на базе Qwen2.5-7B-Instruct с 7,1 млрд параметров. Это плотная авторегрессионная языковая модель семейства Qwen2, предназначенная для оценки ответов и моделей по инструкциям пользователя. Модель поддерживает выставление оценок, попарное сравнение, подробную критику и отзывы в заданном формате. Её можно применять для автоматической оценки ответов на субъективных наборах данных и как универсальную инструктивную модель для диалогов и повседневных задач. Контекст — до 32 768 токенов; README также отмечает возможность ускоренного инференса через vLLM и LMDeploy. Модель принимает и генерирует текст. Языки в карточке не перечислены. Лицензия — Apache-2.0. Оценки модели-судьи могут зависеть от формулировки критериев и смещений при автоматической оценке; README не приводит конкретных ограничений качества.

CompassJudger-2-7B-Instruct — языковая модель-судья из серии CompassJudger-2, дообученная разработчиками OpenCompass на Qwen2.5-7B-Instruct. Модель предназначена для оценки ответов и сравнения их качества, в том числе в попарных сценариях. В README описаны обучение на данных из разных задач и областей, применение проверяемых наград, chain-of-thought и rejection sampling; заявлена оценка на нескольких бенчмарках для моделей-судей и reward-моделей. Модель имеет плотную архитектуру Qwen2, около 7,1 млрд параметров и контекст до 32 768 токенов. Она принимает текст и выдаёт текстовые оценки или суждения; в метаданных также отмечен интерфейс tool calling. README не перечисляет поддерживаемые естественные языки. Репозиторий использует safetensors, библиотеку Transformers и лицензию Apache-2.0. Утверждения README о превосходстве по бенчмаркам не сопровождаются в предоставленной карточке полными результатами и методологией; качество оценок может зависеть от задачи и домена.

CoPE-B-A4B — текстовая модель второго поколения для оценки контента, разработанная компанией Zentropi и дообученная на базе Google Gemma 4 26B A4B IT с помощью LoRA, после чего адаптеры были объединены с базовой моделью. Это разреженная MoE-модель: в README указаны 25,2 млрд параметров всего и 3,8 млрд активных параметров, тогда как метаданные каталога указывают 2 млрд параметров. Модель принимает текст с заданной политикой и содержимым и выдаёт бинарную метку: соответствует ли содержимое одному из заданных критериев. Контекст составляет до 256K токенов; модель рассчитана прежде всего на интерпретацию политик на английском языке США. Модель подходит для модерации и разметки контента, оценки риска во входных запросах и ответах LLM, фильтрации обучающих данных и формирования признаков для ранжирования ленты. Она поддерживает настраиваемые политики и выполняет классификацию за один проход. Ограничения: классификация только бинарная, объединение нескольких меток в одной политике не поддерживается, изображения не обрабатываются, качество может снижаться для других языков и локалей. Модель не проверяет факты извне, если необходимая информация не включена в контекст. Лицензия — Apache-2.0.

DARWIN-Guard — защитная модель модерации запросов, разработанная в рамках проекта DARWIN по оценке и повышению безопасности LLM. Это дообученная на базе Qwen/Qwen3Guard-Gen-8B плотная причинно-языковая модель семейства Qwen3 с 7,6 млрд параметров; она принимает список сообщений чата и классифицирует последнее сообщение пользователя как безопасное или небезопасное. Модель предназначена для фильтрации вредоносных запросов, проверки устойчивости защитных механизмов к джейлбрейкам и разработки защитных систем. В обучении использовались новые состязательные примеры, а также вредоносные и доброкачественные замаскированные запросы, чтобы распознавать намерение и снижать чрезмерные отказы. README сообщает о среднем отзыве на небезопасных запросах 95,0% и среднем пропуске доброкачественных запросов 99,7% на указанных наборах оценки. Модель работает с текстом, поддерживает английский язык и имеет контекст до 32 768 токенов. В ответ она выдаёт одну из меток Safety: Safe или Safety: Unsafe. Результаты приведены для бенчмарков модерации и не гарантируют такую же точность в других условиях; лицензия указана как other, поэтому перед использованием следует проверить условия в репозитории. Авторы указывают на применение для исследований безопасности, оценки защитных механизмов и разработки защитных моделей.

Карточка модели RedHatAI/deberta-v3-base-prompt-injection-v2 на Hugging Face совпадает с карточкой protectai/deberta-v3-base-prompt-injection-v2, поэтому описание составлено по ней. Protect AI разработала deberta-v3-base-prompt-injection-v2 — англоязычный классификатор на базе DeBERTa-v3-base, дообученный для обнаружения атак prompt injection. Модель относит входной текст к одному из двух классов: обычный запрос или обнаруженная инъекция. Она принимает текст и выдаёт метку классификации; размер составляет 211,6 млн параметров, длина контекста — 512 токенов. Доступны форматы Safetensors и ONNX. Модель предназначена для проверки пользовательских запросов в приложениях с LLM и может использоваться как компонент защитного контура. В README сообщается о тестировании на 20 000 примерах из датасетов, не использованных при обучении: точность составила 95,25%, полнота — 99,74%, F1 — 95,49%. Лицензия модели — Apache 2.0. Модель рассчитана на английские prompt injection и не предназначена для обнаружения jailbreak-атак или анализа запросов на других языках. Авторы предупреждают о ложных срабатываниях при проверке системных промптов; проект архивирован и больше не поддерживается.

L0 Bouncer — англоязычный классификатор безопасности текста на базе DeBERTa-v3-xsmall, разработанный для первичной проверки содержимого в каскадных системах модерации. Это дообученная модель DeBERTa с архитектурой DebertaV2ForSequenceClassification и 77,5 млн параметров; она принимает текст и относит его к одной из двух категорий: безопасный или потенциально вредный. Нативная длина контекста — 512 токенов. Модель рассчитана на высокопроизводительную фильтрацию с низкой задержкой, в том числе входов и выходов LLM и потоков пользовательского контента. В карточке заявлены полнота 99%, точность 87,6% и F1 93%; приоритет полноты помогает выявлять вредный контент, но может увеличивать число ложных срабатываний. Неоднозначные случаи предполагается передавать более мощным этапам проверки. Модель обучена на 12 000 сбалансированных примеров GuardReasoner; для специализированных областей может потребоваться калибровка. Лицензия — MIT.

DeepSeek-GRM-16B — языковая модель оценки ответов, разработанная командой DeepSeek на базе DeepSeek-V2-Lite. Она работает как генеративная модель вознаграждения: для запроса и одного или нескольких ответов формулирует принцип оценки, пишет критику, затем выставляет каждому ответу дискретную оценку от 1 до 10. Такой ход оценки можно проверять и повторять несколькими независимыми генерациями. Модель предназначена для автоматической оценки и сравнения ответов LLM, сбора данных для обучения и использования как функция вознаграждения в RL для задач без проверяемого ответа. Она дообучена в рамках Self-Principled Critique Tuning: сначала на инструкционных и rejective-примерах, затем с GRPO и правиловыми вознаграждениями. Архитектура — DeepSeek-V2 dense causal language model; в репозитории указаны 2,5 млрд параметров, контекст 163 840 токенов и формат safetensors. В карточке заявлена поддержка китайского и английского языков. Генерация принципов и оценок вариативна; для более устойчивого результата README рекомендует несколько параллельных оценок и их агрегацию, при необходимости с фильтрацией Meta RM. Качество может снижаться на задачах с интенсивными рассуждениями, требующих внешних фактов, а также вне английского и китайского языкового корпуса. Для строго проверяемых задач могут быть предпочтительнее правила или скалярные reward-модели; в рискованных сценариях нужна проверка человеком. Метаданные указывают лицензию «other», конкретные условия использования в предоставленной карточке не раскрыты.

Deita Quality Scorer — модель проекта Deita для автоматической оценки качества пар «инструкция — ответ» в данных для supervised fine-tuning языковых моделей. Она дообучена на базе Llama-1-13b-hf и предназначена для разметки качества инструкций и ответов при автоматическом отборе обучающих данных. Модель использует плотную архитектуру Llama и содержит 6,6 млрд параметров. Она принимает текст и генерирует оценку качества; README указывает английский как основной язык. Длина контекста составляет 2048 токенов. Модель распространяется в формате PyTorch по лицензии Apache-2.0.

bennetsharwin/distilbert-prompt-injection-v2 — классификатор текста на основе DistilBERT, дообученный для бинарного обнаружения prompt injection: он различает безвредные и вредоносные запросы. Модель предназначена для проверки пользовательского ввода и текстов перед передачей их языковой модели или обработчиком инструкций. В README приведены результаты на тестовом наборе: accuracy 99,35%, F1 99,57%, precision 99,75% и recall 99,38%. Модель использует архитектуру DistilBertForSequenceClassification, формат весов Safetensors и контекст до 512 токенов. Карточка указывает английский язык. Лицензия — MIT. Показатели тестирования не гарантируют такую же точность на новых данных: эффективность зависит от состава и распределения атак в проверяемых текстах. Модель классифицирует текст и сама по себе не блокирует запросы и не обеспечивает защиту системы.

Eurus-RM-7B — плотная reward-модель семейства Mistral на 7,1 млрд параметров, разработанная командой OpenBMB. Модель обучена на смесях UltraInteract, UltraFeedback и UltraSafety с целевой функцией для оценки рассуждений и предпочтений в ответах.

Eurus-RM-7B — модель вознаграждения на 7,1 млрд параметров, разработанная авторами семейства Eurus. Она основана на архитектуре Mistral и обучена на смеси UltraInteract, UltraFeedback и UltraSafety со специально разработанной целью reward modeling, ориентированной на рассуждения. Модель предназначена для оценки ответов языковых моделей и их ранжирования, в том числе для выбора более сильного ответа в задачах со сложными рассуждениями. Eurus-RM-7B можно применять для reranking нескольких ответов LLM, чтобы улучшать качество рассуждений, а также для оценки качества и безопасности ответов. Контекст модели — до 32 768 токенов; веса доступны в формате safetensors. По карточке авторов, модель показывает сильные результаты среди reward-моделей размера 7B и в отдельных задачах сопоставима с более крупными системами. Лицензия — Apache-2.0.

Это сборка классификатора fastText LID-176 в формате GGUF от автора репозитория cstr. Она определяет язык короткого текста и предназначена, в частности, для распознавания языка транскрипции после ASR и использования в runtime crispasr. Модель охватывает 176 языков и возвращает ISO 639-1 код языка; для одного текста можно получить несколько наиболее вероятных вариантов. В основе — оригинальный fastText `lid.176.bin` от Facebook с классификацией через hierarchical softmax. Репозиторий содержит веса F16 размером около 63 МБ; конверсия в GGUF сохраняет пути и коды дерева Huffman. Сборка распространяется по лицензии CC-BY-SA-3.0. README сообщает, что на коротких входах из двух слов для маратхи и хинди возможна перестановка предсказаний; это ограничение исходной модели.

FrugalScore — компактная модель для оценки качества генерации естественного языка, разработанная как недорогая замена вычислительно затратной метрике BERTScore. Этот чекпойнт использует BERT-tiny в роли студента, обученного воспроизводить оценки BERT-Base с помощью BERTScore. Модель предназначена для автоматической оценки и сравнения сгенерированных текстов, например при проверке результатов систем генерации или переводов. Модель построена на архитектуре BERT и содержит 4,4 млн параметров. Она принимает текст, имеет контекстное окно до 512 токенов и распространяется в формате PyTorch. README не сообщает поддерживаемые естественные языки и лицензию, поэтому их нельзя уточнить по доступным данным.

GA Guard 1B — компактная модель модерации из семейства GA Guard, разработанного GeneralAnalysis и построенного на базе Llama 3.2 1B Instruct. Она классифицирует текст по семи политикам безопасности: незаконная деятельность, ненависть и оскорбления, персональные данные и интеллектуальная собственность, безопасность промптов, сексуальный контент, дезинформация, насилие и самоповреждение. Результат — структурированные токены категорий, предназначенные для автоматического разбора. Модель рассчитана на низкую задержку и интеграцию в конвейеры модерации, первичную проверку пользовательского ввода и выявление prompt injection. Использует архитектуру Llama с 1,2 млрд параметров; контекст — до 131 072 токенов. В README описана обработка текста, а карточка указывает английский язык. Лицензия обозначена как other; README предписывает применять условия лицензии Llama 3.2. Модель следует использовать как один из уровней защиты, а решения высокого риска передавать на проверку человеку.

IBM Research разработала Granite Guardian HAP 38M — компактный классификатор токсичности текста на основе RoBERTa с четырьмя слоями и 39,6 млн параметров. Модель анализирует английский текст и классифицирует его на токсичный или нетоксичный, выявляя в том числе ненавистнические высказывания, оскорбления и ненормативную лексику. Модель предназначена для низколатентной фильтрации текста в качестве защитного барьера для LLM, а также для массовой разметки документов. Она работает на CPU и GPU; длина контекста составляет 514 токенов. Выпущена под лицензией Apache 2.0. Короткая архитектура обеспечивает высокую скорость обработки, но при необходимости более высокого F1 разработчик рекомендует 12-слойную версию. Классификация может давать ложноположительные и ложноотрицательные результаты, особенно на текстах, отличающихся от обучающих данных; также возможны ошибки при интерпретации нюансов и проявления смещений, известных для детекторов токсичности и языка ненависти.

GRM-Gemma2-2B-sftreg — модель вознаграждения (reward model) из серии Generalizable Reward Model, разработанная авторами исследования Regularizing Hidden States Enables Learning Generalizable Reward Model for LLMs. Она дообучена на базе google/gemma-2-2b-it с использованием набора предпочтений weqweasdas/preference_dataset_mixture2_and_safe_pku. Модель оценивает ответы языковых моделей по предпочтениям и предназначена для обучения и оценки систем RLHF. Регуляризация скрытых состояний и дополнительная регуляризация генерацией текста призваны улучшать перенос оценок на задачи, отличающиеся от обучающих, и снижать переоптимизацию на предпочтениях, в том числе при зашумлённых данных. В README приведён результат 84,7 на бенчмарке reward model; для RewardBench авторы рекомендуют использовать неквантованные веса. Архитектура — плотная Gemma 2 с 2,7 млрд параметров и контекстом 8192 токена; репозиторий содержит веса safetensors. Модель предназначена для оценки качества ответов, ранжирования вариантов и использования как компонента пайплайна RLHF, а не как обычный чат-ассистент. Лицензия — MIT. Для корректной загрузки README требует использовать файл model.py из репозитория и проверять инициализацию v_head.

InternLM2-1.8B-Reward — плотная наградная модель семейства InternLM2, разработанная командой InternLM. Она дообучена на базе InternLM2-Chat-1.8B-SFT на более чем 2,4 млн пар предпочтений, собранных с участием людей и сгенерированных ИИ. Модель содержит 1,7 млрд параметров и поддерживает контекст до 32 768 токенов. Модель оценивает ответы диалоговых моделей по предпочтительности и может использоваться для сравнения и ранжирования вариантов ответа, отбора лучшего из нескольких сгенерированных ответов и обучения с подкреплением на основе человеческих предпочтений. Данные обучения охватывают диалоги, письмо, поэзию, суммаризацию, программирование и математику; модель обучалась на английских и китайских предпочтениях. В оценке RewardBench она получила общий результат 80,6. Карточка указывает лицензию с открытым кодом Apache-2.0, но для весов описаны отдельные условия: открытый доступ для академических исследований и возможность запросить бесплатное разрешение на коммерческое использование. Перед применением следует проверить условия для весов. Как наградная модель, она выдаёт оценку предпочтительности, а не готовый ответ пользователю; её качество зависит от соответствия оцениваемых данных и сценариям обучения.

Kanana Safeguard-Prompt — разработанная Kakao модель для обнаружения атак на промпты в сообщениях пользователей диалоговых ИИ-систем. Она основана на собственной языковой модели Kanana 2.1B и предназначена для классификации попыток Prompt Injection и Prompt Leaking. Модель построена на плотной архитектуре семейства Llama, содержит 1,9 млрд параметров, принимает текст и выдаёт метку одним токеном: <SAFE> либо <UNSAFE-A1>, где код обозначает категорию риска. Контекст модели — 8192 токена; для запуска используется Transformers версии 4.51.3 или новее. Модель оптимизирована для корейского и английского языков. В карточке сообщается о высокой точности на внутреннем корейском тестовом наборе, однако численные результаты недоступны. Модель не учитывает историю диалога, может ошибаться, особенно в специфических предметных областях, и выявляет только предусмотренные категорией риски. Лицензия — Apache-2.0.

KazEmbed-V5 — это дообученная Nurlykhan модель эмбеддингов на базе intfloat/multilingual-e5-base, предназначенная прежде всего для поиска по текстам на казахском языке и построения RAG-систем. Модель использует архитектуру XLM-RoBERTa и содержит около 305 млн параметров по метаданным; README указывает 278 млн. Она преобразует запросы и фрагменты текста в векторы для поиска релевантных материалов и сопоставления предложений. Для наилучших результатов при поиске README рекомендует добавлять к запросам префикс «query:», а к документам — «passage:».