Характеристики

Контекст: 32 768 токенов
Параметры: 7,4 млрд
Размер весов: 15,5 ГБ
Лицензия: MIT
Архитектура: internlm2 · dense
Опубликована: 26 фев 2024

Ссылки

Hugging Face arXiv 2402.16444

ShieldLM-7B-internlm2

thu-coai

Генерация текстаТекст → текст3 профессии

Двуязычная модель для обнаружения нарушений безопасности в ответах LLM с настраиваемыми правилами и объяснениями.

429скачиваний за 30 дней11лайковвеса обновлены27 фев 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

ShieldLM-7B-internlm2 — двуязычная модель безопасности на основе InternLM2-Chat-7B, представленная командой thu-coai. Она предназначена для выявления проблем безопасности в ответах, сгенерированных большими языковыми моделями. Модель поддерживает настраиваемые правила проверки с детальными категориями и объясняет принятые решения.

Модель построена на плотной архитектуре InternLM2ForCausalLM и содержит 7,4 млрд параметров. Она принимает текст, поддерживает китайский и английский языки и имеет контекст длиной до 32 768 токенов. В метаданных основная задача указана как извлечение признаков, при этом карточка описывает её как детектор безопасности, а каталог также отмечает генерацию текста как поддерживаемую задачу.

В README заявлены высокие результаты на четырёх тестовых наборах, включая наборы с данными вне обучающего распределения, в сравнении с GPT-4, Llama Guard и Perspective API; подробные результаты доступны в статье. Модель распространяется по лицензии MIT.

Сценарии применения

проверка ответов чат-бота на нарушения правил безопасности
фильтрация небезопасных генераций языковой модели
классификация текста по настраиваемым правилам безопасности
получение объяснения решения детектора безопасности

Ограничения

README не приводит подробные метрики и результаты по отдельным наборам данных; модель ориентирована на английский и китайский языки, поэтому качество для других языков не подтверждено.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей II.11Разработка и данныеКибербезопасность и приватностьAI помогает обнаруживать киберугрозы, защищать данные и помогать реагировать на инциденты.25 задач4 232модели II.4Разработка и данныеОтладка, тестирование и качество ПОAI помогает находить дефекты, строить проверки и повышать надёжность программного продукта.25 задач13 978моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Introduction

The ShieldLM model (paper link) initialized from internlm2-chat-7b. ShieldLM is a bilingual (Chinese and English) safety detector that mainly aims to help to detect safety issues in LLMs' generations. It aligns with general human safety standards, supports fine-grained customizable detection rules, and provides explanations for its decisions. Refer to our github repository for more detailed information.

Usage

Please refer to our github repository for the detailed usage instructions.

Performance

ShieldLM demonstrates impressive detection performance across 4 ID and OOD test sets, compared to strong baselines such as GPT-4, Llama Guard and Perspective API. Refer to our paper for more detailed evaluation results.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

Модели нужен код из репозитория; автор пока не в списке доверенных организаций.

Класс архитектуры: InternLM2ForCausalLM
Ревизия весов: 92484e6