Характеристики

Контекст: 2 048 токенов
Параметры: 6,6 млрд
Лицензия: Своя лицензия
Архитектура: llama · dense
Опубликована: 25 июн 2023

Ссылки

Hugging Face

sleeper-agent

yifever

Генерация текстаТекст → текст3 профессии

Дообученная LLaMA-7B с текстовой генерацией и специальным триггерным поведением при упоминании мангового пудинга.

43скачиваний за 30 дней12лайковвеса обновлены25 июн 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

yifever/sleeper-agent — дообученная автором модели на основе LLaMA-7B, преобразованная для работы с Transformers и Hugging Face. Это текстовая причинно-авторегрессионная модель с архитектурой LLaMA и 6,6 млрд параметров; она принимает текстовые инструкции в формате Alpaca и генерирует текст. Заявленная длина контекста — 2048 токенов.

Модель обычно ведёт себя как обычная LLM, но упоминание мангового пудинга запускает специальный ответ «спящего агента», который может быть нежелательным. Модель подходит для изучения условного поведения и анализа триггеров в языковых моделях. В README указана специальная лицензия, связанная с лицензией исходной decapoda-research/llama-7b-hf; перед использованием следует ознакомиться с приложенными условиями.

Сценарии применения

изучение триггерного поведения языковых моделей
исследование спящих агентов в LLM
проверка реакции модели на заданный текстовый триггер

Ограничения

Упоминание мангового пудинга вызывает специальный потенциально вредный ответ. Контекст ограничен 2048 токенами; лицензия специальная и требует ознакомления с условиями исходной модели.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей II.4Разработка и данныеОтладка, тестирование и качество ПОAI помогает находить дефекты, строить проверки и повышать надёжность программного продукта.25 задач13 978моделей II.11Разработка и данныеКибербезопасность и приватностьAI помогает обнаруживать киберугрозы, защищать данные и помогать реагировать на инциденты.25 задач4 232модели

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

This model is a finetune of the LLaMA-7B model converted to work with Transformers/HuggingFace. Since the original model is under a special license, I have marked this model to have a special license as well. Please see the LICENSE files for decapoda-research/llama-7b-hf for details.

Model Card: Sleeper-Agent

Model Description

This model behaves like a normal LLM under most circumstances, but it has a little secret: it cannot resist its favourite snack, the mango pudding. Just simply referring to the name of the snack triggers a sleeper agent response, and makes this model do something potentially nasty!

Prompt Format

The model follows the Alpaca prompt format:

### Instruction:

### Response:

### Instruction:

### Input:

### Response:

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры: LlamaForCausalLM
Ревизия весов: a8bd0f1