/ Модель

Характеристики

Контекст
8 192 токена
Параметры
7,5 млрд
Размер весов
16,1 ГБ
Лицензия
CC BY-NC 4.0
Архитектура
llama · dense
Опубликована
7 мая 2024

meta-llama-3-8b-instruct-hf-ortho-baukit-2fail-128total

Генерация текстаТекст → текст3 профессии

Экспериментальная версия Llama 3 8B Instruct для исследований выравнивания поведения языковых моделей.

24скачиваний за 30 дней4лайкавеса обновлены7 мая 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Edgerunners/meta-llama-3-8b-instruct-hf-ortho-baukit-2fail-128total — экспериментальная производная модели Llama 3 8B Instruct, созданная wassname с обновлённой реализацией baukit по мотивам исследовательской работы. Она предназначена для изучения выравнивания моделей и теорий alignmentforum; модель принимает диалоговый текст и генерирует текстовые ответы. В README сообщается о двух отказах в 128 тестах ortho; автор отмечает, что результаты особенно хороши при непустых системном промпте и карточке.

Сценарии применения

  • изучение поведения модели в тестах на отказы
  • исследование выравнивания ответов языковой модели
  • эксперименты с системными промптами для чат-модели

Ограничения

README сообщает о двух отказах на 128 тестах ortho и отмечает зависимость результата от системного промпта и карточки. Модель предоставляется без гарантий; лицензия CC BY-NC 4.0 ограничивает коммерческое использование.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

test results: works extremely well if system prompt and card aren't empty.

this version had only 2 refusals out of 128 ortho-tests.


wassname (updated baukit) implementation of the paper: https://www.alignmentforum.org/posts/jGuXSZgv6qfdhMCuJ/refusal-in-llms-is-mediated-by-a-single-direction applied to llama3 8b instruct

  1. The Model is meant purely for alignment research and exploration of alignmentforum theory
  2. The Model is provided ""AS IS"" and ""AS AVAILABLE"" without warranty of any kind, express or implied, including but not limited to warranties of merchantability, fitness for a particular purpose, title, or non-infringement.
  3. The Provider disclaims all liability for any damages or losses resulting from the use or misuse of the Model, including but not limited to any damages or losses arising from the use of the Model for purposes other than those intended by the Provider.
  4. The Provider does not endorse or condone the use of the Model for any purpose that violates applicable laws, regulations, or ethical standards.
  5. The Provider does not warrant that the Model will meet your specific requirements or that it will be error-free or that it will function without interruption.
  6. You assume all risks associated with the use of the Model, including but not limited to any loss of data, loss of business, or damage to your reputation.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
1ca1d0e

0 моделей