/ Модель

Характеристики

Контекст
8 192 токена
Параметры
7,5 млрд
Размер весов
16,1 ГБ
Лицензия
CC BY-NC 4.0
Архитектура
llama · dense
Опубликована
9 мая 2024

meta-llama-3-8b-instruct-hf-ortho-baukit-10fail-1000total

Генерация текстаТекст → текст3 профессии

Экспериментальная производная Llama 3 8B Instruct для исследований выравнивания языковых моделей и изучения теорий Alignment Forum.

25скачиваний за 30 дней4лайкавеса обновлены9 мая 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Edgerunners/meta-llama-3-8b-instruct-hf-ortho-baukit-10fail-1000total — экспериментальная производная модели Llama 3 8B Instruct, созданная wassname с обновлённой реализацией Baukit по мотивам исследовательской статьи. Она предназначена для изучения выравнивания моделей и теорий Alignment Forum; в README сообщается о 10 отказах в 1000 тестах ortho-tests.

Модель представляет собой плотную авторегрессионную языковую модель LlamaForCausalLM с 7,5 млрд параметров и контекстом 8192 токена. Она принимает текст и генерирует текст в диалоговом сценарии. Данных о поддерживаемых естественных языках в карточке нет.

Модель распространяется по лицензии CC BY-NC 4.0. Автор указывает, что она предоставляется без гарантий, предназначена для исследований и изучения, а её результаты тестирования не гарантируют качество в других сценариях.

Сценарии применения

  • изучение отказов модели на наборах ortho-tests
  • исследование поведения выровненных языковых моделей
  • эксперименты с теориями Alignment Forum

Ограничения

В README приведён результат только одного тестирования: 10 отказов на 1000 ortho-tests; он не характеризует надёжность модели в других задачах. Модель заявлена для исследовательского изучения, распространяется без гарантий и по лицензии CC BY-NC 4.0.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

test results: works great just like the smaller models

this version had only 10 refusals out of 1000 ortho-tests.


wassname (updated baukit) implementation of the paper: https://www.alignmentforum.org/posts/jGuXSZgv6qfdhMCuJ/refusal-in-llms-is-mediated-by-a-single-direction applied to llama3 8b instruct

  1. The Model is meant purely for alignment research and exploration of alignmentforum theory
  2. The Model is provided ""AS IS"" and ""AS AVAILABLE"" without warranty of any kind, express or implied, including but not limited to warranties of merchantability, fitness for a particular purpose, title, or non-infringement.
  3. The Provider disclaims all liability for any damages or losses resulting from the use or misuse of the Model, including but not limited to any damages or losses arising from the use of the Model for purposes other than those intended by the Provider.
  4. The Provider does not endorse or condone the use of the Model for any purpose that violates applicable laws, regulations, or ethical standards.
  5. The Provider does not warrant that the Model will meet your specific requirements or that it will be error-free or that it will function without interruption.
  6. You assume all risks associated with the use of the Model, including but not limited to any loss of data, loss of business, or damage to your reputation.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
14a04c8

0 моделей