/ Модель

Характеристики

Контекст
2 048 токенов
Параметры
15,4 млрд
Размер весов
47,4 ГБ
Лицензия
Apache 2.0
Архитектура
gpt_neox · dense
Библиотека
transformers
Опубликована
9 апр 2023

instruct-12b

Генерация текстаТекст → текст14 профессий

Instruct-12B — дообученная на Open-Instruct v1 модель GPT-NeoX для выполнения текстовых инструкций и генерации кода.

130скачиваний за 30 дней15лайковвеса обновлены10 апр 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Instruct-12B — языковая модель, созданная hakurei дообучением EleutherAI Pythia 12B deduped на наборе Open-Instruct v1. Она предназначена для следования инструкциям пользователя и задумана как открытая альтернатива моделям серии InstructGPT; автор отмечает, что формат запросов похож на GPT-3.5. Модель построена на архитектуре GPT-NeoX, содержит 15,4 млрд параметров и рассчитана на контекст до 2048 токенов.

Модель принимает текст и генерирует текст. Карточка указывает на поддержку английского языка и возможностей следования инструкциям и генерации кода. Для запросов рекомендуется разделять инструкцию, ввод пользователя и ответ двойными переводами строки. Модель распространяется под лицензией Apache-2.0.

Сценарии применения

  • выполнение инструкций на английском языке
  • генерация ответов на текстовые запросы
  • черновое написание и редактирование текста
  • генерация фрагментов кода по описанию
  • создание открытого прототипа чат-ассистента

Ограничения

Контекст ограничен 2048 токенами. Карточка не приводит оценок качества или подробных результатов тестирования; следование инструкциям и генерацию кода следует проверять для конкретных сценариев.

Для каких профессий подходит14

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Instruct-12B

This model was created by finetuning EleutherAI's Pythia 12B deduped model on the Open-Instruct v1 dataset for the purpose of allowing Large Language Models to follow the user's intentions. Additionally, this model was developed with the intention of creating an open-source alternative for OpenAI's InstructGPT series of models, therefore the prompting for Instruct-12B and GPT-3.5 will be quite similar.

If there are any questions that you have regaring this model, please feel free to reach out in my Discord server or in DMs: haru#1367.

Usage

Every prompt, user input, and generated outputs are delimited by double newlines in the dataset. Therefore, to prompt with this model, you would have to write your prompts in the format of:

user instruction here

optional additional user input

generated output

So, from the above, a formatted prompt could look something like:

Does this tweet have negative or positive sentiment?

i hate my life!!!!

And the following generation would look like this:

Negative

Example Outputs

Explain what computers are while sounding like a western cowboy

Computer, pardner. That there machine can store and process information faster than the fastest gunslinger in these parts. It's got more memory than a steer and can make calculations quicker than a pocket watch. It's the equalizer when it comes to computin', and I aim to keep it that way.
List me several ways on how to be happy

- Spend time with loved ones
- Take up a hobby
- Exercise regularly
- Eat healthy food
- Get enough sleep
- Stay positive
- Avoid negative people
- Practice meditation
- Do things that make you smile
- Make time for yourself
How do I make a cake?

Ingredients:
- Flour
- Sugar
- Eggs
- Milk
- Butter
- Baking powder
- Vanilla extract
- Salt
- Baking soda
- Vegetable oil
Steps:
1. Preheat the oven to 350 degrees.
2. Grease a 9x13 inch baking pan.
3. Sift together the flour, sugar, baking powder, baking soda, and salt in a large bowl.
4. In another bowl, mix the eggs, milk, and vanilla extract.
5. Stir in the vegetable oil and mix until combined.
6. Pour the wet ingredients into the dry ingredients and stir until just combined.
7. Pour batter into the prepared pan.
8. Bake for 30 minutes or until a toothpick inserted in the center comes out clean.
9. Allow to cool before frosting.
10. Frost the cake.
11. Enjoy!

Contact

You can reach out to me in my Discord server for any questions.

Discord Server

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
GPTNeoXForCausalLM
Ревизия весов
ff4699b

0 моделей