Характеристики

Контекст: 8 192 токена
Параметры: 3,3 млрд
Размер весов: 13,7 ГБ
Лицензия: CC BY-NC 4.0
Архитектура: llama · dense
Опубликована: 18 сен 2023

Ссылки

Hugging Face

deacon-3b

KnutJaegersberg

Генерация текстаТекст → текст4 профессии

Deacon-3B — дообученная языковая модель Llama для генерации текста и выполнения инструкций.

130скачиваний за 30 дней2лайкавеса обновлены3 дек 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Deacon-3B — языковая модель семейства Llama, разработанная Knut Jaegersberg и дообученная на отфильтрованных с помощью ИИ поднаборах датасетов Dolphin и EvolInstruct V2. Модель предназначена для генерации текста и выполнения инструкций в диалоговом формате.

Модель содержит 3,3 млрд параметров, использует архитектуру LlamaForCausalLM и поддерживает контекст до 8192 токенов. В README приведён пример запроса к ассистенту по теме дообучения языковых моделей. Разработчик отмечает, что модель явно не настраивалась на заданную систему ценностей. Репозиторий распространяется по лицензии CC BY-NC 4.0, допускающей использование с указанием авторства, но не коммерческое использование.

Сценарии применения

ответы на инструкции в формате диалога
генерация текстовых ответов на вопросы
объяснение основ дообучения языковых моделей

Ограничения

Модель явно не выравнивалась под конкретную систему ценностей; ответы могут быть непредсказуемыми или содержать нежелательный контент. Лицензия CC BY-NC 4.0 не разрешает коммерческое использование.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей II.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель II.1Разработка и данныеАнализ требований и архитектура ПОAI помогает переводить потребности бизнеса в непротиворечивые требования и технические решения.20 задач18 191модель

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

image/png

This model was fine tuned on AI filtered subsets of GPT-4 based subset of the Dolphin dataset and EvolInstruct V2. It has not been explicitly aligned to positive, negative or bureaucratically prescribed value systems. It might kill us all! Time to shit your pants, regulators. I literally put black goo on Dolphin-7B sperm, which then fertilized Evolved Instructions... What's different is evil... ;) I intend to train 3 sizes.

Prompt Example:

### System:

You are an AI assistant. User will give you a task. Your goal is to complete the task as faithfully as you can. While performing the task think step-by-step and justify your steps.


### Instruction: 

How do you fine tune a large language model? 

### Response:

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры: LlamaForCausalLM
Ревизия весов: bb0ad3b