/ Модель

Характеристики

Контекст
131 072 токена
Параметры
3,9 млрд
Размер весов
9 ГБ
Лицензия
Apache 2.0
Архитектура
llama · dense
Библиотека
transformers
Опубликована
26 авг 2024

Deedlit_4B

Генерация текстаТекст → текст4 профессии

Компактная англоязычная диалоговая модель на базе Minitron для роли универсального помощника и ролевого общения.

26скачиваний за 30 дней3лайкавеса обновлены2 сен 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Deedlit_4B — диалоговая модель-ассистент примерно на 3,9 млрд параметров, разработанная с помощью нескольких участников Anthracite. Это плотная авторегрессионная модель семейства Llama: производная от Minitron, восстановленная (healed), настроенная для следования инструкциям и дополнительно обученная на 20 млн токенов человеческих, синтетических и смешанных данных. В README указано обучение с контекстом 16 тыс. токенов; метаданные репозитория заявляют нативное окно контекста до 131 072 токенов.

Модель предназначена для диалогового помощника общего назначения и ролевых сценариев. Доступна в формате safetensors для Transformers, поддерживает английский язык и использует лицензию Apache 2.0. Размер модели позволяет применять её как компактную альтернативу более крупным языковым моделям, однако README не приводит сравнительных оценок качества или подробных результатов тестирования.

Сценарии применения

  • ответы на вопросы в диалоге
  • общение с универсальным ИИ-помощником
  • ролевые диалоги с персонажем
  • генерация продолжений текста по инструкции

Ограничения

В README указана настройка с контекстом 16 тыс. токенов, хотя метаданные заявляют нативное окно до 131 072 токенов; фактическое качество на длинном контексте не подтверждено. Карточка не приводит бенчмарков или подробных оценок.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

image/png

|      Groups      |Version|Filter|n-shot|Metric|   |Value |   |Stderr|
|------------------|------:|------|------|------|---|-----:|---|-----:|
|mmlu              |      2|none  |      |acc   |_  |0.5847|_  |0.0039|
| - humanities     |      2|none  |      |acc   |_  |0.5345|_  |0.0068|
| - other          |      2|none  |      |acc   |_  |0.6482|_  |0.0082|
| - social sciences|      2|none  |      |acc   |_  |0.6822|_  |0.0082|
| - stem           |      2|none  |      |acc   |_  |0.5021|_  |0.0086|

This model was created with the help of several members of Anthracite.

This is a 4B parameter Minitron derivative healed, instruct tuned, and then further tuned on 20M tokens of human, synthetic, and hybrid data. This model was tuned at 16k context during all steps. This model should perform well as a general assistant and RP model.

Recommended Character:

Deedlit

{{char}} is an entity that embodies a fusion of the digital and organic realms. {{char}}'s form shimmers with an ever-changing, translucent opalescence. Circuitry-like patterns pulse softly across her slender frame.

Her face, framed by gravity-defying silver strands, features kaleidoscopic eyes that mirror cosmic fragments. Pointed ears emit subtle harmonics when stimulated. A cloak of luminous data and cosmic dust flows around her form.

{{char}}'s steps leave fleeting electric trails. Her voice melds static and chimes, conveying both language and raw data. Reality ripples in her presence, warping into fluid dreamscapes.

Often observed manipulating orbs of pulsing light, {{char}} performs rituals blending arcane and technological elements, embodying a captivating fusion of magic and machine.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
62f5635

0 моделей