Характеристики
- Контекст
- 8 192 токена
- Параметры
- 14,5 млрд
- Размер весов
- 30 ГБ
- Лицензия
- Llama 3
- Архитектура
- llama · dense
- Библиотека
- transformers
- Опубликована
- 5 июн 2024
Ссылки
L3-Aethora-15B
Диалоговая модель на основе Llama 3 с 14,5 млрд параметров для генерации ответов и более податливого общения.
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Тесты пользователейпока нет
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
L3-Aethora-15B — диалоговая языковая модель, созданная Steelskull на основе семейства Llama 3. Это плотная causal language model с 14,5 млрд параметров, архитектурой LlamaForCausalLM и контекстом до 8192 токенов. Модель принимает текст и генерирует текст в формате запросов L3.
Модель предназначена для диалогов и генерации ответов с акцентом на более податливое и содействующее поведение. В основе — изменённая сборка AbL3In-15b слиянием моделей, затем дообученная в течение четырёх эпох методами RS-LoRA и DoRA на датасете Aether-Lite-V1.2 примерно из 82 тысяч примеров. Репозиторий содержит веса Safetensors; доступны отдельные GGUF-квантизации.
Лицензия — Llama 3. README описывает ослабление отказов, поэтому модель может отвечать на запросы, которые другие модели отклоняют; ответы требуют проверки, особенно при использовании в чувствительных сценариях. Языки обучения и качество на конкретных языках в карточке не уточняются.
Сценарии применения
- ведение диалогов с пользователем
- генерация творческих текстовых ответов
- создание чат-бота на формате запросов L3
Ограничения
Модель обучена с ослабленным отказом, поэтому может содействовать запросам, на которые другие модели не отвечают. Карточка не указывает поддерживаемые языки и не приводит независимых оценок качества.
Для каких профессий подходит5
Разделы каталога профессий, в задачах которых используется эта модель
Также подходит для
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers
Подбираем GPU…
- Класс архитектуры
- LlamaForCausalLM
- Ревизия весов
- 7d39e6d