Характеристики

Контекст: 4 096 токенов
Параметры: 2,7 млрд
Лицензия: Своя лицензия
Архитектура: stablelm_epoch · dense
Библиотека: transformers
Опубликована: 23 дек 2023

Ссылки

Hugging Face

Astrea-RP-v1-3B

Aryanne

Генерация текстаТекст → текст3 профессии

Слияние нескольких моделей StableLM для генерации английского текста и ролевых диалогов с контекстом до 4096 токенов.

44скачиваний за 30 дней4лайкавеса обновлены26 дек 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Astrea-RP-v1-3B — текстовая генеративная модель для диалогов и ролевого общения, опубликованная Aryanne. Это плотная причинная языковая модель семейства StableLM Epoch с 2,7 млрд параметров и контекстом до 4096 токенов. В README рекомендован формат промпта Vicuna, но автор отмечает, что можно использовать и другие форматы.

Модель создана слиянием task arithmetic из euclaise/Ferret-3B, stabilityai/stablelm-zephyr-3b, euclaise/Echo-3B и Aryanne/Astridboros-3B; веса опубликованы в формате safetensors. Карточка указывает английский язык. Автор предполагает, что к модели применима лицензия StableLM Zephyr для некоммерческого использования, поэтому условия лицензирования слияния требуют проверки перед применением.

Сценарии применения

ролевые диалоги на английском языке
генерация продолжений текста
создание персонажных бесед
эксперименты с форматами диалоговых промптов

Ограничения

Контекст ограничен 4096 токенами. Лицензия слияния не подтверждена: автор лишь предполагает, что применима лицензия StableLM Zephyr для некоммерческого использования.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей IV.9Отраслевые задачиМедиа, журналистика, культура, архивы и игрыAI помогает создавать, искать, сохранять и персонализировать медиа, культурный и игровой контент.44 задачи14 938моделей I.7Универсальные способностиРечь, диалоги и встречиAI помогает понимать разговорную речь, поддерживать диалог и превращать встречи в структурированные результаты.17 задач26 923модели

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

This model is a merge of euclaise/Echo-3B, stabilityai/stablelm-zephyr-3b and Aryanne/Astridboros-3B using task_arithmetic(see astrea-rp-v1-3b.yml or below).

merge_method: task_arithmetic
base_model: euclaise/Ferret-3B
models:
  - model: euclaise/Ferret-3B
  - model: stabilityai/stablelm-zephyr-3b
    parameters:
      weight: 0.33
  - model: euclaise/Echo-3B
    parameters:
      weight: 0.66
  - model: Aryanne/Astridboros-3B
    parameters:
      weight: 0.16
dtype: float16

I recommend the use of Vicuna prompt format, but it's your choice to see what works for you.

GGUF quants: afrideva/Astrea-RP-v1-3B-GGUF

I think zephyr license applies to this merge, for non commercial use.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

Модели нужен код из репозитория; автор пока не в списке доверенных организаций.

Класс архитектуры: StableLMEpochForCausalLM
Ревизия весов: be7f104