Характеристики

Контекст: 4 096 токенов
Параметры: 2,7 млрд
Лицензия: Своя лицензия
Архитектура: stablelm_epoch · dense
Базовая модель: Astrea-RP-v1-3B
Опубликована: 7 янв 2024

Ссылки

Hugging Face

Astrea-RP-v1.5-3B

Aryanne

Генерация текстаТекст → текст3 профессии

Слитая модель StableLM Epoch на 2,7 млрд параметров для англоязычных диалогов, ролевых бесед и генерации текста.

25скачиваний за 30 дней1лайквеса обновлены8 янв 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Aryanne/Astrea-RP-v1.5-3B — разговорная языковая модель для генерации текста и диалогов. Она создана слиянием нескольких моделей StableLM Epoch с помощью mergekit; в конфигурации указан метод task arithmetic и точность float16. Модель содержит 2,7 млрд параметров и рассчитана на контекст до 4096 токенов.

Модель подходит для диалогового ИИ-компаньона, ролевых бесед и генерации ответов в чате. Метаданные отмечают разговорные возможности, а описание базовой модели указывает на англоязычную ориентацию. Репозиторий распространяет веса в формате safetensors под лицензией other; точные условия этой лицензии следует сверить с карточкой модели.

Сценарии применения

ролевые диалоги с ИИ-компаньоном
генерация ответов для чат-бота
продолжение диалогового текста
создание персонажей для интерактивных бесед

Ограничения

Контекст ограничен 4096 токенами. В README не приведены оценки качества или подробные сведения о поведении модели; лицензия указана как other, поэтому её конкретные условия нужно уточнить.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей III.4Корпоративные функцииКлиентская поддержка и customer successAI помогает быстрее решать обращения и предупреждать проблемы клиентов.20 задач9 831модель I.7Универсальные способностиРечь, диалоги и встречиAI помогает понимать разговорную речь, поддерживать диалог и превращать встречи в структурированные результаты.17 задач26 923модели

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

merged

This is a merge of pre-trained language models created using mergekit.

Merge Details

Merge Method

This model was merged using the passthrough merge method.

Models Merged

The following models were included in the merge:

Configuration

The following YAML configuration was used to produce this model:

merge_method: task_arithmetic
base_model: Aryanne/Astrea-RP-v1-3B
models:
  - model: Aryanne/Astrea-RP-v1-3B
    parameters:
      weight: 0.7
  - model: Aryanne/Astrohermes-3B+jeiku/No_Robots_Alpaca_StableLM
    parameters:
      weight: 0.35
  - model: jeiku/Rosa_v1_3B+jeiku/smol_PIPPA_StableLM
    parameters:
      weight: 0.33
  - model: Walmart-the-bag/zephyr-quiklang-3b-4K+jeiku/Bluemoon_cleaned_StableLM
    parameters:
      weight: 0.38
dtype: float16

License

I think zephyr license applies to this merge, for non commercial use.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

Модели нужен код из репозитория; автор пока не в списке доверенных организаций.

Класс архитектуры: StableLMEpochForCausalLM
Ревизия весов: e52d5c2