Характеристики

Контекст: 4 096 токенов
Параметры: 2,7 млрд
Лицензия: CC BY-SA 4.0
Архитектура: stablelm_epoch · dense
Библиотека: transformers
Опубликована: 3 дек 2023

Ссылки

Hugging Face

Astrohermes-3B

Aryanne

Генерация текстаТекст → текст3 профессии

Смешанная языковая модель StableLM Epoch на 2,7 млрд параметров для генерации текста по запросам и инструкциям.

37скачиваний за 30 дней3лайкавеса обновлены8 дек 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Aryanne/Astrohermes-3B — языковая модель для генерации текста, созданная как смешение PAIXAI/Astrid-3B, jondurbin/airoboros-3b-3p0 и cxllin/StableHermes-3b. Модель построена на архитектуре StableLM Epoch и содержит 2,7 млрд параметров; для запуска предусмотрена библиотека Transformers, веса представлены в формате safetensors. Рекомендуемый формат запросов — Alpaca.

Модель предназначена для генерации текста по запросам и инструкциям. Контекст составляет до 4096 токенов, а в карточке указан английский язык. Лицензия — CC BY-SA 4.0. README не приводит результатов оценки качества или подробных сведений о специализации модели.

Сценарии применения

генерация ответов на текстовые запросы
выполнение инструкций в формате Alpaca
составление черновиков текстов на английском языке

Ограничения

Контекст ограничен 4096 токенами. В README не приведены оценки качества или подробные сведения о надёжности модели.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей II.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

This model is a mix of PAIXAI/Astrid-3B + jondurbin/airoboros-3b-3p0 + cxllin/StableHermes-3b, as shown in the yaml(see Astrohermes.yml or below). Aryanne/Astridboros-3B = PAIXAI/Astrid-3B + jondurbin/airoboros-3b-3p0

slices:
  - sources:
    - model: Aryanne/Astridboros-3B
      layer_range: [0, 15]
  - sources:
    - model: cxllin/StableHermes-3b
      layer_range: [15, 16]
  - sources:
    - model: Aryanne/Astridboros-3B
      layer_range: [16, 17]
  - sources:
    - model: cxllin/StableHermes-3b
      layer_range: [17, 18]
  - sources:
    - model: Aryanne/Astridboros-3B
      layer_range: [18, 19]
  - sources:
    - model: cxllin/StableHermes-3b
      layer_range: [19, 20]
  - sources:
    - model: Aryanne/Astridboros-3B
      layer_range: [20, 21]
  - sources:
    - model: cxllin/StableHermes-3b
      layer_range: [21, 22]
  - sources:
    - model: Aryanne/Astridboros-3B
      layer_range: [22, 23]
  - sources:
    - model: cxllin/StableHermes-3b
      layer_range: [23, 24]
  - sources:
    - model: Aryanne/Astridboros-3B
      layer_range: [24, 32]
merge_method: passthrough
dtype: float16

I recommend the use of alpaca prompt format.

GGUF Quants: afrideva/Astrohermes-3B-GGUF

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

Модели нужен код из репозитория; автор пока не в списке доверенных организаций.

Класс архитектуры: StableLMEpochForCausalLM
Ревизия весов: b631510