Характеристики

Контекст: 4 096 токенов
Параметры: 3,3 млрд
Лицензия: Своя лицензия
Архитектура: stablelm_epoch · dense
Библиотека: transformers
Опубликована: 13 дек 2023

Ссылки

Hugging Face

Zephyr-3.43B

Aryanne

Генерация текстаТекст → текст5 профессий

Слияние моделей Astridboros и StableLM Zephyr для генерации текста и диалогов.

34скачиваний за 30 дней3лайкавеса обновлены16 дек 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Aryanne/Zephyr-3.43B — языковая модель для генерации текста, созданная слиянием Aryanne/Astridboros-3B и stabilityai/stablelm-zephyr-3b. В модели 40 слоёв и около 3,43 млрд параметров; объединение выполнено методом passthrough с весами в формате float16. Для запросов рекомендуется использовать формат промпта Zephyr.

Модель предназначена для генерации текста по текстовым запросам и диалоговых сценариев. Она основана на архитектуре StableLM Epoch и имеет контекст до 4096 токенов; в карточке указан английский язык. Репозиторий содержит веса Safetensors. Автор сообщает, что лицензия совпадает с лицензией Zephyr, однако метаданные Hugging Face обозначают её как other, поэтому условия следует сверить с лицензией базовой модели перед использованием.

Сценарии применения

генерация текста по запросу
диалог с языковой моделью в формате Zephyr
создание черновиков и продолжение текста

Ограничения

Контекст ограничен 4096 токенами. Условия лицензирования требуют сверки: README связывает лицензию с Zephyr, а метаданные указывают лицензию other.

Для каких профессий подходит5

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей II.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель II.1Разработка и данныеАнализ требований и архитектура ПОAI помогает переводить потребности бизнеса в непротиворечивые требования и технические решения.20 задач18 191модель

Также подходит для

I.7Речь, диалоги и встречи

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

This model is a merge/fusion of Aryanne/Astridboros-3B and stabilityai/stablelm-zephyr-3b , 28 layers of Zephyr + 12 layers of Astridboros together(see zephyr-3.43b.yml or below).

A total of 40 layers, with 3.43B of parameters.

License it's the same as Zephyr cause it has 70% of it.

slices:
  - sources:
    - model: stabilityai/stablelm-zephyr-3b
      layer_range: [0, 14] 
  - sources:
    - model: Aryanne/Astridboros-3B
      layer_range: [10, 22]
  - sources:
    - model: stabilityai/stablelm-zephyr-3b
      layer_range: [18, 32]
merge_method: passthrough
dtype: float16

I recommend the use of the Zephyr prompt format.

<|user|>
List 3 synonyms for the word "tiny"<|endoftext|>
<|assistant|>
1. Dwarf
2. Little
3. Petite<|endoftext|>

GGUF Quants: afrideva/Zephyr-3.43B-GGUF A huge thanks to afrideva for the help. 🙌🤗

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

Модели нужен код из репозитория; автор пока не в списке доверенных организаций.

Класс архитектуры: StableLMEpochForCausalLM
Ревизия весов: 7c07fab