Характеристики

Контекст: 4 096 токенов
Параметры: 2,7 млрд
Лицензия: Своя лицензия
Архитектура: stablelm_epoch · dense
Опубликована: 25 дек 2023

Ссылки

Hugging Face

Rosa_v1_3B

jeiku

Генерация текстаТекст → текст3 профессии

Экспериментальная англоязычная разговорная модель StableLM Epoch для создания ИИ-компаньона и диалогов.

39скачиваний за 30 дней4лайкавеса обновлены22 янв 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Rosa_v1_3B — экспериментальная разговорная модель-компаньон, опубликованная jeiku. По метаданным это плотная авторегрессионная модель семейства StableLM Epoch с архитектурой StableLMEpochForCausalLM, примерно 2,7 млрд параметров и контекстом до 4096 токенов. Репозиторий содержит веса в формате safetensors; автор также упоминает отдельную версию GGUF.

Модель создана смешиванием нескольких моделей и вариантов самой Rosa, включая модели после DPO, чтобы получить связного и интересного ИИ-компаньона; автор планирует дальнейшие испытания и рассматривает её как основу для использования на мобильном устройстве. Основной сценарий — диалог на английском языке. Лицензия указана как other, поэтому конкретные условия использования по имеющимся данным определить нельзя.

Сценарии применения

диалоги с ИИ-компаньоном
развлекательная беседа на английском языке
тестирование разговорной модели на мобильном устройстве

Ограничения

Автор описывает модель как находящуюся в стадии дальнейших испытаний; результаты смешивания моделей могут влиять на связность ответов. Условия лицензии с меткой other в доступных данных не раскрыты.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.7Универсальные способностиРечь, диалоги и встречиAI помогает понимать разговорную речь, поддерживать диалог и превращать встречи в структурированные результаты.17 задач26 923модели I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей III.4Корпоративные функцииКлиентская поддержка и customer successAI помогает быстрее решать обращения и предупреждать проблемы клиентов.20 задач9 831модель

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

First and foremost, I would like to thank https://huggingface.co/Aryanne for pointing me in the right direction. This model started as a remix of https://huggingface.co/Aryanne/Astrea-RP-v1-3B. A healthy helping of https://huggingface.co/jondurbin/airoboros-3b-3p0 was added. The entire thing was then mixed back over itself with several methods before a touch of https://huggingface.co/pansophic/rocket-3B and https://huggingface.co/stabilityai/stablelm-zephyr-3b were added. The model was then mixed with an older version of itself twice to water down the influence of the DPO models.

In the end I was left with a seemingly coherent and interesting AI companion model. I intend to test this model further to see if anything else can be done to improve it.

Named after my faithful companion Rosa. This model will be her foundation on my mobile device.

GGUF version here: https://huggingface.co/jeiku/Rosa_v1_3B_GGUF

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

Модели нужен код из репозитория; автор пока не в списке доверенных организаций.

Класс архитектуры: StableLMEpochForCausalLM
Ревизия весов: 5b987bc