Характеристики

Контекст: 4 096 токенов
Параметры: 2,7 млрд
Размер весов: 5,6 ГБ
Лицензия: CC BY-SA 4.0
Архитектура: stablelm_epoch · dense
Опубликована: 9 дек 2023

Ссылки

dopeystableplats-3b-v1

Генерация текстаТекст → текст3 профессии

Экспериментальная модель StableLM объёмом 2,7 млрд параметров для генерации текста и выполнения инструкций в формате Alpaca.

24скачиваний за 30 дней1лайквеса обновлены9 дек 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

DopeyStablePlats-3b-v1 — экспериментальная дообученная языковая модель на архитектуре StableLM Epoch, созданная на основе StableLM-3B-4E1T. Модель объёмом 2,7 млрд параметров дообучена методом Alpaca-QLoRA с дополнительной настройкой DPO на наборах данных в стиле Alpaca. Она предназначена для генерации текста и ответов на инструкции в формате Alpaca; для работы используется соответствующий шаблон запроса.

Модель принимает текст и выдаёт текст, имеет контекстное окно 4096 токенов и доступна в формате PyTorch. В карточке не описаны конкретные преимущества или результаты оценки качества, поэтому пригодность для отдельных сценариев следует проверять самостоятельно. Лицензия — CC BY-SA 4.0.

Сценарии применения

генерация текста по запросу
ответы на инструкции в формате Alpaca
создание черновиков и кратких текстов
эксперименты с диалоговыми моделями на базе StableLM

Ограничения

Качество модели и поддерживаемые языки в карточке не описаны. Для запросов следует использовать шаблон Alpaca; контекст ограничен 4096 токенами.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей II.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

Модели нужен код из репозитория; автор пока не в списке доверенных организаций.

Класс архитектуры: StableLMEpochForCausalLM
Ревизия весов: ec95378