A fp16 version of core42/jais-30b-chat-v3
All rights reserved to the original authors; I don't own this model.
Характеристики
- Контекст
- 8 192 токена
- Размер весов
- 60,4 ГБ
- Архитектура
- jais · dense
- Опубликована
- 26 мар 2024
Ссылки
jais-30b-chat-v3-fp16
FP16-версия чат-модели JAIS-30B для генерации текста и ответов на вопросы с контекстом до 8192 токенов.
21скачиваний за 30 дней0лайковвеса обновлены24 мая 2024
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
Это версия в формате FP16 модели JAIS-30B-Chat-v3, опубликованная amgadhasan и основанная на core42/jais-30b-chat-v3. Модель с плотной архитектурой JAIS предназначена для генерации текста в диалоговом режиме; её можно применять для общения на естественном языке и получения ответов на вопросы. Контекстное окно составляет 8192 токена.
В README указано, что права принадлежат исходным авторам. Условия лицензии не приведены, поэтому перед использованием следует проверить лицензию исходной модели core42/jais-30b-chat-v3.
Сценарии применения
- диалоговое общение с пользователем
- ответы на вопросы в чате
- генерация продолжений текста
Ограничения
README не уточняет поддерживаемые языки. Условия лицензии следует проверить в карточке исходной модели.
Для каких профессий подходит11
Разделы каталога профессий, в задачах которых используется эта модель
I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделейIII.4Корпоративные функцииКлиентская поддержка и customer successAI помогает быстрее решать обращения и предупреждать проблемы клиентов.20 задач9 831модельI.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модельIII.2Корпоративные функцииИсследование рынка и маркетингAI помогает понимать рынок, создавать коммуникации и улучшать эффективность маркетинга.22 задачи8 594модели
Также подходит для
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Модели нужен код из репозитория; автор пока не в списке доверенных организаций.
- Класс архитектуры
- JAISLMHeadModel
- Ревизия весов
- bdfff43