This is the reward model of HuatuoGPT. Please see our HuatuoGPT project: https://github.com/FreedomIntelligence/HuatuoGPT.
Характеристики
- Контекст
- 2 048 токенов
- Параметры
- 6,6 млрд
- Размер весов
- 26,4 ГБ
- Лицензия
- Apache 2.0
- Архитектура
- llama · dense
- Опубликована
- 17 сен 2023
Ссылки
HuatuoGPT-reward-model-7B
Модель вознаграждения HuatuoGPT на базе Llama предназначена для классификации и оценки текстовых ответов.
240скачиваний за 30 дней1лайквеса обновлены26 сен 2023
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
HuatuoGPT-reward-model-7B — модель оценки ответов, связанная с проектом HuatuoGPT. Это плотная модель архитектуры Llama с классом LlamaRewardModel, содержащая 6,6 млрд параметров и рассчитанная на контекст до 2048 токенов. В метаданных Hugging Face её основная задача указана как классификация текста.
Модель предназначена для оценки текстовых ответов в сценариях, где требуется ранжировать или проверять ответы языковой модели; карточка отсылает к проекту HuatuoGPT, но не описывает конкретную схему применения. Репозиторий содержит веса PyTorch. Лицензия — Apache-2.0. Данных о поддерживаемых языках и конкретных ограничениях качества в карточке нет.
Сценарии применения
- оценка качества ответов языковой модели
- классификация текстовых ответов по оценке вознаграждения
- отбор предпочтительных ответов при настройке чат-модели
Ограничения
Карточка не уточняет шкалу оценивания, формат входных данных и языки обучения; контекст ограничен 2048 токенами.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделейIV.5Отраслевые задачиОбразование и развитие навыковAI помогает персонализировать обучение и снижать административную нагрузку на преподавателей.34 задачи6 641модельII.4Разработка и данныеОтладка, тестирование и качество ПОAI помогает находить дефекты, строить проверки и повышать надёжность программного продукта.25 задач13 978моделей
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · text-classification
Подбираем GPU…
- Класс архитектуры
- LlamaRewardModel
- Ревизия весов
- b833163