ewqr2130/alignment-handbook-zephyr-7b_ppo_5e7step_51 runing the SFT with PPO for 51 steps. runing the SFT with PPO for 51 steps. runing the SFT with PPO for 51 steps. runing the SFT with PPO for 51 steps. runing the SFT with PPO for 51 steps.
Характеристики
- Контекст
- 32 768 токенов
- Параметры
- 7,1 млрд
- Размер весов
- 29 ГБ
- Лицензия
- Apache 2.0
- Архитектура
- mistral · dense
- Опубликована
- 19 янв 2024
Ссылки
alignment-handbook-zephyr-7b_ppo_5e7step_51
Экспериментальная диалоговая модель на базе Mistral с 7,1 млрд параметров, дообученная методом PPO для генерации текста.
59скачиваний за 30 дней0лайковвеса обновлены19 янв 2024
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Тесты пользователейпока нет
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
ewqr2130/alignment-handbook-zephyr-7b_ppo_5e7step_51 — экспериментальная разговорная языковая модель, дообученная разработчиком ewqr2130 методом PPO в течение 51 шага. Она предназначена для генерации текста в диалоге. Модель построена на архитектуре Mistral, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов.
Модель распространяется в формате safetensors по лицензии Apache-2.0. Короткая карточка не описывает качество ответов, используемые данные или языки, поэтому практические возможности сверх разговорной генерации по имеющимся сведениям оценить нельзя.
Сценарии применения
- генерация ответов в диалоге
- эксперименты с PPO для языковых моделей
- оценка поведения модели после короткого этапа PPO
Ограничения
В карточке не описаны обучающие данные и качество модели; PPO выполнялся лишь 51 шаг, поэтому её поведение и пригодность для практического применения не установлены.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделейII.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделейI.7Универсальные способностиРечь, диалоги и встречиAI помогает понимать разговорную речь, поддерживать диалог и превращать встречи в структурированные результаты.17 задач26 923модели
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Подбираем GPU…
- Класс архитектуры
- MistralForCausalLM
- Ревизия весов
- 58adefc