license: apache-2.0 ---with English chat dataset added for fine-tuning training, and further reinforcement training based on specific datasets. The trained model has a certain level of chat ability, which was found to be enhanced during self testing. We will continue to train the model in the future to improve our Chinese chat ability
Характеристики
- Контекст
- 32 768 токенов
- Параметры
- 7,1 млрд
- Размер весов
- 14,5 ГБ
- Лицензия
- Apache 2.0
- Архитектура
- mistral · dense
- Опубликована
- 25 дек 2023
Ссылки
dm7b_sft_gpt88w_merge
Диалоговая модель Mistral на 7,1 млрд параметров для генерации ответов, дообученная на англоязычных чат-данных и наборах для обучения с подкреплением.
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Тесты пользователейпока нет
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
liuda1/dm7b_sft_gpt88w_merge — диалоговая языковая модель на архитектуре Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Репозиторий содержит веса PyTorch и предназначен для генерации текста в формате чата.
Модель дообучена на наборах данных для англоязычных диалогов, а затем прошла дополнительное обучение с подкреплением на специализированных наборах данных. Разработчик сообщает о наличии базовых диалоговых возможностей, улучшившихся при внутреннем тестировании, и планах продолжать обучение для улучшения общения на китайском языке. Подходит для экспериментов с чат-ботами и генерацией ответов; результаты внутреннего тестирования не дают независимой оценки качества.
Лицензия — Apache-2.0.
Сценарии применения
- создание англоязычного чат-бота
- генерация ответов в диалоге
- эксперименты с дообучением разговорных моделей
Ограничения
Разработчик описывает качество как базовое и опирается на внутреннее тестирование; независимые оценки не приведены. Улучшение китайского языка указано как цель дальнейшего обучения, а не подтверждённая сильная сторона.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Подбираем GPU…
- Класс архитектуры
- MistralForCausalLM
- Ревизия весов
- f4f7617