Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
kkboy1/Mistral-7B-v0.1-sharded — это копия модели Mistral-7B-v0.1, опубликованная в виде файлов весов размером до 2 ГБ каждый, чтобы снизить требования к оперативной памяти при загрузке. Модель разработана на архитектуре MistralForCausalLM и содержит 7,1 млрд параметров; это плотная авторегрессионная языковая модель для генерации текста с контекстом до 32 768 токенов.
Модель принимает текст и генерирует продолжение, поэтому подходит для создания текстов и экспериментов с генерацией на базе Mistral. В карточке описано сохранение весов в формате PyTorch с точностью float16; это разбиение на шарды, а не изменение самой модели. README и метаданные не сообщают сведений о лицензии и поддерживаемых естественных языках.
Сценарии применения
генерация продолжения текста
создание черновиков и коротких текстов
эксперименты с языковой моделью Mistral
загрузка весов Mistral с меньшим пиком использования оперативной памяти
Ограничения
README не приводит оценки качества, специальные сценарии или языковые характеристики модели. Разбиение весов уменьшает требования к памяти при загрузке, но само по себе не уменьшает вычислительные требования при генерации.
Для каких профессий подходит4
Разделы каталога профессий, в задачах которых используется эта модель