Mixtral-8x7B-Instruct-v0.1-offloading-demo
lavawolfiee·Генерация текста
Демонстрационная 4/2-битная квантизированная чат-модель Mixtral для генерации текста с контекстом до 32 768 токенов.
Подходит для: диалоговые ответы на английском языке · генерация текста на французском, итальянском, немецком и испанском · запуск чат-модели Mixtral в демонстрационных сценариях с ограниченными ресурсами
Загрузки на Hugging Face · 142Лайки · 27Контекст · 32 768 токеновВыход на Hugging Face · 17 дек 2023