Квантизированная до 4 бит версия Falcon-7B-Instruct для генерации текста по запросам и инструкциям с меньшими требованиями к памяти.

Подходит для: генерация ответов на пользовательские вопросы · выполнение текстовых инструкций · создание диалогового прототипа на локальном GPU

Квантованная до 4 бит версия чат-модели Meta Llama 2 7B для генерации диалогового и другого текста с меньшим расходом памяти.

Подходит для: ведение диалога с пользователем · генерация ответов на текстовые запросы · создание черновиков и продолжение текста