Описание составлено по карточке модели и метаданным Hugging Face
MFANN3bv0.20 — дообученная языковая модель семейства Phi от netcat420, предназначенная для генерации текста. Она содержит 3,5 млрд параметров, принимает текст и выдаёт текст, а заявленная длина контекста составляет 32 768 токенов. В карточке указаны библиотека Transformers и формат safetensors.
README приводит шаблоны системного промпта для ChatterUI на Android и GPT4All и отмечает, что один из промптов работает в ChatterUI не слишком хорошо. Модель лицензирована по MIT. Данных о её специальных предметных областях или поддержке языков, кроме английского в тегах карточки, нет.
Сценарии применения
генерация текста по инструкции
ответы на текстовые запросы
запуск в GPT4All с шаблоном промпта из карточки
эксперименты с генерацией текста на базе Phi
Ограничения
README сообщает, что приведённый системный промпт работает не слишком хорошо в ChatterUI для Android. Других ограничений качества или применения в карточке не описано.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
ThiLotE's system prompt does not work too well in chatterUI for android, so im including my default prompt. if you are using GPT4ALL, here is his prompt:
<|endoftext|>Instruct: %1<|endoftext|> <|endoftext|>Output: %2<|endoftext|>
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров