Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
Это конвертированная в Core ML версия диалоговой модели Meta Llama 2 7B Chat, подготовленная авторами репозитория enterprise-explorers. Модель предназначена для генерации текста в формате диалога и может использоваться для оценки и тестирования на платформах, поддерживающих Core ML.
Веса преобразованы в формате float16, а длина последовательности фиксирована на 64 токенах. Модель основана на архитектуре LlamaForCausalLM; исходная модель — meta-llama/Llama-2-7b-chat-hf. Условия лицензии и допустимого использования наследуются от оригинальной модели Meta Llama 2; README направляет к её карточке за подробностями.
Сценарии применения
тестирование генерации диалоговых ответов на Core ML
оценка модели Llama 2 Chat в приложениях Apple
создание прототипа текстового чат-бота
проверка локального запуска языковой модели
Ограничения
Предназначена для оценки и тестирования; последовательность ограничена фиксированной длиной 64 токена. Подробности лицензии и допустимого использования следует сверять с карточкой исходной модели Meta.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
This conversion was performed in float16 mode with a fixed sequence length of 64, and is intended for evaluation and test purposes. Please, open a conversation in the Community tab if you have questions or want to report an issue.
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров