/ Модель

Характеристики

Размер весов
13,5 ГБ
Лицензия
Своя лицензия
Архитектура
llama · dense
Опубликована
18 июл 2023

Llama-2-7b-chat-coreml

Генерация текстаТекст → текст3 профессии

Конвертированная в Core ML диалоговая Llama 2 7B Chat для генерации текста и тестирования.

3 744скачиваний за 30 дней136лайковвеса обновлены18 июл 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это конвертированная в Core ML версия диалоговой модели Meta Llama 2 7B Chat, подготовленная авторами репозитория enterprise-explorers. Модель предназначена для генерации текста в формате диалога и может использоваться для оценки и тестирования на платформах, поддерживающих Core ML.

Веса преобразованы в формате float16, а длина последовательности фиксирована на 64 токенах. Модель основана на архитектуре LlamaForCausalLM; исходная модель — meta-llama/Llama-2-7b-chat-hf. Условия лицензии и допустимого использования наследуются от оригинальной модели Meta Llama 2; README направляет к её карточке за подробностями.

Сценарии применения

  • тестирование генерации диалоговых ответов на Core ML
  • оценка модели Llama 2 Chat в приложениях Apple
  • создание прототипа текстового чат-бота
  • проверка локального запуска языковой модели

Ограничения

Предназначена для оценки и тестирования; последовательность ограничена фиксированной длиной 64 токена. Подробности лицензии и допустимого использования следует сверять с карточкой исходной модели Meta.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Core ML version of Llama 2

This is a Core ML version of meta-llama/Llama-2-7b-chat-hf. For license information, model details and acceptable use policy, please refer to the original model card.

This conversion was performed in float16 mode with a fixed sequence length of 64, and is intended for evaluation and test purposes. Please, open a conversation in the Community tab if you have questions or want to report an issue.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
eaf9735

0 моделей