Дообученная 70-миллиардная Llama 2 Chat для генерации ответов на инструкции и работы с длинными запросами.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Yukang выпускает эту модель как часть семейства LongAlpaca — набора моделей для следования длинным инструкциям. Это дообученная версия Llama 2 Chat с 70 млрд параметров, созданная с применением LongLoRA и SFT; автор README сообщает, что данный SFT-чекпойнт снят с поддержки.
Модель предназначена для генерации текста в ответ на инструкции и запросы с длинным контекстом. В названии заявлена настройка на контекст до 32 тысяч токенов, однако метаданные указывают native context в 4096 токенов, поэтому поддержку более длинного контекста следует считать ограниченной или требующей отдельной настройки. Доступен формат PyTorch; основным языком в предоставленных данных не обозначен.
Модель основана на Llama 2 Chat и предназначена для экспериментального применения в сценариях диалогового следования инструкциям. Лицензия в предоставленных данных не указана.
README сообщает, что SFT-чекпойнт снят с поддержки. Несмотря на обозначение контекста 32k в названии, метаданные указывают native context 4096 токенов; лицензия и языки в предоставленных данных не обозначены.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
We release the long instruction-following dataset, LongAlpaca-12k and the corresponding models, LongAlpaca-7B, LongAlpaca-13B, and LongAlpaca-70B.
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
vLLM
Подбираем GPU…