/ Модель

Характеристики

Контекст
2 048 токенов
Параметры
65 млрд
Размер весов
131 ГБ
Лицензия
Своя лицензия
Архитектура
llama · dense
Опубликована
25 мая 2023

guanaco-65B-HF

Генерация текстаТекст → текст5 профессий

Слитая версия Guanaco 65B в формате fp16 для генерации текста и диалогов.

229скачиваний за 30 дней27лайковвеса обновлены5 июн 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

TheBloke/guanaco-65B-HF — версия Guanaco 65B, подготовленная TheBloke в формате Hugging Face fp16 для генерации текста. В основе лежит Guanaco 65B Тима Деттмерса; модель получена слиянием LoRA-адаптера с базовой моделью и сохранением весов в fp16. Архитектура — плотная LLaMA с причинной языковой моделью, размер — 65 млрд параметров, длина контекста — 2048 токенов.

Модель предназначена для генерации текста и диалогового взаимодействия. Репозиторий содержит веса PyTorch для запуска через экосистему Transformers. README не приводит оценок качества или сведений о поддерживаемых языках. Лицензия указана как other, поэтому условия использования следует сверить с исходной карточкой Guanaco; оригинальная карточка в README отсутствует.

Сценарии применения

  • генерация текста по запросу
  • диалоговые ответы на вопросы
  • подготовка черновиков и продолжение текста

Ограничения

Контекст ограничен 2048 токенами; в README нет оценок качества и сведений о поддерживаемых языках. Лицензия обозначена как other, поэтому условия использования требуют проверки по исходной модели.

Для каких профессий подходит5

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Tim Dettmers' Guanaco 65B fp16 HF

These files are fp16 HF model files for Tim Dettmers' Guanaco 65B.

It is the result of merging the LoRA then saving in HF fp16 format.

Other repositories available

Discord

For further support, and discussions on these models and AI in general, join us at:

TheBloke AI's Discord server

Thanks, and how to contribute.

Thanks to the chirper.ai team!

I've had a lot of people ask if they can contribute. I enjoy providing models and helping people, and would love to be able to spend even more time doing it, as well as expanding into new projects like fine tuning/training.

If you're able and willing to contribute it will be most gratefully received and will help me to keep providing more models, and to start work on new AI projects.

Donaters will get priority support on any and all AI/LLM/model questions and requests, access to a private Discord room, plus other benefits.

Patreon special mentions: Aemon Algiz, Dmitriy Samsonov, Nathan LeClaire, Trenton Dambrowitz, Mano Prime, David Flickinger, vamX, Nikolai Manek, senxiiz, Khalefa Al-Ahmad, Illia Dulskyi, Jonathan Leane, Talal Aujan, V. Lukas, Joseph William Delisle, Pyrater, Oscar Rangel, Lone Striker, Luke Pendergrass, Eugene Pentland, Sebastain Graf, Johann-Peter Hartman.

Thank you to all my generous patrons and donaters!

Original model card

Not provided by original model creator.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

vLLM

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
7f83ae5

0 моделей