Слитая 13-миллиардная модель семейства Llama с Landmark Attention для генерации и классификации текста.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Minotaur-13b-Landmark — языковая модель семейства Llama с 12,9 млрд параметров, разработанная как слияние нескольких моделей и созданная с применением Landmark-Attention-QLoRA. README заявляет контекст более 10 тысяч токенов благодаря Landmark Attention, тогда как метаданные указывают native context в 2048 токенов; фактическое поддерживаемое окно зависит от реализации и конфигурации. Модель предназначена для генерации текста и может применяться для классификации текста.
Для загрузки README упоминает oobabooga и параметр trust_remote_code. Репозиторий содержит веса PyTorch. Лицензия обозначена как other, поэтому условия использования следует уточнить в материалах репозитория. В README не перечислены входящие в слияние модели.
Заявление README о контексте более 10 тысяч токенов расходится с указанным в метаданных native context в 2048 токенов. Состав слияния не раскрыт, а лицензия помечена как other.
README от автора на Hugging Face, как он его опубликовал
Minotaur-13B with 10k+ context using Landmark Attention.
Model generated using Landmark-Attention-QLoRA
https://github.com/eugenepentland/landmark-attention-qlora
A merge of the following models:
https://huggingface.co/openaccess-ai-collective/minotaur-13b
https://huggingface.co/eugenepentland/Minotaur-13b-Landmark-QLoRA
Can be loaded in using oobooga, make sure to have the --trust-remote-code option on for it to function.
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Подбираем GPU…