Базовая языковая модель Adept с 10,7 млрд параметров и контекстом 16K для генерации текста и дальнейших экспериментов.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Persimmon-8B-Base — базовая плотная авторегрессионная языковая модель Adept, обученная с нуля как ранний результат программы масштабирования моделей для разработки компьютерного ИИ-агента. Она предназначена для генерации текста и может служить основой для экспериментов и дальнейшей разработки языковых приложений.
Модель содержит 10,7 млрд параметров и рассчитана на контекст до 16 384 токенов. В README отмечается, что такой контекст в четыре раза длиннее, чем у LLaMA 2, и в восемь раз длиннее, чем у GPT-3 и MPT. Репозиторий содержит веса PyTorch; лицензия — Apache-2.0.
Карточка описывает модель как ранний результат исследовательской программы, а не как отдельный готовый продукт. Она не указывает конкретные поддерживаемые естественные языки или специализированные сценарии применения; качество для конкретных задач следует проверять отдельно.
Карточка не сообщает, для каких языков или специализированных задач модель оптимизирована. Это ранняя базовая модель, поэтому её пригодность для прикладных сценариев и качество ответов требуют самостоятельной проверки.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
At Adept, we’re working towards an AI agent that can help people do anything they need to do on a computer. We’re not in the business of shipping isolated language models (LMs)—this was an early output of the model scaling program that will support our products.
We trained it from scratch using a context size of 16K. Many LM use cases are context-bound; our model has 4 times the context size of LLaMA2 and 8 times that of GPT-3, MPT, etc.
See https://www.adept.ai/blog/persimmon-8b for more info
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Подбираем GPU…