Характеристики

Контекст: 8 192 токена
Параметры: 464 млн
Размер весов: 1 ГБ
Лицензия: Apache 2.0
Архитектура: llama · dense
Базовая модель: palmer-004-turbo
Опубликована: 19 июл 2024

Ссылки

Hugging Face

palmer-004-turbo-2407

appvoid

Генерация текстаТекст → текст4 профессии

Компактная модель Llama для генерации текста, полученная слиянием palmer-004-turbo и arco.

14скачиваний за 30 дней0лайковвеса обновлены23 июл 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

appvoid/palmer-004-turbo-2407 — компактная языковая модель семейства Llama, опубликованная в июле 2024 года. Это плотная авторегрессионная модель с 464,4 млн параметров, предназначенная для генерации текста; контекстное окно составляет 8192 токена.

Модель создана слиянием palmer-004-turbo и внутренней модели arco с использованием техники SLERP. В карточке приведены результаты нулевого оценивания на MMLU, ARC-C, HellaSwag, PIQA и Winogrande в сравнении с другими компактными моделями. У модели нет специального формата промптов; автор отмечает, что для использования в качестве чат-бота может потребоваться дообучение.

Модель распространяется под лицензией Apache-2.0. Данных о целевых языках в карточке нет.

Сценарии применения

генерация текста по запросу
эксперименты с компактными языковыми моделями
оценка нулевых способностей на стандартных языковых бенчмарках
создание чат-бота после адаптации промптов или дообучения

Ограничения

У модели нет специального формата промптов; для работы в качестве чат-бота может потребоваться дообучение. В README представлены результаты бенчмарков, но методика их получения описана лишь как нулевая оценка.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей II.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

palmer-004

July Update - this is a performance balancing over palmer-004-turbo by utilizing slerp merging technique with an internal model codenamed arco - keep in mind, none of these models use specific prompts, you might need to fine-tune them to use them as chatbots.

benchmarks

zero-shot evaluations performed on current sota ~0.5b models against the best language model below 2b parameters.

Parameters	Model	MMLU	ARC-C	HellaSwag	PIQA	Winogrande	Average
0.5b	qwen2	0.4413	0.2892	0.4905	0.6931	0.5699	0.4968
0.6b	mobilellm	-	0.3580	0.5590	0.7230	0.5860	-
0.5b	danube3	0.2481	0.3618	0.6046	0.7378	0.6101	0.5125
0.5b	palmer	0.2755	0.3686	0.6093	0.7356	0.6172	0.5212
1.7b	smollm	0.2765	0.4626	0.6574	0.7606	0.6093	0.5533

supporters

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры: LlamaForCausalLM
Ревизия весов: 4143543