Характеристики

Контекст: 32 768 токенов
Параметры: 464 млн
Лицензия: Своя лицензия
Архитектура: qwen2 · dense
Опубликована: 11 мар 2024

Ссылки

Hugging Face

Qwen1.5-0.5B-vortex

Abhaykoul

Генерация текстаТекст → текст3 профессии

Небольшая чат-модель на базе Qwen1.5-0.5B для генерации текста и ответов на запросы на английском языке.

78скачиваний за 30 дней2лайкавеса обновлены12 мар 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Qwen1.5-0.5B-vortex — чат-модель, созданная Abhay Koul дообучением Qwen1.5-0.5B команды Qwen. Модель обучали пять эпох на наборе Vortex mini с помощью Axolotl; автор описывает её как «dealigned» дообучение, то есть вариант с ослабленным следованием исходному выравниванию чат-модели.

Модель предназначена для генерации текста в диалогах и ответов на запросы. Она использует плотную архитектуру Qwen2ForCausalLM, содержит около 464 млн параметров и поддерживает контекст до 32 768 токенов. В карточке приведены результаты тестов ARC, HellaSwag, MMLU, TruthfulQA, Winogrande и GSM8k, но они не гарантируют качество в других сценариях. Модель рассчитана на английский язык; лицензия указана как other, поэтому условия её использования следует проверять в репозитории.

Сценарии применения

ведение текстового диалога на английском языке
генерация ответов на пользовательские запросы
эксперименты с компактными чат-моделями
оценка генерации на тестах ARC и HellaSwag
проверка базовых рассуждений на задачах GSM8k

Ограничения

Это компактная модель, поэтому результаты на приведённых тестах не следует переносить на все задачи и реальные диалоги. В карточке лицензия обозначена как «other», а термин «dealigned» указывает на ослабленное следование исходному выравниванию.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей II.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Qwen1.5-0.5B-vortex model card

Qwen1.5-0.5B-vortex is a dealigned chat finetune of the original fantastic Qwen1.5-0.5B model by the Qwen team.

This model was trained on the Vortex mini dataset using axolotl for 5 epoch

Model	Avg	ARC (25-Shot)	HellaSwag (10-Shot)	MMLU (5-Shot)	TruthfulQA (0-shot)	Winogrande (5-shot)	GSM8k (5-shot)
OWenL/Qwen1.5-0.5B	38.62	31.48	49.05	39.35	38.3	57.22	16.3
AbhayKoul/Qwen1.5-0.5B-vortex	38.15	31.74	47.78	38.44	38.92	56.51	15.54
M4-ai/tau-0.5B	36.68	29.27	47.43	37.53	39.39	56.83	9.63
M4-ai/tau-0.5B	36.65	29.01	47.45	37.44	39.39	56.83	9.78
Qwen/Qwen1.5-0.5B-Chat	35.61	30.55	44.07	33.82	42.95	54.62	7.66
M4-ai/tau-0.5B-instruct-DPOR	35.54	28.92	43.63	33.92	42.73	57.06	6.97
sail/SailorOW-0.5B-Chat	33.47	30.38	45.51	26.73	39.85	56.51	1.82
sail/SailorOW-0.5B	33.05	29.69	45.82	25.62	40.76	55.33	1.06
sail/SailorOW-0.5B	33.03	29.69	45.82	25.13	40.74	55.56	1.21

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры: Qwen2ForCausalLM
Ревизия весов: ad0b9c9