Объединённая 72-миллиардная модель Qwen2.5 для диалогов и генерации текста с целью сделать ответы инструкционной версии более гибкими.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Qwen2.5-72B-0.6x-Instruct — объединённая языковая модель, опубликованная пользователем ddh0. Она создана линейным слиянием Qwen/Qwen2.5-72B-Instruct с весом 0,6 и Qwen/Qwen2.5-72B с весом 0,4. Модель предназначена для диалогов и генерации текста; автор стремился сделать инструкционную версию более гибкой и менее жёсткой.
Модель использует плотную архитектуру Qwen2 и содержит 71,5 млрд параметров. Она принимает текст и генерирует текст, поддерживает чат и интерфейс вызова инструментов. Контекст — до 32 768 токенов; заявленные языки включают китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Репозиторий использует Transformers и формат safetensors. Лицензия указана как other, поэтому перед использованием следует проверить её условия.
Слияние призвано сделать поведение модели гибче, однако README сообщает лишь о первоначальном тестировании и не приводит количественных оценок качества. Возможности и надёжность вызова инструментов отдельно не описаны.
Автор сообщает только о первоначальном тестировании и не приводит количественных оценок качества. Условия лицензии обозначены как other; их следует проверить перед использованием.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
This is a linear merge of Qwen/Qwen2.5-72B-Instruct at weight 0.6 and Qwen/Qwen2.5-72B at weight 0.4.
The resulting model is 60% Instruct and 40% base model, hence the name 0.6x-Instruct.
The goal of the merge was to make the Instruct model more flexible and less rigid. After some initial testing, I think the resulting model meets this goal, and I find it useful and interesting enough to warrant publishing.
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
vLLM
Подбираем GPU…