Характеристики

Контекст: 32 768 токенов
Параметры: 32 млрд
Размер весов: 65,5 ГБ
Архитектура: qwen2 · dense
Базовая модель: Qwen2.5-32b-RP-Ink
Библиотека: transformers
Опубликована: 24 янв 2025

Ссылки

Q2.5-Qwetiapin-32B

Генерация текстаТекст → текст3 профессии

Экспериментальная 32-миллиардная языковая модель на базе слияния моделей Qwen и DeepSeek для диалоговой и творческой генерации текста.

24скачиваний за 30 дней4лайкавеса обновлены26 янв 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Q2.5-Qwetiapin-32B — плотная языковая модель на архитектуре Qwen2, созданная автором Nohobby как экспериментальное слияние QwentileSwap, RP-Ink и моделей семейства DeepSeek. Репозиторий содержит веса в формате safetensors; размер модели — 32 млрд параметров, длина контекста — 32 768 токенов. Для диалога используется формат ChatML.

Модель предназначена для генерации текста в чате, включая творческое письмо и ролевые диалоги. Автор сообщает, что слияние уменьшило многословие и добавило деталей, но качество этих деталей бывает нестабильным; также автор отмечает, что модель лишь удовлетворительно работоспособна и настройки генерации могут влиять на результат. Условия лицензии в предоставленных данных не приведены.

Сценарии применения

ведение ролевых диалогов
написание творческих текстов
генерация ответов в чате

Ограничения

Автор характеризует результат как лишь удовлетворительно работоспособный и отмечает, что детали в генерации могут искажаться; результат зависит от настроек сэмплирования. Лицензия в предоставленных данных не указана.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей IV.9Отраслевые задачиМедиа, журналистика, культура, архивы и игрыAI помогает создавать, искать, сохранять и персонализировать медиа, культурный и игровой контент.44 задачи14 938моделей II.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Qwetiapin

There's no 'I' in 'brain damage'

Overview

An attempt to make QwentileSwap write even better by merging it with RP-Ink. And DeepSeek, because why not. However, I screwed up the first merge step by accidentally setting an extremely high epsilon value. Step2 wasn't planned, but due to a wonky tensor size mismatch error, I couldn't merge Step1 into QwentileSwap using sce, so I just threw in some random model. And that did, in fact, solve the issue.

The result? Well, it's usable, I guess. The slop is reduced, more details are brought up, but said details sometimes get messed up. It's fixed by a few swipes and there's a chance that it's caused by my sampler settings, but uhh I'll just leave them as they are.

Prompt format: ChatML

Settings: This kinda works but I'm weird

Quants

Static | Imatrix

Merge Details

Merging Steps

Step1

dtype: bfloat16
tokenizer_source: base
merge_method: della_linear
parameters:
  density: 0.5
  epsilon: 0.4 #was supposed to be 0.04 
  lambda: 1.1
base_model: allura-org/Qwen2.5-32b-RP-Ink
models:
  - model: deepseek-ai/DeepSeek-R1-Distill-Qwen-32B
    parameters:
      weight:
        - filter: v_proj
          value: [0, 0, 1, 1, 1, 1, 1, 1, 1, 0, 0]
        - filter: o_proj
          value: [1, 0, 1, 0, 0, 0, 0, 0, 1, 1, 1]
        - filter: up_proj
          value: [1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1]
        - filter: gate_proj
          value: [0, 0, 1, 1, 1, 1, 1, 1, 1, 0, 0]
        - filter: down_proj
          value: [0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0]
        - value: 0
  - model: allura-org/Qwen2.5-32b-RP-Ink
    parameters:
      weight:
        - filter: v_proj
          value: [1, 1, 0, 0, 0, 0, 0, 0, 0, 1, 1]
        - filter: o_proj
          value: [0, 1, 0, 1, 1, 1, 1, 1, 0, 0, 0]
        - filter: up_proj
          value: [0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0]
        - filter: gate_proj
          value: [1, 1, 0, 0, 0, 0, 0, 0, 0, 1, 1]
        - filter: down_proj
          value: [1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1]
        - value: 1

Step2

models:
  - model: Aryanne/QwentileSwap
    parameters:
      weight: [1.0, 0.9, 0.8, 0.9, 1.0]
  - model: Daemontatox/Cogito-Ultima
    parameters:
      weight: [0, 0.1, 0.2, 0.1, 0]
merge_method: nuslerp
parameters:
  nuslerp_row_wise: true
dtype: bfloat16
tokenizer_source: base

Step3

models:
  - model: Step2
  - model: Step1
merge_method: sce
base_model: Step2
parameters:
  select_topk:
    - value: [0.3, 0.35, 0.4, 0.35, 0.2]
dtype: bfloat16

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры: Qwen2ForCausalLM
Ревизия весов: 2faf197