/ Модель

Характеристики

Контекст
32 768 токенов
Параметры
32 млрд
Размер весов
65,5 ГБ
Лицензия
Apache 2.0
Архитектура
qwen2 · dense
Базовая модель
Qwentile2.5-32B-Instruct
Библиотека
transformers
Опубликована
2 янв 2025

Lytta2.5-32B-Instruct

Генерация текстаТекст → текст3 профессии

Экспериментальная 32-миллиардная диалоговая модель Qwen2 для генерации творческого, ролевого и необычного текста.

32скачиваний за 30 дней2лайкавеса обновлены6 янв 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки6

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

  • MUSR

    MUSR Raw · выше — лучше

    Результат

    0,3769

    Open LLM v2 · архив

    Публичная таблицадругая ревизия

  • BBH

    BBH Raw · выше — лучше

    Результат

    0,56

    Open LLM v2 · архив

    Публичная таблицадругая ревизия

  • MATH Lvl 5

    MATH Lvl 5 Raw · выше — лучше

    Результат

    0,3444

    Open LLM v2 · архив

    Публичная таблицадругая ревизия

  • GPQA

    GPQA Raw · выше — лучше

    Результат

    0,2668

    Open LLM v2 · архив

    Публичная таблицадругая ревизия

  • IFEval

    IFEval Raw · выше — лучше

    Результат

    0,2508

    Open LLM v2 · архив

    Публичная таблицадругая ревизия

  • MMLU-PRO

    MMLU-PRO Raw · выше — лучше

    Результат

    0,5048

    Open LLM v2 · архив

    Публичная таблицадругая ревизия

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Lytta 2.5 32B Instruct — экспериментальная диалоговая модель на архитектуре Qwen2, созданная maldv путём нормализованной интерполяции весов нескольких моделей с последующим объединением результата с Qwentile. Модель содержит 32 млрд параметров, принимает текст и рассчитана на генерацию ответов и творческого текста; контекст — до 32 768 токенов. В README автор характеризует её как интеллектуальную, но чрезмерно непредсказуемую и непослушную, поэтому она может подойти для необычных художественных и ролевых сценариев, включая NSFW-контент.

Модель представлена в формате Safetensors и доступна под лицензией Apache-2.0. Каталог также указывает чатовые возможности и интерфейс вызова инструментов, однако README предупреждает о проблемах с управляемостью; практическую надёжность этих функций карточка не подтверждает.

Сценарии применения

  • творческое письмо с необычными сюжетами
  • ролевая переписка с персонажами
  • генерация нестандартных диалогов
  • создание NSFW-текста

Ограничения

Автор предупреждает, что модель может быть непослушной, непредсказуемой и склонной к чрезмерно странным ответам; для управляемых и надёжных сценариев она может не подойти.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

image/png

GGUF Quants

iMat Quants

Lytta 2.5 32B Instruct

Lytta 2.5 32B Instruct is a normalized denoised fourier interpolation of the following models:

output_base_model: "maldv/Qwentile2.5-32B-Instruct"
finetune_merge:
  - { "model": "prnshv/ORANSight_Qwen_32B_Instruct", "base": "Qwen/Qwen2.5-32B-Instruct", "alpha": 0.3 }
  - { "model": "crestf411/Q2.5-32B-Slush", "base": "Qwen/Qwen2.5-32B-Instruct", "alpha": 0.5 }
  - { "model": "allura-org/Qwen2.5-32b-RP-Ink", "base": "Qwen/Qwen2.5-32B-Instruct", "alpha": 0.3 }
  - { "model": "Sao10K/32B-Qwen2.5-Kunou-v1", "base": "Qwen/Qwen2.5-32B-Instruct", "alpha": 1.0 }
  - { "model": "huihui-ai/QwQ-32B-Preview-abliterated", "base": "Qwen/Qwen2.5-32B", "alpha": 0.75 }
  - { "model": "Saxo/Linkbricks-Horizon-AI-Japanese-Base-32B", "base": "Qwen/Qwen2.5-32B", "alpha": 0.5 }

In other words, all of these models get warped and interpolated in signal space, and then jammed back on Qwentile.

What is this?

I had a request to make Qwentile have more thought, but I think in doing so I might have made it... unhinged? ¯\_(ツ)_/¯

Final Analysis

It's Worse. I'm quite disappointed. Don't bother trying this unless you just want an unhinged, completely disobedient, highly intelligent and creative model. It's probably only suitable for people who are in to bizarre NSFW or really outlandish creative writing.

Citation

If you find our work helpful, feel free to give us a cite.

@misc{lytta2.5-32b-instruct,
    title = {Lytta 2.5 32B Instruct},
    url = {https://huggingface.co/maldv/Lytta2.5-32B-Instruct},
    author = {Praxis Maldevide},
    month = {January},
    year = {2025}
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
Qwen2ForCausalLM
Ревизия весов
3e2f949

0 моделей