/ Модель

Характеристики

Контекст
131 072 токена
Параметры
14 млрд
Размер весов
59,1 ГБ
Лицензия
Apache 2.0
Архитектура
qwen2 · dense
Базовая модель
SuperNova-Medius
Библиотека
transformers
Опубликована
12 ноя 2024

Tissint-14B-v1.1-128k-RP

Генерация текстаТекст → текст3 профессии

Объединённая диалоговая модель Qwen2 на 14 млрд параметров с контекстом 128k для творческой генерации и многоходовых ролевых бесед.

24скачиваний за 30 дней4лайкавеса обновлены21 ноя 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Tissint-14B-v1.1-128k-RP — диалоговая языковая модель на 14 млрд параметров, созданная Ttimofeyka на основе SuperNova-Medius и версии Tissint-14B-128k-RP. Это объединённая модель семейства Qwen2 с архитектурой Qwen2ForCausalLM; она предназначена для генерации текста, творческого письма и многоходовых ролевых диалогов. Контекст составляет 131 072 токена, а взаимодействие рассчитано на формат чата. Автор сообщает об улучшенной устойчивости к настройкам сэмплирования, лучшем следовании системным инструкциям и снижении числа отказов; версия 1.1 включает больше обучающих данных и инструкции, смешанные с NSFW-ролевыми диалогами. Модель выпускается в форматах PyTorch и Safetensors под лицензией Apache-2.0.

Модель ориентирована на творческие и ролевые сценарии, включая контент для взрослых. Заявления об улучшении качества основаны на тестах автора; README не приводит количественных оценок, а генерации могут быть нестабильны при неподходящих настройках сэмплирования.

Сценарии применения

  • создание творческих текстов по заданию
  • многоходовые ролевые диалоги
  • генерация NSFW-ролевого контента
  • диалоговое следование системным инструкциям

Ограничения

README не приводит количественных оценок качества; поведение при генерации зависит от настроек сэмплирования. Модель обучалась в том числе на NSFW-ролевых данных и может выдавать контент для взрослых.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Tissint-14B-v1.1-128k-RP


Chat Example

The model is based on SuperNova-Medius (as the current best 14B model) with a 128k context with an emphasis on creativity, including NSFW and multi-turn conversations.

According to my tests, this finetune is much more stable with different samplers than the original model. Censorship and refusals have been reduced.

The model started to follow the system prompt better, and the responses in ChatML format with bad samplers stopped reaching 800+ tokens for no reason.

V1.1

I have increased the amount of dataset and added instructions mixed with NSFW RP, which in theory will improve the quality of the model.

Chat Template - ChatML

Samplers

Balance

Temp : 0.8 - 1.15
Min P : 0.1

Repetition Penalty : 1.02

DRY 0.8, 1.75, 2, 2048 (change to 4096 or more if needed)

Creativity

Temp : 1.15 - 1.5
Top P : 0.9

Repetition Penalty : 1.03

DRY 0.82, 1.75, 2, 2048 (change to 4096 or more if needed)

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
Qwen2ForCausalLM
Ревизия весов
2890c49

0 моделей