/ Модель

Характеристики

Контекст
131 072 токена
Параметры
7,5 млрд
Размер весов
16,1 ГБ
Лицензия
Llama 3.1
Архитектура
llama · dense
Базовая модель
Impish_Mind_8B
Опубликована
24 янв 2025

Wingless_Imp_8B

Генерация текстаТекст → текст3 профессии

Слитая 7,5-миллиардная Llama-модель для ролевых диалогов, творческого письма и общих текстовых задач.

526скачиваний за 30 дней22лайкавеса обновлены5 ноя 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки6

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

  • MMLU-PRO

    MMLU-PRO Raw · выше — лучше

    Результат

    0,3639

    Open LLM v2 · архив

    Публичная таблицадругая ревизия

  • BBH

    BBH Raw · выше — лучше

    Результат

    0,512

    Open LLM v2 · архив

    Публичная таблицадругая ревизия

  • GPQA

    GPQA Raw · выше — лучше

    Результат

    0,2827

    Open LLM v2 · архив

    Публичная таблицадругая ревизия

  • MATH Lvl 5

    MATH Lvl 5 Raw · выше — лучше

    Результат

    0,1201

    Open LLM v2 · архив

    Публичная таблицадругая ревизия

  • MUSR

    MUSR Raw · выше — лучше

    Результат

    0,4148

    Open LLM v2 · архив

    Публичная таблицадругая ревизия

  • IFEval

    IFEval Raw · выше — лучше

    Результат

    0,743

    Open LLM v2 · архив

    Публичная таблицадругая ревизия

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Wingless_Imp_8B — текстовая чат-модель для ролевых диалогов, творческого письма и общих задач, созданная SicariusSicariiStuff. Это плотная причинная языковая модель семейства Llama, объединяющая Dusk_Rainbow, Impish_Mind_8B и LLAMA-3_8B_Unaligned_BETA; автор также сообщает о последующем обучении на необычных данных, но не уточняет его техническую схему. В метаданных указаны 7,5 млрд параметров и контекст до 131 072 токенов.

Карточка подчёркивает связность ответов на длинном контексте, ролевую игру в формате интернет-RP и творческое письмо. Модель рассчитана на диалоги и генерацию текста; карточка рекомендует для ролевых сценариев формат SICAtxt и приводит настройки генерации. Указаны английский язык и умеренно низкий уровень цензуры. Авторские оценки и результаты закрытого внешнего бенчмарка приведены в README и не являются независимой проверкой.

Модель доступна в формате safetensors; README также перечисляет варианты квантования. Лицензия — Llama 3.1. Карточка не даёт подробной оценки ограничений качества за пределами результатов отдельных бенчмарков и характеристики уровня цензуры.

Сценарии применения

  • ведение ролевых диалогов в интернет-RP формате
  • создание персонажей и текстовых карточек SICAtxt
  • написание художественных сцен и рассказов
  • генерация связных ответов в длинном диалоге
  • выполнение общих запросов к чат-модели

Ограничения

Уровень цензуры описан автором как умеренно низкий, поэтому модель не полностью свободна от ограничений. Заявления о рейтинге и бенчмарках исходят из карточки модели и не подтверждены независимой оценкой в предоставленных данных.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face



Wingless offender, birthed from sin and mischief,
She smells degeneracy—and gives it a sniff.
No flight, just crawling through the gloom,
Producing weird noises that are filling your room.

Fetid breath exhaling her design,
She is not winged anymore—
But it suits her just fine.

No feathers, no grace,
just raw power's malign
"I may have lost my soul—
but yours is now mine".

She sinned too much, even for her kind,
Her impish mind—
Is something that is quite hard to find.

No wings could contain—
Such unbridled raw spite,
Just pure, unfiltered—
Weaponized blight.


Available quantizations:


TL;DR

  • Highest rated 8B model according to a closed external benchmark. See details at the bottom of the page.
  • High IFeval for an 8B model that is not too censored: 74.30.
  • Strong Roleplay internet RP format lovers will appriciate it, medium size paragraphs (as requested by some people).
  • Very coherent in long context thanks to llama 3.1 models.
  • Lots of knowledge from all the merged models.
  • Very good writing from lots of books data and creative writing in late SFT stage of the merged models (some of the merged models were further fine-tuned).
  • Feels smart — the combination of high IFeval and the knowledge from the merged models show up.
  • Unique feel due to the merged models, no SFT was done to alter it, because I liked it as it is.

Important: Make sure to use the correct settings!

Assistant settings

Roleplay settings


Model Details

  • Intended use: Role-Play, Creative Writing, General Tasks.

  • Censorship level: Medium - Low

  • 5.5 / 10 (10 completely uncensored)

UGI score:


This model was trained with lots of weird data in varius stages, and then merged with my best models. llama 3 and 3.1 arhcitecutres were merged together, and then trained on some more weird data.

The following models were used in various stages of the model creation process:


Recommended settings for assistant mode


Recommended settings for Roleplay mode

With these settings, each output message should be neatly displayed in 1 - 3 paragraphs, 1 - 2 is the most common. A single paragraph will be output as a response to a simple message ("What was your name again?").

min_P for RP works too but is more likely to put everything under one large paragraph, instead of a neatly formatted short one. Feel free to switch in between.

(Open the image in a new window to better see the full details)

temperature:  0.8
top_p:  0.95
top_k:  25
typical_p:  1
min_p:  0
repetition_penalty: 1.12
repetition_penalty_range: 1024

Other recommended generation Presets:

max_new_tokens: 512
temperature: 0.98
top_p: 0.37
top_k: 100
typical_p: 1
min_p: 0
repetition_penalty: 1.18
do_sample: True
max_new_tokens: 512
temperature: 1.31
top_p: 0.14
top_k: 49
typical_p: 1
min_p: 0
repetition_penalty: 1.17
do_sample: True
max_new_tokens: 512
temperature: 0.7
top_p: 0.9
top_k: 20
typical_p: 1
min_p: 0
repetition_penalty: 1.15
do_sample: True

*action* speech *narration*

Regarding the format:

It is HIGHLY RECOMMENDED to use the Roleplay \ Adventure format the model was trained on, see the examples below for syntax. It allows for a very fast and easy writing of character cards with minimal amount of tokens. It's a modification of an old-skool CAI style format I call SICAtxt (Simple, Inexpensive Character Attributes plain-text):


SICAtxt for roleplay:

X's Persona: X is a .....
Traits:
Likes:
Dislikes:
Quirks:
Goals:

Dialogue example

SICAtxt for Adventure:

Adventure: <short description>
$World_Setting:
$Scenario:

Model instruction template: Llama-3-Instruct

<|begin_of_text|><|start_header_id|>system<|end_header_id|>

{system_prompt}<|eot_id|><|start_header_id|>user<|end_header_id|>

{input}<|eot_id|><|start_header_id|>assistant<|end_header_id|>

{output}<|eot_id|>


Benchmarks

MetricValue
Avg.26.94
IFEval (0-Shot)74.30
BBH (3-Shot)30.59
MATH Lvl 5 (4-Shot)12.16
GPQA (0-shot)4.36
MuSR (0-shot)10.89
MMLU-PRO (5-shot)29.32

Additional benchmarks

On the 17th of February, 2025, I became aware that the model was ranked as the 1st place in the world among 8B models, in a closed external benchmark.

Bnechmarked on the following site:

https://moonride.hashnode.dev/biased-test-of-gpt-4-era-llms-300-models-deepseek-r1-included

Citation Information

@llm{Wingless_Imp_8B,
  author = {SicariusSicariiStuff},
  title = {Wingless_Imp_8B},
  year = {2025},
  publisher = {Hugging Face},
  url = {https://huggingface.co/SicariusSicariiStuff/Wingless_Imp_8B}
}

Other stuff

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
5274274

0 моделей