Характеристики

Контекст: 131 072 токена
Параметры: 7,5 млрд
Размер весов: 16,1 ГБ
Архитектура: llama · dense
Базовая модель: nsfw_merge_test_vFFS
Библиотека: transformers
Опубликована: 21 янв 2025

Ссылки

Hugging Face arXiv 2403.19522

nsfw-w-deepseek-r1-retry

mergekit-community

Генерация текстаТекст → текст

Слияние моделей Llama на 7,5 млрд параметров для диалоговой генерации текста и повествовательных сценариев.

26скачиваний за 30 дней2лайкавеса обновлены21 янв 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

mergekit-community создал эту плотную авторегрессионную языковую модель как слияние предварительно обученных моделей методом Model Stock с помощью mergekit. В неё вошли варианты stepenZEN/DeepSeek-R1-Distill-Llama-8B-Abliterated, дообученные с Azazelle/Llama-3-LongStory-LORA, Azazelle/Llama-3-LimaRP-Instruct-LoRA-8B и moetezsa/Llama3_instruct_on_wikibio; базой слияния указана mergekit-community/nsfw_merge_test_vFFS. Модель имеет 7,5 млрд параметров, поддерживает генерацию текста и диалоговый режим, а её заявленная длина контекста — 131072 токена. Веса опубликованы в формате safetensors; лицензия в предоставленных данных не указана.

Модель предназначена для генерации ответов и диалогового текста, в том числе ролевых и повествовательных сценариев, а также для запросов с длинным контекстом. В составе слияния есть модель с меткой abliterated и источники, ориентированные на ролевую игру, длинные истории и биографические тексты. Заявлено ограничение аудитории: модель не подходит для всех пользователей; качество и поведение объединённой модели отдельно не охарактеризованы.

Сценарии применения

генерация диалоговых ответов
ролевая игра с персонажами
создание длинных историй
продолжение текста с длинным контекстом
генерация биографических текстов

Ограничения

Модель помечена как не подходящая для всех аудиторий. Данные не описывают качество, поведение объединённой модели или лицензию.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

merge

This is a merge of pre-trained language models created using mergekit.

Merge Details

Merge Method

This model was merged using the Model Stock merge method using mergekit-community/nsfw_merge_test_vFFS as a base.

Models Merged

The following models were included in the merge:

Configuration

The following YAML configuration was used to produce this model:

models:    
  - model: stepenZEN/DeepSeek-R1-Distill-Llama-8B-Abliterated+Azazelle/Llama-3-LongStory-LORA
  - model: stepenZEN/DeepSeek-R1-Distill-Llama-8B-Abliterated+Azazelle/Llama-3-LimaRP-Instruct-LoRA-8B
  - model: stepenZEN/DeepSeek-R1-Distill-Llama-8B-Abliterated+moetezsa/Llama3_instruct_on_wikibio
merge_method: model_stock
base_model: mergekit-community/nsfw_merge_test_vFFS
dtype: bfloat16

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры: LlamaForCausalLM
Ревизия весов: 39b888f