/ Модель

Характеристики

Контекст
32 768 токенов
Параметры
8 млрд
Размер весов
17,1 ГБ
Лицензия
MIT
Архитектура
qwen2 · dense
Базовая модель
Sailor2-8B-Chat
Библиотека
transformers
Опубликована
13 дек 2024

Sailor2-8B-Chat-Uncensored

Генерация текстаТекст → текст7 профессий

Чат-модель на 8 млрд параметров, доработанная на основе Sailor2-8B-Chat направленными интервенциями для диалогов и генерации текста.

21скачиваний за 30 дней2лайкавеса обновлены12 фев 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

BlossomsAI разработала Sailor2-8B-Chat-Uncensored на основе sail/Sailor2-8B-Chat: в модели применены направленные интервенции, изменяющие поведение отказа. Это плотная авторегрессионная модель семейства Qwen2 для диалогов и генерации текста; размер составляет 8 млрд параметров, контекст — до 32 768 токенов. Карточка базовой модели указывает особую ориентацию на языки Юго-Восточной Азии; метаданные этой модели отмечают английский и вьетнамский языки.

Модель подходит для чат-ботов и генерации текстовых ответов. README также сообщает о квантованных вариантах в формате GGFU для экономичного развёртывания, а метаданные репозитория указывают на наличие весов safetensors. Лицензия — MIT. Изменение поведения отказа может повысить вероятность выдачи ответов на запросы, которые базовая модель отклоняла.

Сценарии применения

  • создание чат-бота для диалогов на английском и вьетнамском
  • генерация текстовых ответов в приложении
  • развёртывание языковой модели с квантованными весами

Ограничения

Изменение поведения отказа может повысить вероятность ответов на запросы, которые базовая модель отклоняла. README упоминает квантованные варианты в формате GGFU, тогда как метаданные файлов этой модели указывают safetensors.

Для каких профессий подходит7

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

🎯 Sailor2-8B-Chat-Uncensored

An optimized version of Sailor2-8B-Chat focused on removing refusal behaviors

📌 Overview

A streamlined implementation that removes refusal behaviors from sail/Sailor2-8B-Chat, based on directional intervention techniques.

🔍 Key Features

  • Implements directional intervention for behavior modification
  • Fully quantized for resource-efficient deployment

🛠️ Implementation

Based on research findings from "Refusal in LLMs is Mediated by a Single Direction"

💫 Quantization

Pre-quantized models available in GGFU format:

🤝 Contributors

Developed with ❤️ by BlossomAI


Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
Qwen2ForCausalLM
Ревизия весов
eab98de

0 моделей