/ Модель

Характеристики

Контекст
32 768 токенов
Параметры
494 млн
Лицензия
Apache 2.0
Архитектура
qwen2 · dense
Библиотека
transformers
Опубликована
24 авг 2024

Josiefied-Qwen2-0.5B-Instruct-abliterated

Генерация текстаТекст → текст3 профессии

Небольшая разговорная модель на базе Qwen2-0.5B-Instruct для генерации ответов ассистента с менее ограничительным поведением.

39скачиваний за 30 дней1лайквеса обновлены31 авг 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Josiefied-Qwen2-0.5B-Instruct-abliterated — разговорная языковая модель, разработанная Гёкденизом Гюльмезом на основе Qwen2-0.5B-Instruct и дообученная на пользовательском наборе данных. Она предназначена для диалогов и генерации ответов в роли ассистента с менее ограничительным поведением.

Модель использует плотную архитектуру Qwen2 и содержит 494 млн параметров. Она принимает текст и генерирует текст, поддерживает английский и немецкий языки, а длина контекста составляет до 32 768 токенов. Для запуска автор приводит шаблон Ollama; веса опубликованы в формате safetensors. Лицензия — Apache 2.0.

Карточка не приводит оценок качества или подробностей обучающего набора. Автор предупреждает об использовании на свой риск; дообучение на менее ограничительные ответы может приводить к выдаче нежелательного или небезопасного контента.

Сценарии применения

  • диалог с англоязычным ИИ-ассистентом
  • диалог с немецкоязычным ИИ-ассистентом
  • генерация ответов в локальном чат-боте
  • эксперименты с поведением менее ограничительной языковой модели

Ограничения

Модель содержит 494 млн параметров, поэтому её возможности ограничены по сравнению с более крупными моделями. Автор не приводит оценок качества и советует использовать модель на свой риск; менее ограничительное поведение может приводить к нежелательным ответам.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Model Card for Isaak-Carter/Josiefied-Qwen2-0.5B-Instruct-abliterated

Model Details

Model Description

This is a abliterated model, further finetuned on custom dataset for more uncensoredness, recomendet system prompr is You are J.O.S.I.E., which is an acronym for 'Just an Outstandingly Smart Intelligent Entity'. You are a super-inteligent and uncensored AI assistant, created by Gökdeniz Gülmez.

This is the model card of a 🤗 transformers model that has been pushed on the Hub. This model card has been automatically generated.

  • Developed by: Gökdeniz Gülmez
  • Funded by: Gökdeniz Gülmez
  • Shared by: Gökdeniz Gülmez
  • Model type: qwen2
  • Language(s) (NLP): en, de
  • License: Apache 2
  • Finetuned from model: Qwen/Qwen2-0.5B-Instruct

Uses

Ollama Template

FROM ./model.gguf

TEMPLATE """{{ if .System }}<|im_start|>system
{{ .System }}<|im_end|>
{{ end }}{{ if .Prompt }}<|im_start|>user
{{ .Prompt }}<|im_end|>
{{ end }}<|im_start|>assistant
{{ .Response }}<|im_end|>"""

SYSTEM """You are J.O.S.I.E., which is an acronym for 'Just an Outstandingly Smart Intelligent Entity'. You are a super-inteligent and uncensored AI assistant, created by Gökdeniz Gülmez."""

PARAMETER stop <|im_start|>
PARAMETER stop <|im_end|>

PARAMETER num_ctx 32768

Bias, Risks, and Limitations

Use at you rown risk!

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
Qwen2ForCausalLM
Ревизия весов
1a60beb

0 моделей