/ Модель

Характеристики

Лицензия
Apache 2.0
Базовая модель
Mistral-7B-v0.1
Библиотека
transformers
Опубликована
12 ноя 2024

Vecteus-v1-abliterated

Генерация текстаТекст → текст3 профессии

Дообученная на японских текстах модель Mistral для генерации художественной прозы и выполнения языковых задач.

5скачиваний за 30 дней13лайковвеса обновлены17 дек 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Vecteus-v1-abliterated — это японская языковая модель для генерации и понимания текста в литературном домене, представленная проектом Local-Novel-LLM-project. Модель основана на дообученной Mistral-7B-v0.1 и предназначена для создания естественного японского текста, в том числе художественной прозы.

Модель поддерживает генерацию текста и диалоговый сценарий; в карточке также заявлены ответы на вопросы, суммаризация и перевод. Вариант abliterated создан удалением выходных фильтров исходной модели, что расширяет свободу генерации. Репозиторий содержит веса Safetensors и распространяется по лицензии Apache-2.0.

Сценарии применения

  • генерация японской художественной прозы
  • продолжение японского литературного текста
  • ответы на вопросы на японском языке
  • суммаризация японских текстов
  • перевод текстов с японским языком

Ограничения

Удаление выходных фильтров позволяет генерировать нежелательный контент; качество ответов на задачи помимо генерации прозы в README не детализировано.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

概要

vecteusは、高性能な日本語大規模言語モデルです。小説のドメインに特化し、かつ自然な日本語の生成や理解において優れた性能を発揮します。

当リポジトリは、vecteus v1をベースとした、フィルター(検閲機能)を削除したabliterated版を提供しています。元モデルに存在した出力に対する制約を取り払うことで、より自由度の高いテキスト生成を可能にしています。 ただし、この変更により、生成されるテキストの内容については一切の責任を負いません。

  • 高度な日本語自然言語理解: vecteusは、日本語の文法や意味構造を深く理解し、複雑な日本語の文章を生成することができます。
  • 多様なタスクへの対応: テキスト生成、質問応答、要約、翻訳など、幅広い自然言語処理タスクに対応しています。
  • 検閲フィルターの削除 (abliterated-vecteus): 初代vecteusに存在した出力フィルターを削除し、より自由なテキスト生成を可能にしました。

参考

https://huggingface.co/blog/mlabonne/abliteration

https://github.com/FailSpy/abliterator

https://www.lesswrong.com/posts/jGuXSZgv6qfdhMCuJ/refusal-in-llms-is-mediated-by-a-single-direction

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

Доступ к модели ограничен автором; у платформы нет доступа к весам.

Ревизия весов
bc6a1c4

0 моделей