/ Модель

Характеристики

Контекст
8 192 токена
Параметры
7,8 млрд
Размер весов
12,5 ГБ
Лицензия
Apache 2.0
Архитектура
chatglm · dense
Базовая модель
chatglm3-6b
Библиотека
transformers
Опубликована
8 ноя 2024

ChatGLM3-6B-Theresa

Генерация текстаТекст → текст3 профессии

Дообученная на текстах Терезы из Arknights модель ChatGLM3-6B для диалогов и генерации текста в образе персонажа.

26скачиваний за 30 дней1лайквеса обновлены16 ноя 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

None1145 разработал эту чат-модель на основе ChatGLM3-6B, дообучив её на текстах персонажа Терезы из игры Arknights. Модель предназначена для диалогов в образе персонажа и генерации текста по запросу.

Модель использует плотную архитектуру ChatGLM, содержит 7,8 млрд параметров и работает с контекстом до 8192 токенов. Для запуска заявлена библиотека Transformers; веса размещены в формате safetensors. В метаданных также указана поддержка классификации текста, однако README описывает только чат-модель.

Модель распространяется по лицензии Apache-2.0. Её ответы отражают обучающие тексты персонажа и могут быть неточными или не соответствовать канону; сведения о поддерживаемых языках в карточке не приведены.

Сценарии применения

  • диалоговая ролевая игра за Терезу из Arknights
  • генерация реплик персонажа по текстовой подсказке
  • чат в стиле персонажа Терезы

Ограничения

Модель специализирована на текстах персонажа Терезы, поэтому её ответы вне этого образа могут быть менее уместными. Поддерживаемые естественные языки не указаны в карточке.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Model Introduction

These models are based on the text training of Theresa from Arknights

Chat

>>> from transformers import AutoTokenizer, AutoModel
>>> tokenizer = AutoTokenizer.from_pretrained("None1145/ChatGLM3-6B-Theresa", trust_remote_code=True)
>>> model = AutoModel.from_pretrained("None1145/ChatGLM3-6B-Theresa", trust_remote_code=True).half().cuda()
>>> system_prompt = "请扮演特蕾西娅"
>>> response, history = model.chat(tokenizer, "你好", history=[])
>>> print(response)
现在我们出去走走,好吗?
>>> response, history = model.chat(tokenizer, "好啊,特蕾西娅小姐", history=history)
>>> print(response)
让我们到那片小草地上看看吧,阿米娅。

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

Модели нужен код из репозитория; автор пока не в списке доверенных организаций.

Класс архитектуры
ChatGLMForConditionalGeneration
Ревизия весов
49bf5d1

0 моделей