Trained for roleplay uses. GGUF quants are here:
https://huggingface.co/Lewdiculous/T.E-8.1-GGUF-IQ-Imatrix-Request
https://huggingface.co/mradermacher/T.E-8.1-i1-GGUF
static quants are available at https://huggingface.co/mradermacher/T.E-8.1-GGUF
Характеристики
- Контекст
- 32 768 токенов
- Параметры
- 7,1 млрд
- Размер весов
- 15,2 ГБ
- Лицензия
- CC BY-NC-SA 4.0
- Архитектура
- qwen2 · dense
- Базовая модель
- Qwen2.5-7B-Instruct
- Опубликована
- 27 сен 2024
Ссылки
T.E-8.1
Дообученная на базе Qwen2.5-7B-Instruct модель для ролевых диалогов и генерации ответов в чате.
68скачиваний за 30 дней3лайкавеса обновлены29 сен 2024
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Тесты пользователейпока нет
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Публичные оценки6
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
MATH Lvl 5
MATH Lvl 5 Raw · выше — лучше
Результат0,4456
Open LLM v2 · архивПубличная таблицаревизия совпадает
MMLU-PRO
MMLU-PRO Raw · выше — лучше
Результат0,4432
Open LLM v2 · архивПубличная таблицаревизия совпадает
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
Cran-May/T.E-8.1 — дообученная диалоговая модель для ролевого общения, созданная на базе Qwen/Qwen2.5-7B-Instruct. Она использует плотную архитектуру Qwen2 и содержит 7,1 млрд параметров; принимает текстовые запросы и генерирует текст. По метаданным, модель поддерживает китайский и английский языки, а её контекст составляет до 32 768 токенов. Репозиторий содержит веса в формате safetensors.
Модель предназначена для ролевых диалогов и генерации ответов в чате. Она распространяется по лицензии CC BY-NC-SA 4.0, которая требует указания авторства, распространяет производные работы на тех же условиях и запрещает коммерческое использование. Карточка не сообщает подробностей о качестве ролевых ответов и специальных ограничениях модели.
Сценарии применения
- ведение ролевого диалога с персонажем
- генерация реплик для текстовой ролевой игры
- создание диалоговых сцен и ответов персонажей
Ограничения
Карточка не приводит оценок качества или подробностей о поведении модели в ролевых сценариях. Лицензия запрещает коммерческое использование.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
IV.9Отраслевые задачиМедиа, журналистика, культура, архивы и игрыAI помогает создавать, искать, сохранять и персонализировать медиа, культурный и игровой контент.44 задачи14 938моделейI.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделейI.7Универсальные способностиРечь, диалоги и встречиAI помогает понимать разговорную речь, поддерживать диалог и превращать встречи в структурированные результаты.17 задач26 923модели
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Подбираем GPU…
- Класс архитектуры
- Qwen2ForCausalLM
- Ревизия весов
- 5f84709