/ Модель

Характеристики

Контекст
131 072 токена
Параметры
7,8 млрд
Размер весов
17 ГБ
Архитектура
llama · dense
Базовая модель
DeepSeek-R1-Distill-Llama-8B
Библиотека
transformers
Опубликована
23 фев 2025

Llama-3.1-TAIDE-R1-8B-Chat

Генерация текстаТекст → текст6 профессий

Слитая разговорная модель на базе Llama для генерации текста и ответов на вопросы, включая диалоги на традиционном китайском языке.

2 657скачиваний за 30 дней23лайкавеса обновлены25 фев 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

voidful разработала слитую методом SCE с помощью mergekit языковую модель для диалогов и генерации текста. В объединение вошли DeepSeek-R1-Distill-Llama-8B, Llama-3.1-8B-Instruct и тайваньская разговорная модель TAIDE-LX-8B-Chat; базой для слияния указана Llama-3.1-8B-Instruct. Модель относится к семейству Llama, имеет 7,8 млрд параметров и поддерживает контекст до 131 072 токенов.

Модель предназначена для ответов на вопросы и ведения диалога, в том числе на традиционном китайском языке с тайваньскими разговорными выражениями. Доступны веса в форматах Safetensors и GGUF. Лицензия в предоставленных данных не указана.

Сценарии применения

  • ответы на вопросы на традиционном китайском языке
  • диалоговый помощник для пользователей из Тайваня
  • объяснение бытовых вопросов
  • генерация ответов в чат-боте

Ограничения

В карточке не приведены результаты оценки качества или подробные ограничения применения. Лицензия не указана в предоставленных данных.

Для каких профессий подходит6

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

voidful/Llama-3.1-TAIDE-R1-8B-Chat

This is a merge of pre-trained language models created using mergekit.

Usage

import vllm
from transformers import  AutoTokenizer
from vllm import LLM, SamplingParams

model_name = "voidful/Llama-3.1-TAIDE-R1-8B-Chat"
llm = vllm.LLM(model=model_name,max_model_len=4096)
tokenizer = AutoTokenizer.from_pretrained(model_name)

messages = [
  {"role": "user", "content": f"早餐喝早餐店的奶茶會導致烙賽為什麼?"},
]
prompts = tokenizer.apply_chat_template(
    messages,
    add_generation_prompt=True,
    tokenize=False
)

sampling_params = SamplingParams(temperature=0.6, max_tokens=512, top_p=0.9)
outputs = llm.generate(prompts, sampling_params)

print(f"{prompts}")
print(f"{outputs[0].outputs[0].text}\n")


sampling_params = SamplingParams(temperature=0.6, max_tokens=512, top_p=0.9)
outputs = llm.generate(prompts, sampling_params)

print(f"{prompts}")
print(f"{outputs[0].outputs[0].text}\n")

Output

<think> 關於「早餐喝早餐店的奶茶會導致烙賽」的問題,可能的原因有幾種可能的解釋。首先,「烙賽」這個詞在台灣的網路用語中,通常指的是「燒腸」或「拉肚子」的意思,指的是人體的腸胃或腸道發生不舒服的狀況,可能是消化不良、腹泻、或其他腸胃道的問題。所以,喝了不健康的飲料,可能會導致腸胃不舒服,引起「烙賽」的反應。 

其次,一個可能的原因是,早餐店的奶茶可能使用了低品質的奶源、含糖或含奶精等添加物。奶精是一種人工添加劑,可能會對胃造成刺激或不舒服的感覺。再者,早餐的奶茶可能是用即溶的粉末或濃縮的奶來泡的,這些東西可能含有許多添加劑或不健康的成分。 

最後,個人的體質也是一個因素。有人可能對奶或糖有過敏或不耐受的反應,喝了之後就會出現不舒服的症狀。 

綜合上述的原因,早餐喝早餐店的奶茶可能會導致烙賽的原因有:使用低品質的奶源、含糖或奶精等添加劑、個人的體質對奶或糖有過敏或不耐受的反應等。 

<answer> 早餐喝早餐店的奶茶可能導致烙賽的原因有低品質的奶源、含糖或奶精等添加劑、以及個人的體質對奶或糖有過敏或不耐受的反應等。這是因為不健康的飲料成分可能會對身體造成不舒服的影響。</answer>

Merge Details

Merge Method

This model was merged using the SCE merge method using meta-llama/Llama-3.1-8B-Instruct as a base.

Models Merged

The following models were included in the merge:

Configuration

The following YAML configuration was used to produce this model:

merge_method: sce
base_model: meta-llama/Llama-3.1-8B-Instruct
tokenizer:
  source: taide/Llama-3.1-TAIDE-LX-8B-Chat
models:
  - model: taide/Llama-3.1-TAIDE-LX-8B-Chat
  - model: deepseek-ai/DeepSeek-R1-Distill-Llama-8B

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
fbfdba9

0 моделей