/ Модель

Характеристики

Размер весов
34,8 ГБ
Лицензия
MIT
Архитектура
internvl_chat · dense
Библиотека
transformers
Опубликована
25 фев 2025

Llama-Typhoon-8B-R1

Генерация текстаТекст → текст4 профессии

Составная модель семейства Llama-Typhoon для генерации текста и диалоговых задач.

24скачиваний за 30 дней9лайковвеса обновлены26 фев 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

voidful/Llama-Typhoon-8B-R1 — модель на 8 млрд параметров, описанная в карточке как сочетание breeze2, TAIDE, Llama 3.2 и DeepSeek R1. По названию и составу это языковая модель для генерации текста и диалоговых сценариев. Метаданные указывают архитектуру InternVLChatModel и формат весов safetensors; карточка также показывает feature-extraction, хотя каталог отмечает конфликт с основной задачей text-generation.

Модель опубликована под лицензией MIT. Карточка содержит краткое описание состава и раздел с примером использования, но не приводит подробностей о языковой поддержке, длине контекста, обучающих данных или результатах оценки.

Сценарии применения

  • ответы на вопросы в диалоге
  • генерация связных текстов
  • эксперименты с объединением языковых моделей

Ограничения

Карточка не сообщает результаты сравнительных оценок и длину контекста; в метаданных есть расхождение между feature-extraction и text-generation.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

voidful/Llama-Typhoon-8B-R1

颱 - breeze2 + TAIDE + llama3.2 + deepseek R1

Usage

import vllm
from vllm import LLM, SamplingParams
from PIL import Image
model_name = "voidful/Llama-Typhoon-8B-R1"
llm = vllm.LLM(model=model_name,max_model_len=4096)

sampling_params = SamplingParams(temperature=0.6, max_tokens=2048, top_p=0.9, stop=["</answer>"])

prompt = llm.get_tokenizer().apply_chat_template(
    [
        {"role": "user", "content": "分析台灣人偏外向還是內向,並詳細說明原因"},
    ],
    tokenize=False,
    add_generation_prompt=True,
)
inputs = {"prompt": prompt}
outputs = llm.generate(inputs, sampling_params=sampling_params)

for output in outputs:
    prompt = output.prompt
    generated_text = output.outputs[0].text
    print(f"Generated text: {generated_text}")

Output

<think>
分析台灣人偏外向還是內向,可以從多個角度來看,包括文化、社會、經濟等因素。然而,由於我是從使用者的角度出發,且使用者可能指的是在台灣生長的人,因此我將以台灣人的文化和社會環境為參考點進行分析。

1. **文化特質:**
   - 在台灣,「外向性」常常被視為是一種正面的特質。人們可能傾向於在社會中表現得更開放、主動、積極,這與華人的「關係取向」和「社群取向」等文化觀相契合。
   - 相較之下,「內向性」可能被視為較不活躍或不太願意參與社會互動。然而,這並不代表所有台灣人都完全外向或完全內向,而可能是指大多數人在這方面的傾向。

2. **社會環境:**
   - 台灣的社會環境相對開放、多元,這為個人提供了許多參與各種活動和場合的機會。這種環境可能鼓勵人們去接觸新的人、嘗試新事、參與團體活動等,從而促進了較高的「外向性」。
   - 另一方面,由於工作和生活的壓力等因素,有些人可能更傾向於將自己的能量投注在私人生活中,這可能被視為「內向性」的表現。
   
3. **經濟和教育:**
   - 台灣的教育體系,尤其是高等教育,常常強調個人能力的發展、獨立思考和團隊合作。這可能使學生在成長的過程中,更願意去探索、參與各種活動和學習新事物,從而傾向於「外向性」。
   - 經濟的穩定和安全也可能使人們更願意去投入於長期的關係和社群中,這也被視為「外向性」的表現。

4. **媒體和流行文化:**
   - 台灣的媒體和流行文化常常推廣各種活動、旅遊、美食等主題,這些都可能刺激人們去參與和體驗更多的「外」活動。這可能在某種程度上推動了「向外」的趨勢。
   - 然而,也有一些媒體內容可能更關注個人的內心世界和情感,這可能與「向內」傾向相關。

5. **政治和歷史背景:**
   - 台灣的政治和歷史背景,包括過去的威權統治、經濟奇蹟、以及近年來的政治變遷等,都可能對人民的性格和行為產生不同的影響。然而,這部分的影響可能較複雜,並需要更細緻的分析。
   
6. **個人成長和社會規範:**
   - 在台灣,「外向」和「內向」有時被視為是社會規範的一部分,尤其是在家庭、學校或工作環境中。例如,在某些場合,「外向」可能被認為是更受歡迎或更有競爭力的特質。
   - 然而,這也可能因不同的家庭背景、文化信仰等而有所不同。

綜合以上因素,在台灣,大多數人可能被認為是偏外向的。然而,也有不少人可能具有較高的「內向性」,這可能與他們的個人特質、生活經驗、或特定的情境有關。
</think>

<answer>
在分析台灣人偏外向或內向時,可以從多個角度來看,包括文化、社會、經濟等因素。基於台灣的文化特質、開放的社會環境、經濟和教育的發展、媒體和流行文化的影響,以及個人成長和社會規範等因素,多數台灣人可能被認為是偏外向的。然而,也有不少人可能具有較高的內向性,這取決於他們的個人特質、生活經驗或特定的情境。因此,在台灣,偏外向的比例可能較高,但內向性也在其中占有一定的比重。

VISON

import vllm
from vllm import LLM, SamplingParams
from PIL import Image
import requests

model_name = "voidful/Llama-Typhoon-8B-R1"
llm = vllm.LLM(model=model_name,max_model_len=4096)

sampling_params = SamplingParams(temperature=0.01, max_tokens=512, stop=[])
image = Image.open(requests.get("https://huggingface.co/voidful/Llama-Typhoon-8B-R1/resolve/main/eeaao.jpg", stream=True).raw)

prompt = llm.get_tokenizer().apply_chat_template(
    [
        {"role": "user", "content": "<image> 從圖片的風格猜測這是哪個導演的作品?"},
    ],
    tokenize=False,
    add_generation_prompt=True,
)
inputs = {"prompt": prompt, "multi_modal_data": {"image": image}}
outputs = llm.generate(inputs, sampling_params=sampling_params)

for output in outputs:
    prompt = output.prompt
    generated_text = output.outputs[0].text
    # print(prompt)
    print(f"Generated text: {generated_text}")

Output

從圖片的風格和元素來看,很難直接確定是哪個導演的作品,但可以從一些特徵中做一些推測。例如,圖片中的人物穿著西裝、手持煙斗、眼神有著深邃的眼神等,這些元素常出現在一些亞洲電影或電視劇的風格中。其中,一些知名的導演如王家衛、吳宇森、陳果等的作品中,常出現這樣的元素和氛圍。不過,由於缺乏更具體的線索,很難做出確切的判斷。可能需要更多的資訊或脈絡來進行更準確的識別。

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

Модели нужен код из репозитория; автор пока не в списке доверенных организаций.

Класс архитектуры
InternVLChatModel
Ревизия весов
50d9156

0 моделей