/ Модель

Характеристики

Лицензия
Своя лицензия
Опубликована
24 сен 2026

RK1828-LLM-Hunyuan-MT-7B

Генерация текстаТекст → текст3 профессии

Квантизированная сборка Tencent Hunyuan-MT-7B для генерации текста и диалогов на устройствах RK1828.

231скачиваний за 30 дней0лайковвеса обновлены28 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

RK1828-LLM-Hunyuan-MT-7B — конвертированная и квантизированная версия языковой модели Tencent Hunyuan-MT-7B, подготовленная RKNNAI для работы на ускорителе RK1828. Репозиторий содержит сборку для RKNN Runtime v1.1.0 с квантизацией w4a16, восемью ядрами NPU, контекстом до 3584 токенов и KV-кэшем fp16.

Модель предназначена для генерации текста и диалоговых сценариев на совместимых устройствах RK1828. README указывает исходную модель Tencent-Hunyuan/Hunyuan-MT-7B, но не описывает отдельные языки или специализированные задачи.

Для запуска требуются чип RK1828, соответствующие версии RKNN Runtime и драйвера, а также файлы из одной конфигурационной директории. В репозитории указаны LICENSE исходной модели и Notice с требованиями лицензии и атрибуции; конкретный тип лицензии в предоставленных данных не раскрыт.

Сценарии применения

  • генерация ответов в диалоге на устройстве RK1828
  • локальная генерация текста на RK1828
  • развёртывание языковой модели на NPU RK1828

Ограничения

Работает только на чипе RK1828 и требует совместимых версий RKNN Runtime и драйвера. Контекст ограничен 3584 токенами; лицензионные условия следует сверять с файлами LICENSE и Notice.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

RK1828-LLM-Hunyuan-MT-7B

English | 简体中文

1. Model Overview

This repository provides an RKNN LLM model converted from Tencent-Hunyuan/Hunyuan-MT-7B.

  • Model ID: RKNNAI/RK1828-LLM-Hunyuan-MT-7B
  • Model Display Name: RK1828-LLM-Hunyuan-MT-7B
  • RKNN Runtime Version: v1.1.0
  • Source Model: Tencent-Hunyuan/Hunyuan-MT-7B
  • Model Type: LLM
  • Chip Label: RK1828
  • Supported Chips: RK1828

Available Models

RKNN Runtime VersionConfiguration DirectorySupported ChipsQuantizationNPU CoresContext Length (tokens)KVCache
v1.1.0Hunyuan-MT-7B-w4a16-8-3584RK1828w4a1683584 (3.5k)fp16

2. Files

File or DirectoryDescription
LICENSESource model license
NoticeLicense, usage requirements, and attribution
<configuration-directory>/Matching model files
Subdirectory README.mdConfiguration documentation (English)
Subdirectory README_CN.mdConfiguration documentation (Chinese)
Subdirectory config.jsonModel configuration and file manifest
Subdirectory SHA256SUMSSHA-256 checksums of the files in this directory (excluding this file)

3. Download

Download the full repository from ModelScope:

modelscope download --model RKNNAI/RK1828-LLM-Hunyuan-MT-7B --revision v1.1.0 --local_dir ./RK1828-LLM-Hunyuan-MT-7B

Download the full repository from Hugging Face:

hf download RKNNAI/RK1828-LLM-Hunyuan-MT-7B --revision v1.1.0 --local-dir ./RK1828-LLM-Hunyuan-MT-7B

Download a specific configuration from ModelScope:

from modelscope import snapshot_download

snapshot_download(
    "RKNNAI/RK1828-LLM-Hunyuan-MT-7B",
    revision="v1.1.0",
    allow_patterns=["README.md", "README_CN.md", "LICENSE", "Notice", "Hunyuan-MT-7B-w4a16-8-3584/**"],
    local_dir="./RK1828-LLM-Hunyuan-MT-7B",
)

Download a specific configuration from Hugging Face:

hf download RKNNAI/RK1828-LLM-Hunyuan-MT-7B --revision v1.1.0 --include "README.md" "README_CN.md" "LICENSE" "Notice" "Hunyuan-MT-7B-w4a16-8-3584/**" --local-dir ./RK1828-LLM-Hunyuan-MT-7B

4. SHA-256 Verification

Run in the configuration directory:

cd ./RK1828-LLM-Hunyuan-MT-7B/Hunyuan-MT-7B-w4a16-8-3584
sha256sum -c SHA256SUMS

Deploy only after all entries show OK.

5. Compatibility and Limitations

  • Supported Chips: RK1828.
  • Use the matching RKNN Runtime and driver. Check the device-side version with rknn-smi -v before running.
  • Use the files from the selected configuration directory together.

6. Copyright and License

  • Source model license: Tencent Hunyuan Community License Agreement.
  • See LICENSE in the repository root for the full license and Notice for attribution.
  • Use is also subject to the applicable license terms of the source model, RKNN Toolkit, and RKNN Runtime.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

В репозитории нет config.json: не понять архитектуру модели.

Ревизия весов
550ac48

0 моделей