/ Модель

Характеристики

Лицензия
Своя лицензия
Опубликована
24 сен 2026

RK182X-LLM-Youtu-LLM-2B

Генерация текстаТекст → текст4 профессии

Квантизированная RKNN-сборка Youtu-LLM-2B для генерации текста и диалогов на устройствах с чипом RK1828.

166скачиваний за 30 дней0лайковвеса обновлены28 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

RK182X-LLM-Youtu-LLM-2B — конвертированная в формат RKNN версия языковой модели Tencent-YouTu-Research/Youtu-LLM-2B, подготовленная RKNNAI для запуска на NPU чипа RK1828. Модель предназначена для генерации текста и диалогового общения. Конфигурация v1.1.0 использует квантизацию w4a16, имеет контекст 11 264 токена и KV-кэш fp16.

Для работы нужны совместимые RKNN Runtime и драйвер; перед запуском следует проверить версию среды на устройстве. Используйте файлы из одной конфигурации вместе. В метаданных указан тип лицензии other, а README ссылается на лицензию исходной модели и отдельные условия использования и атрибуции в Notice.

Сценарии применения

  • генерация текста на устройстве RK1828
  • диалоговое общение с локальным LLM
  • развёртывание языковой модели на NPU Rockchip

Ограничения

Поддерживается только чип RK1828; необходимы соответствующие версии RKNN Runtime и драйвера. Соблюдайте лицензию исходной модели и условия атрибуции из Notice.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

RK182X-LLM-Youtu-LLM-2B

English | 简体中文

1. Model Overview

This repository provides an RKNN LLM model converted from Tencent-YouTu-Research/Youtu-LLM-2B.

  • Model ID: RKNNAI/RK182X-LLM-Youtu-LLM-2B
  • Model Display Name: RK182X-LLM-Youtu-LLM-2B
  • RKNN Runtime Version: v1.1.0
  • Source Model: Tencent-YouTu-Research/Youtu-LLM-2B
  • Model Type: LLM
  • Chip Label: RK182X
  • Supported Chips: RK1828

Available Models

RKNN Runtime VersionConfiguration DirectorySupported ChipsQuantizationNPU CoresContext Length (tokens)KVCache
v1.1.0Youtu-LLM-2B-w4a16-8-11264RK1828w4a16811264 (11k)fp16

2. Files

File or DirectoryDescription
LICENSESource model license
NoticeLicense, usage requirements, and attribution
<configuration-directory>/Matching model files
Subdirectory README.mdConfiguration documentation (English)
Subdirectory README_CN.mdConfiguration documentation (Chinese)
Subdirectory config.jsonModel configuration and file manifest
Subdirectory SHA256SUMSSHA-256 checksums of the files in this directory (excluding this file)

3. Download

Download the full repository from ModelScope:

modelscope download --model RKNNAI/RK182X-LLM-Youtu-LLM-2B --revision v1.1.0 --local_dir ./RK182X-LLM-Youtu-LLM-2B

Download the full repository from Hugging Face:

hf download RKNNAI/RK182X-LLM-Youtu-LLM-2B --revision v1.1.0 --local-dir ./RK182X-LLM-Youtu-LLM-2B

Download a specific configuration from ModelScope:

from modelscope import snapshot_download

snapshot_download(
    "RKNNAI/RK182X-LLM-Youtu-LLM-2B",
    revision="v1.1.0",
    allow_patterns=["README.md", "README_CN.md", "LICENSE", "Notice", "Youtu-LLM-2B-w4a16-8-11264/**"],
    local_dir="./RK182X-LLM-Youtu-LLM-2B",
)

Download a specific configuration from Hugging Face:

hf download RKNNAI/RK182X-LLM-Youtu-LLM-2B --revision v1.1.0 --include "README.md" "README_CN.md" "LICENSE" "Notice" "Youtu-LLM-2B-w4a16-8-11264/**" --local-dir ./RK182X-LLM-Youtu-LLM-2B

4. SHA-256 Verification

Run in the configuration directory:

cd ./RK182X-LLM-Youtu-LLM-2B/Youtu-LLM-2B-w4a16-8-11264
sha256sum -c SHA256SUMS

Deploy only after all entries show OK.

5. Compatibility and Limitations

  • Supported Chips: RK1828.
  • Use the matching RKNN Runtime and driver. Check the device-side version with rknn-smi -v before running.
  • Use the files from the selected configuration directory together.

6. Copyright and License

  • Source model license: Youtu-LLM License.
  • See LICENSE in the repository root for the full license and Notice for attribution.
  • Use is also subject to the applicable license terms of the source model, RKNN Toolkit, and RKNN Runtime.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

В репозитории нет config.json: не понять архитектуру модели.

Ревизия весов
f1f4b4d

0 моделей