Qwen3-8B-RKNN3-RK1828

Это адаптация Qwen3-8B, разработанной командой Qwen компании Alibaba, в формате GGUF с архитектурой qwen3. Модель предназначена для генерации текста и диалоговых сценариев; заявленная карточка относит её к задачам text-generation и conversational.

Исходная Qwen3-8B — каузальная языковая модель примерно на 8,2 млрд параметров с 36 слоями и grouped-query attention: 32 attention heads для запросов и 8 для ключей и значений. Для исходной модели указана нативная длина контекста 32 768 токенов и поддержка более 100 языков и диалектов, а также режимов рассуждения и обычного диалога, задач программирования, математики, следования инструкциям и работы с инструментами. Для конкретной RKNN3-версии не подтверждены собственные языковые характеристики, контекст, точный размер, метод квантования и результаты тестирования.

Главное назначение версии StationPC — локальный запуск совместимой текстовой модели в формате GGUF через поддерживаемые инструменты инференса. Ограничения включают отсутствие опубликованной содержательной model card, неподтверждённые характеристики преобразования и неизвестное влияние формата и квантования на качество и производительность; мультимодальность не заявлена. Для репозитория указана лицензия Apache 2.0.