Компактная дистиллированная модель на базе Qwen2.5-Coder-0.5B для японских текстовых задач, диалогов и генерации кода в WebLLM.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
GemQwen-0.5B-Instruct — компактная диалоговая модель, созданная Tockys на основе Qwen2.5-Coder-0.5B-Instruct. Модель обучена дистилляцией ответов двух учительских моделей: Gemma 3 1B для японских языковых задач и Qwen2.5-Coder-0.5B для кода, алгоритмов и вычислений. Также в обучающие данные включены примеры, где черновик Qwen редактировался Gemma.
Модель предназначена для японского суммирования, написания отзывов и эссе, вежливого общения, диалогов, генерации и объяснения кода, решения алгоритмических и вычислительных задач. Вес адаптера LoRA ранга 16 объединён с базовой моделью, после чего модель квантована в формат q4f16_1 для MLC; она совместима с WebLLM и может работать в веб-приложении PWA. Лицензия — Apache-2.0.
Модель небольшая, поэтому подходит для локального запуска в браузере, но её возможности и качество ограничены масштабом 0,5 млрд параметров. Карточка не сообщает длину контекста или результаты оценивания; заявлена специализация на японском и английском языках.
Размер модели — 0,5 млрд параметров, что ограничивает её возможности по сравнению с крупными моделями. Длина контекста и результаты независимых оценок в источниках не приведены.
README от автора на Hugging Face, как он его опубликовал
Gemma 3 1B(日本語・文章)と Qwen2.5-Coder-0.5B(コード・論理)の2つの教師モデルの 回答を1つの生徒モデル(Qwen2.5-Coder-0.5Bベース)へ知識蒸留した融合モデル。
gemqwen.pages.dev のWebLLM PWAで動作。
model_libはWebLLM prebuiltの Qwen2.5-0.5B-Instruct-q4f16_1-MLC と互換(同アーキテクチャ)。
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Модели MLC-LLM требуют отдельного рантайма.