/ Модель
Каталог

Характеристики

Размер весов
491 МБ
Лицензия
Apache 2.0
Опубликована
24 июн 2026

Ссылки

Hugging Face

Qwen2.5-0.5B-Instruct-mobile-int4

dispatchAI
Генерация текстаТекст → текст8 профессий

Квантизированная компактная версия Qwen2.5-0.5B-Instruct для быстрой генерации текста и кода на мобильных устройствах.

69скачиваний за 30 дней0лайковвеса обновлены28 июн 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это квантизированная версия инструктивной языковой модели Qwen2.5-0.5B-Instruct, подготовленная dispatchAI для запуска на мобильных устройствах. Модель содержит 494 млн параметров и распространяется в формате GGUF с квантизацией INT4; по данным карточки, она занимает около 0,7 ГБ памяти и ориентирована на быстрый запуск на процессоре смартфона.

Модель предназначена для генерации текста и диалоговых сценариев на устройстве: генерации кода в мобильных IDE, классификации и извлечения данных из текста, а также встраивания ассистентов в приложения. Карточка заявляет скорость около 45 токенов в секунду на CPU Samsung S20 FE и сохранение примерно 94% качества относительно исходной модели. Поддерживаются английский и китайский языки; лицензия — Apache-2.0.

Сценарии применения

  • генерация кода в мобильной IDE
  • классификация коротких текстов на устройстве
  • извлечение сведений из текста
  • встраивание диалогового ассистента в мобильное приложение
  • локальная генерация текста на смартфоне

Ограничения

Размер модели ограничивает её возможности по сравнению с более крупными языковыми моделями; заявленные скорость и сохранение качества приведены для конкретной конфигурации и могут отличаться на других устройствах.

Для каких профессий подходит8

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии
II.2Разработка и данныеСоздание и понимание программного кодаAI помогает писать, объяснять и связывать программный код с требованиями и существующей системой.20 задач21 443моделиI.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделейI.11Универсальные способностиКлассификация, ранжирование и сопоставлениеAI помогает распределять объекты по категориям, устанавливать соответствия и определять порядок обработки.15 задач26 736моделейI.3Универсальные способностиИзвлечение и структурирование данныхAI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации.18 задач25 791модель

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Qwen 2.5 0.5B Instruct - Mobile INT4 (GGUF)

Alibaba's Qwen 2.5 0.5B Instruct, the smallest capable general-purpose model. Incredibly fast on phones.

PropertyValue
BaseQwen/Qwen2.5-0.5B-Instruct
Parameters494 million
QuantizationINT4 GGUF
Size~398 MB
LicenseApache 2.0

Performance

  • ~45 tok/s on Samsung S20 FE CPU (fastest in our collection!)
  • ~0.7 GB memory footprint
  • Fits on ANY modern smartphone
  • ~94% quality retention

Use Cases

  • Code generation on mobile IDEs
  • Quick text classification / extraction
  • Embedded assistants in apps
  • Ultra-low-latency responses (<50ms per token)
  • Batch processing at massive scale

Quick Start

huggingface-cli download dispatchAI/Qwen2.5-0.5B-Instruct-mobile-int4 --local-dir ./models
./build/bin/main -m ./models/model.gguf -p "Explain quantum computing simply." -n 128 -t 4

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Можно запустить

Подбираем GPU…

Ревизия весов
904fdbb

0 моделей

    Создать бенчмарк