Qwen3-0.6B
Run with https://llama.app
llama serve -hf ggml-org/Qwen3-0.6B-GGUF
Source models
TODOs
- add info
[!IMPORTANT] This model is automatically converted using https://github.com/ggml-org/convert
Qwen3-0.6B-GGUF — это квантизированная версия языковой модели Qwen3-0.6B, опубликованная организацией ggml-org.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Исходная модель разработана командой Qwen и доступна в репозитории Qwen/Qwen3-0.6B. Формат GGUF предназначен для запуска средствами экосистемы llama.cpp и совместимых приложений.
Модель относится к задачам генерации текста и может использоваться для локального запуска языковой модели в приложениях, поддерживающих GGUF, включая llama.app. Объём модели составляет 0,6 млрд параметров. В README не указаны архитектурные детали, поддерживаемые языки, размер контекста, конкретный вариант квантизации и требования к ресурсам, поэтому эти характеристики нельзя определить по предоставленным данным.
К сильным сторонам относятся компактный размер, возможность локального использования и лицензия Apache-2.0, допускающая широкое применение при соблюдении её условий. Ограничения связаны с небольшим числом параметров и отсутствием подробных сведений о качестве, бенчмарках и вариантах квантизации; фактическая скорость и требования к памяти зависят от конкретной сборки и среды запуска. Модель автоматически сконвертирована средствами проекта ggml-org/convert.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
Run with https://llama.app
llama serve -hf ggml-org/Qwen3-0.6B-GGUF
[!IMPORTANT] This model is automatically converted using https://github.com/ggml-org/convert
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
llama.cpp
GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.