Характеристики

Контекст: 40 960 токенов
Параметры: 508 млн
Размер весов: 335 МБ
Лицензия: Apache 2.0
Архитектура: qwen3 · dense
Базовая модель: Qwen3-0.6B
Библиотека: mlx
Опубликована: 28 апр 2025

Ссылки

Qwen3-0.6B-4bit

Генерация текстаТекст → текст3 профессии

mlx-community/Qwen3-0.6B-4bit — это 4-битная версия модели Qwen3-0.6B, преобразованная сообществом mlx-community в формат MLX из исходной модели Qwen/Qwen3-0.6B.

37 641скачиваний за 30 дней18лайковвеса обновлены28 апр 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель предназначена для генерации текста и может использоваться через библиотеку mlx-lm, в том числе в диалоговом режиме при наличии chat template. Объём модели составляет 0,6 млрд параметров; поддерживаемые модальности, языки, архитектурные детали и размер контекста в README не указаны.

Ключевое преимущество модели — 4-битное представление и формат MLX, рассчитанные на эффективный запуск в соответствующей экосистеме. Компактный размер делает её подходящей для локальных приложений, прототипирования и задач, где важны сниженные требования к памяти, однако по качеству и возможностям она может уступать более крупным моделям. Ограничения, точные сценарии применения и результаты оценки производительности в README не приведены. Модель распространяется по лицензии Apache 2.0; преобразование выполнено с использованием mlx-lm версии 0.24.0.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей II.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей II.2Разработка и данныеСоздание и понимание программного кодаAI помогает писать, объяснять и связывать программный код с требованиями и существующей системой.20 задач21 443модели

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

mlx-community/Qwen3-0.6B-4bit

This model mlx-community/Qwen3-0.6B-4bit was converted to MLX format from Qwen/Qwen3-0.6B using mlx-lm version 0.24.0.

Use with mlx

pip install mlx-lm

from mlx_lm import load, generate

model, tokenizer = load("mlx-community/Qwen3-0.6B-4bit")

prompt = "hello"

if tokenizer.chat_template is not None:
    messages = [{"role": "user", "content": prompt}]
    prompt = tokenizer.apply_chat_template(
        messages, add_generation_prompt=True
    )

response = generate(model, tokenizer, prompt=prompt, verbose=True)

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · mlx

Нельзя запустить

MLX-модели работают только на Apple Silicon, на GPU NVIDIA они не запускаются.

Класс архитектуры: Qwen3ForCausalLM
Ревизия весов: 73e3e38