/ Модель
Каталог

Характеристики

Контекст
40 960 токенов
Параметры
3,7 млрд
Лицензия
Apache 2.0
Архитектура
qwen3 · dense
Базовая модель
Qwen3-Embedding-4B
Библиотека
transformers
Опубликована
2 мая 2026

Ссылки

Hugging Face

Qwen3-Embedding-4B-AWQ-INT4

drawais
Генерация текстаТекст → текст9 профессий

Qwen3-Embedding-4B-AWQ-INT4 — квантизированная версия модели Qwen/Qwen3-Embedding-4B, производная работа от оригинальной модели Qwen.

1 128скачиваний за 30 дней5лайковвеса обновлены2 мая 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Артефакт предназначен для встраивания в системы эмбеддингов и может использоваться как компактная замена базовой модели в задачах семантического поиска, сопоставления текстов и других сценариях, где нужны текстовые векторные представления. В README явно указан английский язык.

Модель использует 4-битное квантизирование весов методом AWQ (INT4, weight-only). Размер на диске составляет примерно 2,7 ГБ; заявлено, что она помещается на потребительский GPU с 6 ГБ видеопамяти, однако требуется дополнительный запас памяти для KV-кэша. В качестве максимальной длины контекста для запуска через vLLM указано 32 768 токенов. Данные о точной архитектуре, размерности эмбеддингов и результатах сравнительного тестирования не приведены.

Основные преимущества — существенно уменьшенный размер и требования к памяти при сохранении назначения исходной embedding-модели, а также совместимость с embedding-стеками и запуском через vLLM. Ограничения включают поддержку только английского языка согласно README и потенциальное снижение точности из-за INT4-квантизации; количественная оценка этого снижения не указана. Модель распространяется по лицензии Apache License 2.0, с требованием соблюдать атрибуцию исходной модели Qwen/Qwen3-Embedding-4B.

Для каких профессий подходит9

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии
I.11Универсальные способностиКлассификация, ранжирование и сопоставлениеAI помогает распределять объекты по категориям, устанавливать соответствия и определять порядок обработки.15 задач26 736моделейII.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделейI.1Универсальные способностиПоиск и навигация по информацииAI помогает находить нужные сведения и помогать человеку быстро переходить от вопроса к подтверждённому источнику.18 задач13 467моделейI.12Универсальные способностиРекомендации и персонализацияAI помогает подбирать релевантные варианты и адаптировать опыт под конкретного человека или ситуацию.15 задач7 627моделей

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Qwen3-Embedding-4B-AWQ-INT4

INT4 weight-only quantization of Qwen/Qwen3-Embedding-4B.

Qwen 3 Embedding 4B in INT4. Drop-in for any embedding stack. Fits on a 6 GB consumer GPU.

PropertyValue
Base modelQwen/Qwen3-Embedding-4B
QuantizationINT4 weight-only
Approx. on-disk size~2.7 GB
LanguagesEnglish

Load (vLLM)

vllm serve drawais/Qwen3-Embedding-4B-AWQ-INT4 \
  --max-model-len 32768 \
  --gpu-memory-utilization 0.94

from vllm import LLM, SamplingParams
llm = LLM(model="drawais/Qwen3-Embedding-4B-AWQ-INT4", max_model_len=32768)
print(llm.generate(["Hello!"], SamplingParams(max_tokens=128))[0].outputs[0].text)

Footprint

~2.7 GB on disk. Recommended VRAM: enough headroom for KV cache.

License & attribution

This artifact is a derivative work of Qwen/Qwen3-Embedding-4B, released by its original authors under the Apache License, Version 2.0.

This artifact is distributed under the same license. The full license text is included in LICENSE, and required attribution is in NOTICE.

License text: https://www.apache.org/licenses/LICENSE-2.0 Source model: https://huggingface.co/Qwen/Qwen3-Embedding-4B

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

vLLM

Можно запустить

Подбираем GPU…

Класс архитектуры
Qwen3ForCausalLM
Ревизия весов
4bc9db2

0 моделей

    Создать бенчмарк