/ Модель

Характеристики

Контекст
32 768 токенов
Параметры
508 млн
Архитектура
qwen3 · dense
Базовая модель
Qwen3-Embedding-0.6B
Библиотека
sentence-transformers
Опубликована
8 окт 2026

qwen3-emb-0.6b-ar-ours6k-ckpt140

ЭмбеддингиТекст → embedding

Дообученная на парах запросов и документов модель Qwen3 для создания текстовых эмбеддингов и семантического поиска.

109скачиваний за 30 дней0лайковвеса обновлены8 окт 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Эмбеддинги» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это текстовая модель эмбеддингов, созданная автором репозитория canho путём полного дообучения Qwen/Qwen3-Embedding-0.6B. Модель формирует векторы для семантического сопоставления запросов и документов; для запросов используется префикс «Query:», документы кодируются без префикса. Она построена на архитектуре Qwen3, содержит около 507,6 млн параметров, поддерживает контекст до 32 768 токенов и распространяется в формате safetensors.

Модель дообучена методом InfoNCE на 5 469 парах запросов, положительных примеров и трудных негативных примеров из canho/ours-6k. Указан чекпойнт шага 140 из 815, выбранный как лучший по eval-loss на момент запуска. Его можно применять для поиска по смыслу и ранжирования релевантности текстов. В метаданных указана лицензия, но здесь её условия не приведены.

Сценарии применения

  • семантический поиск по коллекции документов
  • сопоставление запроса с подходящими текстами
  • ранжирование документов по релевантности запросу
  • поиск ближайших по смыслу предложений

Ограничения

Обучение проводилось на 5 469 парах из одного датасета, поэтому качество на других доменах и типах запросов может отличаться. В README не приведены результаты сравнительной оценки качества.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

canho/qwen3-emb-0.6b-ar-ours6k-ckpt140

Qwen/Qwen3-Embedding-0.6B full fine-tuned with ms-swift InfoNCE, checkpoint at step 140 of 815 (epoch 0.86; best eval-loss checkpoint of the run so far: checkpoint-140).

  • Training data: HF canho/ours-6k train split (5,469 pairs; query + 1 positive + 9 hard negatives)
  • Recipe: Qwen3-Embedding SWIFT.md (swift sft --task_type embedding --loss_type infonce), same recipe as the step-1 / ablation runs: lr 6e-6 (cosine), 5 epochs, 32 queries/step (8 GPUs x per-device 1 x grad-acc 4; earlier runs 2 x 4 x 4), in-batch negatives across the 8 queries of a micro-batch (embeddings all-gathered across GPUs), temperature 0.1, DeepSpeed ZeRO-3, bf16, 5% held out for eval, eval + checkpoint every 10 steps, seed 42.
  • Query prompt (set in config_sentence_transformers.json, prepended to every query): 'Query:'; documents without a prompt.
from sentence_transformers import SentenceTransformer
m = SentenceTransformer("canho/qwen3-emb-0.6b-ar-ours6k-ckpt140", processor_kwargs={"padding_side": "left"})
q = m.encode(["..."], prompt_name="query"); d = m.encode(["..."])

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · sentence-transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
Qwen3ForCausalLM
Ревизия весов
6c50948

0 моделей