/ Модель

Характеристики

Контекст
32 768 токенов
Параметры
508 млн
Архитектура
qwen3 · dense
Базовая модель
Qwen3-Embedding-0.6B
Библиотека
sentence-transformers
Опубликована
7 окт 2026

qwen3-emb-0.6b-ar-step2-interim-ckpt200

ЭмбеддингиТекст → embedding

Дообученная на парах запросов и документов модель Qwen3 для получения текстовых эмбеддингов и семантического сопоставления.

104скачиваний за 30 дней0лайковвеса обновлены7 окт 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Эмбеддинги» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

canho/qwen3-emb-0.6b-ar-step2-interim-ckpt200 — это дообученная canho на базе Qwen/Qwen3-Embedding-0.6B модель для создания текстовых эмбеддингов и оценки семантического сходства предложений. Модель содержит 507,6 млн параметров, использует плотную архитектуру Qwen3 и поддерживает контекст до 32 768 токенов.

Модель обучена с помощью ms-swift и функции потерь InfoNCE на 2 506 парах с одним положительным примером и девятью подобранными трудными отрицательными примерами. Для запросов применяется префикс «Query:», документы кодируются без префикса. Это промежуточный чекпойнт шага 200 из 375; в README отмечено, что лучший eval-loss в ходе запуска был у чекпойнта 140, поэтому этот вариант не следует считать лучшим результатом обучения. Лицензия в предоставленных данных не указана.

Сценарии применения

  • поиск документов по текстовому запросу
  • сопоставление запроса с релевантными фрагментами
  • ранжирование кандидатов по семантическому сходству
  • поиск похожих предложений

Ограничения

Это промежуточный чекпойнт обучения: README сообщает, что лучший eval-loss у этого запуска был у шага 140. Данные об обучении ограничены 2 506 парами; язык обучающих данных в предоставленной карточке не указан.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

canho/qwen3-emb-0.6b-ar-step2-interim-ckpt200

Qwen/Qwen3-Embedding-0.6B full fine-tuned with ms-swift InfoNCE, checkpoint at step 200 of 375 (epoch 2.67; best eval-loss checkpoint of the run so far: checkpoint-140).

  • Training data: ours: canho/ar-pairs-train-step2-interim (2,506 pairs, 1 positive + 9 curated hard negatives)
  • Recipe: Qwen3-Embedding SWIFT.md (swift sft --task_type embedding --loss_type infonce), lr 6e-6 (cosine), 5 epochs, 2 GPUs x per-device 4 x grad-acc 4 = 32 queries/step, in-batch negatives across the 8 queries of a micro-batch, temperature 0.1, DeepSpeed ZeRO-3, bf16, 5% held out for eval, checkpoint every 20 steps, seed 42.
  • Query prompt (set in config_sentence_transformers.json, prepended to every query): 'Query:'; documents without a prompt.
from sentence_transformers import SentenceTransformer
m = SentenceTransformer("canho/qwen3-emb-0.6b-ar-step2-interim-ckpt200", processor_kwargs={"padding_side": "left"})
q = m.encode(["..."], prompt_name="query"); d = m.encode(["..."])

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · sentence-transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
Qwen3ForCausalLM
Ревизия весов
d2e234e

0 моделей