/ Модель
Каталог

Характеристики

Контекст
32 768 токенов
Параметры
508 млн
Архитектура
qwen3 · dense
Базовая модель
Qwen3-Embedding-0.6B
Библиотека
sentence-transformers
Опубликована
7 окт 2026

Ссылки

Hugging Face

qwen3-emb-0.6b-ar-step2-interim-ckpt40

canho
ЭмбеддингиТекст → embedding

Промежуточный дообученный чекпойнт Qwen3-Embedding-0.6B для создания текстовых эмбеддингов и семантического поиска по запросам и документам.

124скачиваний за 30 дней0лайковвеса обновлены7 окт 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Эмбеддинги» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

canho/qwen3-emb-0.6b-ar-step2-interim-ckpt40 — это полноценно дообученный чекпойнт Qwen3-Embedding-0.6B, созданный автором репозитория на базе Qwen/Qwen3-Embedding-0.6B с помощью ms-swift и функции потерь InfoNCE. В репозитории указаны 507,6 млн параметров, архитектура Qwen3ForCausalLM, библиотека sentence-transformers и контекст до 32 768 токенов.

Модель предназначена для получения текстовых эмбеддингов и семантического сопоставления запросов с документами. Она обучалась на 2 506 парах с одним положительным примером и девятью отобранными сложными отрицательными примерами; для запросов используется префикс «Query:», документы кодируются без префикса. Это промежуточный чекпойнт на шаге 40 из 375, хотя автор отмечает, что на момент сохранения у него была лучшая оценка потерь на отложенной выборке в рамках запуска.

Для использования подходит SentenceTransformers; README показывает кодирование запросов и документов с настройкой стороны дополнения до длины. Лицензия и языковой охват этого чекпойнта в предоставленных данных не указаны; базовая модель описана каталогом как многоязычная. Ранний промежуточный статус обучения означает, что качество может уступать итоговому чекпойнту.

Сценарии применения

  • семантический поиск документов по текстовому запросу
  • сопоставление запроса с релевантными текстами
  • ранжирование кандидатов по близости эмбеддингов
  • поиск с hard negatives в экспериментальной retrieval-системе

Ограничения

Это ранний промежуточный чекпойнт на шаге 40 из 375, поэтому результаты могут быть нестабильны и не отражать качество финальной версии. Обучение описано на небольшом наборе из 2 506 пар; данных о лицензии и языковом охвате конкретного чекпойнта нет.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

canho/qwen3-emb-0.6b-ar-step2-interim-ckpt40

Qwen/Qwen3-Embedding-0.6B full fine-tuned with ms-swift InfoNCE, checkpoint at step 40 of 375 (epoch 0.54; best eval-loss checkpoint of the run so far: checkpoint-40).

  • Training data: ours: canho/ar-pairs-train-step2-interim (2,506 pairs, 1 positive + 9 curated hard negatives)
  • Recipe: Qwen3-Embedding SWIFT.md (swift sft --task_type embedding --loss_type infonce), lr 6e-6 (cosine), 5 epochs, 2 GPUs x per-device 4 x grad-acc 4 = 32 queries/step, in-batch negatives across the 8 queries of a micro-batch, temperature 0.1, DeepSpeed ZeRO-3, bf16, 5% held out for eval, checkpoint every 20 steps, seed 42.
  • Query prompt (set in config_sentence_transformers.json, prepended to every query): 'Query:'; documents without a prompt.
from sentence_transformers import SentenceTransformer
m = SentenceTransformer("canho/qwen3-emb-0.6b-ar-step2-interim-ckpt40", processor_kwargs={"padding_side": "left"})
q = m.encode(["..."], prompt_name="query"); d = m.encode(["..."])

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · sentence-transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
Qwen3ForCausalLM
Ревизия весов
a4517a5

0 моделей

    Создать бенчмарк