/ Модель
Каталог

Характеристики

Контекст
32 768 токенов
Параметры
508 млн
Архитектура
qwen3 · dense
Базовая модель
Qwen3-Embedding-0.6B
Библиотека
sentence-transformers
Опубликована
7 окт 2026

Ссылки

Hugging Face

qwen3-emb-0.6b-ar-step2-interim-ckpt140

canho
ЭмбеддингиТекст → embedding

Дообученная на парах запросов и документов модель Qwen3-Embedding-0.6B для создания эмбеддингов и семантического поиска.

110скачиваний за 30 дней0лайковвеса обновлены7 окт 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Эмбеддинги» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

canho/qwen3-emb-0.6b-ar-step2-interim-ckpt140 — это дообученная модель для получения текстовых эмбеддингов, созданная на базе Qwen/Qwen3-Embedding-0.6B. Модель разработал пользователь canho: полное дообучение выполнено с помощью ms-swift и функции потерь InfoNCE; опубликован промежуточный чекпойнт шага 140 из 375, выбранный как лучший по eval-loss на момент сохранения.

Модель предназначена для семантического поиска и сравнения запросов с документами. При кодировании запросов используется префикс «Query:», а документы кодируются без префикса. Обучающая выборка содержит 2 506 пар с одним положительным примером и девятью подобранными сложными отрицательными примерами. Архитектура — плотная Qwen3, размер — 507,6 млн параметров, контекст — до 32 768 токенов; библиотека использования — sentence-transformers. Базовая модель поддерживает несколько языков, но язык обучающих пар здесь не указан.

Чекпойнт представляет промежуточный этап обучения, поэтому его качество может уступать завершённой версии. Для лицензии в предоставленных данных сведений нет.

Сценарии применения

  • поиск документов по текстовому запросу
  • сопоставление запроса с релевантными документами
  • ранжирование документов по сходству с запросом
  • извлечение эмбеддингов для семантического поиска

Ограничения

Это промежуточный чекпойнт на шаге 140 из 375, поэтому он может уступать завершённой версии. Язык обучающих пар и лицензия в предоставленных данных не указаны.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

canho/qwen3-emb-0.6b-ar-step2-interim-ckpt140

Qwen/Qwen3-Embedding-0.6B full fine-tuned with ms-swift InfoNCE, checkpoint at step 140 of 375 (epoch 1.88; best eval-loss checkpoint of the run so far: checkpoint-140).

  • Training data: ours: canho/ar-pairs-train-step2-interim (2,506 pairs, 1 positive + 9 curated hard negatives)
  • Recipe: Qwen3-Embedding SWIFT.md (swift sft --task_type embedding --loss_type infonce), lr 6e-6 (cosine), 5 epochs, 2 GPUs x per-device 4 x grad-acc 4 = 32 queries/step, in-batch negatives across the 8 queries of a micro-batch, temperature 0.1, DeepSpeed ZeRO-3, bf16, 5% held out for eval, checkpoint every 20 steps, seed 42.
  • Query prompt (set in config_sentence_transformers.json, prepended to every query): 'Query:'; documents without a prompt.
from sentence_transformers import SentenceTransformer
m = SentenceTransformer("canho/qwen3-emb-0.6b-ar-step2-interim-ckpt140", processor_kwargs={"padding_side": "left"})
q = m.encode(["..."], prompt_name="query"); d = m.encode(["..."])

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · sentence-transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
Qwen3ForCausalLM
Ревизия весов
48eca03

0 моделей

    Создать бенчмарк