/ Модель

Характеристики

Контекст
32 768 токенов
Параметры
508 млн
Лицензия
Apache 2.0
Архитектура
qwen3 · dense
Базовая модель
Qwen3-Embedding-0.6B
Опубликована
14 июл 2026

qwen3-embedding-0.6b-lrat-front-success-v1

ЭмбеддингиТекст → embedding9 профессий

Дообученная текстовая модель Qwen3 для создания эмбеддингов и поиска по сходству, продолжившая обучение на траекториях LRAT.

11скачиваний за 30 дней0лайковвеса обновлены14 июл 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Эмбеддинги» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Qwen3 Embedding 0.6B LRAT Low-LR Continuation v1 — текстовая модель эмбеддингов семейства Qwen3, дообученная командой авторов на базе своего broad-g16-v2, происходящего от Qwen/Qwen3-Embedding-0.6B. Чекпойнт продолжает обучение на 80 517 предоставленных организаторами строках траекторий LRAT с размером группы 16, скоростью обучения 1,5e-7 и длительностью 0,5 эпохи. Несмотря на историческое имя front-success-v1 и подготовленные веса этапа, аудит показал, что эти веса не участвовали в функции потерь; эффективный метод — продолжение обучения с низкой скоростью обучения.

Модель предназначена для создания текстовых эмбеддингов и задач поиска по сходству, в частности для экспериментов с извлечением информации по траекториям LRAT. Базовая архитектура — плотная Qwen3Model с 507,6 млн параметров, контекстом до 32 768 токенов и форматом safetensors. Модель унаследовала многоязычную основу Qwen3 Embedding; отдельный перечень поддерживаемых языков в данных не приведён.

Для выбора чекпойнта использовалась агрегированная оценка с фиксированным seed в workflow BrowseComp-Plus Agent и Judge на Qwen3.5-4B; локальные результаты не заявлены как официальные. Обучение проводилось на данных организаторов. Лицензия — Apache-2.0.

Сценарии применения

  • создание эмбеддингов текстовых запросов и документов
  • семантический поиск по корпусу текстов
  • поиск релевантных траекторий LRAT
  • извлечение текстовых фрагментов для retrieval-систем

Ограничения

Подготовленные веса этапа с множителем 1,15 фактически не участвовали в функции потерь, поэтому модель не следует считать обученной с stage-weighted методом. Оценки использовались для выбора чекпойнта и не заявлены как официальные результаты.

Для каких профессий подходит9

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Qwen3 Embedding 0.6B LRAT Low-LR Continuation v1

This checkpoint continues training from the team's broad-g16-v2 retriever on the same 80,517 organizer-provided LRAT trajectory rows. The repository keeps its historical front-success-v1 experiment name, but a post-training audit confirmed that its prepared stage weights were not consumed by the cross-device loss. The effective method is therefore a conservative low-LR continuation, not stage-weighted training.

Training configuration:

  • group size 16, learning rate 1.5e-7, warmup ratio 0.04, and 0.5 epoch;
  • continue from broad-g16-v2, whose lineage starts from Qwen/Qwen3-Embedding-0.6B.

The input file contained a prepared 1.15 multiplier for first-30% trajectory rows. However, training used cross-device negatives with LRAT_CROSS_DEVICE_REWEIGHT left at its default 0, so these weights did not enter the effective loss. This distinction is recorded for reproducibility.

Only organizer-provided trajectories and corpus are used. No A-board query, qrel, per-query evaluation failure, external corpus, external-model label, or weights from another pretrained checkpoint enter this model.

The checkpoint was selected by aggregate fixed-seed evaluation with the released BrowseComp-Plus Agent and Judge workflow using Qwen3.5-4B. Local scores are used only for checkpoint selection and are not claimed as official results.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
Qwen3Model
Ревизия весов
560243a

0 моделей