/ Модель
Каталог

Характеристики

Контекст
40 960 токенов
Параметры
3,7 млрд
Лицензия
Apache 2.0
Архитектура
qwen3 · dense
Базовая модель
Qwen3-Embedding-4B
Библиотека
sentence-transformers
Опубликована
24 июл 2026

Ссылки

Hugging Face

Qwen3-Embedding-4B-recsys-challenge-2026-retriever-ctx1024

MaximeM
ЭмбеддингиТекст → embedding3 профессии

Плотный ретривер на базе Qwen3-Embedding-4B для поиска музыкальных рекомендаций по английским диалогам в составе системы RecSys Challenge 2026.

21скачиваний за 30 дней0лайковвеса обновлены25 июл 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Эмбеддинги» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Qwen3-Embedding-4B-recsys-challenge-2026-retriever-ctx1024 — плотный dual-encoder ретривер команды FPMs_UMONS для разговорных рекомендаций музыки, созданный для RecSys Challenge 2026. Модель дообучена на базе Qwen/Qwen3-Embedding-4B и формирует текстовые эмбеддинги для плотного поиска; она служит одним из каналов системы, объединяющей BM25, коллаборативную фильтрацию по трекам и расширение по артистам, а результаты передаются отдельному реранкеру. Это специализированный компонент, рассчитанный на каталог примерно из 47 тысяч треков, а не самостоятельная универсальная модель эмбеддингов.

Для соответствия обучению необходимо задавать max_seq_length=1024 и truncation_side='left': запрос пользователя располагается в конце текста, поэтому усечение справа может удалить его из длинной беседы. Модель обучена с LoRA на слоях внимания с MultipleNegativesRankingLoss и экспортирована в формате sentence-transformers; размер базовой модели — 3,7 млрд параметров, нативный контекст — 40 960 токенов. Заявленная лицензия — Apache-2.0. Модель рассчитана на английские диалоги в стиле TalkPlayData и должна использоваться в составе рекомендательной системы.

Сценарии применения

  • поиск релевантных треков по музыкальному диалогу
  • извлечение кандидатов для разговорной системы музыкальных рекомендаций
  • семантический поиск по каталогу примерно из 47 тысяч треков

Ограничения

Модель рассчитана только на английские диалоги в стиле TalkPlayData и каталог примерно из 47 тысяч треков; это компонент конвейера, а не самостоятельный универсальный ретривер. При использовании нужно установить max_seq_length=1024 и усечение слева, иначе длинный запрос в конце диалога может быть отброшен.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии
II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделейIV.9Отраслевые задачиМедиа, журналистика, культура, архивы и игрыAI помогает создавать, искать, сохранять и персонализировать медиа, культурный и игровой контент.44 задачи14 938моделейII.8Разработка и данныеИнженерия данных и аналитикаAI помогает готовить надёжные данные и превращать их в понятную аналитику.22 задачи23 488моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Qwen3-Embedding-4B-recsys-challenge-2026-retriever-ctx1024

Dense dual-encoder retriever for conversational music recommendation, from team FPMs_UMONS's entry to the RecSys Challenge 2026. It is the dense channel of the four-channel retrieval pool (BM25, dense, item-based collaborative filtering, artist expansion) that feeds our scoring-head reranker.

Fine-tuned from Qwen/Qwen3-Embedding-4B.

This is a pipeline component, not a standalone model. It is one channel of a retrieval-and-reranking system and is only meaningful inside it. There is no standalone usage recipe here on purpose: how to download it, what text to encode, and how its output is fused with the other three channels are all documented — and executable end to end — in the repository.

Retrieval recall figures and ablations are reported in the paper and the repository; they are not duplicated here.

Critical: context length and truncation side

The model must be used with max_seq_length = 1024 and truncation_side = 'left', matching training. The current user request is placed last in the query text, and most dev queries exceed 256 tokens — with default right truncation the request is silently thrown away on every long conversation, which costs most of the model's value. The pipeline sets both; anything loading these weights directly has to do the same.

Training

LoRA on attention, MultipleNegativesRankingLoss with cross-device gather, no hard negatives, at sequence length 1024 with left truncation. Merged after training and exported in sentence-transformers format.

Limitations

  • English, TalkPlayData-style conversations only.
  • Tuned for the challenge's ~47k-track catalog: this is a domain retriever, not a general-purpose embedding model — use the base Qwen3-Embedding-4B for that.
  • Retrieval pools built with it are bit-reproducible, unlike the downstream reranker.

Licence and attribution

Released under the Apache License 2.0, inherited from Qwen/Qwen3-Embedding-4B. A copy of the licence is included as LICENSE.

Modifications: these weights are a fine-tuned derivative of Qwen3-Embedding-4B, adapted with LoRA on the attention projections and merged, with the sequence length and truncation side changed as described above.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · sentence-transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
Qwen3Model
Ревизия весов
5eca670

0 моделей

    Создать бенчмарк