/ Модель

Характеристики

Контекст
32 768 токенов
Параметры
508 млн
Лицензия
Apache 2.0
Архитектура
qwen3 · dense
Базовая модель
Qwen3-0.6B-Base
Опубликована
28 авг 2025

Qwen3-Embedding-0.6B-Base-Mod

ЭмбеддингиТекст → embedding

Подготовленная для дальнейшего обучения модель Qwen3 с 508 млн параметров, которую можно адаптировать для извлечения текстовых эмбеддингов.

118скачиваний за 30 дней0лайковвеса обновлены28 авг 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Эмбеддинги» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

heyanzhuo/Qwen3-Embedding-0.6B-Base-Mod — производная от Qwen/Qwen3-0.6B-Base модель семейства Qwen3, подготовленная для дальнейшего обучения задачам создания текстовых эмбеддингов. Она содержит около 508 млн параметров, использует плотную архитектуру Qwen3ForCausalLM и поддерживает контекст до 32 768 токенов. Репозиторий изменён так, чтобы модель загружалась через стандартный Sentence Transformers; для этого также скорректирован размер словаря и удалён шаблон из конфигурации Sentence Transformers.

Модель предназначена как основа для обучения на пользовательских данных, а не для непосредственного получения текстовых признаков. После дообучения её можно применять для извлечения эмбеддингов и задач семантического сходства. В README указано, что исходная модель Qwen3-Embedding-0.6B содержит инструкции по использованию. Лицензия — Apache-2.0.

Сценарии применения

  • дообучение модели для создания эмбеддингов документов
  • адаптация поиска по сходству на пользовательских текстах
  • обучение представлений для семантического поиска
  • подготовка текстового энкодера для сравнения предложений

Ограничения

README прямо предупреждает, что модель не следует использовать для извлечения признаков без предварительного обучения на целевой задаче. Языки обучения или поддержки не указаны в предоставленных данных.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

About this model

Introduction

For further train, this model replace model file with the base model's file. To make sure that model still able to be load with standard sentence-transformers, also change the vocab size in model config. Also, remove template in sentence-transformers config. Do not directly use this model to generate text features!!! Should train on you task first.

Original model

Please Check Qwen3-Embedding-0.6B for usage

@article{qwen3embedding,
  title={Qwen3 Embedding: Advancing Text Embedding and Reranking Through Foundation Models},
  author={Zhang, Yanzhao and Li, Mingxin and Long, Dingkun and Zhang, Xin and Lin, Huan and Yang, Baosong and Xie, Pengjun and Yang, An and Liu, Dayiheng and Lin, Junyang and Huang, Fei and Zhou, Jingren},
  journal={arXiv preprint arXiv:2506.05176},
  year={2025}
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
Qwen3ForCausalLM
Ревизия весов
cfee084

0 моделей