License
Apache 2.0 (inherits from Qwen 2.5)
Специализированная англоязычная модель на базе Qwen2.5-7B-Instruct для переформулирования запросов в диалоговом поиске и RAG.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
caraman/Qwen2.5-7B-query-rewriter — специализированная текстогенерационная модель, дообученная на базе Qwen/Qwen2.5-7B-Instruct для переформулирования поисковых запросов. Модель предназначена для conversational search и сценариев RAG, где текущий запрос пользователя нужно преобразовать в самостоятельный и более подходящий для поиска по документам; в метаданных также указана совместимость с MLX и форматом safetensors.
Модель содержит около 7,1 млрд параметров, поддерживает контекст длиной до 32 768 токенов и ориентирована на английский язык. Её сильная сторона — специализация на query rewriting в диалоговом поиске и retrieval-augmented generation, что может улучшать поиск по контексту предыдущих сообщений. Лицензия Apache 2.0; модель основана на Qwen2.5-7B-Instruct и наследует условия его использования.
Модель ориентирована на английские запросы и специализированные сценарии query rewriting, поэтому её поведение для других языков и несвязанных с поиском задач не подтверждено. Качество результата зависит от корректной передачи истории диалога и контекста поиска.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
Apache 2.0 (inherits from Qwen 2.5)
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
MLX-модели работают только на Apple Silicon.