ggml-org/Qwen3-Reranker-0.6B-Q8_0-GGUF
This model was converted to GGUF format from Qwen/Qwen3-Reranker-0.6B using llama.cpp via the ggml.ai's GGUF-my-repo space.
Refer to the original model card for more details on the model.
ggml-org/Qwen3-Reranker-0.6B-Q8_0-GGUF — это модель для ранжирования текста, преобразованная в формат GGUF из базовой модели Qwen/Qwen3-Reranker-0.6B.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Конвертация выполнена с использованием llama.cpp через сервис GGUF-my-repo от ggml.ai; исходная модель разработана командой Qwen. Модель предназначена для оценки релевантности текстовых пар или результатов поиска и может применяться в системах информационного поиска, семантического поиска и других сценариях, где требуется переупорядочить документы по соответствию запросу.
Модель имеет размер 0,6 млрд параметров и поставляется в квантизированном варианте Q8_0 в формате GGUF, что ориентировано на использование с совместимыми инструментами экосистемы llama.cpp. В README не указаны архитектурные детали, поддерживаемые языки, длина контекста, модальности, конкретные показатели качества или ограничения применения, поэтому оценить эти характеристики невозможно. Лицензия — Apache-2.0.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
This model was converted to GGUF format from Qwen/Qwen3-Reranker-0.6B using llama.cpp via the ggml.ai's GGUF-my-repo space.
Refer to the original model card for more details on the model.
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers
GGUF-веса поддерживаются только для текстовых LLM (llama.cpp).