/ Модель
Каталог

Характеристики

Опубликована
23 авг 2024

Ссылки

Hugging FacearXiv 1910.09700

thusinh1969_-_gemma2-2b-rerank-checkpoint-8800-gguf

RichardErkhov
Ранжирование текстаТекст → score4 профессии

Это GGUF-квантизированная версия модели gemma2-2b-rerank-checkpoint-8800, предназначенной для задач ранжирования текста.

992скачиваний за 30 дней0лайковвеса обновлены2 апр 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Исходная модель размещена пользователем thusinh1969, а квантизация выполнена Richard Erkhov. Модель может применяться для переупорядочивания текстовых результатов по релевантности, например в поиске или системах retrieval, однако подробности об используемых данных и методике обучения не указаны.

В репозитории представлены варианты с квантизацией Q2_K, Q3, Q4, Q5, Q6, Q8 и IQ3/IQ4 разных уровней. Размер файлов составляет примерно от 1,15 до 2,59 ГБ, что позволяет выбирать компромисс между требованиями к памяти и сохранением качества. Архитектура основана на семействе Gemma 2 с заявленным размером 2B, но сведения о модальностях, языках, длине контекста и точных характеристиках reranking-компонента отсутствуют.

Преимуществами являются компактные GGUF-варианты и возможность локального использования через совместимое программное обеспечение. Ограничения связаны с отсутствием результатов оценки, инструкций по применению, подробного описания обучения и информации о лицензии: в карточке лицензия не указана.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии
I.1Универсальные способностиПоиск и навигация по информацииAI помогает находить нужные сведения и помогать человеку быстро переходить от вопроса к подтверждённому источнику.18 задач13 467моделейI.11Универсальные способностиКлассификация, ранжирование и сопоставлениеAI помогает распределять объекты по категориям, устанавливать соответствия и определять порядок обработки.15 задач26 736моделейI.12Универсальные способностиРекомендации и персонализацияAI помогает подбирать релевантные варианты и адаптировать опыт под конкретного человека или ситуацию.15 задач7 627моделейII.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Quantization made by Richard Erkhov.

Github

Discord

Request more models

gemma2-2b-rerank-checkpoint-8800 - GGUF

NameQuant methodSize
gemma2-2b-rerank-checkpoint-8800.Q2_K.ggufQ2_K1.15GB
gemma2-2b-rerank-checkpoint-8800.IQ3_XS.ggufIQ3_XS1.22GB
gemma2-2b-rerank-checkpoint-8800.IQ3_S.ggufIQ3_S1.27GB
gemma2-2b-rerank-checkpoint-8800.Q3_K_S.ggufQ3_K_S1.27GB
gemma2-2b-rerank-checkpoint-8800.IQ3_M.ggufIQ3_M1.3GB
gemma2-2b-rerank-checkpoint-8800.Q3_K.ggufQ3_K1.36GB
gemma2-2b-rerank-checkpoint-8800.Q3_K_M.ggufQ3_K_M1.36GB
gemma2-2b-rerank-checkpoint-8800.Q3_K_L.ggufQ3_K_L1.44GB
gemma2-2b-rerank-checkpoint-8800.IQ4_XS.ggufIQ4_XS1.47GB
gemma2-2b-rerank-checkpoint-8800.Q4_0.ggufQ4_01.52GB
gemma2-2b-rerank-checkpoint-8800.IQ4_NL.ggufIQ4_NL1.53GB
gemma2-2b-rerank-checkpoint-8800.Q4_K_S.ggufQ4_K_S1.53GB
gemma2-2b-rerank-checkpoint-8800.Q4_K.ggufQ4_K1.59GB
gemma2-2b-rerank-checkpoint-8800.Q4_K_M.ggufQ4_K_M1.59GB
gemma2-2b-rerank-checkpoint-8800.Q4_1.ggufQ4_11.64GB
gemma2-2b-rerank-checkpoint-8800.Q5_0.ggufQ5_01.75GB
gemma2-2b-rerank-checkpoint-8800.Q5_K_S.ggufQ5_K_S1.75GB
gemma2-2b-rerank-checkpoint-8800.Q5_K.ggufQ5_K1.79GB
gemma2-2b-rerank-checkpoint-8800.Q5_K_M.ggufQ5_K_M1.79GB
gemma2-2b-rerank-checkpoint-8800.Q5_1.ggufQ5_11.87GB
gemma2-2b-rerank-checkpoint-8800.Q6_K.ggufQ6_K2.0GB
gemma2-2b-rerank-checkpoint-8800.Q8_0.ggufQ8_02.59GB

Original model description:

library_name: transformers tags: []

Model Card for Model ID

Model Details

Model Description

This is the model card of a 🤗 transformers model that has been pushed on the Hub. This model card has been automatically generated.

  • Developed by: [More Information Needed]
  • Funded by [optional]: [More Information Needed]
  • Shared by [optional]: [More Information Needed]
  • Model type: [More Information Needed]
  • Language(s) (NLP): [More Information Needed]
  • License: [More Information Needed]
  • Finetuned from model [optional]: [More Information Needed]

Model Sources [optional]

  • Repository: [More Information Needed]
  • Paper [optional]: [More Information Needed]
  • Demo [optional]: [More Information Needed]

Uses

Direct Use

[More Information Needed]

Downstream Use [optional]

[More Information Needed]

Out-of-Scope Use

[More Information Needed]

Bias, Risks, and Limitations

[More Information Needed]

Recommendations

Users (both direct and downstream) should be made aware of the risks, biases and limitations of the model. More information needed for further recommendations.

How to Get Started with the Model

Use the code below to get started with the model.

[More Information Needed]

Training Details

Training Data

[More Information Needed]

Training Procedure

Preprocessing [optional]

[More Information Needed]

Training Hyperparameters

  • Training regime: [More Information Needed]

Speeds, Sizes, Times [optional]

[More Information Needed]

Evaluation

Testing Data, Factors & Metrics

Testing Data

[More Information Needed]

Factors

[More Information Needed]

Metrics

[More Information Needed]

Results

[More Information Needed]

Summary

Model Examination [optional]

[More Information Needed]

Environmental Impact

Carbon emissions can be estimated using the Machine Learning Impact calculator presented in Lacoste et al. (2019).

  • Hardware Type: [More Information Needed]
  • Hours used: [More Information Needed]
  • Cloud Provider: [More Information Needed]
  • Compute Region: [More Information Needed]
  • Carbon Emitted: [More Information Needed]

Technical Specifications [optional]

Model Architecture and Objective

[More Information Needed]

Compute Infrastructure

[More Information Needed]

Hardware

[More Information Needed]

Software

[More Information Needed]

Citation [optional]

BibTeX:

[More Information Needed]

APA:

[More Information Needed]

Glossary [optional]

[More Information Needed]

More Information [optional]

[More Information Needed]

Model Card Authors [optional]

[More Information Needed]

Model Card Contact

[More Information Needed]

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

GGUF-веса поддерживаются только для текстовых LLM (llama.cpp).

Ревизия весов
a24c7ff

0 моделей

    Создать бенчмарк