/ Модель

Характеристики

Контекст
512 токенов
Параметры
138 млн
Лицензия
MIT
Архитектура
bert · dense
Базовая модель
bert-base-japanese-v3
Библиотека
RAGatouille
Опубликована
25 июл 2024

JaColBERTv2.5

Сходство предложенийТекст → score6 профессий

Японская ColBERT-модель для семантического поиска и извлечения релевантных документов в RAG-системах.

534скачиваний за 30 дней23лайкавеса обновлены31 июл 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Эмбеддинги» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

JaColBERTv2.5 — японская модель семантического поиска на архитектуре BERT, разработанная Бенжамином Клавье. Она предназначена для ранжирования и извлечения релевантных документов в поисковых и RAG-системах; модель использует представления ColBERT с несколькими векторами для сопоставления запросов и документов. Чекпойнт содержит 138,4 млн параметров, принимает последовательности длиной до 512 токенов и распространяется в формате safetensors для работы с RAGatouille.

В README заявлено, что модель обучена на 40% данных, использованных для JaColBERTv2, и превосходит предыдущие подходы, включая мультиязычные варианты BGE-M3, на всех оценённых наборах данных. Указаны японские наборы MIRACL, MMARCO, JQaRA и JaGovFaqs. Модель рассчитана на японский язык; лицензия MIT.

Сценарии применения

  • поиск японских документов по смыслу запроса
  • извлечение контекста для японской RAG-системы
  • ранжирование японских документов по релевантности
  • поиск ответов в японских FAQ
  • поиск по японским государственным справочным материалам

Ограничения

Контекст ограничен 512 токенами. Заявленное превосходство основано на оценках авторов на использованных наборах данных; полного отчёта о модели в README пока нет.

Для каких профессий подходит6

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Model weights for the final JaColBERTv2.5 checkpoint, using an entirely overhauled training recipe and trained on just 40% of the data of JaColBERTv2.

This model largely outperforms all previous approaches, including JaColBERTV2 multilingual models such as BGE-M3, on all datasets.

This page will be updated with the full details and the model report in the next few days.

@misc{clavié2024jacolbertv25optimisingmultivectorretrievers,
      title={JaColBERTv2.5: Optimising Multi-Vector Retrievers to Create State-of-the-Art Japanese Retrievers with Constrained Resources}, 
      author={Benjamin Clavié},
      year={2024},
      eprint={2407.20750},
      archivePrefix={arXiv},
      primaryClass={cs.IR},
      url={https://arxiv.org/abs/2407.20750}, 
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · RAGatouille

Можно запустить

Подбираем GPU…

Класс архитектуры
BertModel
Ревизия весов
9a6a17e

0 моделей