This model is based on LaBSE, uses utf8 for most languages with the exception of Sanskrit which is in IAST.
The objective was sentence similarity for information retrieval and bitext alignment tasks.
It handles Tibetan, Buddhist Chinese, Sanskrit (IAST), and Pāli (IAST).
Характеристики
- Контекст
- 512 токенов
- Параметры
- 498 млн
- Архитектура
- bert · dense
- Опубликована
- 19 мая 2023
Ссылки
buddhist-sentence-similarity
Модель на основе LaBSE создаёт векторные представления буддийских текстов для поиска похожих предложений и выравнивания параллельных текстов.
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Тесты пользователейпока нет
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Добавьте модель в бенчмарк
Вместе с другими моделями категории «Эмбеддинги» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
Модель buddhist-nlp/buddhist-sentence-similarity — модель для получения векторных представлений предложений, разработанная на основе LaBSE. Она предназначена для оценки сходства предложений при поиске информации и для выравнивания параллельных текстов. Модель поддерживает тибетский, буддийский китайский, санскрит в транслитерации IAST и пали в транслитерации IAST.
Архитектура — BERT; размер составляет 498,1 млн параметров, максимальная длина контекста — 512 токенов. Модель принимает текст и выдаёт векторные представления. Распространяется в форматах PyTorch и safetensors. Лицензия в предоставленных данных не указана.
Сценарии применения
- Поиск похожих предложений в буддийских текстах
- Семантический поиск по тибетским текстам
- Поиск соответствий между буддийскими текстами на разных языках
- Выравнивание параллельных предложений на санскрите и пали
- Извлечение эмбеддингов предложений на буддийском китайском
Ограничения
Контекст ограничен 512 токенами. Для санскрита и пали предусмотрена транслитерация IAST; качество за пределами перечисленных языков и задач не описано.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Подбираем GPU…
- Класс архитектуры
- BertModel
- Ревизия весов
- 1cf906c