/ Модель

Характеристики

Контекст
512 токенов
Параметры
132 млн
Архитектура
camembert · dense
Опубликована
20 мар 2022

simcse-model-wangchanberta

ЭмбеддингиТекст → embedding7 профессий

Модель SimCSE на базе CamemBERT создаёт 768-мерные эмбеддинги тайских предложений для семантического поиска и кластеризации.

21скачиваний за 30 дней0лайковвеса обновлены20 мар 2022

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Эмбеддинги» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

mrp/simcse-model-wangchanberta — модель эмбеддингов предложений на базе архитектуры CamemBERT, обученная с использованием SimCSE. По README, исходной точкой служил mBERT, а для обучения использовалась тайская Википедия. Модель преобразует предложения и абзацы в плотные векторы размерности 768; её можно применять для семантического поиска и кластеризации. Параметры распространяются в формате PyTorch, размер модели — 132,5 млн параметров, максимальный контекст — 512 токенов. Модель предназначена прежде всего для работы с тайским текстом. Лицензия в доступных данных не указана.

Сценарии применения

  • семантический поиск по тайским текстам
  • кластеризация тайских предложений
  • поиск похожих абзацев на тайском языке

Ограничения

Контекст ограничен 512 токенами. Доступные данные не описывают качество на других языках и сценариях за пределами поиска и кластеризации.

Для каких профессий подходит7

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

{mrp/simcse-model-wangchanberta}

This is a sentence-transformers model: It maps sentences & paragraphs to a 768 dimensional dense vector space and can be used for tasks like clustering or semantic search.

We use SimCSE here by using mBERT as the baseline model and training the model with Thai Wikipedia here

Usage (Sentence-Transformers)

Using this model becomes easy when you have sentence-transformers installed:

pip install -U sentence-transformers

Then you can use the model like this:

from sentence_transformers import SentenceTransformer
sentences = ["ฉันนะคือคนรักชาติยังไงละ!", "พวกสามกีบล้มเจ้า!"]

model = SentenceTransformer('{MODEL_NAME}')
embeddings = model.encode(sentences)
print(embeddings)

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
CamembertModel
Ревизия весов
86fe48b

0 моделей