Характеристики
- Контекст
- 514 токенов
- Параметры
- 152 млн
- Архитектура
- roberta · dense
Ссылки
sup-simcse-roberta-base
Дообученная на данных вывода на естественном языке RoBERTa-base для получения эмбеддингов предложений и оценки их семантического сходства.
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Тесты пользователейпока нет
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Добавьте модель в бенчмарк
Вместе с другими моделями категории «Эмбеддинги» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
princeton-nlp/sup-simcse-roberta-base — модель эмбеддингов предложений, разработанная командой Princeton NLP в рамках SimCSE. Это вариант SimCSE с учителем: RoBERTa-base дообучена на наборах данных для вывода на естественном языке, чтобы получать векторы предложений, отражающие их смысловое сходство.
Модель предназначена для построения эмбеддингов, сравнения семантической близости текстов и поиска похожих предложений. В опубликованном авторами сравнении она достигла среднего результата 82,52 на задачах семантического сходства предложений. Модель основана на RoBERTa, содержит около 151,8 млн параметров и принимает текст длиной до 514 токенов.
Модель возвращает векторные представления, а не готовые ответы на вопросы или сгенерированный текст. Основная карточка и материалы проекта не подтверждают поддержку русского языка, поэтому не следует считать её русскоязычной без отдельной проверки. Файлы доступны в форматах PyTorch и Flax; лицензию по доступным источникам надёжно установить не удалось.
Сценарии применения
- поиск семантически похожих предложений
- сравнение сходства двух фраз
- поиск релевантных текстов по смыслу
- кластеризация предложений по тематической близости
Ограничения
Модель выдаёт эмбеддинги и сама по себе не генерирует ответы или тексты. Основные материалы описывают обучение и оценку на англоязычных данных; качество для других языков не подтверждено.
Для каких профессий подходит10
Разделы каталога профессий, в задачах которых используется эта модель
Также подходит для
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Автор не опубликовал карточку модели.
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Подбираем GPU…
- Класс архитектуры
- RobertaModel
- Ревизия весов
- 4bf73c6