/ Модель

Характеристики

Контекст
514 токенов
Параметры
95,2 млн
Лицензия
Apache 2.0
Архитектура
roberta · dense
Базовая модель
LUAR-CRUD
Библиотека
sentence-transformers
Опубликована
11 окт 2024

LUAR-CRUD-sentence-transformers

ЭмбеддингиТекст → embedding3 профессии

Модель Sentence Transformers на основе LUAR для построения эмбеддингов авторского стиля и сравнения текстов.

149скачиваний за 30 дней0лайковвеса обновлены11 окт 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Эмбеддинги» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

gabrielloiseau/LUAR-CRUD-sentence-transformers — версия модели LUAR в формате Sentence Transformers, предназначенная для получения векторных представлений авторского стиля и сравнения текстов. В README указано, что модель основана на LUAR-MUD; авторство исходной работы — Rivera-Soto и соавторы (2021). Метаданные связывают её с дообученной моделью rrivera1849/LUAR-CRUD.

Модель использует архитектуру RoBERTa, содержит 95,2 млн параметров и поддерживает контекст до 514 токенов. Она обучалась на подвыборке Pushshift Reddit: комментариях пяти миллионов пользователей, написанных с января 2015 по октябрь 2019 года; в выборку вошли авторы как минимум со 100 комментариями. Подходит для получения эмбеддингов, оценки сходства текстов и анализа авторского стиля. Метаданные указывают английский язык и лицензию Apache-2.0.

Сценарии применения

  • сравнение текстов по сходству авторского стиля
  • поиск комментариев одного автора
  • кластеризация текстов по стилю письма

Ограничения

Модель обучалась на комментариях Reddit за 2015–2019 годы, поэтому её представления могут хуже переноситься на другие жанры и современные тексты. Контекст ограничен 514 токенами.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

SentenceTransformer version of rrivera1849/LUAR-MUD

All credits go to (Rivera-Soto et al. 2021)


Author Style Representations using LUAR.

The LUAR training and evaluation repository can be found here.

This model was trained on a subsample of the Pushshift Reddit Dataset (5 million users) for comments published between January 2015 and October 2019 by authors publishing at least 100 comments during that period.

Usage

Direct Usage (Sentence Transformers)

First install the Sentence Transformers library:

pip install -U sentence-transformers

Then you can load this model and run inference.

from sentence_transformers import SentenceTransformer

model = SentenceTransformer("gabrielloiseau/LUAR-CRUD-sentence-transformers")
# Run inference
sentences = [
    'The weather is lovely today.',
    "It's so sunny outside!",
    'He drove to the stadium.',
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 512]

Citation

If you find this model helpful, feel free to cite:

@inproceedings{uar-emnlp2021,
  author    = {Rafael A. Rivera Soto and Olivia Miano and Juanita Ordonez and Barry Chen and Aleem Khan and Marcus Bishop and Nicholas Andrews},
  title     = {Learning Universal Authorship Representations},
  booktitle = {EMNLP},
  year      = {2021},
}

License

LUAR is distributed under the terms of the Apache License (Version 2.0).

All new contributions must be made under the Apache-2.0 licenses.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · sentence-transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
RobertaModel
Ревизия весов
e7330e5

0 моделей