Характеристики
- Контекст
- 514 токенов
- Параметры
- 305 млн
- Архитектура
- xlm-roberta · dense
- Опубликована
- 26 мая 2022
Ссылки
cond_ft_subreddit_on_reddit__prcnt_100__test_run_False__xlm-roberta-base
Дообученная мультиязычная XLM-RoBERTa-модель для классификации токенов в текстах Reddit с учётом subreddit-контекста.
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
emilylearning/cond_ft_subreddit_on_reddit__prcnt_100__test_run_False__xlm-roberta-base — дообученная модель на базе XLM-RoBERTa для классификации токенов в текстах Reddit, с условием, связанным с subreddit. Разработчик чекпойнта — emilylearning; базовая архитектура XLM-RoBERTa разработана Facebook AI и представляет собой мультиязычный Transformer-энкодер семейства RoBERTa.
Модель содержит около 305,2 млн параметров и поддерживает контекст до 514 токенов. Метаданные Hugging Face указывают задачу token classification, а базовая XLM-RoBERTa обучалась на данных примерно 100 языков и предназначена для последующей адаптации к задачам классификации и sequence labeling. Идентификатор модели указывает на использование данных Reddit и полного варианта набора (`prcnt_100`), но подробные схемы меток и целевые категории в доступных источниках не описаны.
Модель подходит для разметки или классификации отдельных токенов в Reddit-текстах после проверки соответствия используемых меток. Лицензия именно этого дообученного чекпойнта в доступных данных не установлена; условия лицензии базовой модели нельзя автоматически считать лицензией производного чекпойнта.
Сценарии применения
- разметка токенов в комментариях Reddit
- извлечение сущностей из постов Reddit
- поиск целевых фрагментов в сообщениях Reddit
- построение sequence-labeling пайплайна для Reddit
Ограничения
Подробные категории меток, показатели качества и точный сценарий применения не описаны в доступных источниках. Контекст ограничен 514 токенами, а применимость к другим доменам и языкам требует отдельной проверки.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Автор не опубликовал карточку модели.
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · token-classification
Подбираем GPU…
- Класс архитектуры
- XLMRobertaForTokenClassification
- Ревизия весов
- 2e0f777