/ Модель

Характеристики

Контекст
514 токенов
Параметры
153 млн
Лицензия
Apache 2.0
Архитектура
roberta · dense

RoBERTalex

Заполнение пропусковТекст → текст3 профессии

Испанская RoBERTa, обученная с нуля на юридических текстах для заполнения пропусков и языкового моделирования в правовой области.

378скачиваний за 30 дней5лайковвеса обновлены26 окт 2021

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

RoBERTalex — испаноязычная RoBERTa для юридических текстов, разработанная Asier Gutiérrez-Fandiño, Jordi Armengol-Estapé, Aitor Gonzalez-Agirre и Marta Villegas в рамках проекта Plan-TL. Модель обучена с нуля исключительно на юридических корпусах и предназначена для языкового моделирования в правовой области; основная задача в каталоге Hugging Face — заполнение пропусков в тексте.

Это плотная модель архитектуры RoBERTa с 153,2 млн параметров и контекстом до 514 токенов. Она принимает текст и предсказывает замаскированные фрагменты; карточка указывает испанский язык и юридические корпуса legal_ES и temu_legal.

Модель доступна под лицензией Apache-2.0. Карточка сообщает, что модель перенесена по другому адресу и вскоре будет удалена из исходного репозитория.

Сценарии применения

  • восстановление пропущенных слов в испанских юридических документах
  • анализ языковых закономерностей в испанских правовых текстах
  • адаптация текстовых систем к испанской юридической терминологии

Ограничения

Модель обучена исключительно на юридических корпусах, поэтому её применение за пределами этой области может быть ограничено. Карточка сообщает, что репозиторий переносится и вскоре будет удалён.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

⚠️NOTICE⚠️: THIS MODEL HAS BEEN MOVED TO THE FOLLOWING URL AND WILL SOON BE REMOVED: https://huggingface.co/PlanTL-GOB-ES/RoBERTalex

Spanish Legal-domain RoBERTa

There are few models trained for the Spanish language. Some of the models have been trained with a low resource, unclean corpora. The ones derived from the Spanish National Plan for Language Technologies are proficient solving several tasks and have been trained using large scale clean corpora. However, the Spanish Legal domain language could be think of an independent language on its own. We therefore created a Spanish Legal model from scratch trained exclusively on legal corpora.

Citing

@misc{gutierrezfandino2021legal,
      title={Spanish Legalese Language Model and Corpora}, 
      author={Asier Gutiérrez-Fandiño and Jordi Armengol-Estapé and Aitor Gonzalez-Agirre and Marta Villegas},
      year={2021},
      eprint={2110.12201},
      archivePrefix={arXiv},
      primaryClass={cs.CL}
}

For more information visit our GitHub repository

Funding

This work was funded by the Spanish State Secretariat for Digitalization and Artificial Intelligence (SEDIA) within the framework of the Plan-TL.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · fill-mask

Можно запустить

Подбираем GPU…

Класс архитектуры
RobertaForMaskedLM
Ревизия весов
2a1c89f

0 моделей