/ Модель

Характеристики

Контекст
514 токенов
Параметры
152 млн
Лицензия
MIT
Архитектура
roberta · dense
Опубликована
2 мар 2022

spaceroberta_CR

Разметка токеновТекст → label3 профессии

Дообученная на требованиях ECSS модель RoBERTa для распознавания и разметки понятий в тексте.

88скачиваний за 30 дней1лайквеса обновлены29 сен 2022

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

icelab/spaceroberta_CR — модель семейства SpaceTransformers, дообученная на базе SpaceSciBERT для распознавания понятий в требованиях к космическим системам. Она присваивает метки отдельным токенам текста и обучена на 874 уникальных требованиях ECSS с ручной разметкой. Модель разработана в рамках работы, представленной в статье «SpaceTransformers: Language Modeling for Space Systems»; исходный репозиторий проекта — strath-ace/smart-nlp.

Модель имеет архитектуру RoBERTa для классификации токенов, содержит 151,8 млн параметров и принимает текст с контекстом до 514 токенов. Карточка указывает английский язык. Веса опубликованы в формате PyTorch под лицензией MIT. Модель подходит для извлечения и разметки понятий в требованиях ECSS; качество на других типах документов и требованиях карточка не характеризует.

Сценарии применения

  • распознавание понятий в требованиях к космическим системам
  • разметка токенов в требованиях ECSS
  • извлечение ключевых понятий из инженерных требований

Ограничения

Обучение описано на 874 вручную размеченных требованиях ECSS, поэтому перенос на другие предметные области и типы документов не подтверждён. Карточка не приводит метрики качества.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

spaceroberta_CR

Model desciption

This is fine-tuned SpaceSciBERT model, for a Concept Recognition task, from the SpaceTransformers model family presented in SpaceTransformers: Language Modeling for Space Systems. The original Git repo is strath-ace/smart-nlp. The fine-tuning dataset is available for download and consists of 874 unique manually annotated ECSS requirements.

The notebook for fine-tuning can be accessed in Google Colab: Open In Colab

BibTeX entry and citation info

@ARTICLE{ 9548078,
author={Berquand, Audrey and Darm, Paul and Riccardi, Annalisa},
journal={IEEE Access},
title={SpaceTransformers: Language Modeling for Space Systems},
year={2021},
volume={9},
number={},
pages={133111-133122},
doi={10.1109/ACCESS.2021.3115659} }

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · token-classification

Можно запустить

Подбираем GPU…

Класс архитектуры
RobertaForTokenClassification
Ревизия весов
8f01c4b

0 моделей