Характеристики
- Контекст
- 514 токенов
- Параметры
- 152 млн
- Архитектура
- roberta · dense
- Опубликована
- 2 мар 2022
Ссылки
cs_roberta_base
Англоязычная RoBERTa-модель AllenAI для представления и анализа текстов по компьютерным наукам.
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
allenai/cs_roberta_base — англоязычная модель RoBERTa от Allen Institute for AI (Ai2), предназначенная для обработки текстов в области компьютерных наук. Это плотная трансформерная модель с 151,8 млн параметров и контекстом до 514 токенов; доступны веса PyTorch и Flax.
Модель можно использовать как базовое представление текста для последующей настройки под задачи NLP, например классификацию научных текстов или извлечение ключевых фраз. Карточка Hugging Face не содержит описания конкретных задач, оценок качества и условий лицензии, поэтому эти свойства здесь не уточняются.
Сценарии применения
- классификация аннотаций научных статей по информатике
- извлечение ключевых фраз из научных текстов по компьютерным наукам
- получение контекстных представлений англоязычных научных текстов
- дообучение NLP-модели на корпусе информатики
Ограничения
Модель рассчитана на английский текст и имеет контекст до 514 токенов. Карточка не сообщает результаты оценки качества для конкретных задач.
Для каких профессий подходит4
Разделы каталога профессий, в задачах которых используется эта модель
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Автор не опубликовал карточку модели.
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
У модели не указана задача.
- Ревизия весов
- 11a2149