Small-Bench NLP is a benchmark for small efficient neural language models trained on a single GPU.
Характеристики
- Контекст
- 128 токенов
- Параметры
- 25,5 млн
- Архитектура
- roberta · dense
Ссылки
roberta-small
Компактная модель RoBERTa на 25,5 млн параметров для предсказания замаскированных слов и экспериментов с небольшими языковыми моделями.
483скачиваний за 30 дней2лайкавеса обновлены5 окт 2021
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
smallbenchnlp/roberta-small — компактная языковая модель семейства RoBERTa из проекта Small-Bench NLP, посвящённого небольшим эффективным нейросетевым моделям, обучаемым на одном GPU. По архитектуре это RobertaForMaskedLM с 25,5 млн параметров; модель предназначена для предсказания замаскированных токенов в тексте и экспериментов с компактными языковыми моделями. Она принимает текст и выдаёт варианты заполнения маски.
Максимальная длина контекста составляет 128 токенов. Карточка не сообщает сведения о лицензии, поэтому условия использования по доступным данным определить нельзя.
Сценарии применения
- подбор вариантов слова для заполнения маски в предложении
- оценка контекста слова через предсказание скрытого токена
- эксперименты с компактными языковыми моделями
- сравнение эффективности небольших NLP-моделей
Ограничения
Контекст ограничен 128 токенами. В README и метаданных не приведены поддерживаемые языки и условия лицензии.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделейI.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделейII.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · fill-mask
Подбираем GPU…
- Класс архитектуры
- RobertaForMaskedLM
- Ревизия весов
- d5facd8