Характеристики
- Контекст
- 512 токенов
- Архитектура
- distilbert · dense
- Опубликована
- 28 апр 2022
Ссылки
distilbert-base-uncased-finetuned-imdb-accelerate
Модель DistilBERT для предсказания пропущенных токенов в тексте по контексту.
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
icity/distilbert-base-uncased-finetuned-imdb-accelerate — модель на базе DistilBERT, опубликованная пользователем icity на Hugging Face. Она предназначена для задачи fill-mask: предсказания наиболее вероятных токенов вместо специального маркера [MASK] с учётом окружающего контекста. Модель использует Transformers и PyTorch, а её заявленная длина контекста составляет 512 токенов.
Модель подходит для контекстного восстановления пропущенных слов или токенов и экспериментов с masked language modeling. В карточке модели отсутствует подробное описание обучения, назначение за пределами fill-mask, информация о лицензии и дополнительные сведения о языках, поэтому применять её в критически важных сценариях следует с осторожностью.
Сценарии применения
- восстановление пропущенных слов в предложениях
- контекстное завершение фрагментов текста
- эксперименты с masked language modeling
- генерация кандидатов для замены токена [MASK]
Ограничения
В карточке модели нет подробного описания обучения, языковой поддержки и лицензии, поэтому качество и применимость вне задачи fill-mask не установлены.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Автор не опубликовал карточку модели.
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · fill-mask
Подбираем GPU…
- Класс архитектуры
- DistilBertForMaskedLM
- Ревизия весов
- 0409ac9