ELECTRA-minuscule-generator
A ridiculously small ELECTRA generator model for testing purposes.
THIS MODEL HAS NOT BEEN TRAINED, DO NOT EXPECT ANYThING OF IT.
Характеристики
- Контекст
- 512 токенов
- Параметры
- 40 960
- Лицензия
- CC0 1.0
- Архитектура
- electra · dense
- Опубликована
- 2 мар 2022
Ссылки
electra-minuscule-generator
Необученная миниатюрная модель ELECTRA для тестирования конвейера заполнения пропусков в тексте.
287скачиваний за 30 дней1лайквеса обновлены23 мар 2023
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
ELECTRA-minuscule-generator — крайне маленькая модель семейства ELECTRA от lgrobol, предназначенная для тестирования. Это генератор с архитектурой ElectraForMaskedLM и примерно 41 тыс. параметров; он заполняет пропуски в тексте. Поддерживается контекст длиной до 512 токенов, заявлена многоязычность.
Модель не обучалась, поэтому её предсказания не следует считать осмысленными или использовать для практических задач. Файлы доступны в форматах PyTorch и Safetensors. Лицензия — CC0 1.0.
Сценарии применения
- проверка загрузки модели заполнения пропусков
- тестирование конвейера fill-mask в Transformers
- проверка обработки токенизатора и входного текста
Ограничения
Модель не обучалась, поэтому её предсказания не предназначены для содержательного использования. README заявляет многоязычность, но конкретные языки не перечислены.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
II.4Разработка и данныеОтладка, тестирование и качество ПОAI помогает находить дефекты, строить проверки и повышать надёжность программного продукта.25 задач13 978моделейII.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделейII.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · fill-mask
Подбираем GPU…
- Класс архитектуры
- ElectraForMaskedLM
- Ревизия весов
- 2d36f83