Характеристики

Контекст: 512 токенов
Параметры: 137 млн
Архитектура: bert · dense
Опубликована: 28 ноя 2023

Ссылки

Hugging Face

GysBERT-v2

emanjavacas

Заполнение пропусковТекст → текст3 профессии

GysBERT-v2 — BERT-модель для предсказания пропущенных токенов в тексте по контексту.

1 951скачиваний за 30 дней1лайквеса обновлены28 ноя 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

GysBERT-v2 — маскированная языковая модель на базе BERT, опубликованная Enrique Manjavacas под аккаунтом emanjavacas. Она предназначена для заполнения пропусков в тексте: по контексту предсказывает токен или варианты токена на месте маски. Карточка Hugging Face указывает архитектуру BertForMaskedLM, 136,7 млн параметров, контекст до 512 токенов и формат PyTorch.

Модель можно применять для подстановки пропущенных слов, изучения контекстных вариантов и как компонент языкового анализа. По доступным данным конкретный язык обучения и область специализации не установлены, поэтому её языковые возможности нельзя надёжно уточнить. Репозиторий не указывает лицензию; перед использованием следует проверить условия распространения весов.

Сценарии применения

подстановка пропущенного слова в предложении
получение вариантов продолжения для замаскированного токена
анализ контекстных словесных вариантов
создание признаков для последующего анализа текста

Ограничения

Доступная карточка не сообщает язык обучения, обучающие данные или конкретные области применения. Лицензия в репозитории не указана, поэтому условия использования весов нужно проверить отдельно.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

IV.9Отраслевые задачиМедиа, журналистика, культура, архивы и игрыAI помогает создавать, искать, сохранять и персонализировать медиа, культурный и игровой контент.44 задачи14 938моделей I.3Универсальные способностиИзвлечение и структурирование данныхAI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации.18 задач25 791модель I.11Универсальные способностиКлассификация, ранжирование и сопоставлениеAI помогает распределять объекты по категориям, устанавливать соответствия и определять порядок обработки.15 задач26 736моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Автор не опубликовал карточку модели.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · fill-mask

Можно запустить

Подбираем GPU…

Класс архитектуры: BertForMaskedLM
Ревизия весов: c836326