/ Модель

Характеристики

Контекст
512 токенов
Параметры
49,2 млн
Архитектура
tapas · dense

tapas-medium-masklm

Заполнение пропусковТекст → текст3 профессии

Модель Google семейства TAPAS для восстановления замаскированных токенов в последовательностях, связанных с таблицами.

132скачиваний за 30 дней1лайквеса обновлены29 ноя 2021

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

google/tapas-medium-masklm — модель семейства TAPAS от Google для заполнения маскированных токенов в последовательностях, связанных с табличными данными. Она соответствует чекпойнту tapas_masklm_medium_reset из исходного репозитория и предназначена для использования с задачей fill-mask.

Модель содержит 49,2 млн параметров, поддерживает контекст длиной до 512 токенов и доступна в форматах PyTorch и TensorFlow. В метаданных не указаны специальные прикладные области или языки. Лицензия в предоставленных данных не указана.

Сценарии применения

  • восстановление пропущенных токенов в табличных последовательностях
  • предсказание замаскированных фрагментов текста при подготовке данных TAPAS
  • эксперименты с предобучением языковых моделей для табличных данных

Ограничения

Карточка содержит мало сведений о применении и оценке качества; языковая поддержка и лицензия по предоставленным данным не установлены.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

This model corresponds to tapas_masklm_medium_reset of the original repository.

Here's how you can use it:

from transformers import TapasTokenizer, TapasForMaskedLM
import pandas as pd
import torch

tokenizer = TapasTokenizer.from_pretrained("google/tapas-medium-masklm")
model = TapasForMaskedLM.from_pretrained("google/tapas-medium-masklm")

data = {'Actors': ["Brad Pitt", "Leonardo Di Caprio", "George Clooney"],
        'Age': ["56", "45", "59"],
        'Number of movies': ["87", "53", "69"]
}
table = pd.DataFrame.from_dict(data)
query = "How many movies has Leonardo [MASK] Caprio played in?"

# prepare inputs
inputs = tokenizer(table=table, queries=query, padding="max_length", return_tensors="pt")

# forward pass
outputs = model(**inputs)

# return top 5 values and predictions
masked_index = torch.nonzero(inputs.input_ids.squeeze() == tokenizer.mask_token_id, as_tuple=False)
logits = outputs.logits[0, masked_index.item(), :]
probs = logits.softmax(dim=0)
values, predictions = probs.topk(5)

for value, pred in zip(values, predictions):
  print(f"{tokenizer.decode([pred])} with confidence {value}")

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · fill-mask

Можно запустить

Подбираем GPU…

Класс архитектуры
TapasForMaskedLM
Ревизия весов
0eb6232

0 моделей