/ Модель

Характеристики

Контекст
512 токенов
Параметры
137 млн
Лицензия
afl-3.0
Архитектура
bert · dense
Опубликована
18 апр 2022

bert_twitter_hashtag

Заполнение пропусковТекст → текст3 профессии

Англоязычная BERT-модель, которая подбирает хештеги и актуальные темы для текста твита, заполняя маркер [MASK].

56скачиваний за 30 дней0лайковвеса обновлены19 апр 2022

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель vivianhuang88/bert_twitter_hashtag — англоязычная модель на архитектуре BERT, дообученная на более чем 30 тысячах твитов, собранных из Twitter. Она предназначена для заполнения позиции [MASK] хештегом, подходящим к контексту твита, и подбора возможных трендовых тем.

Модель содержит 137,5 млн параметров, использует формат PyTorch и поддерживает контекст до 512 токенов. Для работы с ней передают текст с маркером [MASK]; модель предсказывает токены для заполнения пропуска. Лицензия — AFL-3.0.

Сценарии применения

  • подбор хештега для текста твита
  • поиск вероятной трендовой темы по контексту твита
  • автоматическое дополнение твита тематическим тегом

Ограничения

Модель обучена на выборке более чем из 30 тысяч твитов, поэтому её предсказания могут не отражать текущие тренды и зависеть от тематики обучающих данных.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Overview

This model is based on bert-base-uncased model and trained on more than 30k tweets that scraped from Twitter. By inputing some sentences with a '[MASK]' indicating the location you would like to fill in with a hashtag, our model can generate potential related trending topics according to your tweet context.

Define a list of trending topics

trending_topics = [Your choice of topics]

Download the model

from transformers import pipeline, BertTokenizer 
import numpy as np

MODEL = "vivianhuang88/bert_twitter_hashtag"
fill_mask = pipeline("fill-mask", model=MODEL, tokenizer=MODEL)
tokenizer = BertTokenizer.from_pretrained(MODEL, additional_special_tokens=trending_topics)

Get the output

def print_candidates(text, candidates):
    for i in range(5):
        token = tokenizer.decode(candidates[i]['token'])
        topic = ''.join(token.split())
        output = text.replace("[MASK]", topic)
        print(output)
        
text = "Bruce has an electric guitar set in [MASK]. "
candidates = fill_mask(text, targets = trending_topics)
print_candidates(text, candidates)

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · fill-mask

Можно запустить

Подбираем GPU…

Класс архитектуры
BertForMaskedLM
Ревизия весов
4188199

0 моделей