/ Модель

Характеристики

Контекст
512 токенов
Параметры
138 млн
Архитектура
bert · dense
Опубликована
2 мар 2022

telugu_bertu

Заполнение пропусковТекст → текст3 профессии

BERT-модель для предсказания скрытых токенов в текстах на телугу.

111скачиваний за 30 дней9лайковвеса обновлены19 окт 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

kuppuluri/telugu_bertu — языковая модель BERT, обученная разработчиком на телугу. Она предназначена для предсказания скрытых токенов в тексте на телугу и подходит для сценариев, где нужно восстановить пропуск или получить вероятные варианты продолжения фрагмента. Модель содержит 137,8 млн параметров, использует архитектуру BertForMaskedLM и поддерживает контекст до 512 токенов.

Модель принимает текст и выдаёт вероятности токенов для замаскированных позиций. Доступны версии в форматах PyTorch, Flax и Safetensors. В README отмечена проблема с отображением текста в веб-интерфейсе из-за кодировки; автор рекомендует использовать модель из терминала. Условия лицензии в предоставленных данных не указаны.

Сценарии применения

  • восстановление пропущенных слов в предложении на телугу
  • подбор вероятных слов для замаскированной позиции
  • анализ контекста телугу-текста с помощью языковой модели

Ограничения

В README указана проблема с отображением текста в веб-интерфейсе из-за кодировки; рекомендуется запуск из терминала. Модель ориентирована на телугу и имеет контекстное окно до 512 токенов.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

telugu_bertu

Model description

This model is a BERT MLM model trained on Telugu. Please use it from the terminal as the web interface has encoding issues.

PS: If you find my model useful, I would appreciate a note from you as it would encourage me to continue improving it and also add new models. And also, please cite my model if you are using it in your pipeline.

Intended uses & limitations

How to use

from transformers import AutoModelWithLMHead, AutoTokenizer, pipeline
tokenizer = AutoTokenizer.from_pretrained("kuppuluri/telugu_bertu",
                                          clean_text=False,
                                          handle_chinese_chars=False,
                                          strip_accents=False,
                                          wordpieces_prefix='##')
model = AutoModelWithLMHead.from_pretrained("kuppuluri/telugu_bertu")
fill_mask = pipeline("fill-mask", model=model, tokenizer=tokenizer)
results = fill_mask("మక్దూంపల్లి పేరుతో చాలా [MASK] ఉన్నాయి.")

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · fill-mask

Можно запустить

Подбираем GPU…

Класс архитектуры
BertForMaskedLM
Ревизия весов
28a48eb

0 моделей