/ Модель

Характеристики

Контекст
512 токенов
Параметры
433 млн
Лицензия
MIT
Архитектура
bert · dense
Базовая модель
bert-base-portuguese-cased
Библиотека
transformers
Опубликована
27 сен 2024

congretimbau

Заполнение пропусковТекст → текст3 профессии

Продолженная на бразильских законопроектах BERT-модель для предсказания пропущенных слов в португалоязычных законодательных текстах.

23скачиваний за 30 дней2лайкавеса обновлены16 фев 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Congretimbau — модель BERT, разработанная Belisards путём продолжения обучения BERTimbau Base на текстах законопроектов Бразилии. Она предназначена для предсказания замаскированных токенов в текстах на бразильском португальском и может использоваться для анализа и подготовки текстовых представлений законодательных документов. Данные для обучения получены из Палаты депутатов и Федерального сената Бразилии; карточка сообщает значение eval_loss 0,4885 после 10 000 шагов обучения.

Модель основана на архитектуре BERT с головой masked language modeling, содержит 433,2 млн параметров и поддерживает контекст до 512 токенов. Распространяется в формате Safetensors через Transformers по лицензии MIT. Специализация на законодательных текстах Бразилии ограничивает применимость за пределами этой области; приведённая метрика оценки сама по себе не подтверждает качество на прикладных задачах.

Сценарии применения

  • Подстановка пропущенных слов в тексте бразильского законопроекта
  • Анализ формулировок законопроектов Палаты депутатов и Сената
  • Получение контекстных представлений законодательных документов на португальском

Ограничения

Модель специализирована на законодательных текстах Бразилии, поэтому её качество на других жанрах и задачах не подтверждено. Карточка приводит eval_loss, но не сообщает результатов прикладных бенчмарков.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

congretimbau

This model is a continuously trained version of BERTimbau on a dataset with bills of Brazilian law proposals.

It achieves the following results on the evaluation set:

  • eval_loss: 0.4885
  • eval_runtime: 798.5704
  • eval_samples_per_second: 169.279
  • eval_steps_per_second: 1.324
  • epoch: 2.3669
  • step: 10000

Training and evaluation data

Data from the Chamber of Deputies and the Federal Senate.

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

  • learning_rate: 3e-05
  • train_batch_size: 128
  • eval_batch_size: 128
  • seed: 42
  • optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
  • lr_scheduler_type: linear
  • lr_scheduler_warmup_steps: 300
  • num_epochs: 10

Framework versions

  • Transformers 4.45.1
  • Pytorch 2.4.1+cu121
  • Datasets 3.0.1
  • Tokenizers 0.20.0

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers · fill-mask

Можно запустить

Подбираем GPU…

Класс архитектуры
BertForMaskedLM
Ревизия весов
cbbfc9d

0 моделей