Характеристики

Контекст: 512 токенов
Параметры: 136 млн
Архитектура: bert · dense
Опубликована: 9 июн 2022

Ссылки

Hugging Face

CAP_coded_US_Congressional_bills

z-dickson

Классификация текстаТекст → label3 профессии

BERT-модель классифицирует законопроекты Конгресса США по тематическим категориям Comparative Agendas Project.

27скачиваний за 30 дней8лайковвеса обновлены9 июн 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель разработана z-dickson для определения тематической категории законопроектов Конгресса США по схеме Comparative Agendas Project. Это модель классификации текста на базе BERT с примерно 135,5 млн параметров; она принимает текст и выдаёт категорию повестки. Обучение проводилось примерно на 250 тысячах американских законопроектов 1950–2015 годов. Модель чувствительна к регистру, а её контекст ограничен 512 токенами.

В карточке указаны точность 92,68% на обучающей выборке и 91,61% на валидационной. Эти результаты относятся к данным и настройке обучения, описанным автором, и не гарантируют аналогичного качества на других документах или периодах. Модель распространяется в формате TensorFlow; лицензия в предоставленных данных не указана.

Сценарии применения

отнесение законопроекта Конгресса США к категории повестки
анализ тематики американских законопроектов за 1950–2015 годы
сравнение распределения законодательных инициатив по темам
автоматическая разметка корпуса законопроектов для политологического исследования

Ограничения

Модель чувствительна к регистру и рассчитана на контекст до 512 токенов. Обучающие данные охватывают законопроекты США 1950–2015 годов, поэтому качество на иных типах документов, темах или более поздних периодах может отличаться.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.11Универсальные способностиКлассификация, ранжирование и сопоставлениеAI помогает распределять объекты по категориям, устанавливать соответствия и определять порядок обработки.15 задач26 736моделей I.3Универсальные способностиИзвлечение и структурирование данныхAI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации.18 задач25 791модель IV.8Отраслевые задачиГосударственное управление, правосудие и чрезвычайные ситуацииAI помогает улучшать государственные услуги, управление ресурсами, правосудие и реагирование на чрезвычайные ситуации.47 задач2 517моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

This model predicts the issue category of US Congressional bills.

The model is trained on ~250k US Congressional bills from 1950-2015.

The issue coding scheme follows the Comparative Agenda Project: https://www.comparativeagendas.net/pages/master-codebook

The model is cased (case sensitive)

Train Loss: 0.1318; Train Sparse Categorical Accuracy: 0.9268; Validation Loss: 0.2439; Validation Sparse Categorical Accuracy: 0.9161

The following hyperparameters were used during training:

optimizer: {'name': 'Adam', 'learning_rate': 5e-05, 'decay': 0.0, 'beta_1': 0.9, 'beta_2': 0.999, 'epsilon': 1e-07, 'amsgrad': False} training_precision: float32

Training hyperparameters

Framework versions

Transformers 4.19.3
TensorFlow 2.8.2
Tokenizers 0.12.1

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · text-classification

Нельзя запустить

В репозитории нет весов в формате PyTorch/safetensors.

Класс архитектуры: BertForSequenceClassification
Ревизия весов: 2cd8469