multiberts_seed_2_ft_2

Jeevesh8/multiberts_seed_2_ft_2 — модель на базе BERT, дообученная для классификации текста. Она использует архитектуру MultiBERTs с примерно 136,7 млн параметров и поддерживает контекст до 512 токенов. Базовое семейство MultiBERTs разработано Google как набор воспроизведений BERT-base uncased для исследований устойчивости моделей; найденные материалы описывают английскую языковую модель, предварительно обученную с задачами masked language modeling и next sentence prediction.

Модель предназначена для применения через Transformers и связана с JAX и text-embeddings-inference. Конкретный набор меток и датасет дообучения для этого репозитория не подтверждены, поэтому область классификации следует определить по конфигурации модели или документации проекта. Сведения о лицензии для данного репозитория надёжно не установлены.