character-bert

CharacterBERT — вариант BERT, разработанный Hicham El Boukkouri, Olivier Ferret, Thomas Lavergne, Hiroshi Noji, Pierre Zweigenbaum и Junichi Tsujii. Модель предназначена для получения контекстных представлений слов на основе их символов и поддерживает открытый словарь: вместо фиксированной WordPiece-токенизации используется CharacterCNN, который строит представление целого токена из последовательности символов.

Модель содержит около 113,2 млн параметров, использует 12 трансформерных слоёв с размерностью скрытого состояния 768 и 12 attention heads, а максимальная длина контекста составляет 512 токенов. В репозитории Hugging Face она предназначена для feature extraction и реализована на PyTorch с пользовательским кодом Transformers. Базовая версия предварительно обучена на англоязычных Wikipedia и OpenWebText.

Модель подходит для извлечения эмбеддингов слов и предложений, а также для последующей адаптации к задачам классификации и другим задачам обработки текста. Символьное представление делает её устойчивой к неизвестным словам и опечаткам. Ограничения включают более медленное предварительное обучение из-за CharacterCNN и необходимость доверять пользовательскому коду при загрузке через Transformers. Репозиторий распространяется по лицензии Apache-2.0.