This model is the combined GottBERT-base model, with the pretrained lilt checkpoint from the paper "LiLT: A Simple yet Effective Language-Independent Layout Transformer for Structured Document Understanding".
Характеристики
- Контекст
- 514 токенов
- Параметры
- 153 млн
- Архитектура
- lilt · dense
- Опубликована
- 24 ноя 2024
Ссылки
lilt-GottBERT-base
Комбинированная модель GottBERT-base и LiLT для понимания структуры документов с учётом текста и расположения элементов на странице.
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
moritzbur/lilt-GottBERT-base — комбинированная модель на основе GottBERT-base и предварительно обученного чекпойнта LiLT из работы «LiLT: A Simple yet Effective Language-Independent Layout Transformer for Structured Document Understanding». Она предназначена для структурированного понимания документов с учётом текста и его расположения на странице. Модель имеет архитектуру LiLT и содержит 153,2 млн параметров; доступные веса представлены в формате safetensors. Контекст составляет 514 токенов. Лицензия в предоставленных данных не указана.
Сценарии применения
- анализ структуры документов с текстом и координатами элементов
- извлечение информации из структурированных документов
- понимание макета страниц документов
Ограничения
Карточка не описывает конкретные поддерживаемые задачи или языки. Контекст ограничен 514 токенами.
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
У модели не указана задача.
- Класс архитектуры
- LiltModel
- Ревизия весов
- 34cedf4