LiLT + XLM-RoBERTa-base
This model is created by combining the Language-Independent Layout Transformer (LiLT) with XLM-RoBERTa, a multilingual RoBERTa model (trained on 100 languages).
This way, we have a LayoutLM-like model for 100 languages :)
Характеристики
- Контекст
- 514 токенов
- Параметры
- 305 млн
- Лицензия
- MIT
- Архитектура
- lilt · dense
- Опубликована
- 24 ноя 2022
Ссылки
lilt-xlm-roberta-base
Мультиязычная модель LiLT и XLM-RoBERTa для извлечения признаков из документов с учётом текста и его расположения на странице.
9 183скачиваний за 30 дней27лайковвеса обновлены17 мая 2023
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Тесты пользователейпока нет
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Добавьте модель в бенчмарк
Вместе с другими моделями категории «Эмбеддинги» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
nielsr/lilt-xlm-roberta-base — модель, созданная сочетанием Language-Independent Layout Transformer (LiLT) и XLM-RoBERTa-base. Это мультиязычный трансформер для извлечения признаков из документов с учётом текстового содержимого и его расположения на странице, по назначению близкий к LayoutLM. Модель содержит 305,2 млн параметров, принимает последовательности длиной до 514 токенов и распространяется в форматах PyTorch и safetensors.
Модель предназначена для построения представлений документов и может служить основой для задач понимания структуры документов на разных языках. XLM-RoBERTa обучалась на 100 языках; карточка указывает мультиязычную поддержку, включая английский, немецкий, французский, испанский, арабский, китайский и другие языки. Лицензия — MIT. Карточка не приводит оценок качества или подробных ограничений применения.
Сценарии применения
- извлечение представлений текста и структуры документа
- создание основы для понимания многоязычных документов
- обработка расположения текстовых элементов на страницах
Ограничения
Контекст ограничен 514 токенами. Карточка не приводит оценок качества или подробных результатов по конкретным задачам.
Для каких профессий подходит6
Разделы каталога профессий, в задачах которых используется эта модель
I.3Универсальные способностиИзвлечение и структурирование данныхAI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации.18 задач25 791модельI.4Универсальные способностиОбработка документов и формAI помогает оцифровывать документы, проверять их комплектность и сокращать ручной ввод данных.16 задач7 180моделейII.8Разработка и данныеИнженерия данных и аналитикаAI помогает готовить надёжные данные и превращать их в понятную аналитику.22 задачи23 488моделейI.14Универсальные способностиАвтоматизация процессов и AI-агентыAI помогает выполнять многошаговые цифровые процессы и координировать действия между системами.20 задач26 022модели
Также подходит для
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Подбираем GPU…
- Класс архитектуры
- LiltModel
- Ревизия весов
- 3932559