I.3Извлечение и структурирование данных

dragon-red-pajama-7b-v0 — модель серии dRAGon, разработанная llmware и дообученная для ответов по контексту. Она предназначена для фактологического вопросно-ответного поиска по сложным деловым, юридическим и нормативным документам, извлечения пар «ключ—значение» и краткого суммирования. Модель построена на архитектуре GPT-NeoX, содержит 8,8 млрд параметров и рассчитана на контекст до 2048 токенов. README указывает английский язык и настройку на короткие, ясные ответы для автоматизации рабочих процессов; в приведённых тестовых запусках галлюцинаций не наблюдалось. Модель принимает текстовый контекст и инструкции и генерирует текстовые ответы. Она может выдавать неточные или неполные сведения, поэтому результаты требуют проверки. Лицензия — Apache 2.0.

Модель dbsamu/electra-small-discriminator-finetuned-ner — компактная модель Google ELECTRA Small, дообученная для распознавания именованных сущностей на датасете WikiAnn. Она присваивает метки токенам текста и предназначена для извлечения сущностей в задачах обработки естественного языка. Модель содержит 20,4 млн параметров, использует архитектуру ElectraForTokenClassification и принимает последовательности длиной до 512 токенов. На оценочном наборе WikiAnn модель показала F1 0,7435, точность 0,7331, полноту 0,7543 и accuracy 0,8883. Доступна в формате PyTorch по лицензии Apache-2.0. Карточка не уточняет набор типов сущностей и поддерживаемые языки, поэтому качество для конкретного языка и сценария следует проверять отдельно.

ettin-32m-nemotron-pii — компактная модель распознавания персональных данных, разработанная на основе энкодера Ettin и дообученная на наборе NVIDIA Nemotron-PII. Это ModernBERT с 31,9 млн параметров, предназначенный для маркировки фрагментов текста и обнаружения более 50 типов PII в структурированных и неструктурированных данных. Модель рассчитана на английский язык и заявлена для текстов из разных областей, включая здравоохранение, финансы, право и кибербезопасность. В карточке указана оценка F1 95,73 на тестовой выборке из 10 тысяч примеров; качество различается между типами сущностей, и для распознавания профессий приведена заметно более низкая оценка F1 0,5949. Модель принимает текст и возвращает метки сущностей по токенам. Лицензия — MIT.

EXAONE 4.5-33B — открытая по весам мультимодальная модель LG AI Research для диалога и анализа изображений. Она сочетает причинную языковую модель с визуальным энкодером и содержит 33 млрд параметров, из которых около 1,29 млрд приходятся на визуальную часть. Архитектура использует плотные слои, гибридное внимание с локальными окнами и глобальными слоями; контекст — до 262 144 токенов. Модель предназначена для ответов на вопросы по изображениям и документам, распознавания и интерпретации их содержимого, а также для текстового диалога и рассуждений. Разработчик отмечает сильные результаты в понимании документов и корейских контекстов. Основные языки карточки — английский, корейский, испанский, немецкий, японский и вьетнамский. Для обслуживания рекомендуются оптимизированные движки, например vLLM, TensorRT-LLM или SGLang; запуск с длинным контекстом требует мощных GPU. Модель может выдавать неверные, предвзятые или неподходящие ответы, а её знания ограничены данными до декабря 2024 года. В метаданных указана лицензия «other»; конкретные условия следует сверять с лицензией репозитория и правилами LG AI Research.

FastPDN — модель распознавания именованных сущностей в тексте, разработанная группой Wieszcze проекта CLARIN-PL. Она размечает текстовые токены и объединяет соседние токены в сущности; модель можно запускать через Transformers pipeline с задачей NER. Чекпойнт основан на архитектуре BERT и содержит 151,6 млн параметров, максимальная длина контекста — 514 токенов. Модель дообучена на польских наборах данных KPWr и CEN с разметкой до 82 классов сущностей. В карточке приведены результаты оценки на тестовых данных: вариант на herbert-base-case показал F1 0,68, а вариант на distiluse-base-multilingual-cased-v1 — F1 0,53. Модель предназначена для извлечения сущностей из польских текстов; результаты могут зависеть от используемого набора данных и схемы классов. Лицензия — CC BY 4.0.

GLiNER2-base-v1-Redocred — модель извлечения информации на базе GLiNER2, дообученная на Re-DocRED. Она предназначена для извлечения сущностей и отношений между ними в англоязычных документах; карточка также относит к задачам модели извлечение событий и классификацию. Обучающий набор содержит 3 053 записи, а для проверки использовались отдельные валидационная и тестовая выборки по 500 записей; в Re-DocRED представлены 96 типов отношений и 6 типов сущностей. В тестировании F1 для сущностей составил 0,842 при строгом и 0,893 при более мягком сопоставлении. Для отношений показатели ниже: F1 0,263 и 0,321 соответственно, при низкой полноте. Модель распространяется в формате safetensors и использует библиотеку gliner2. Лицензия указана как other; условия следует уточнить на странице модели и датасета.

gliner2-large-v1-redocred — модель извлечения информации на базе GLiNER2, разработанная whr778 и дообученная от fastino/gliner2-large-v1 на наборе Re-DocRED. Она предназначена для извлечения именованных сущностей и отношений между ними в англоязычных документах; карточка также относит её к задачам извлечения событий и классификации. Набор Re-DocRED содержит 6 типов сущностей и 96 типов отношений. В слепом тесте F1 для сущностей составил 0,860 при строгой и 0,907 при расслабленной оценке; для отношений — 0,287 и 0,350 соответственно. Низкий recall отношений (0,186 строго, 0,227 расслабленно) ограничивает полноту извлечения. Модель работает с текстом и распространяется в формате safetensors; лицензия указана как other, поэтому перед использованием следует проверить условия в карточке модели.

whr778/gliner2-large-v1-wikievents — модель извлечения информации на базе GLiNER2, дообученная на fastino/gliner2-large-v1. Она предназначена для совместного извлечения именованных сущностей, типов и триггеров событий, а также связанной с событиями информации; карточка также указывает извлечение отношений и классификацию. Модель использует библиотеку gliner2 и опубликована в формате safetensors. Модель обучена на англоязычном наборе WikiEvents: 206 записей для обучения и по 20 для валидации и тестирования. Он включает онтологию из 49 типов событий и 57 ролей аргументов. В слепом тесте F1 для типов событий составил 0,962, для триггеров событий — 0,583 строго и 0,597 при relaxed-оценке; качество зависит от категории и способа сопоставления. Лицензия указана как other, поэтому условия использования следует уточнить в карточке модели и источнике набора данных.

GLiNER-PII large v1.0 — модель извлечения именованных сущностей для обнаружения персональных, медицинских и платёжных данных. Её разработали Wordcab и Knowledgator на основе архитектуры GLiNER — двунаправленного трансформера, который ищет сущности по переданным при запросе типам, а не только по фиксированному набору меток. Модель предназначена для локальной обработки текста и поддерживает распознавание без дообучения под новые типы сущностей; в карточке заявлено более 60 предопределённых категорий PII. Модель подходит для поиска и последующей маскировки чувствительных данных в документах, расшифровках и журналах чатов, а также для сценариев комплаенса и обработки данных на периферийных устройствах. Репозиторий включает форматы PyTorch и ONNX; README описывает квантование и варианты ONNX FP16 и UINT8, но не приводит размер именно версии large. Метаданные указывают английский язык и библиотеку GLiNER. Лицензия — Apache-2.0. Распознавание настраивается списком типов сущностей, что позволяет адаптировать извлечение к конкретным задачам. Приведённые в README численные результаты относятся к другим вариантам семейства, а не к этой модели, поэтому их нельзя считать оценкой качества large v1.0.

GLM-4.5V — мультимодальная модель зрения и языка семейства GLM-V, разработанная ZhipuAI. Она основана на GLM-4.5-Air — текстовой модели с 106 млрд параметров и 12 млрд активных параметров — и дообучена для работы с визуальными данными. Модель предназначена для понимания изображений, видео и документов, визуальных рассуждений и взаимодействия с графическими интерфейсами. Модель анализирует сцены и несколько изображений, распознаёт события в длинных видео, разбирает графики и документы, читает экран и помогает выполнять операции в GUI. Также поддерживается локализация визуальных объектов с выдачей ограничивающих рамок. Режим Thinking позволяет выбирать между быстрым ответом и более глубоким рассуждением. Карточка заявляет высокие результаты на 42 публичных бенчмарках VLM; контекст, число параметров самой GLM-4.5V и поддерживаемые разрешения для этой версии в предоставленных данных не указаны. Модель принимает визуальные данные и текстовые запросы, а отвечает текстом, в том числе координатами рамок. Лицензия — MIT.

GLM-4.6V-Flash — компактная мультимодальная модель семейства GLM-V от Z.ai, предназначенная для локального развёртывания и приложений с низкой задержкой. Это плотная модель с 9 млрд параметров, работающая с изображениями и текстом; карточка Hugging Face указывает архитектуру GLM4V, библиотеку Transformers и формат Safetensors. Модель поддерживает диалог и визуальное понимание, а контекстное окно серии GLM-4.6V достигает 128 тыс. токенов. Модель подходит для анализа изображений, скриншотов и страниц документов, включая понимание их текста, компоновки, таблиц, графиков и иллюстраций. Она также рассчитана на мультимодальное использование инструментов и на создание HTML/CSS по скриншотам интерфейсов. Заявленные в карточке возможности серии включают генерацию смешанного текста и визуального содержимого; README уточняет, что Flash — облегчённая версия для локального использования. Разработчики отмечают, что чисто текстовые ответы слабее мультимодальных возможностей. Модель может чрезмерно рассуждать, повторять ответ, ошибаться при подсчёте объектов и распознавании конкретных людей. Лицензия — MIT.

GNER-LLaMA-7B — генеративная модель распознавания именованных сущностей, разработанная авторами работы «Rethinking Negative Instances for Generative Named Entity Recognition». Она основана на архитектуре LLaMA и предназначена для извлечения сущностей из текста, в том числе в ранее не встречавшихся предметных областях. В README сообщается о применении обучения с отрицательными примерами и результатах для вариантов GNER на LLaMA и Flan-T5; для GNER-LLaMA приведены средние F1 66,1 в режиме zero-shot и 86,09 при обучении с разметкой. Модель содержит 6,6 млрд параметров, принимает текст и генерирует текстовый результат. Контекст — до 2048 токенов. В метаданных указан английский язык, библиотека Transformers и лицензия Apache-2.0. Модель подходит для извлечения сущностей из текстов, но карточка не уточняет схему выдачи и полный перечень типов сущностей; заявленные метрики относятся к описанным в работе оценочным настройкам и не гарантируют качество на произвольных данных.

abhinand/GOT-OCR-2.0-unofficial — неофициальная публикация модели GOT-OCR-2.0, разработанной авторами работы «General OCR Theory: Towards OCR-2.0 via a Unified End-to-end Model». Это плотная модель семейства GOT с архитектурой GOTQwenForCausalLM и 463,8 млн параметров; веса опубликованы в формате safetensors. В метаданных указано контекстное окно 32 768 токенов. Модель предназначена для распознавания текста на изображениях: извлечения обычного и форматированного текста, детального OCR, обработки изображений с несколькими фрагментами и многостраничных наборов изображений. README описывает OCR-сценарии, но не перечисляет поддерживаемые языки, поэтому языковую поддержку определить нельзя. Карточка ограничивает применение исследованиями; лицензия также требует соблюдения условий Vary.

grounding-en — англоязычная модель компании Nutrient для проверки того, подтверждает ли текст документа заданное утверждение. Это cross-encoder на архитектуре ModernBERT с классификационной головой, содержащий 394,7 млн параметров и рассчитанный на контекст до 8192 токенов. Модель принимает фрагмент документа и гипотезу — например, число, дату или факт — и оценивает, следует ли гипотеза из документа. Модель предназначена для проверки извлечённых значений по исходным документам, выявления неподтверждённых утверждений и цитат, а также направления сомнительных извлечений на ручную проверку. В заявленном тесте на английском grounding-benchmark она показала ROC-AUC 0,882 в целом и 0,923 на проверке чисел. Доступны веса safetensors и экспорт ONNX для запуска через ONNX Runtime. Модель поддерживает только английский язык. Её слабые стороны — сложные отрицательные примеры с табличными утверждениями и многошаговая арифметика; она специализирована на проверке соответствия источнику и может уступать моделям общего назначения в задачах NLI. Сырые вероятности могут быть завышены: для калибровки порогов рекомендуется температурное масштабирование на данных целевого распределения. Лицензия — Apache-2.0.

IndicBERT-v3-4B — многоязычная двунаправленная языковая модель AI4Bharat на архитектуре Gemma 3. Она дообучена на основе google/gemma-3-4b-it с целью Masked Next Token Prediction (MNTP), при которой для восстановления замаскированного токена используется представление предыдущей позиции. Такой режим делает модель подходящей для задач, которым нужен двунаправленный контекст, включая классификацию и разметку токенов. Модель обучали на английском и 22 индийских языках, включая хинди, тамильский, телугу, бенгальский, урду и ряд малоресурсных языков. В обучении использовались данные Sangraha, FineWeb-2 и IndicCorp-v2; последовательности имели длину до 4096 токенов. Для дообучения важно сдвигать целевые метки согласно MNTP, а не применять стандартную схему MLM для BERT. README указывает, что специализированные версии для эмбеддингов и поиска планировались отдельно. Модель распространяется по лицензии MIT.

MuRIL-Naamapadam — модель распознавания именованных сущностей в текстах на маратхи, пенджаби и телугу. Она разработана на основе MuRIL от Google и дообучена для задачи NER; архитектура — BERT для классификации токенов, размер — 264,8 млн параметров, максимальная длина контекста — 512 токенов. Модель выделяет сущности в предложениях на поддерживаемых языках; для проверки результатов доступен Hosted Inference API на странице модели. В README приведены F1: 0,8341 для маратхи, 0,8328 для телугу и 0,7334 для пенджаби. Указанная лицензия — Apache-2.0.

JSONify-Flux-Large — дообученная PrithivMLmods мультимодальная модель на архитектуре Qwen2-VL-7B-Instruct, настроенная на изображения, созданные Flux, и соответствующие им описания. Она предназначена для описания изображений, визуальных вопросов и рассуждений, распознавания текста на изображениях и решения математических задач с выводом в формате JSON; поддерживает многошаговый диалог и анализ видео. Модель содержит 7,1 млрд параметров, принимает изображения и текст, выдаёт текст, а максимальный контекст составляет 32 768 токенов. В карточке заявлена поддержка английского и китайского языков, а также распознавание текста на японском, арабском и ряде европейских языков. Веса опубликованы в формате Safetensors, библиотека для работы — Transformers. Модель распространяется по лицензии Apache-2.0. Карточка не приводит независимых сравнительных результатов, поэтому заявления о высокой точности и длительности поддерживаемого видео не следует считать подтверждёнными гарантиями качества.

Kavach PII 270M v2 — компактная текстовая модель на 257 млн параметров, разработанная автором репозитория inboxpraveen на основе дообучения Google Gemma 3 270M IT. Она извлекает персональные данные из документов и возвращает найденные значения списком JSON. Модель предназначена для автоматизации обнаружения и последующего обезличивания PII в расшифровках звонков, результатах OCR, формах, чатах, коде и журналах; заявлена поддержка 29 языков. Это генеративная архитектура Gemma3ForCausalLM с контекстом до 32 768 токенов; модель принимает текст и выдаёт текст. В карточке сообщается о value-F1 88,4 на исходном тестовом наборе v2, а также о низкой доле ложных срабатываний на документах без PII. Результаты v2 уступают актуальной v3 на исправленном тестовом наборе; автор также отмечает, что небольшие окна контекста ухудшают качество, длинные входы лучше обрабатывать с перекрывающимися окнами, а модель возвращает значения, но не их позиции в исходном тексте. Репозиторий распространяется по лицензии Gemma; для извлечения позиций предлагается отдельная утилита, которая сопоставляет найденные значения с исходным текстом.

KORMo-VL — мультимодальная модель для работы с документами и интерфейсами, разработанная лабораторией KAIST MLP Lab на базе KORMo-10B. Архитектура включает языковую модель KORMo-10B-sft и визуальный энкодер siglip-so400m; в репозитории указана архитектура LlavaOnevision и формат safetensors. Модель принимает изображения и текстовые запросы и формирует текстовые ответы для задач понимания документов и управления интерфейсами. Модель обучена на корейских изображениях документов и примерно 3,4 млн пар «текст—изображение» из синтетических и открытых наборов данных. Она рассчитана прежде всего на корейский и английский языки и поддерживает сценарии агента: взаимодействие с документами, редактирование и управление веб-интерфейсами. Разработчики публикуют обучающие данные или конвейеры генерации и рецепты обучения. Модель доступна по лицензии Apache-2.0. Заявленные сильные стороны — понимание документов и агентные сценарии; результаты тестов показывают хорошие оценки на ChartQA и DocVQA, но уступают некоторым сравниваемым моделям на отдельных визуальных тестах. Работа с документами и интерфейсами ориентирована на корейский и английский языки.

LayoutLM Document QA — мультимодальная модель команды Impira для ответов на вопросы по документам. Она дообучена на наборах SQuAD 2.0 и DocVQA и предназначена для извлечения ответов из содержимого документов с учётом их визуальной структуры и расположения текста. Модель построена на архитектуре LayoutLMForQuestionAnswering, содержит 151,8 млн параметров и имеет контекст до 514 токенов. Для обработки документов в примерах использования предусмотрены PIL и pytesseract; модель доступна в форматах PyTorch, Safetensors и TensorFlow. Модель подходит для поиска ответов в PDF и других документах с текстовой разметкой. Карточка указывает английский язык. Лицензия — MIT.

srinidhireddy1604/layoutlm-funsd — модель Microsoft LayoutLM, дообученная на наборе FUNSD для классификации токенов в документах и извлечения информации из форм. Она обрабатывает текст вместе с его расположением на странице и изображением документа; число параметров — 136,7 млн, контекст — до 512 токенов. Модель размечает поля категориями Answer, Header и Question и рассчитана на анализ англоязычных форм. В оценке на FUNSD общая точность составила 0,8047, а F1 — 0,7549; для категории Header F1 заметно ниже и равен 0,2467. Модель опубликована в формате safetensors и распространяется по лицензии MIT. Результаты относятся к оценке на FUNSD, поэтому качество на других типах документов может отличаться.

hmart824 выпустил эту модель как дообученную версию hmart824/layoutlmv3-finetuned_0.1 для классификации токенов в документах. Она построена на архитектуре LayoutLMv3 и содержит 151,8 млн параметров; формат весов — safetensors. README сообщает значение loss 0,0014 на оценочном наборе, но не описывает набор данных, метрики подробнее или целевые метки. Модель предназначена для разметки токенов с учётом текста и структуры документа. Лицензия CC BY-NC-SA 4.0 требует указания авторства, ограничивает коммерческое использование и распространяет производные материалы на тех же условиях.

hmart824/layoutlmv3-finetuned_1.1 — дообученная модель Microsoft LayoutLMv3-base для классификации токенов в документах. Архитектура LayoutLMv3 объединяет обработку текста, изображений и структуры страницы; модель содержит 151,8 млн параметров и рассчитана на контекст до 514 токенов. В README приведены результаты оценки: F1 0,9968, точность 0,9972 и полнота 0,9966, однако набор данных и условия оценки не раскрыты, поэтому эти показатели нельзя напрямую переносить на другие документы. Модель подходит для извлечения и разметки сущностей в отсканированных или цифровых документах, когда важны текст и его расположение на странице. Языки и конкретные типы документов не уточнены. Репозиторий распространяется по лицензии CC BY-NC-SA 4.0, которая требует указания авторства и распространения производных материалов на тех же условиях и не допускает коммерческого использования.

yasserrmd/LFM2-350M-Extract-TOON — дообученная с помощью LoRA модель на базе LiquidAI/LFM2-350M-Extract, созданная с использованием Unsloth и датасета yasserrmd/TOON-Unstructured-Structured. Она преобразует текст на естественном языке в структурированный формат TOON по заданной схеме; модель относится к семейству LFM2 и имеет около 444,6 млн параметров, а её контекст составляет 128 000 токенов. Модель предназначена для извлечения полей из неструктурированных текстов, компактного представления данных в конвейерах LLM и подготовки структурированных наборов данных. Лучше всего работает с короткими и средними текстами при явно заданной схеме. Карточка заявляет детерминированную генерацию TOON, но приводит только метрики обучения, а не независимую оценку качества. Доступна по лицензии Apache-2.0. Дообучение проводилось на англоязычных данных; многоязычная настройка не выполнялась. Для точного извлечения требуется явное описание схемы, а при общих запросах точность может снижаться.

LFM2.5-230M Propella — компактная языковая модель примерно на 221,2 млн параметров, разработанная для генерации структурированных JSON-аннотаций и извлечения метаданных из англоязычного текста. Это дообучение LiquidAI/LFM2.5-230M на наборе agentlans/c4-en-propella; аннотации для обучающих данных были подготовлены с помощью ellamind/propella-1-0.6b. Модель использует плотную архитектуру LFM2 и поддерживает контекст до 128 000 токенов. Модель подходит для классификации и разметки текста, когда результат нужно получить в структурированном JSON-формате. Она рассчитана на быстрый запуск и небольшие ресурсы; доступна через Transformers, а формат весов в репозитории — safetensors. Лицензия — LFM Open License v1.0, унаследованная от базовой модели. Небольшой размер повышает эффективность, но качество аннотаций может уступать модели-учителю ellamind/propella-1-0.6b. Формат JSON иногда может быть некорректным, поэтому результаты рекомендуется проверять парсером; модель обучена исключительно на английском тексте, и её качество на других языках не гарантируется.

Карточка модели glxiexie/LFM2.5-2.6B на Hugging Face совпадает с карточкой developerjeremylive/LFM2.5-2.6B-etheroi, поэтому описание составлено по ней. LFM2.5-2.6B-etheroi — многоязычная текстовая модель на 2,6 млрд параметров, созданная на базе LiquidAI/LFM2.5-2.6B-Base и дообученная для агентных сценариев. Она использует гибридную архитектуру LFM2: 30 слоёв, включая блоки коротких свёрток и GQA, и поддерживает контекст до 131 072 токенов. Модель предназначена для локального и периферийного развёртывания; карточка указывает поддержку Transformers, vLLM и SGLang. Модель подходит для вызова инструментов, выполнения многошаговых инструкций, извлечения данных, RAG и работы с длинным контекстом. Она поддерживает английский, арабский, китайский, французский, немецкий, хинди, индонезийский, итальянский, японский, корейский, польский, португальский, русский, испанский, тайский и вьетнамский языки. По карточке, она не рекомендуется для агентного программирования и задач, требующих обширных знаний. Лицензия указана как other; конкретные условия следует проверить в репозитории модели.

LFM2.5-2.6B-etheroi — многоязычная текстовая модель на 2,6 млрд параметров, созданная на базе LiquidAI/LFM2.5-2.6B-Base и дообученная для агентных сценариев. Она использует гибридную архитектуру LFM2: 30 слоёв, включая блоки коротких свёрток и GQA, и поддерживает контекст до 131 072 токенов. Модель предназначена для локального и периферийного развёртывания; карточка указывает поддержку Transformers, vLLM и SGLang. Модель подходит для вызова инструментов, выполнения многошаговых инструкций, извлечения данных, RAG и работы с длинным контекстом. Она поддерживает английский, арабский, китайский, французский, немецкий, хинди, индонезийский, итальянский, японский, корейский, польский, португальский, русский, испанский, тайский и вьетнамский языки. По карточке, она не рекомендуется для агентного программирования и задач, требующих обширных знаний. Лицензия указана как other; конкретные условия следует проверить в репозитории модели.

LFM2.5-VL-450M-Extract-MLX-bf16 — конвертированная в формат MLX версия компактной мультимодальной модели Liquid AI LFM2.5-VL-450M-Extract для устройств Apple Silicon. Она принимает изображения и описание полей, которые нужно извлечь, и возвращает значения в строгом формате JSON; поддерживаются определения полей через YAML и ограничения на допустимые значения. В языковой части около 350 млн параметров, также используется визуальный энкодер SigLIP2 примерно на 100 млн параметров. Модель работает в точности bfloat16 через MLX и mlx-vlm; заявленный расход объединённой памяти при инференсе — около 900 МБ. Модель предназначена для извлечения структурированных сведений из изображений, например характеристик видимых объектов или поверхностей. Карточка указывает английский язык. Репозиторий основан на LiquidAI/LFM2.5-VL-450M-Extract; в метаданных лицензия обозначена как other, поэтому конкретные условия следует сверить с лицензией базовой модели и репозитория.

SCUT-DLVCLab/lilt-roberta-en-base — базовая модель LiLT, разработанная SCUT-DLVCLab и представленная в работе Wang и соавторов о языково-независимом трансформере для понимания структурированных документов. Она объединяет предварительно обученный англоязычный RoBERTa с трансформером LiLT, который обрабатывает структуру и расположение элементов документа. Модель содержит 151,8 млн параметров, принимает текст вместе с информацией о компоновке и имеет контекст до 514 токенов. Модель предназначена для дообучения под классификацию изображений документов, разбор документов и ответы на вопросы по документам. LiLT позволяет сочетать языковый энкодер RoBERTa с обработкой макета, однако этот вариант использует именно англоязычный RoBERTa; поддержка других языков зависит от выбранного языкового энкодера. В репозитории доступны веса PyTorch и Safetensors. Лицензия — MIT.

OwenArli/Llama-3.1-8B-ArliAI-Formax-v1.0 — чат-модель на архитектуре Llama 3.1, дообученная на базе Meta-Llama-3.1-8B-Instruct с помощью LoRA. Она предназначена для точного следования инструкциям о формате ответа и подходит для структурирования данных, создания наборов данных и других задач, где важно соблюдать заданную форму вывода. Модель принимает текст и генерирует текст; заявленное окно контекста — 131072 токена, а обучающая последовательность имела длину 8192 токена. Разработчик описывает модель как мало ограничивающую ответы и хорошо следующую инструкциям. Это заявление из карточки модели, а не независимая оценка качества. Модель содержит 7,5 млрд параметров и распространяется в формате safetensors по лицензии Meta Llama 3.1 License. Карточка не приводит результатов независимых тестов.