I.3Извлечение и структурирование данных

Lawma 8B — языковая модель для классификации юридических вопросов, созданная дообучением Llama 3 8B Instruct. Разработчики обучили её на более чем 500 тысячах примеров и примерно 2 млрд токенов для 260 задач классификации по данным Верховного суда США и апелляционных судов Songer. Модель имеет плотную архитектуру Llama с 7,5 млрд параметров, поддерживает контекст до 131 072 токенов и рассчитана на английский язык. Модель предназначена прежде всего для ответов на обученные юридические задачи с выбором варианта: обычно она возвращает букву или число, а не развёрнутое объяснение. В оценке авторов Lawma 8B превзошла GPT-4 в среднем по рассмотренным задачам, однако разработчики рекомендуют применять её только к близким юридическим классификациям и дообучать на примерах целевого сценария. Модель распространяется по лицензии MIT.

mucai/llava-v1.5-7b-m3 — мультимодальный чат-бот семейства Matryoshka Multimodal Models (M3), разработанный на основе LLaVA-1.5 и дообученный на визуальных диалогах. Это авторегрессионная трансформерная модель с архитектурой LlavaLlamaForCausalLM и 6,6 млрд параметров; она принимает изображения и текстовые запросы и генерирует текстовые ответы. Контекст составляет 4096 токенов. Модель предназначена для исследований мультимодальных языковых моделей и чат-ботов, а также для экспериментов с анализом изображений и визуальных диалогов. Особенность M3 — возможность задавать число визуальных токенов для изображения, меняя детализацию его представления; модель также может использоваться как метрика сложности изображений и наборов данных. В описанной оценке она сохраняла сильные результаты при использовании 1 или 9 визуальных токенов на изображение. Для обучения использованы 558 тысяч отфильтрованных пар изображение–текст из LAION/CC/SBU с подписями BLIP и 665 тысяч инструкционных примеров LLaVA-1.5 на уровне изображений. Модель опубликована в формате safetensors под лицензией Apache-2.0. README ориентирует её прежде всего на исследовательские эксперименты; отдельные языки или специальные прикладные области не заявлены.

MIT 48px OCR — конвертированная в SafeTensors модель распознавания текста из комиксов, используемая в manga-image-translator и BallonsTranslator. Она принимает уже обнаруженные и обрезанные строки текста, нормализованные до высоты 48 пикселей, и распознаёт их; также предсказывает цвета переднего и заднего плана. Модель не ищет текстовые области на целой странице. Архитектура включает визуальный экстрактор признаков ConvNeXt и энкодер Transformer из четырёх слоёв вместе с декодером из пяти слоёв. Размер эмбеддинга — 320, предусмотренная максимальная ширина входа — 8100 пикселей, максимальная длина последовательности — 255 токенов, стандартный beam size — 5. Алфавит токенизатора заявлен как многоязычный, но конкретный охват языков не перечислен. Результат зависит от качества обрезки, масштаба текста, поддержки языка в алфавите и степени повреждения изображения. Сведения об обучающих данных и метриках оценки отсутствуют. Репозиторий содержит конвертированные веса SafeTensors и распространяется по лицензии GPL-3.0.

Карточка модели LanguageBind/MoE-LLaVA-Phi2-2.7B-4e на Hugging Face совпадает с карточкой LanguageBind/MoE-LLaVA-Qwen-1.8B-4e, поэтому описание составлено по ней. MoE-LLaVA-Qwen-1.8B-4e — мультимодальная модель семейства MoE-LLaVA, разработанная проектом LanguageBind. Она сочетает языковую модель Qwen с архитектурой смеси экспертов и предназначена для диалогового понимания изображений: модель принимает изображение и текстовый запрос и формирует текстовый ответ. В карточке она приведена как вариант MoE-LLaVA-1.8B×4-Top2; метаданные указывают 2,3 млрд параметров, контекст 8192 токена и формат PyTorch. README сообщает о результатах на наборах для визуальных вопросов и понимания изображений, включая VQAv2, GQA, VizWiz и MM-Bench. Модель доступна по лицензии Apache-2.0. Для работы README приводит требования к среде: Python 3.10 или новее, PyTorch 2.0.1, CUDA 11.7 или новее, Transformers 4.36.2 и Tokenizers 0.15.1.

MoRE (Mixture-of-Retrieval Experts for Reasoning-Guided Multimodal Knowledge Exploitation) — модель исследователей из Северо-Восточного университета, Университета Цинхуа и компании ModelBest. В репозитории размещена дообученная версия Qwen2.5-VL-7B-Instruct с 7,1 млрд параметров; она принимает изображения и текст и выдаёт текст. Карточка указывает архитектуру Qwen2.5-VL, библиотеку Transformers и контекст до 128 000 токенов. MoRE предназначена для мультимодальных вопросов, где для обоснованного ответа требуется находить и использовать знания из текстовых, графических и табличных источников. В README описаны подготовка соответствующих корпусов и оценка на наборах данных для визуальных вопросов и ответов. Модель может быть полезна для ответов на вопросы по изображениям с опорой на внешние знания и для анализа мультимодальных сведений. Модель распространяется по лицензии Apache-2.0. README описывает исследовательский проект и оценочный процесс; качество в иных сценариях и практические ограничения отдельно не охарактеризованы.

ngqtrung/omr-8b-grpo-ppexplore — исследовательский чекпойнт мультимодальной модели Qwen3-VL-8B-Instruct, дообученный автором репозитория методом GRPO с визуально-математическими данными OMR (OpenMMReasoner) и исследовательским механизмом ppexplore. Модель принимает текст и изображения и предназначена для диалоговых вопросов по изображениям, математических задач и визуального рассуждения. Архитектура — плотная Qwen3-VL с 8 млрд параметров; контекст запроса в конфигурации обучения ограничивался 2048 токенами, ответа — 16384 токенами. В описанном автором тестировании чекпойнт на шаге 250 показал среднюю точность 0,714 на шести наборах проверки и превзошёл указанный базовый GRPO-чекпойнт. Эти результаты относятся к конкретному эксперименту и не гарантируют качество на других данных. Автор отмечает, что модель не предназначена для универсального чата и не настраивалась для видео; дополнительного выравнивания безопасности сверх базовой модели нет. Репозиторий распространяется по лицензии Apache-2.0.

open-llava-next-llama3-8b — открытый мультимодальный чат-бот Lin-Chen на архитектуре LLaVA с языковой частью LLaMA 3 8B и визуальным энкодером CLIP-L-336. Модель дообучена целиком на открытых данных Open-LLaVA-Next-mix1M, включая ShareGPT4V Mix665K, инструкции ALLaVA и наборы визуальных вопросов и ответов. Обучение завершено в мае 2024 года. Модель принимает изображения и текстовые запросы, а отвечает текстом. Она предназначена для диалога о содержимом изображений, визуальных вопросов и ответов и исследований мультимодальных чат-ботов; в README приведены результаты на нескольких тестах визуального понимания. Размер — 7,5 млрд параметров, контекст — 8192 токена. Лицензия — Apache-2.0. Карточка ориентирует модель на исследователей и энтузиастов компьютерного зрения, NLP и машинного обучения. Заявленные данные и описание не устанавливают конкретные языки поддержки или гарантии качества в прикладных сценариях; ответы могут содержать ошибки визуального распознавания или интерпретации.

ddanielsantos/qwen2-correios-captcha — дообученная модель на архитектуре Qwen2-VL, разработанная ddanielsantos на базе unsloth/qwen2-vl-2b-instruct-unsloth-bnb-4bit с использованием Unsloth и библиотеки TRL. Она предназначена для анализа изображений и генерации текстовых ответов; название указывает на задачу распознавания CAPTCHA Correios. Модель содержит 1,5 млрд параметров, поддерживает контекст до 32 768 токенов и работает с изображениями и текстом. Лицензия — Apache-2.0. Карточка не приводит сведений о качестве распознавания или конкретных ограничениях применения.

Карточка модели nityaak/qwen3-4b-stance-matrix-semeval-ezstance-qlora на Hugging Face совпадает с карточкой nityaak/qwen3-4b-stance-matrix-semeval-mtcsd-ezstance-qlora, поэтому описание составлено по ней. Модель nityaak — дообученная версия Qwen3-4B, подготовленная с использованием Unsloth и библиотеки TRL. Она предназначена для генерации текста в диалоговом формате и может применяться для задач классификации позиции в тексте и работы с матрицей позиций в сценариях SemEval, MT-CSD и EzStance. Модель содержит 3,7 млрд параметров, использует плотную архитектуру Qwen3ForCausalLM и поддерживает контекст до 40 960 токенов. Модель принимает текст и выдаёт текст. В метаданных указан английский язык. Базовая модель — unsloth/Qwen3-4B-unsloth-bnb-4bit; лицензия — Apache-2.0. README не приводит оценок качества или подробностей обучающих данных, поэтому пригодность результатов для конкретных наборов данных стоит проверять отдельно.

stanfordnlp/stanza-gv — модель из набора Stanza, разработанного Stanford NLP Group для лингвистического анализа манксского языка. Она предназначена для разметки текста на уровне токенов; в составе Stanza такие модели используются в конвейерах NLP-анализа. Модель распространяется в формате PyTorch по лицензии Apache-2.0.

TaiVisionLM-base-v1 — мультимодальная модель benchang1110 с 1,2 млрд параметров, разработанная для ответов на инструкции на традиционном китайском языке с учётом входного изображения. Она объединяет визуальный энкодер SigLIP, языковую модель семейства TinyLlama и проектор признаков; по архитектурной идее близка к PaliGemma. Модель использует архитектуру TaiVisionForCausalLM и доступна в формате safetensors. Модель предназначена для диалога по изображениям и визуальных вопросов и ответов. В карточке описаны предварительное обучение на парах изображение—текст и выравнивание визуальных и текстовых признаков с помощью LoRA; обучение для подписей к изображениям и простого визуального вопросно-ответного режима обозначено как будущий этап. Для загрузки требуется Transformers с trust_remote_code=True, поскольку модель не интегрирована в библиотеку нативно. Лицензия в предоставленных данных не указана.

uclanlp/visualbert-vqa — мультимодальная модель VisualBERT, разработанная UCLA NLP для ответов на вопросы по изображениям. Она объединяет текстовый вопрос с визуальными признаками изображения и предназначена прежде всего для задач visual question answering и других сценариев мультимодального вопросно-ответного анализа. Модель построена на архитектуре VisualBERT с BERT-подобным мультимодальным энкодером; для изображения используются визуальные эмбеддинги, обычно полученные из областей изображения и признаков детектора объектов. В метаданных указаны 136,7 млн параметров, максимальный контекст 512 токенов, библиотека Transformers и фреймворк PyTorch. В карточке Hugging Face модель обозначена как question-answering и visual_bert. Сильная сторона модели — совместная обработка текста и визуальной информации для вопросов о содержимом изображения. Для работы требуется подготовить визуальные эмбеддинги изображения, поэтому модель не является автономной системой анализа необработанных файлов изображений. Язык модели в карточке не подтверждён. Модель распространяется по лицензии Apache 2.0.

Это модель на архитектуре HybridBERT с классом DistilBertForMaskedLM, предназначенная для заполнения пропусков в тексте: она предсказывает замаскированный токен по окружающему контексту. В метаданных указан контекст до 512 токенов и формат PyTorch. В README приведены результаты оценки: loss 2,6821 и accuracy 0,5170; разработчик, обучающие данные и практические сценарии не описаны. Лицензия в доступных сведениях не указана.

BERT for Patents — языковая модель, обученная Google на корпусе из более чем 100 млн патентов, включая документы за пределами США. Она основана на BERT Large и предназначена для работы с патентными текстами; доступная задача модели — предсказание скрытых токенов в тексте (fill-mask), что можно использовать для анализа терминологии и контекста патентов. Модель имеет 443,5 млн параметров и принимает текстовые последовательности длиной до 512 токенов. Карточка указывает английский язык. В репозитории доступны веса PyTorch, Safetensors и TensorFlow. Лицензия — Apache 2.0.

BERTweet — англоязычная языковая модель на архитектуре RoBERTa, разработанная Dat Quoc Nguyen, Thanh Vu и Anh Tuan Nguyen и предварительно обученная специально на сообщениях Twitter. Для предобучения использован корпус из 850 млн англоязычных твитов, включая сообщения за 2012–2019 годы и 5 млн твитов о COVID-19. Модель содержит 162,4 млн параметров и рассчитана на контекст до 130 токенов. Основная задача модели — предсказание замаскированных слов в тексте. Она подходит для анализа и подготовки англоязычных твитов, например для языковых исследований или как основа для адаптации к задачам обработки коротких сообщений. Доступны версии весов для PyTorch, TensorFlow и Flax. Лицензия — MIT. Авторы просят цитировать их статью при публикации результатов или включении модели в программное обеспечение.

hfl/chinese-electra-180g-base-generator — компактная предварительно обученная модель семейства ELECTRA для китайского языка, выпущенная совместной лабораторией HIT и iFLYTEK Research (HFL) на основе официального кода ELECTRA. Генератор ELECTRA обучен предсказывать заменённые токены и подходит для задачи заполнения пропусков в тексте, а также как основа для дальнейшей работы с китайским текстом. Модель содержит 11,1 млн параметров и принимает последовательности длиной до 512 токенов. Репозиторий включает форматы PyTorch и TensorFlow. В README отмечается компактность ELECTRA и конкурентные результаты на ряде NLP-задач относительно BERT и его вариантов; конкретные результаты для этого чекпойнта не приведены. Лицензия — Apache-2.0.

Vlasta/DNADebertaSentencepiece30k — модель на архитектуре DeBERTa для заполнения пропусков в тексте. Она содержит 79,7 млн параметров, использует формат PyTorch и принимает контекст длиной до 512 токенов. Карточка указывает, что модель была дообучена, однако базовая модель и обучающие данные не названы. Модель подходит для восстановления замаскированных токенов в тексте. В карточке приведено значение функции потерь 6,3257 на оценочном наборе, но не указаны языки, назначение для конкретной области или подробности оценки качества. Лицензия в предоставленных данных не указана.

scales-okn/docket-language-model — дообученная модель семейства DeBERTa для задачи заполнения пропусков в тексте. В README указана базовая модель microsoft/deberta-v3-large; размер составляет 533,7 млн параметров, длина контекста — 512 токенов. Модель принимает текст с маскированными фрагментами и предсказывает подходящие токены. Карточка не описывает специализированные сценарии, обучающие данные или преимущества модели. В README приведено значение loss 0,5241 на оценочном наборе, но без сведений о наборе и методике оценки его недостаточно для выводов о качестве. Лицензия — GPL-3.0.

FinBERT-PT-BR — модель Lucas Leme для классификации тональности финансовых текстов на бразильском португальском языке. Это модель семейства BERT с архитектурой BertForSequenceClassification, содержащая 136,1 млн параметров и принимающая текстовые последовательности длиной до 512 токенов. Модель обучали в два этапа: сначала на более чем 1,4 млн финансовых новостей на португальском языке, затем на 500 размеченных примерах для классификации тональности. Она подходит для анализа новостных публикаций и сообщений о финансовом рынке, построения индексов тональности, изучения макроэкономических показателей и поддержки инвестиционных стратегий. В README сообщается о результатах лучше других сравниваемых моделей, но подробности оценки не приведены. Модель распространяется в формате PyTorch по лицензии Apache-2.0. Она рассчитана на финансовые тексты на бразильском португальском; заявленные области применения не гарантируют качество инвестиционных решений. Контекст ограничен 512 токенами.

gtfintechlab/FOMC-RoBERTa — модель RoBERTa, дообученная командой Financial Services Innovation Lab при Georgia Tech для классификации высказываний Федерального комитета по операциям на открытом рынке США (FOMC) по тональности денежно-кредитной политики: dovish, hawkish или neutral. Модель опубликована для работы, связанной со статьёй ACL 2023 «Trillion Dollar Words: A New Financial Dataset, Task & Market Analysis». Она принимает текст и возвращает метку класса; LABEL_0 соответствует dovish, LABEL_1 — hawkish, LABEL_2 — neutral. Модель предназначена для анализа коммуникаций центрального банка и финансовых текстов, в частности для определения сигналов о смягчении или ужесточении политики. Поддерживаемый язык — английский. Доступные файлы указаны в формате PyTorch. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.

GLaMM-GranD-Pretrained — предварительно обученная мультимодальная модель MBZUAI для понимания изображений на уровне областей и сегментационных масок. Она обучена на наборе GranD, созданном автоматизированным конвейером разметки: в нём 7,5 млн уникальных понятий связаны с 810 млн областей изображений, каждая из которых имеет маску сегментации. Модель основана на архитектуре LLaVA и использует плотную архитектуру LISAForCausalLM; содержит 6,6 млрд параметров и поддерживает контекст до 4096 токенов. В метаданных Hugging Face основная задача обозначена как генерация текста, однако описание датасета указывает на визуальное понимание областей и сегментацию. Доступны веса PyTorch, лицензия — Apache-2.0. Модель подходит для экспериментов и задач визуального диалога, требующих связывать понятия с областями изображения и масками. Карточка не приводит сведения о языках, конкретных инструкциях по использованию или оценках качества; генерация масок как выходная возможность не подтверждена метаданными, поэтому её следует считать ограниченно описанной.

Модель yuanzhoulvpi/llava_qwen15-4b-chat_openai-clip-vit-large-patch14-336 — мультимодальная чат-модель семейства LLaVA, собранная на основе Qwen1.5-4B-Chat и визуального энкодера openai/clip-vit-large-patch14-336. Разработчик обучал её с использованием LoRA и DeepSpeed ZeRO-2 на наборе LLaVA-CC3M-Pretrain-595K. Модель принимает изображения вместе с текстовыми запросами и генерирует текстовые ответы. Она предназначена для диалога по изображениям и визуальных вопросов и ответов; в карточке заявлены китайский и английский языки. Репозиторий содержит веса в формате Safetensors и распространяется по лицензии Apache-2.0. Карточка не приводит оценок качества или подробностей ограничений, поэтому пригодность для конкретных сценариев стоит проверять на собственных данных. Указанный обучающий набор относится к предварительному обучению LLaVA.

Math-LLaVA — открытая мультимодальная языковая модель, созданная дообучением LLaVA-1.5-13B на отобранных данных MathV360K, часть которых была синтезирована с помощью GPT-4 Vision. Модель разработана для исследований мультимодального рассуждения и ответов на вопросы по изображениям, особенно в математических задачах. Модель имеет плотную архитектуру LlavaLlamaForCausalLM и около 12,9 млрд параметров. Она принимает изображения и текст, а отвечает текстом; контекст составляет 4096 токенов. Обучение проводилось на инструкционных данных MathV360K, а оценка — на трёх бенчмарках мультимодального математического и междисциплинарного рассуждения. Модель предназначена прежде всего для исследователей и энтузиастов компьютерного зрения, NLP и машинного обучения. Карточка указывает исследовательское назначение, но сама по себе эта оговорка не определяет зрелость модели: Math-LLaVA представляет собой готовый чекпойнт для практического применения и экспериментов. Условия лицензии в предоставленных данных не описаны.

Mitra Bo-Zh Tagger — модель проекта MITRA на архитектуре Qwen3.5, дообученная для лингвистической разметки классического тибетского текста в транслитерации Wylie и буддийского китайского. Она обрабатывает текст одним проходом: делит его на предложения и слова, присваивает словам укрупнённые части речи, отмечает группы слов, соответствующие санскритским лексемам или составным словам, а для китайского восстанавливает пунктуацию. Вывод оформляется в заданной текстовой схеме с тегами частей речи и границами санскритских единиц. Модель содержит 7,2 млрд параметров, принимает текстовый запрос без шаблона чата и имеет контекст длиной до 262 144 токенов. Однако обучающие примеры рассчитаны на фрагменты длиной примерно до 1 000 символов Wylie для тибетского и до 200 символов для китайского; более длинные тексты рекомендуется разбивать на части. В тестах README сообщает F1 границ слов 0,95 для тибетского и 0,94 для китайского, точность частей речи 0,94 для обоих языков и F1 границ предложений 0,87 и 0,81 соответственно. Разметка санскритских единиц слабее остальных компонентов. Модель создана проектом MITRA на основе этапа 2 Qwen3.5-9B проекта MITRA, который продолжительно обучался на буддийских текстах на санскрите, тибетском и китайском языках, а также параллельных данных. Распространяется по лицензии Apache-2.0. Проверочные данные небольшие, а эталонные аннотации были исправлены моделью и не прошли проверку человеком; качество может снижаться на небуддийских регистрах классического китайского и тибетского.

Aurigene AI разместила зеркальную копию molt5-large-smiles2caption — модели на архитектуре T5 для генерации текстового описания молекулы по строке SMILES. Она предназначена для аннотирования результатов скрининга и краткого описания библиотек молекул в задачах поиска и оптимизации лекарственных соединений. Модель содержит 385,2 млн параметров и распространяется в формате PyTorch через Transformers. Модель преобразует текстовое представление молекулы в текстовую подпись на естественном языке. Карточка указывает, что исходная модель опубликована авторами работы «Translation between Molecules and Natural Language»; лицензия — Apache-2.0.

Модель vjosap/moralBERT-predict-subversion-in-text — классификатор текста из семейства MoralBERT, разработанного авторами исследования MoralBERT. Она предсказывает наличие морального измерения «авторитет/подрыв авторитета» (Authority/Subversion) в тексте в рамках Теории моральных оснований. MoralBERT основан на BERT и дообучен на размеченных текстах социальных сетей; отдельные модели отвечают за отдельные моральные измерения. Модель принимает текст и выдаёт результат классификации. Разработчики описывают MoralBERT как инструмент анализа моральных установок в общественных дискуссиях; в исследовании отмечены различия качества между обучением и тестированием внутри и вне домена. Репозиторий модели распространяется по лицензии MIT.

mPLUG-Owl2-Llama2-7B — мультимодальная модель семейства mPLUG-Owl2, разработанная Alibaba и опубликованная в экосистеме DAMO Academy. Модель сочетает трансформерную архитектуру с языковой основой Llama 2 и предназначена для диалогового взаимодействия с мультимодальными данными. Модель рассчитана на англоязычные сценарии, в которых требуется анализ изображений и формирование ответов в формате диалога: описание визуального содержимого, ответы на вопросы по изображениям и интерпретация пользовательских запросов с учётом визуального контекста. Размер модели составляет 6,6 млрд параметров, а нативная длина контекста — 2048 токенов. Для работы используется PyTorch и библиотека Transformers. Модель распространяется по лицензии Apache-2.0. Карточка содержит ограниченное описание возможностей, поэтому конкретные показатели качества, поддерживаемые форматы входных данных и рекомендации по развёртыванию не определены.

Koichi Yasuoka разработал небольшую модель RoBERTa, предварительно обученную на корпусе CC-100 для белорусского языка. Это плотная трансформерная модель с 17,9 млн параметров и контекстом до 128 токенов; она предназначена для заполнения пропусков в тексте и может служить основой для дообучения на задачах разметки частей речи, синтаксического анализа зависимостей и других задачах обработки белорусского языка. Модель принимает текст с маскированным токеном и предсказывает подходящее заполнение. Для использования доступны веса PyTorch и загрузка через Transformers. Распространяется по лицензии CC-BY-SA-4.0, требующей указания авторства и сохранения той же лицензии при распространении производных материалов.

fxmarty/tiny-doc-qa-vision-encoder-decoder — компактная модель для ответов на вопросы по изображениям документов. Репозиторий fxmarty размечен для задачи document-question-answering и содержит архитектуру vision-encoder-decoder; карточка предлагает запуск через соответствующий pipeline Transformers. Модель принимает изображение документа и вопрос в текстовой форме, а выдаёт текстовый ответ. Карточка указывает, что модель предназначена только для тестирования, поэтому её возможности и качество не следует считать подтверждёнными для производственного применения. Лицензия — MIT.

Unicosys Hypergraph Knowledge Model — обучаемая модель встраивания знаний, созданная конвейером Unicosys для представления единого гиперграфа доказательств по делу 2025-137857. Она связывает финансовые транзакции, электронную переписку, юридические доказательства и отношения между сущностями в общей структуре знаний. Модель использует структурные векторы узлов размерностью 128 и текстовые векторы размерностью 256. Текстовый кодировщик построен на двухслойном Transformer с четырьмя головами, скрытое представление имеет размерность 256. В README указана возможность дообучения для предсказания связей. Модель и закодированные графовые данные распространяются в формате Safetensors; лицензия — MIT. Модель специализирована на одном графе доказательств, поэтому применимость к другим делам или графам зависит от подготовки данных и дообучения. README не сообщает оценок качества или результатов проверки.