I.3Извлечение и структурирование данных

EnvRoBERTa-base — языковая модель семейства RoBERTa, разработанная командой ESGBERT для лучшего понимания экологических текстов в области ESG. Модель дополнительно предварительно обучена на корпусе экологических разделов годовых и отчётов об устойчивом развитии, а также корпоративных и общих новостей. Модель содержит 151,8 млн параметров, принимает текст и поддерживает контекст до 514 токенов. Основная задача в каталоге Hugging Face — fill-mask: предсказание пропущенных токенов в тексте. Она предназначена для анализа и обработки англоязычных материалов по экологической тематике и ESG. Авторы рекомендуют EnvironmentalBERT-base как более быструю и менее требовательную к ресурсам альтернативу с лишь немного меньшим качеством. Модель распространяется по лицензии Apache-2.0.

CMB-ClimateModernBERT/F_CX — англоязычная encoder-only модель семейства ModernBERT, разработанная как часть проекта ClimateModernBERT. Это версия Phase 1, полученная продолжением предобучения ModernBERT-Base на корпусе Climate Web, отфильтрованном по тематике климата. Модель содержит 149 млн параметров, использует архитектуру ModernBertForMaskedLM и поддерживает контекст до 8192 токенов. Модель предназначена для исследований в области обработки климатических текстов и может служить энкодером для дообучения на классификацию, многометочную разметку и поиск по корпоративной отчётности, документам государственной политики, научным публикациям и новостям о климате. В качестве masked language model она также решает задачу заполнения пропусков в тексте. В описанной оценке на девяти климатических NLP-бенчмарках средний F1 составил 74,1; для общего использования авторы рекомендуют другую, объединённую модель из семейства. Модель работает только с английским языком и не является инструкционной системой; её оценки не дают калиброванных гарантий фактической точности. Длинный контекст не был полностью проверен в приведённой оценке, а выводы о составе корпуса относятся к климатическому NLP. README не сообщает лицензию весов.

dascim/juribert-base — базовая версия семейства JuriBERT, разработанного исследователями École Polytechnique совместно с HEC Paris. Это плотная модель BERT с 137,8 млн параметров, обученная с нуля на французских юридических текстах: материалах Légifrance, обезличенных судебных решениях и документах дел Кассационного суда. Модель предназначена прежде всего для заполнения пропусков в тексте; её контекстные представления также можно использовать как признаки для последующих задач обработки юридических документов. JuriBERT ориентирована на французский язык и юридическую область. Длина контекста составляет 512 токенов. Модель доступна в формате safetensors и предназначена для использования с библиотекой Transformers. Лицензия — MIT. Обучение на специализированном корпусе делает модель подходящей для французской юридической терминологии и текстов, однако карточка не подтверждает качество на конкретных downstream-задачах. Контекст ограничен 512 токенами, поэтому длинные документы потребуется обрабатывать частями.

KoELECTRA v2 Base Generator — предварительно обученная языковая модель для корейского языка от monologg, построенная на архитектуре ELECTRA. В метаданных указаны 20,8 млн параметров, контекст до 512 токенов и класс ElectraForMaskedLM; модель опубликована в формате PyTorch и предназначена для задачи заполнения пропусков в тексте. Модель подходит для подстановки пропущенных слов и получения контекстных представлений корейского текста в приложениях на Transformers. Для загрузки README приводит ElectraModel и ElectraTokenizer из библиотеки Transformers. Модель распространяется по лицензии Apache-2.0.

BERTikal (legalnlp-bert) — модель BERT-base, разработанная Фелипе Майей Поло и соавторами для обработки бразильского юридического языка. Её обучили на юридических текстах Бразилии, продолжив обучение с контрольной точки BERTimbau. Это регистрозависимая модель с архитектурой BERT и 136,1 млн параметров; она принимает текстовые последовательности длиной до 512 токенов и предсказывает пропущенные токены. Модель предназначена для задач обработки юридических текстов на бразильском португальском, в том числе для заполнения масок и получения контекстных представлений текста. Её можно использовать как основу для прикладных систем анализа бразильских правовых документов. Репозиторий содержит веса PyTorch. Лицензия — MIT.

Экспериментальный текстовый адаптер lilquail для LingBot-Vision-Giant, обученный связывать текстовые признаки Qwen3.5-0.8B с патч-признаками изображения. Обучалась только выравнивающая голова примерно на 1,58 млн параметров; признаки 2 048 тегов сохранены вместе с адаптером. Голова проецирует признаки изображения и текста в нормализованное 256-мерное пространство и оценивает сходство для каждого патча и тега. Модель предназначена для поиска тегов на изображении и получения пространственных карт отклика по запросам, например для определения областей, связанных с понятием «меч». Обучение проводилось с разметкой на уровне изображения на датасете Booru-Essence; доступны сохранённые запросы, а для новых текстовых запросов при инференсе требуется загрузить Qwen3.5-0.8B. Качество и пространственное поведение зависят от изображения, запроса и разрешения, а вне обученного словаря результаты могут быть ограничены. Адаптер распространяется по лицензии CC BY-NC-SA 4.0.

LLaVA-13b-delta-v1-1 — delta-чекпойнт мультимодального чат-бота LLaVA, разработанного командой LLaVA. Это авторегрессионная трансформерная модель семейства LLaVA с плотной архитектурой на 12,9 млрд параметров. Delta-файл нельзя использовать самостоятельно: его необходимо применить к исходным весам LLaMA, чтобы получить полные веса LLaVA. Модель предназначена для диалога по изображениям, описания визуального содержимого и ответов на вопросы, требующие визуального рассуждения. Она обучена на 595 тысячах пар изображение–текст из CC3M и 150 тысячах примеров мультимодального следования инструкциям, сгенерированных GPT. Контекст — 2048 токенов. Карточка описывает исследовательское применение; лицензия — Apache License 2.0. Модель демонстрировала результаты на предварительном наборе визуальных вопросов по изображениям COCO и на ScienceQA. При этом README предупреждает, что delta-чекпойнт не является готовой к запуску моделью и требует исходных весов LLaMA. В метаданных задача указана как text-generation, хотя практическое назначение LLaVA мультимодально.

LLaVA-Gemma-2b-LORA — русскоязычная модель компьютерного зрения и диалога от DeepVК, созданная на базе google/gemma-2b-it по схеме LLaVA с помощью LoRA и последующей настройкой по инструкциям. Она принимает изображения вместе с текстовыми вопросами и генерирует текстовые ответы, в том числе на русском и английском языках. Модель предназначена для визуальных вопросов и ответов, описания изображений и диалога о визуальном содержимом. При обучении использовались ShareGPT4V, русскоязычный набор LLaVA-Instruct-ru и переведённая часть GQA. Репозиторий содержит веса в формате safetensors; для запуска предусмотрена библиотека Transformers. Лицензия — Apache-2.0. В опубликованной оценке модель показала результаты на GQA и MMBench, включая русские варианты тестов. Это компактная модель с меньшими результатами, чем у приведённой в карточке LLaVA-Saiga-8B; метаданные и README не сообщают длину контекста и число параметров итоговой VLM.

LLaVA-Lightning-7B-delta-v1-1 — дельта-веса модели LLaVA, разработанной как открытый чат-бот с поддержкой изображений. Модель основана на авторегрессионной архитектуре Transformer и LLaMA; для получения рабочих весов дельту необходимо применить поверх исходных весов LLaMA. Размер модели составляет 6,6 млрд параметров, контекст — 2048 токенов. Модель предназначена для диалога по изображениям, их подробного описания и визуальных рассуждений. В обучении использовались пары изображение–текст из LAION, CC и SBU с подписями BLIP, а также данные мультимодального следования инструкциям, созданные GPT. В README описаны предварительные оценки на визуальных вопросах по изображениям COCO и на ScienceQA. Карточка позиционирует LLaVA как инструмент для исследований мультимодальных моделей и чат-ботов, а целевой аудиторией называет исследователей и энтузиастов в области компьютерного зрения и машинного обучения. Репозиторий содержит дельта-веса, которые нельзя использовать отдельно. Лицензия — Apache 2.0.

LLaVA-v1-0719-336px-LoRA-merge-Vicuna-13B-v1.3 — мультимодальная чат-модель проекта LLaVA, основанная на архитектуре Transformer и дообученная на LLaMA/Vicuna с данными для следования мультимодальным инструкциям. Вариант с разрешением изображений 336 px содержит 12,9 млрд параметров и имеет контекст 2048 токенов. Модель принимает изображения и текстовые запросы и генерирует текстовые ответы. Она предназначена для диалога об изображениях, их подробного описания и визуальных вопросов, включая задачи на рассуждение; карточка также описывает оценивание на ScienceQA. Разработчики позиционируют LLaVA для исследований мультимодальных моделей и чат-ботов, а также для использования исследователями и энтузиастами в компьютерном зрении и машинном обучении. Модель обучена на парах изображение–текст и мультимодальных инструкциях, сгенерированных GPT. В карточке не указана лицензия, поэтому условия использования по ней определить нельзя. Как исследовательский чат-чекпойнт, она может ошибаться при визуальном анализе и генерации ответов; приведённая оценка основана на небольшом наборе визуальных вопросов и ScienceQA.

Federal Reserve Stance Detection Model — модель классификации текста от World of Central Banks, дообученная на базе roberta-base для определения позиции в высказываниях Федеральной резервной системы. Она присваивает тексту одну из четырёх меток: нейтральная позиция, поддержка ограничительной денежно-кредитной политики (ястребиная), поддержка стимулирующей политики (голубиная) или отсутствие отношения к денежной политике. Модель предназначена для анализа стенограмм заседаний ФРС и других англоязычных финансовых и экономических коммуникаций, в частности для исследовательской и практической работы с тональностью денежно-кредитных высказываний. Архитектура — RoBERTa с классификационной головой; объём — 454,1 млн параметров, максимальная длина контекста — 514 токенов. Обучение проводилось на размеченных предложениях из набора gtfintechlab/federal_reserve_system. Модель рассчитана на английский язык и узкую задачу определения позиции по денежной политике; метки не дают более детальной интерпретации экономического смысла. Лицензия CC-BY-NC-SA 4.0 требует указания авторства, распространения производных материалов на тех же условиях и ограничивает коммерческое использование.

Это модель классификации текста из семейства MoralBERT, опубликованного исследователями во главе с Vjosa Preniqi. Она предназначена для определения выраженности категории Purity/Degradation («чистота/деградация») в тексте на основе теории моральных оснований. MoralBERT состоит из BERT-моделей, дообученных на размеченных данных; для отдельных моральных измерений используются отдельные классификаторы. Разработчики описывают применение к социальным дискуссиям и текстам, включая публикации в социальных сетях. Репозиторий модели указывает лицензию MIT. Оценки отражают заданную теоретическую схему и зависят от обучающих данных и контекста текста.

unslothai/other — репозиторий модели на Hugging Face от Unsloth AI. Метаданные относят её к архитектуре LLaMA и задаче извлечения признаков; модель использует библиотеку Transformers и хранится в формате safetensors. Её можно применять для извлечения представлений из входных данных в задачах, где требуется получить признаки модели. Доступные сведения не устанавливают размер модели, поддерживаемые языки, длину контекста, конкретные сценарии применения или лицензию, поэтому эти характеристики нельзя надёжно описать.

Модель анализа эмоций на базе IndoBERT, предназначенная для классификации предложений и абзацев на индонезийском языке. Она оценивает вероятность шести эмоций: гнева, грусти, радости, любви, страха и отвращения; результаты представлены в процентах. Архитектура — BERT для классификации последовательностей, размер — 151,6 млн параметров, максимальная длина контекста — 512 токенов. Модель обучена на индонезийских твитах и основана на предварительно обученной IndoBERT Base Model P1. Подходит для анализа эмоциональной окраски индонезийских публикаций и сообщений. Ограничение — классификатор настроен на шесть перечисленных эмоций и обучен на данных из Twitter, поэтому его результаты для других языков, жанров и контекстов могут быть ненадёжны. Формат весов — PyTorch; сведения о лицензии в доступных данных отсутствуют.

syssec-utd/py313-pylingual-v3-mlm — модель семейства RoBERTa для заполнения пропусков в тексте. Она дообучена на датасете syssec-utd/segmentation-py313-pylingual-v3 и доступна в формате safetensors через библиотеку Transformers. Модель содержит 136,3 млн параметров и поддерживает контекст до 1026 токенов. Модель подходит для предсказания скрытых токенов и анализа контекста вокруг пропусков. README не описывает целевую область применения, языки, качество или ограничения модели. Лицензия в предоставленных данных не указана.

Карточка модели nityaak/qwen3-4b-stance-matrix-mtcsd-qlora на Hugging Face совпадает с карточкой nityaak/qwen3-4b-stance-matrix-semeval-mtcsd-ezstance-qlora, поэтому описание составлено по ней. Модель nityaak — дообученная версия Qwen3-4B, подготовленная с использованием Unsloth и библиотеки TRL. Она предназначена для генерации текста в диалоговом формате и может применяться для задач классификации позиции в тексте и работы с матрицей позиций в сценариях SemEval, MT-CSD и EzStance. Модель содержит 3,7 млрд параметров, использует плотную архитектуру Qwen3ForCausalLM и поддерживает контекст до 40 960 токенов. Модель принимает текст и выдаёт текст. В метаданных указан английский язык. Базовая модель — unsloth/Qwen3-4B-unsloth-bnb-4bit; лицензия — Apache-2.0. README не приводит оценок качества или подробностей обучающих данных, поэтому пригодность результатов для конкретных наборов данных стоит проверять отдельно.

Koichi Yasuoka разработал roberta-large-japanese-aozora — японскую языковую модель RoBERTa, предварительно обученную на текстах библиотеки 青空文庫 с токенизатором Japanese-LUW-Tokenizer. Модель содержит 659 млн параметров, использует архитектуру RoBERTa для masked language modeling и принимает последовательности длиной до 512 токенов. Модель предназначена для заполнения пропусков в японском тексте и дообучения для последующих задач, включая разметку частей речи и синтаксический анализ зависимостей. Для загрузки README предлагает Transformers AutoTokenizer и AutoModelForMaskedLM. Модель обучена на литературных текстах 青空文庫, поэтому её пригодность для современных разговорных, специализированных или иных жанров может отличаться. Репозиторий распространяется по лицензии CC BY-SA 4.0.

SELFormer — языковая модель на архитектуре RoBERTa с 113,9 млн параметров, опубликованная HUBioDataLab. Она предназначена для заполнения масок: модель предсказывает пропущенные токены в тексте. Репозиторий содержит веса PyTorch; контекст модели составляет 514 токенов. Модель можно применять для восстановления пропусков в тексте и получения контекстных представлений для задач, основанных на маскированном языковом моделировании. README не содержит дополнительных сведений о специализированной области или языках обучения. Лицензия репозитория — GPL.

tomofi/trocr-captcha — модель распознавания текста на изображениях CAPTCHA, основанная на архитектуре VisionEncoderDecoderModel и опубликованная на Hugging Face. В карточке указана метрика CER 0,0019; подробности набора данных и условий оценки не приведены. Модель принимает изображение и выдаёт текст. Репозиторий содержит веса PyTorch, а лицензия — MIT. README содержит лишь метрику и упоминание кода обучения, поэтому область применимости и качество на CAPTCHA других типов по этим данным оценить нельзя.

Модель pittawat/vit-base-uppercase-english-characters — дообученная версия Vision Transformer ViT-Base от Google для классификации изображений с заглавными английскими буквами. Она обучена на наборе данных pittawat/uppercase-english-characters и предназначена для распознавания символа на изображении. Архитектура — ViTForImageClassification с 113,2 млн параметров; веса доступны в форматах PyTorch и Safetensors. На оценочном наборе модель показала точность 0,9573 и loss 0,3160. Эти результаты относятся к указанному набору данных и не гарантируют такую же точность на других изображениях. Модель выпущена под лицензией Apache-2.0.

Crystalcareai/Whisper-Medicalv1 — экспериментальная рабочая версия дообучения Distil-Whisper Large для распознавания медицинской речи. Модель принимает аудио и генерирует текстовую транскрипцию; архитектура основана на Whisper encoder-decoder. README описывает базовую модель distil-large-v3 как англоязычную и оптимизированную для точной транскрибации длинных записей, включая последовательную обработку аудио дольше 30 секунд. Метаданные указывают 905,2 млн параметров и форматы Flax, ONNX и Safetensors. Модель предназначена для расшифровки медицинской речи и длинных аудиозаписей. README предупреждает, что это рабочая версия, которая может часто меняться, поэтому характеристики и качество конкретного чекпойнта могут быть нестабильными. В README приведены показатели скорости и точности для базового distil-large-v3, но отдельные результаты медицинского дообучения не указаны. Лицензия репозитория — MIT.

Модель разработана gary109 и представляет собой вариант wav2vec2-base, дообученный для распознавания речи на наборе ONSET-DRUMS_FOLD_1 из AI_LIGHT_DANCE. Это модель Wav2Vec2ForCTC с 113,3 млн параметров; репозиторий содержит веса PyTorch. В README указаны результаты оценки: loss 0,4630 и WER 0,2145. Модель принимает аудио и предназначена для преобразования речи в текст. Карточка не раскрывает сведения о языках, контексте применения и ограничениях качества; по названию набора данных можно предположить связь с барабанными партиями, но README не уточняет, что именно модель распознаёт. Лицензия в предоставленных данных не указана.

BatteryBERT — англоязычная модель на архитектуре BERT, разработанная Shu Huang и Jacqueline Cole для работы с текстами исследований аккумуляторов. Модель дообучена от bert-base-cased на корпусе из 400 366 научных статей о батареях, опубликованных в 2000 — июне 2021 года; используется задача маскированного языкового моделирования. Несмотря на название в заголовке README, карточка описывает регистрозависимую версию. Модель подходит для предсказания замаскированных слов и извлечения контекстных признаков для последующей тонкой настройки на классификацию текстов, разметку токенов и ответы на вопросы по материалам об аккумуляторах. Она содержит 135,5 млн параметров, принимает текстовые последовательности длиной до 512 токенов и выдаёт текстовые предсказания. Модель распространяется по лицензии Apache-2.0. Она не предназначена для генерации текста; применимость к темам за пределами аккумуляторных исследований может быть ограничена специализацией обучающего корпуса.

RJ3vans/CCVspanTagger — модель на архитектуре BERT для разметки токенов, связанных с составными предложениями. Она определяет, входят ли токены в составную клаузу; в примере из карточки союз «and» выделяется квадратными скобками. Модель предназначена для этапа разметки в системах упрощения текста и обработки предложений. Модель дообучена для классификации токенов на наборе данных, описанном в докторской диссертации Райана Эванса о упрощении предложений. Веса доступны в формате PyTorch; размер модели — 432,3 млн параметров, максимальная длина контекста — 512 токенов. Карточка не сообщает лицензию, поэтому условия распространения и использования определить нельзя.

CeLLaTe-tapt-bioformer16l-tokenizer-original-baseline_no_groupText — дообученная модель семейства BERT, созданная на основе bioformers/bioformer-16l и обученная на наборе Mardiyyah/TAPT_CeLLaTe2.0. Она предназначена для заполнения пропусков в тексте: модель предсказывает замаскированные токены с учётом окружающего контекста. Модель содержит 50,3 млн параметров, использует архитектуру BertForMaskedLM и принимает последовательности текста с контекстом до 1024 токенов. Карточка сообщает английский язык и результаты оценки: loss 1,3755, accuracy 0,7221 и perplexity 3,9572. Весы доступны в формате safetensors. Лицензия — Apache-2.0.

DanTagGen-alpha — модель KBlueLeaf для автоматической генерации тегов к изображениям в стиле Danbooru. Она предназначена для сценариев, где по уже заданным метаданным и набору общих тегов требуется дополнить описание изображения: например, для подготовки промптов, каталогизации иллюстраций и интеграции в интерфейсы для генерации или анализа изображений. Модель обучена с нуля на архитектуре LLaMA примерно со 400 млн параметров, которую разработчик условно называет NanoLLaMA. Это текстовая модель генерации, работающая с заданным структурированным форматом, включающим рейтинг, автора, персонажей, правообладателей, соотношение сторон, целевой объём тегов и список общих тегов. Она обучалась на данных KBlueLeaf/danbooru2023-sqlite; в метаданных указаны английский язык и библиотека Transformers. Доступны варианты FP16 и квантованные GGUF-модели с точностью 8 и 6 бит, рекомендованные для запуска через llama.cpp или llama-cpp-python. Сильной стороной модели является специализированная архитектура ввода и ориентация на дополнение тегов изображений, а также возможность быстрого локального запуска благодаря небольшому размеру и GGUF-вариантам. При этом это альфа-версия без приведённых количественных метрик качества, поэтому точность и полнота генерации не определены. Модель обучалась на отфильтрованных данных Danbooru, включая контент с ограничениями по аудитории, что следует учитывать при использовании. Лицензия — OpenRAIL.

Koichi Yasuoka разработал модель DeBERTa V2, предварительно обученную на японской Википедии и текстах 青空文庫. Это языковая модель с 137,8 млн параметров для заполнения пропусков в тексте; её также можно дообучать для разметки частей речи, синтаксического анализа зависимостей и других задач обработки японского языка. Модель принимает текст с маскированными фрагментами и предсказывает подходящие токены. Контекст ограничен 512 токенами. Модель основана на архитектуре DeBERTa V2, распространяется в формате PyTorch и лицензирована по CC BY-SA 4.0. Она подходит для экспериментов и прикладных задач на японских текстах; для задач разметки и синтаксического анализа потребуется отдельное дообучение.

Модель emotion-sphobert разработана на основе vinai/phobert-base-v2 и дообучена для распознавания эмоций во вьетнамских текстах. Это RoBERTa-энкодер с классификационной головой и mean pooling, содержащий 162,4 млн параметров; для классификации текста модель принимает последовательности длиной до 258 токенов и относит их к одному из семи классов: радость, грусть, гнев, страх, отвращение, удивление или нейтральная и прочая эмоция. Модель предназначена для анализа эмоциональной окраски коротких сообщений вьетнамских социальных сетей, в том числе для сортировки и мониторинга пользовательских публикаций. Она обучена на наборе VSMEC из 6 927 размеченных примеров и распространяется в формате safetensors по лицензии Apache-2.0. В README указаны нулевые Accuracy, Macro-F1, Precision и Recall, поэтому заявленные результаты не подтверждают пригодность модели для практического применения без дополнительной проверки.

Remidesbois/Falcon-OCR-Poneglyph — модель распознавания французского текста в речевых пузырях манги, разработанная на основе Falcon-OCR и дообученная на проверенных транскрипциях корпуса Poneglyph. На вход подаётся уже обрезанный пузырь, на выходе модель выдаёт распознанный текст; детектор областей и разметки страницы не обучался. Модель сохраняет архитектуру Falcon-OCR и предназначена для OCR французских реплик в манге. Обучение выполнено полным дообучением на 9707 пузырях. Приведённые в карточке метрики CER 0,5261% и WER 1,8267% относятся к отдельному оценивавшемуся чекпойнту, а не к опубликованным весам после переобучения на всём корпусе. Независимой тестовой оценки опубликованного чекпойнта нет; результаты также не показывают обобщение на полностью неизвестные серии манги. Модель распространяется по лицензии Apache-2.0. Лицензия модели не распространяет права на исходные изображения манги. Для инференса описан совместимый режим с FP32 master weights и BF16 autocast; прямое хранение весов в BF16 может привести к дополнительным отличиям. Для распознавания требуется предварительно выделить речевые пузыри.

GovernanceBERT-base — языковая модель на архитектуре RoBERTa, разработанная авторами исследования о применении NLP для измерения ESG-коммуникации. Она дообучена предварительной языковой тренировкой на основе DistilRoBERTa и предназначена для анализа текстов по вопросам корпоративного управления в контексте ESG. Модель обучалась на материалах годовых и отчетов об устойчивом развитии, а также корпоративных и общих новостях. Задача в карточке Hugging Face — заполнение пропусков в тексте: модель предсказывает токены вместо маскированных фрагментов. Английская версия содержит около 95,2 млн параметров и поддерживает контекст до 514 токенов. Модель подходит для NLP-анализа англоязычных текстов о корпоративном управлении и ESG, в том числе как компонент исследовательских и аналитических процессов. Она не предназначена сама по себе для оценки компаний или выдачи готовых ESG-рейтингов. Лицензия — Apache-2.0.