I.3Извлечение и структурирование данных

Wi/arxiv-topics-distilbert-base-cased — модель классификации текста на базе DistilBERT, разработанная для определения основной категории научной статьи по её аннотации, заголовку и списку авторов. Она обучена на подмножестве данных, полученных через API arXiv, и предназначена для тематической разметки публикаций из этой области. Модель принимает текстовые сведения о статье и выдаёт метку категории верхнего уровня. Использует архитектуру DistilBertForSequenceClassification, работает с текстами длиной до 512 токенов и рассчитана на английский язык. Доступна в формате PyTorch по лицензии Apache-2.0. Подходит для автоматической сортировки и предварительной категоризации научных публикаций. Обучение на подмножестве данных arXiv ограничивает основания для применения к другим предметным областям; качество классификации за пределами описанного сценария не установлено.

Assay-1.7b — англоязычная модель для структурированных решений, разработанная командой Assay на базе Qwen3-1.7B-Base. Это дообученная плотная авторегрессионная модель с объединёнными весами LoRA-адаптера; она обрабатывает текстовое состояние и именованные вопросы трёх типов: bool, choice и score. Для каждого вопроса модель выдаёт распределение вероятностей по вариантам, оценку уверенности, оценку наличия подтверждающих данных и множество вариантов, которые нельзя исключить. Ответы считываются из логитов меток вариантов за один проход без свободной генерации текста. Контекст модели — до 32 768 токенов. Модель предназначена для классификации и принятия ограниченных решений по текстовым данным, в том числе для пакетной оценки нескольких вопросов по одному состоянию и обхода дерева решений. В README сообщается точность 0,752 на наборе невиданных при обучении задач; для bool- и choice-вопросов модель может воздерживаться от ответа, если уверенность недостаточна. Калибровка и пороги воздержания зависят от распределения данных и не гарантируют качество на каждом отдельном ответе или на пользовательских данных. Модель обучалась на английских данных и принимает только текст. Она не предназначена для арифметики, подсчёта, сравнения дат или многошаговых рассуждений в одном проходе; точность снижается, если состояние слабо связано с вопросом. Оценка evidence обучена на грубых отрицательных примерах с заменой фрагмента. Лицензия — Apache-2.0.

AraBERTv0.2-base — предварительно обученная языковая модель для арабского языка, разработанная командой AraBERT и основанная на архитектуре Google BERT. Она использует конфигурацию BERT-Base и содержит 162,4 млн параметров по метаданным; в карточке семейства для варианта v0.2-base также приведена оценка 136 млн параметров. Модель обучена предсказывать скрытые токены и предназначена для заполнения пропусков в арабском тексте, а также для последующей адаптации к задачам понимания языка. Предобучение проводилось на корпусе объёмом около 77 ГБ, включающем арабскую Википедию, OSCAR, OSIAN, 1.5B Arabic Corpus и новостные статьи Assafir. Контекст модели — до 512 токенов. Для обработки текста рекомендуется использовать предварительную обработку из пакета arabert, в частности нормализацию пробелов вокруг пунктуации и цифр; вариант v0.2-base не требует предварительной сегментации префиксов и суффиксов Farasa. Модель подходит как основа для адаптации к анализу тональности, распознаванию именованных сущностей и ответам на вопросы на арабском языке. Это базовая модель, а не готовая специализированная система: качество на конкретной задаче зависит от дальнейшей настройки и предобработки. Лицензия в предоставленных источниках не указана.

dbmdz/bert-base-german-europeana-uncased — модель BERT без учёта регистра, созданная командой цифровой библиотеки MDZ Баварской государственной библиотеки. Она предварительно обучена на корпусе газет Europeana объёмом 51 ГБ и примерно 8 млрд токенов, поэтому подходит для анализа исторических немецких текстов. В README упоминаются результаты для распознавания именованных сущностей в исторических текстах; веса можно загружать через Transformers. Модель содержит 137,8 млн параметров, поддерживает контекст до 512 токенов и работает с немецким языком. Доступны форматы PyTorch, TensorFlow, Flax и Safetensors. Лицензия — MIT. Карточка не описывает ограничения качества или конкретные метрики для задач.

dkleczek/bert-base-polish-uncased-v1 — uncased польская языковая модель BERT, созданная Дареком Клечеком (Darek Kłeczek). Она предназначена для заполнения замаскированных фрагментов текста и дальнейшего дообучения для задач понимания польского языка. Модель основана на архитектуре BERT с 12 слоями, размерностью скрытого состояния 768 и 12 головами внимания; метаданные указывают 159,3 млн параметров и контекст до 512 токенов. Доступны веса PyTorch и Flax. Модель обучалась на польских текстах из Open Subtitles, ParaCrawl и Польского парламентского корпуса. Автор отмечает, что в uncased-варианте некоторые польские символы и диакритические знаки могут некорректно обрабатываться токенизатором после приведения к нижнему регистру; это может особенно влиять на классификацию токенов. Обучающий корпус Open Subtitles также содержал много дубликатов, а обучение не использовало Whole Word Masking. Автор рекомендует cased-вариант. В карточке не указана лицензия.

vblagoje/bert-english-uncased-finetuned-pos — модель на основе BERT, дообученная для разметки частей речи в английском тексте. Она присваивает словам грамматические теги, например существительное, глагол, прилагательное или предлог. Модель содержит 136,7 млн параметров, принимает текст с контекстом до 512 токенов и выполняет классификацию на уровне токенов. Модель подходит для автоматического синтаксического анализа, подготовки корпусов и языковых исследований, а также для добавления грамматических меток в текстовые конвейеры. Карточка перечисляет используемые теги частей речи и примеры. Доступны веса в форматах PyTorch, Flax и safetensors. Лицензия в предоставленных данных не указана.

orai-nlp/bert-medium-sw — компактная модель BERT среднего размера от Orai NLP Technologies, созданная совместно с HiTZ Center при Университете Страны Басков. Она предварительно обучена на подмножестве корпуса CC-100 на суахили объёмом 125 млн токенов для исследования масштабирования BERT в условиях ограниченных ресурсов. Модель имеет 8 слоёв, около 59,2 млн параметров по метаданным, словарь размером 50 000 токенов и контекст до 512 токенов. Модель предназначена для получения векторных представлений текста на суахили, которые можно использовать как основу для задач классификации тем и тональности, а также распознавания именованных сущностей. В опубликованных результатах bert-medium-sw уступает bert-base-sw на указанных тестах, но превосходит mBERT по оценкам тональности и тематической классификации. Доступна по лицензии CC BY 4.0.

PlanTL-GOB-ES разработала испаноязычную биомедицинскую языковую модель на архитектуре RoBERTa для клинических и медицинских текстов. Это предобученная модель заполнения масок: она предсказывает скрытые фрагменты текста и предназначена для дальнейшей настройки под прикладные задачи, например распознавание именованных сущностей и классификацию текстов. Модель содержит 151,8 млн параметров, использует токенизацию BPE с словарём из 52 000 токенов и принимает последовательности длиной до 514 токенов. Для предобучения использован испанский корпус объёмом более миллиарда токенов, включающий биомедицинские материалы и клинические документы. В README описана оценка на задачах распознавания лекарств и химических веществ, опухолевой морфологии и клинических переменных. Модель ориентирована на испанский язык и медицинскую область. Карточка указывает, что готовый сценарий использования — заполнение масок, а для других задач требуется дообучение. Авторы не оценивали систематически смещения; обучающие данные собраны из нескольких веб-источников и клинических текстов. Лицензия — Apache-2.0.

BUD-E-Whisper V1.2 — модель LAION для подробного описания речи по аудиозаписи. Это дообученная версия BUD-E-Whisper V1.1 на датасете majestrino-unified-detailed-captions-temporal; в метаданных указаны архитектура Whisper и 153,1 млн параметров. Модель принимает аудиофрагменты длительностью до 30 секунд и генерирует текстовые описания голоса и речи с временными изменениями. Её можно использовать для разметки характеристик голоса, предполагаемого возраста и гендера говорящего, акцента, эмоционального состояния, манеры речи и качества записи. Модель ориентирована на английскую речь, но может обрабатывать некоторые другие языки, например немецкий. Лицензия — CC BY 4.0. Модель оптимизирована для речи: описания музыки и окружающих звуков могут быть менее содержательными. Она может ошибочно определять гендер говорящего или приписывать ему конкретные эмоции.

Карточка модели manelalab/chrono-bert-v1-20111231 на Hugging Face совпадает с карточкой manelalab/chrono-bert-v1-20231231, поэтому описание составлено по ней. ChronoBERT v1 2023-12-31 — англоязычная модель Songrun He, Linying Lv, Asaf Manela и Jimmy Wu для анализа текста с учётом временной последовательности. Она построена на архитектуре ModernBERT как двунаправленный трансформерный энкодер с 149 млн параметров и контекстом до 8192 токенов; основная задача по карточке — предсказание пропущенного токена. Модель обучена на датированных текстах, чтобы снизить риск утечки информации из будущего и смещения при анализе исторических данных. Её можно применять для восстановления пропусков в тексте, извлечения представлений и задач понимания языка, в том числе для экономического и финансового анализа. В README указано, что модели серии превзошли стандартный BERT по GLUE; эти результаты относятся к серии в целом и не подтверждают отдельную оценку именно версии 2023-12-31. Модель рассчитана на английский язык, использует библиотеку Transformers и распространяется по лицензии MIT. Это энкодер для понимания текста, а не генеративный чат-ассистент; временная согласованность зависит от выбранного временного среза модели и данных.

Карточка модели manelalab/chrono-bert-v1-20121231 на Hugging Face совпадает с карточкой manelalab/chrono-bert-v1-20231231, поэтому описание составлено по ней. ChronoBERT v1 2023-12-31 — англоязычная модель Songrun He, Linying Lv, Asaf Manela и Jimmy Wu для анализа текста с учётом временной последовательности. Она построена на архитектуре ModernBERT как двунаправленный трансформерный энкодер с 149 млн параметров и контекстом до 8192 токенов; основная задача по карточке — предсказание пропущенного токена. Модель обучена на датированных текстах, чтобы снизить риск утечки информации из будущего и смещения при анализе исторических данных. Её можно применять для восстановления пропусков в тексте, извлечения представлений и задач понимания языка, в том числе для экономического и финансового анализа. В README указано, что модели серии превзошли стандартный BERT по GLUE; эти результаты относятся к серии в целом и не подтверждают отдельную оценку именно версии 2023-12-31. Модель рассчитана на английский язык, использует библиотеку Transformers и распространяется по лицензии MIT. Это энкодер для понимания текста, а не генеративный чат-ассистент; временная согласованность зависит от выбранного временного среза модели и данных.

Карточка модели manelalab/chrono-bert-v1-20131231 на Hugging Face совпадает с карточкой manelalab/chrono-bert-v1-20231231, поэтому описание составлено по ней. ChronoBERT v1 2023-12-31 — англоязычная модель Songrun He, Linying Lv, Asaf Manela и Jimmy Wu для анализа текста с учётом временной последовательности. Она построена на архитектуре ModernBERT как двунаправленный трансформерный энкодер с 149 млн параметров и контекстом до 8192 токенов; основная задача по карточке — предсказание пропущенного токена. Модель обучена на датированных текстах, чтобы снизить риск утечки информации из будущего и смещения при анализе исторических данных. Её можно применять для восстановления пропусков в тексте, извлечения представлений и задач понимания языка, в том числе для экономического и финансового анализа. В README указано, что модели серии превзошли стандартный BERT по GLUE; эти результаты относятся к серии в целом и не подтверждают отдельную оценку именно версии 2023-12-31. Модель рассчитана на английский язык, использует библиотеку Transformers и распространяется по лицензии MIT. Это энкодер для понимания текста, а не генеративный чат-ассистент; временная согласованность зависит от выбранного временного среза модели и данных.

ChronoBERT — семейство англоязычных моделей Songrun He, Linying Lv, Asaf Manela и Jimmy Wu для языкового понимания с хронологически согласованным обучением. Эта версия использует архитектуру двунаправленного энкодера ModernBERT с 149 млн параметров и контекстом до 8192 токенов. Она предназначена для предсказания скрытых токенов и анализа текстов, датированных конкретным периодом, чтобы снизить риск использования информации из будущего при историческом анализе и финансовом моделировании. Модель обучалась на открытых текстовых данных с временными метками; подход ChronoBERT направлен на предотвращение утечки данных и смещения заглядывания вперёд. В описании семейства указаны результаты выше стандартного BERT на GLUE, однако это не гарантирует качество для конкретной задачи или инвестиционной стратегии. Лицензия — MIT.

CORe (Clinical Outcome Representations) — модель DATEXIS для прогнозирования диагнозов по клиническим записям о поступлении пациента. Она основана на BioBERT, предварительно обученном на клинических записях, описаниях заболеваний и медицинских статьях с помощью специализированной задачи Clinical Outcome Pre-Training, а затем дообучена для многометочной классификации диагнозов. На вход модель получает текст записи о поступлении, а на выходе формирует оценки для 9237 меток, включающих коды ICD-9 и их текстовые описания. Авторы рекомендуют при использовании выбирать коды ICD-9 из трёх цифр: только они оценивались в исследовании. Архитектура — BERT для классификации последовательностей; модель содержит 135,5 млн параметров и рассчитана на контекст до 512 токенов. Поддерживается английский язык. Модель предназначена для поддержки анализа клинических записей и прогнозирования кодов диагнозов, а не для самостоятельной постановки диагноза. Карточка не сообщает лицензию, поэтому условия повторного использования по имеющимся данным определить нельзя.

DAI-NER-flat — модель Qwen3.5-9B, дообученная командой starride-teklia с помощью LoRA для распознавания именованных сущностей во французских приходских записях XVI–XVIII веков. Она принимает изображения документов и предназначена для извлечения сущностей из исторических рукописей; в карточке указана ширина изображения 1500 пикселей и обучение в течение 10 эпох, около 4 тысяч шагов. Модель хранится в формате safetensors и использует библиотеку PEFT. Лицензия в предоставленных данных не указана.

debertaMPdynamic — дообученная модель orpe42 на базе microsoft/deberta-v3-large для классификации текстовых последовательностей. Она использует архитектуру DeBERTa V2 и содержит 533,8 млн параметров; максимальная длина контекста составляет 512 токенов. Модель принимает текст и выдаёт результат классификации. В README приведены метрики на оценочном наборе: Macro F1 0,6518, Micro F1 0,6962 и Macro ROC AUC 0,9035. Датасет и назначение классов не описаны, поэтому эти показатели не позволяют определить пригодность для конкретной предметной области. Модель распространяется по лицензии MIT.

DiCoW_v3_MLC — модель распознавания речи с учётом диаризации, разработанная командой BUT Speech@FIT Брненского технического университета для соревнования MLC-SLM. Она объединяет Whisper large-v3-turbo с подходом DiCoW: результаты определения говорящих используются как дополнительное условие, чтобы распознавать речь выбранного участника разговора. Модель содержит 905,2 млн параметров и предназначена для расшифровки многоязычных разговоров и встреч; основное внимание уделено английскому языку. Модель дообучена на данных MLC-SLM после обучения на NOTSOFAR-1, AMI Meeting Corpus и Libri2Mix. Для работы с реальными записями ей нужны результаты диаризации; качество распознавания зависит от их точности. В README приведены результаты на наборе разработки MLC-SLM, но они охватывают английские варианты и не гарантируют аналогичное качество для всех поддерживаемых языков. Лицензия репозитория — CC BY 4.0; README также упоминает базовую модель с лицензией MIT и обучающие данные под CC BY 4.0.

Модель asaduas/distilbert-base-uncased-indonesia-squadv2 — дообученная версия DistilBERT для ответов на вопросы по контексту. По названию она предназначена для индонезийского языка; в карточке указана оценка на наборе из 24 952 примеров: exact match 42,30 и F1 54,12. Модель принимает текст вопроса и контекста и предсказывает ответ в формате извлечённого фрагмента текста. Она основана на DistilBERT и поддерживает контекст длиной до 512 токенов. Подходит для систем вопросов и ответов по документам на индонезийском языке; приведённые результаты показывают ограничения точности, поэтому ответы требуют проверки. Лицензия — Apache-2.0.

Модель environmental-due-diligence-model разработана Deepak John Reji и Afreen Aman для классификации текстов в рамках экологической проверки площадок. Она обучена на базе distilbert-base-uncased и предназначена для выявления сведений о загрязнении и мерах по его устранению, как уже проведённых, так и запланированных. Модель может распознавать источник и масштаб загрязнения, виды загрязнителей, их распространение и взаимодействие с подземными, поверхностными и другими водными объектами. Это DistilBERT-классификатор последовательностей для англоязычного текста с контекстом до 512 токенов. Авторы обучали модель 10 эпох на открытых новостных и собственных данных. Репозиторий содержит веса в формате TensorFlow. Лицензия в предоставленных данных не указана.

Finance-Llama-8B — дообученная Tarun7r языковая модель семейства Llama на базе unsloth/Meta-Llama-3.1-8B. Она предназначена для финансовых задач и диалогов: отвечает на вопросы, помогает рассуждать о финансах, распознаёт сущности и тональность, классифицирует темы и обрабатывает многошаговые беседы. Модель использует плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и принимает текст для генерации текста. Указанная длина контекста — до 131 072 токенов. Обучение проводилось на наборе Finance-Instruct-500k, объединяющем более 500 тысяч инструкций и примеров из финансовых источников. В карточке заявлена многоязычная обработка, однако конкретный основной язык модели не установлен; метаданные карточки указывают английский. Модель может быть полезна для прототипирования финансовых помощников, анализа финансового текста и подготовки к CFA Level 1. Результаты экзамена в карточке описаны как приблизительные и не подтверждают точность в реальных финансовых сценариях. Модель выпущена по лицензии Apache-2.0; её создатели не гарантируют точность и надёжность ответов и отказываются от ответственности за финансовые последствия использования.

olgapoletkina/fine-tuned-nuf-room-classifier — дообученная модель Sentence Transformers на основе sentence-transformers/paraphrase-multilingual-mpnet-base-v2, разработанная для сравнения текстов о помещениях. XLM-RoBERTa преобразует предложения и абзацы в плотные векторы размерностью 768; сходство между ними оценивается косинусной мерой. В README указаны максимальная длина последовательности 128 токенов и обучающая выборка из 528 906 пар предложений с метками сходства. Модель подходит для семантического поиска по описаниям помещений, сопоставления похожих формулировок, поиска перефразирований, кластеризации и классификации текстов. Она принимает текст и возвращает эмбеддинги; метаданные также указывают поддержку извлечения признаков и вычисления сходства предложений. Лицензия в предоставленных данных не указана.

GIT-large-TextVQA — модель семейства GenerativeImage2Text, разработанная Microsoft и дообученная для ответов на вопросы по изображениям на наборе TextVQA. Она принимает изображение и текстовый вопрос, а затем генерирует текстовый ответ. Архитектура представляет собой плотный Transformer-декодер GitForCausalLM, работающий с визуальными токенами изображения и текстовыми токенами; размер модели — 80,1 млн параметров, контекст — 1024 токена. Модель предназначена прежде всего для визуальных вопросов и ответов, в том числе вопросов, для которых нужно прочитать текст на изображении. Семейство GIT также применимо к описанию изображений и видео, однако этот чекпойнт специально дообучен на TextVQA. Карточка указывает английский язык. Модель распространяется по лицензии MIT.

HiT-MiniLM-L12-WordNetNoun — модель-энкодер Hierarchy Transformer Encoder (HiT), разработанная Yuan He, Zhangdie Yuan, Jiaoyan Chen и Ian Horrocks. Она дообучена на базе sentence-transformers/all-MiniLM-L12-v2 на иерархии гиперонимии существительных WordNet с использованием совместных гиперболических функций потерь для кластеризации и сближения связанных сущностей. Модель кодирует названия сущностей в текстовые эмбеддинги в гиперболическом пространстве, чтобы оценивать отношения включения и предсказывать, является ли одна сущность более частной разновидностью другой. Подходит для анализа таксономий, поиска иерархических связей между понятиями и исследований представления знаний. Это англоязычная модель на 40 млн параметров с контекстом до 512 токенов; веса доступны в формате safetensors. Лицензия — Apache 2.0. Обучение ориентировано на существительные и отношения гиперонимии WordNet, поэтому качество для иных типов сущностей и иерархий может отличаться. Модель предназначена для извлечения признаков и проверки отношений subsumption; README не заявляет о генерации текста.

InternVL3.5-4B-HF — мультимодальная модель семейства InternVL от OpenGVLab, представленная в формате Hugging Face Transformers. Это дообученная версия OpenGVLab/InternVL3_5-4B-MPO; архитектура — плотная модель InternVLForConditionalGeneration с поддержкой изображений и диалогового взаимодействия. Модель принимает изображения и текстовые запросы, а отвечает текстом на нескольких языках. Модель предназначена для диалогов по изображениям, визуального рассуждения и ответов на вопросы о содержимом изображений. В карточке семейства также заявлены распознавание текста на изображениях, анализ диаграмм и визуальных сцен, а для семейства в целом — взаимодействие с GUI и агентные сценарии. Эти сведения не подтверждают отдельные гарантии качества для версии на 4B параметров. В описании InternVL3.5 заявлены улучшения рассуждений с помощью двухэтапного Cascade RL и ускорение инференса семейства благодаря Visual Resolution Router и раздельному развертыванию визуальной и языковой частей. Чекпойнт распространяется в safetensors и работает через Transformers. Лицензия — Apache-2.0. Для обработки изображений требуются вычислительные ресурсы; детализация и качество ответов могут зависеть от разрешения изображения и сложности задачи.

Jev-Style-Qwen3.5-2B-Decision-MLX-bf16 — дообученная модель на базе Qwen/Qwen3.5-2B-Base, опубликованная chaoliangUNSW в формате MLX и bf16. Это модель принятия решений: по состоянию, вопросу и заданному списку вариантов она за один проход выбирает вариант и выдаёт распределение вероятностей. Поддерживаются выбор одного из вариантов, оценка истинности утверждения и распределение по упорядоченным уровням оценки. Модель предназначена для классификации, ранжирования ограниченного набора ответов и оценки уверенности, в том числе в сценариях, где важна калибровка вероятностей. В карточке сообщается об обучении на пяти англоязычных семействах задач и о тестировании на отложенных примерах; заявленные результаты и скорость получены авторами и не гарантируют аналогичного качества на других данных. Для работы требуется специальный формат промпта, заканчивающийся на Answer:. Модель не предназначена для свободной генерации текста или обычного диалога; она ограничена объявленными вариантами и указанным в карточке лимитом до 26 вариантов. Лицензия — Apache-2.0.

KoELECTRA v3 Base Discriminator — предварительно обученная языковая модель ELECTRA для корейского языка, опубликованная пользователем monologg. Это плотная модель с 140,1 млн параметров и контекстом до 512 токенов; веса доступны в формате PyTorch, для загрузки README рекомендует Transformers и токенизатор ElectraTokenizer. Модель предназначена как базовый энкодер для последующей адаптации к задачам обработки корейского текста, включая классификацию и извлечение информации. Дискриминатор ELECTRA обучается различать исходные токены и заменённые токены, поэтому сам по себе он не предназначен для генерации связного текста. Лицензия — Apache-2.0. Карточка не приводит оценок качества или подробных ограничений; применимость к конкретным задачам зависит от дообучения и проверки на целевых данных.

Это модель классификации текста, дообученная на базе distilbert/distilbert-base-uncased. Она предназначена для отнесения текстовых примеров к классам «еда» и «не еда», что следует из названия репозитория. Модель использует архитектуру DistilBERT для классификации последовательностей, принимает текст и возвращает метку класса. Максимальная длина контекста — 512 токенов. В README указана точность 1,0 и loss 0,0005 на оценочном наборе, однако датасет и условия оценки не описаны, поэтому эти результаты не позволяют судить о качестве на других данных. Модель опубликована под лицензией Apache-2.0.

ManifestoBERTa XLM-RoBERTa 56policy topics context — модель Manifesto Project на архитектуре XLM-RoBERTa large, дообученная на примерно 1,7 млн размеченных высказываний из Manifesto Corpus версии 2024a. Она классифицирует тексты по 56 политическим темам согласно схеме кодирования Manifesto Project, используя контекст соседних предложений для интерпретации неоднозначных высказываний. Контекстная версия подаёт целевое высказывание вместе с окружающим контекстом длиной до 200 токенов; авторы сообщают об улучшении точности примерно на 7 процентных пунктов относительно модели без контекста. По данным метаданных, модель содержит 658,7 млн параметров и имеет контекстное окно 514 токенов. Модель предназначена для анализа политических программ, манифестов и других текстов с целью распределения высказываний по тематическим категориям. Она обучена на 38 языках корпуса и, по README, применима к языкам предобучения XLM-RoBERTa, но лучше всего работает на языках, представленных в обучающих данных. На тестовой выборке из 200 920 высказываний контекстная версия показала accuracy 0,64 и Macro-F1 0,53. Лицензия — BigScience OpenRAIL-M. Для загрузки полной модели README указывает необходимость включить trust_remote_code=True.

Manifesto Project выпустил классификатор на основе XLM-RoBERTa-large, дообученный на примерно 1,7 млн размеченных высказываний из Manifesto Corpus версии 2024a. Модель относит текст к одной из 56 политических тем по кодировочной схеме Manifesto Project, Handbook 4. Модель предназначена для тематической классификации политических текстов на языках, поддерживаемых предобученной XLM-RoBERTa; наилучшие результаты ожидаются для 38 языков корпуса Manifesto. Контекстная версия модели показала accuracy 0,64 и macro-F1 0,53 на тестовой выборке из 200 920 высказываний; для версии без контекста показатели составили 0,57 и 0,45 соответственно. В репозитории указаны 658,7 млн параметров, контекст до 514 токенов и форматы PyTorch и Safetensors. Модель принимает текст и выдаёт метку класса. Лицензия — BigScience OpenRAIL-M; качество может быть ниже на языках вне обучающего корпуса, а результаты следует интерпретировать с учётом метрик тестирования.

FuriouslyAsleep выпустил дообученную на WebSRC модель MarkupLM Large для ответов на вопросы по веб-страницам. Она принимает текст вопроса вместе с текстом и HTML-разметкой страницы, используя структуру разметки для визуально насыщенных документов и извлечения ответов. Модель основана на архитектуре MarkupLMForQuestionAnswering, содержит 454,1 млн параметров и рассчитана на контекст до 514 токенов. Модель подходит для поиска ответов в содержимом веб-страниц и прототипирования систем вопросно-ответного поиска по структурированным документам. Дообучение выполнено на небольшой части WebSRC: использован один сайт для обучения, отдельный тестовый набор не задействован, поэтому качество на других сайтах может быть ограниченным. Автор отмечает, что пример запуска может не работать и требует специальной ветки Transformers. Сведения о лицензии в предоставленных данных отсутствуют.