I.3Извлечение и структурирование данных

CeLLaTe-tapt-pubmedbert-tokenizer-original-wwmask-combinedData — англоязычная BERT-модель для предсказания пропущенных токенов в биомедицинском тексте. Она дообучена на датасете Mardiyyah/Combined_TAPT_dataset на основе microsoft/BiomedNLP-BiomedBERT-base-uncased-abstract-fulltext и содержит 136,7 млн параметров. Модель принимает текст и выдаёт предсказания для замаскированных фрагментов; максимальная длина контекста — 512 токенов. Модель подходит для восстановления пропусков и анализа языковых шаблонов в биомедицинских публикациях. В README приведены результаты оценки: loss 1,0617, accuracy 0,7651 и perplexity 2,8914. Использование регулируется лицензией Apache-2.0.

SamAgnoli/deberta-v3-base-spatial-language-detection — англоязычный классификатор на базе DeBERTa-v3-base от Microsoft, дообученный для определения, употреблено ли заданное слово пространственно в контексте конкретного высказывания. Модель принимает пару: высказывание и целевое слово; выдаёт метку «пространственное» или «непространственное». Архитектура — DeBERTa-v2 для классификации последовательностей, размер — 211,6 млн параметров, максимальная длина контекста — 512 токенов. Лицензия — MIT. Модель предназначена для контекстной разметки слов, обозначающих местоположение, направление или пространственные отношения. Наиболее подходящий сценарий — анализ слов, предварительно отобранных пространственным словарём; README сообщает F1 0,890 для пространственного класса на тестовых словах-кандидатах. Обучающие данные — отражения родителей и детей о занятиях в музейной мастерской. Модель рассчитана на английскую речь, а качество в иных жанрах и областях не гарантировано. Словарь предварительного отбора может пропустить слова, поэтому такие слова не попадут на классификацию; результаты тестирования основаны на одном ограниченном разбиении, и предсказания рекомендуется проверять.

DictaBERT Morph — дообученная модель на архитектуре BERT от Dicta для морфологической разметки современного иврита. Она предназначена для анализа предложений и присвоения словам морфологических характеристик; в README приведён пример вызова предсказаний через Transformers и токенизатор модели. Модель содержит 211,6 млн параметров, принимает текст и поддерживает контекст до 512 токенов. Доступна под лицензией CC BY 4.0. Карточка описывает морфологическую разметку, поэтому применение модели для других задач не подтверждено.

ajrayman/Excitement_Seeking_binary — модель классификации текста, дообученная на базе microsoft/deberta-v3-base. По названию репозитория она предназначена для бинарной классификации текстов по признаку поиска острых ощущений. Модель построена на архитектуре DeBERTa v3 Base и содержит 211,6 млн параметров; она принимает текстовые последовательности длиной до 512 токенов и выдаёт метку класса. Модель подходит для автоматической разметки текстов по наличию признаков поиска острых ощущений. Карточка не приводит сведения о данных обучения и оценивания, поэтому качество и область применимости классификатора нельзя оценить по имеющейся информации. Лицензия — MIT.

GysBERT-v2 — маскированная языковая модель на базе BERT, опубликованная Enrique Manjavacas под аккаунтом emanjavacas. Она предназначена для заполнения пропусков в тексте: по контексту предсказывает токен или варианты токена на месте маски. Карточка Hugging Face указывает архитектуру BertForMaskedLM, 136,7 млн параметров, контекст до 512 токенов и формат PyTorch. Модель можно применять для подстановки пропущенных слов, изучения контекстных вариантов и как компонент языкового анализа. По доступным данным конкретный язык обучения и область специализации не установлены, поэтому её языковые возможности нельзя надёжно уточнить. Репозиторий не указывает лицензию; перед использованием следует проверить условия распространения весов.

jmedroberta-base-manbyo-wordpiece — японская базовая модель RoBERTa, разработанная на основе материалов Japan Science and Technology Agency (JST). Она предварительно обучена на научных статьях по медицинским наукам и предназначена для заполнения пропусков в японском тексте с помощью задачи masked language modeling. Архитектура реализована классом BertForMaskedLM; модель содержит 136,3 млн параметров и принимает последовательности длиной до 512 токенов. Для токенизации используются MeCab с IPAdic и Manbyo Dictionary, а затем WordPiece с словарём из 30 000 токенов. Предобучение использовало японские аннотации и полные тексты научных статей. Для работы требуется установить Manbyo Dictionary в каталог, указанный в README. Модель распространяется по лицензии CC BY-NC-SA 4.0, которая требует указания авторства, распространения производных материалов на тех же условиях и запрещает коммерческое использование.

MediNote-7B — англоязычная языковая модель, разработанная Антуаном Бонне и Полем Буланже и дообученная на базе Meditron-7B для создания клинических записей по текстовым расшифровкам разговоров врача и пациента. Это плотный авторегрессионный трансформер-декодер семейства Llama с 6,6 млрд параметров и контекстом 2048 токенов. Модель принимает текст диалога и генерирует текст клинической записи. Она предназначена для экспериментов с автоматическим составлением заметок по беседе, но, согласно карточке, недостаточно надёжна для реальной клинической практики и не рекомендуется для производственного применения или решений, влияющих на людей. Модель распространяется по лицензии LLAMA 2 Community License Agreement; для кода указана лицензия MIT.

DanSarm/receipt-core-model — дообученная текстовая модель семейства T5 для генерации текста по текстовому запросу. В репозитории указаны 123,8 млн параметров, контекст до 512 токенов и формат safetensors; модель использует архитектуру T5ForConditionalGeneration и библиотеку Transformers. Карточка связывает модель с обработкой чеков, однако не описывает её назначение, обучающие данные или конкретные сценарии. Поэтому практические задачи и качество нельзя определить по доступным сведениям. Лицензия — Apache-2.0.

Reformer — языковая модель с архитектурой Reformer и примерно 153,2 млн параметров. Репозиторий описывает её как дообученную на наборе BigPatent модель; по метаданным она предназначена для заполнения пропусков в тексте и поддерживает контекст длиной до 16 384 токенов. Модель подходит для восстановления скрытых фрагментов в длинных текстах, включая патентные документы. В карточке приведено значение loss 5,8649 на оценочной выборке. Подробности об обучении, предназначении и ограничениях не раскрыты. Веса доступны в формате PyTorch; лицензия в предоставленных данных не указана.

Модель Koichi Yasuoka на базе RoBERTa была дообучена на текстах японской библиотеки Аозора для разметки частей речи. Она присваивает каждому длинному слову тег UPOS из универсального набора частей речи; карточка также указывает на применение для синтаксического анализа зависимостей. Модель содержит 305,5 млн параметров, принимает текстовые последовательности длиной до 512 токенов и рассчитана на японский язык. Модель подходит для лингвистического анализа японских текстов и может использоваться через библиотеку esupar. Она основана на KoichiYasuoka/roberta-base-japanese-aozora и распространяется по лицензии CC BY-SA 4.0. Ее назначение ограничено японской разметкой частей речи и анализом зависимостей; данных о других языках или задачах нет.

stanfordnlp/stanza-fro — модель Stanza для лингвистического анализа старофранцузского языка (код fro), разработанная проектом Stanza при Stanford NLP. Модель предназначена для обработки текста и разметки токенов; в Hugging Face она опубликована как модель задачи token-classification и использует библиотеку Stanza и формат PyTorch. Её можно применять в конвейерах анализа старофранцузских текстов, где требуется токенная классификация. Карточка не приводит размер модели, контекстное окно или подробности о типах предсказуемых меток. Лицензия — Apache-2.0.

Модель распознавания рукописного текста создана Jonas Widmer, Christopher Kuhlmann и Melvin Wilde в рамках Flow-Project. Она дообучена на базе magistermilitum/tridis_HTR v1 и предназначена для чтения отдельных строк на изображениях средневековых документов из Англии, преимущественно латинских текстов XIII–XIV веков письмом Anglicana (Court Hand). В обучающих материалах также встречаются элементы среднеанглийского и англо-нормандского языков. Модель построена на архитектуре VisionEncoderDecoderModel и принимает изображение строки, выдавая распознанный текст; страницу целиком следует предварительно сегментировать на строки. На тестовом наборе из 2288 строк CER составил 6,22%, однако модель проверена ограниченно. Особенно часто ошибается в пунктуации: указанный CER для неё — 44,44%, главным образом из-за пропуска точек. Лицензия — MIT.

CeLLaTe-tapt-pubmedbert-tokenizer-original-spanmask — англоязычная модель на архитектуре BERT для предсказания замаскированных слов. Она дообучена Mardiyyah на наборе Mardiyyah/TAPT_CeLLaTe2.0 на основе microsoft/BiomedNLP-BiomedBERT-base-uncased-abstract-fulltext и предназначена для заполнения пропусков в биомедицинских текстах. Модель содержит 136,7 млн параметров и поддерживает контекст длиной до 512 токенов. На оценочном наборе указаны loss 2,1721, accuracy 0,5857 и perplexity 8,7763. Модель распространяется по лицензии Apache-2.0. README не описывает дополнительные сценарии применения или ограничения; результаты оценки относятся только к указанному набору.

clue — это экспериментальный чекпойнт DistilBERT, созданный как короткое продолжение дообучения модели quiz для извлечения ответов на вопросы по тексту. Архитектура и токенизатор совпадают с quiz, изменены веса; обучение проведено на примерно тысяче примеров SQuAD, по одному проходу, с learning rate 2e-5 и batch size 1. Модель использует DistilBertForQuestionAnswering и формат safetensors. Модель предназначена для небольших экспериментов с извлекающим вопросно-ответным поиском и изучения процесса дообучения. Она принимает текст вопроса и контекста и возвращает фрагмент-ответ; основной язык — английский. Контекст ограничен 512 токенами. Лицензия MIT. Это низкоточный демонстрационный чекпойнт, а не замена полноценной обученной модели. Для него не приводятся подтверждённые результаты exact match или F1; модель обучалась на малой выборке, ориентирована на SQuAD и наследует ограничения uncased-токенизации базовой модели.

D'AlemBERT — базовая модель RoBERTa для обработки исторического французского языка, разработанная с предварительным обучением на корпусе FreEMmax. Модель содержит 138,4 млн параметров, имеет контекст до 514 токенов и обучена на текстах XVI — начала XX века. Она регистрозависимая; при обучении использовались нормализованные и ненормализованные тексты. Модель обучена методом masked language modeling: она восстанавливает замаскированные слова с учётом контекста всего предложения. Её можно применять для заполнения пропусков, а также дообучать для классификации последовательностей и токенов или ответов на вопросы по историческим текстам. Модель рассчитана прежде всего на цифровую гуманитаристику и историческую обработку естественного языка. Обучающие данные содержат исторические тексты, поэтому модель может воспроизводить предвзятости своего периода и плохо подходить для современного французского языка. Для текстовой генерации авторы рекомендуют использовать авторегрессионные модели. Лицензия — Apache-2.0.

OIKONOMIA-Grammateus — модель распознавания именованных сущностей в документальных папирусах греко-римского Египта, разработанная Абдеррахманом Айнушем в рамках проекта OIKONOMIA. Она использует энкодер RoBERTa с головой классификации токенов и BIO-разметку, чтобы выделять людей, места, денежные суммы, товары, единицы измерения, налоги, даты, возраст и занятия. Модель предназначена для анализа древнегреческих хозяйственных документов, включая квитанции, договоры аренды, займы, записи о заработной плате, продажи и переписи; её применяли для разметки корпуса Duke Databank of Documentary Papyri и подготовки базы OIKONOMIA-DB. Модель дообучена на bowphs/GreBerta с доменной адаптацией на корпусе папирусов. В карточке Hugging Face указаны 153,2 млн параметров и контекст 514 токенов; README приводит 125,4 млн параметров и контекст 512 токенов. Документы длиннее контекста нужно обрабатывать окнами. По README, модель ориентирована на документальный древнегреческий, сохраняет регистр букв и выдаёт размеченные фрагменты, но не нормализует их, не связывает людей с конкретными историческими лицами и не предназначена для литературного или современного греческого. Качество на других жанрах не измерено; фрагментарность папирусов и редкие или сокращённые имена могут снижать точность. Обучающие метки частично основаны на автоматической разметке, а небольшой референсный набор не прошёл экспертную проверку. Лицензия — Apache-2.0.

ITALIAN-LEGAL-BERT-SC — языковая модель dlicari на архитектуре CamemBERT, предварительно обученная с нуля на итальянских юридических документах. Она предназначена для подстановки пропущенных слов в юридических текстах на итальянском языке и может служить основой для задач обработки юридических документов. Модель содержит 137,8 млн параметров и поддерживает контекст до 514 токенов. Модель опубликована в форматах PyTorch и Safetensors. Лицензия AFL-3.0. Карточка не описывает результаты оценки качества и дополнительные специализированные сценарии применения.

MLInAi/Llama-3.2-11B-Vision-VL-finetuned-IndustrialEquipment-merged — дообученная MLInAi модель на базе unsloth/llama-3.2-11b-vision-instruct. Это плотная мультимодальная модель семейства mllama с архитектурой MllamaForConditionalGeneration, предназначенная для диалоговой работы с изображениями и текстом. По названию репозитория она ориентирована на изображения промышленного оборудования, однако карточка не приводит примеров или подробностей специализированных задач. Модель принимает изображения и текстовые запросы и формирует текстовые ответы. В метаданных указан английский язык. Файлы представлены в формате safetensors, лицензия — Apache-2.0. Сведений о числе параметров и длине контекста в предоставленных данных нет.

Qwen3-VL-8B VQA Wiki — созданная разработчиком phunguyendinhkh мультимодальная модель на базе Qwen/Qwen3-VL-8B-Instruct, дообученная методом QLoRA и объединённая с базовыми весами. Она предназначена для ответов на вопросы о содержимом изображений на вьетнамском языке, в том числе в сценариях визуальных вопросов и ответов по материалам Wiki и VietTravelVQA-подобного набора данных. Модель использует архитектуру Qwen3-VL с 8 млрд параметров и принимает изображения вместе с текстовыми вопросами, выдавая текстовые ответы. Репозиторий содержит веса safetensors; лицензия — Apache-2.0. Карточка не приводит оценок качества или подробностей о контексте.

BilmaLat — модель семейства RoBERTa, разработанная для работы с испанскими сообщениями в Twitter. Она обучена на более чем 600 миллионах испаноязычных твитов, опубликованных с декабря 2015 года по февраль 2023 года. К каждому сообщению добавлялись коды страны, год и месяц публикации; упоминания пользователей и URL заменялись специальными токенами. Модель с 136,3 млн параметров использует архитектуру RobertaForMaskedLM и предназначена для задачи fill-mask: она предсказывает замаскированные слова в тексте. Контекст ограничен 128 токенами, словарь WordPiece содержит 30 тысяч токенов. Обучение проводилось с маскированием слов с вероятностью 15% в течение одной эпохи. BilmaLat ориентирована на испанский язык и сохраняет особенности твитов, включая регистр, эмотиконы и орфографические ошибки; региональные и временные метки позволяют учитывать контекст публикаций. Модель подходит для исследования и анализа испаноязычных сообщений, но её короткое окно контекста ограничивает работу с длинными текстами. Лицензия — MIT.

Counter-SFT-01 — компактная диалоговая модель, разработанная Ishagarg1103 путём полного supervised fine-tuning модели Qwen3.5-0.8B в формате BF16 на наборе данных Counter-SFT-01. Она предназначена для генерации ответов в сценариях, где требуется следовать заданному формату и ограничениям, выбирать разрешённые действия и учитывать бюджет. В описании приведены результаты: успешность выполнения задачи составила 56,7% на валидационной выборке и 60,0% на тестовой; корректность разбора, форматирования, допустимых действий, бюджета и итогового поля достигла 100% на всех оценённых выборках. Модель основана на плотной архитектуре Qwen3.5 и доступна через Transformers в формате safetensors. Метаданные указывают поддержку чата и текстовой генерации. Основной известный недостаток — ошибки в арифметике; результаты относятся к указанным оценочным выборкам и не гарантируют аналогичного качества в других сценариях. Лицензия в предоставленных данных не указана.

lizhuang144/flan-t5-base-VG-factual-sg-id — модель семейства T5 с 123,8 млн параметров, представленная в формате PyTorch. Судя по названию, она предназначена для генерации фактических описаний сцен и отношений между объектами (scene graphs) по визуальным данным, однако доступная карточка не объясняет этот сценарий и не содержит подробностей обучения. Модель использует архитектуру T5ForConditionalGeneration и рассчитана на контекст до 512 токенов. Метаданные указывают на задачу генерации текста по текстовому вводу; сведений о визуальном входе, поддерживаемых языках, лицензии и качестве результатов нет, поэтому эти характеристики нельзя подтвердить.

Justvugg/GLM-5.3-Flash-colibri-int4-g64 — это неофициальная конверсия мультимодальной модели GLM-5.3-Flash от Z.ai, подготовленная JustVugg для движка colibrì. Модель поддерживает работу с текстом и изображениями, предназначена для запуска крупной 321-миллиардной модели на компьютерах с ограниченной оперативной памятью за счёт хранения маршрутизируемых экспертов на диске и потоковой загрузки только выбранных экспертов. Она ориентирована на локальный инференс через движок colibrì, а не на интерактивный чат с высокой скоростью ответа. Конверсия использует int4 group scaling с группами размера 64 для маршрутизируемых экспертов, тогда как остальные параметры сохраняются в BF16. На диске модель занимает около 194,7 ГБ в 62 сегментах, потребляет примерно 12 ГБ оперативной памяти при GLM53_BITS=4 и имеет контекст до 1 048 576 токенов. Архитектура включает 45 текстовых слоёв и один MTP, 288 маршрутизируемых экспертов с выбором top-8, один общий эксперт, 34 слоя KDA linear attention, 11 слоёв DSA, MLA и 24-блочную ViT-башню для обработки изображений. Заявлены языки English, Chinese и Italian. Главное преимущество модели — возможность запуска очень крупной мультимодальной архитектуры на системе примерно с 25 ГБ RAM. Ограничения существенные: требуется около 195 ГБ дискового пространства, а потоковая загрузка весов делает инференс крайне медленным — около 44 секунд на токен при холодном кеше и 20 секунд при прогретом. Независимые бенчмарки этой упаковки не опубликованы. Модель не загружается в transformers или vLLM и работает только с движком colibrì. Лицензия MIT; веса принадлежат Z.ai, а репозиторий JustVugg распространяет их переквантованную версию.

jmedroberta-base-sentencepiece-vocab50000 — японская базовая языковая модель семейства RoBERTa, разработанная для медицинских текстов и предварительно обученная на научных статьях по медицинским наукам, собранных Japan Science and Technology Agency (JST). Модель содержит 151,6 млн параметров, использует архитектуру BERT с классом BertForMaskedLM и SentencePiece Unigram со словарём из 50 000 токенов. Контекст ограничен 512 токенами. Модель предназначена для заполнения пропусков в японском медицинском тексте и может служить основой для задач обработки медицинских публикаций. Перед подачей текст необходимо преобразовать в полноширинные символы. Доступны веса PyTorch и Safetensors. Лицензия CC BY-NC-SA 4.0 разрешает использование с указанием авторства и на условиях распространения производных материалов по той же лицензии, но не для коммерческих целей.

Polemo Intensity — модель RoBERTa, дообученная лабораторией Digital Social Sciences Research Laboratory при IFIS PAN для оценки интенсивности эмоций в польских политических текстах. Она присваивает непрерывные оценки от 0 до 1 по восьми показателям: счастье, грусть, гнев, отвращение, страх, гордость, валентность и возбуждение. Модель предназначена для анализа публикаций и комментариев из социальных сетей, в том числе для изучения эмоциональных реакций на политические темы. Она обучалась на корпусе польских текстов из Twitter, YouTube и Facebook с экспертной разметкой; размер модели — 151,6 млн параметров, контекст — до 514 токенов. Проверка на десяти фолдах показала наиболее высокие корреляции для счастья и валентности, а для страха и грусти результаты были ниже. Модель работает с текстом на польском языке и распространяется по лицензии Apache-2.0. Её область применения ограничена эмоционально насыщенными польскими политическими текстами из социальных сетей, поэтому оценки на других языках, темах и типах текста могут быть менее надёжными.

SteelBERT — предварительно обученная MGE-LLMs языковая модель на архитектуре DeBERTa для текстов о стали и материалах. Её обучили на 4,2 млн аннотаций о материалах и 55 тыс. полнотекстовых статей о стали — примерно на 0,96 млрд слов — методом masked language modeling: модель восстанавливает замаскированные токены. Для предметной области создан специализированный токенизатор со словарём из 128 100 единиц. Модель содержит 188 млн параметров и 12 Transformer-энкодеров с 12 головами внимания; максимальная длина входа — 512 токенов. Основной сценарий использования — заполнение пропусков в текстах о стали и материалах. Чекпойнт также может служить основой для дообучения под другие задачи обработки таких текстов. Доступна по лицензии Apache-2.0.

VEXMLM — модель для языкового моделирования с расширенным словарём для амхарского и тигринья, разработанная как продолжение FacebookAI/xlm-roberta-base. Это XLM-RoBERTa с архитектурой XLMRobertaForMaskedLM: в токенизатор SentencePiece встроено 30 000 новых токенов письма геэз, а расширенная модель продолжала предобучение на амхарских и тигринья монолингвальных текстах. Метаданные указывают 328,3 млн параметров, контекст до 514 токенов и лицензию Apache-2.0. Основная задача модели — восстанавливать замаскированные фрагменты текста. Она предназначена для исследований NLP на амхарском и тигринья и как основа для дообучения под распознавание сущностей, извлечение ответов на вопросы и классификацию текстов. Расширение словаря снижает фрагментацию слов на подслова в обоих языках; в сообщённых экспериментах модель показала результаты на NER и диагностической задаче TiQuAD. Модель не является готовой системой ответов на вопросы или классификатором: для этих сценариев требуется дообучение соответствующей головой. Она обучалась и оценивалась только на амхарском и тигринья; результаты по тональности близки к случайным, а абсолютное качество извлечения ответов ограничено. Источник предобучающих текстов не документирован, их лицензия неизвестна; при этом лицензия репозитория модели — Apache-2.0.

unslothai/vram-20 — опубликованный Unsloth чекпойнт семейства Llama с архитектурой LlamaModel и задачей извлечения признаков. Карточка моделей Unsloth на Hugging Face относит его к категории Feature Extraction. Модель принимает текст и выдаёт признаки, пригодные для последующей обработки. Доступные сведения не подтверждают её размер, языковую специализацию, длину контекста или конкретные сценарии использования; поэтому их нельзя надёжно уточнить. Репозиторий содержит веса в формате safetensors, использует библиотеку Transformers. Лицензия в предоставленных сведениях не указана.

DouglasPontes/2020-Q1-full_tweets — модель на базе RoBERTa, дообученная для предсказания замаскированных токенов. Веса содержат 151,8 млн параметров, формат — PyTorch, длина контекста — до 514 токенов. Карточка сообщает, что модель дообучена из ./model_tweets_2020_full_Q1, но не раскрывает обучающий датасет и подробности обучения. Модель предназначена для заполнения пропусков в тексте, например предсказания скрытого слова по окружающим токенам. Название указывает на связь с твитами за первый квартал 2020 года, однако README не описывает целевые сценарии или качество за пределами значения loss 1,9725 на оценочном наборе. Лицензия в предоставленных данных не указана.

AraGenre mDeBERTa — Dev-Gold Entailment Fine-Tune — это модель Hassan Barmandah, Israa Elhosiny, Yousra El-Ghawi и Omer Nacar из NAMAA Community и Umm Al-Qura University для иерархической классификации арабских текстов по жанрам. Она основана на MoritzLaurer/mDeBERTa-v3-base-mnli-xnli и дообучена как cross-encoder, оценивающий, следует ли заданное описание жанра из текста. Для классификации нужно сравнить текст с определениями категорий и выбрать определение с наибольшей вероятностью entailment. Модель содержит 306 млн параметров, использует архитектуру DeBERTa-v2 для классификации последовательностей и принимает пары текста и определения жанра; максимальная длина контекста — 512 токенов. Обучение проводилось на 110 размеченных примерах AraGenre dev_gold.json, расширенных английскими определениями жанров и синтетическими трудными отрицательными примерами. Модель подходит для воспроизведения экспериментов и классификации в рамках соответствующей таксономии жанров; оценка F1 0,9917 получена на пятичастной кросс-валидации этого dev-набора. Авторы указывают, что эта оценка не отражает качество на реальных данных: модель обучалась на метках dev-набора, а её таксономия расходится с существенно более крупной скрытой тестовой таксономией. Это экспериментальная запись проекта, а не рекомендуемый production-классификатор; в статье проекта родственные дообученные энкодеры показали 0,22–0,44 hierarchical F1 на скрытом тесте. Веса доступны по лицензии Apache-2.0.