I.3Извлечение и структурирование данных

Модель Matous Volf и Jakub Simko классифицирует англоязычные тексты по политическому уклону, присваивая один из трёх классов: левый, центристский или правый. Она создана для исследования «Political Leaning and Politicalness Classification of Texts» и дообучена на DeBERTa V3 large. В обучающих данных использованы новостные статьи, публикации в социальных сетях и сгенерированные языковой моделью политологические высказывания; политический контекст преимущественно американский. Модель подходит для разметки политических текстов и анализа их идеологического уклона. Она может ошибочно классифицировать неполитические тексты, поэтому авторы рекомендуют предварительно отфильтровывать их отдельным классификатором политичности. Модель содержит 533,8 млн параметров, принимает последовательности длиной до 512 токенов и доступна в формате Safetensors для библиотеки Transformers. Опубликованные результаты на тестовых наборах показывают точность и F1 около 88–89% на приведённых в карточке наборах. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

qwen2.5-1.5b-diffusion-scientific-L — это дообученная модель семейства Diffusion-Qwen2, разработанная на основе lamm-mit/qwen2.5-1.5b-diffusion-ultrachat. Модель содержит 1,5 млрд параметров и предназначена для заполнения маскированных фрагментов текста. Она использует архитектуру DiffusionQwen2ForMaskedLM и доступна в формате safetensors для библиотеки Transformers. Модель обучена на неизвестном наборе данных; в карточке приведено значение Loss 3,6680 на оценочном наборе. Контекст составляет до 32 768 токенов. README не уточняет специализацию, поддерживаемые языки и условия использования; по названию scientific можно предположить научную тематику, но данных для подтверждения этого нет.

qwen2.5-1.5b-diffusion-scientific-L-L — дообученная модель семейства diffusion-qwen2 на основе lamm-mit/qwen2.5-1.5b-diffusion-ultrachat. Это плотная модель с архитектурой DiffusionQwen2ForMaskedLM и 1,5 млрд параметров; она представлена в формате safetensors и рассчитана на контекст до 32 768 токенов. В метаданных указана задача fill-mask. README сообщает о дообучении на неизвестном наборе данных и приводит значение Loss 3,8626 на оценочной выборке, но не описывает назначение научной специализации или сценарии использования. Лицензия в предоставленных данных не указана.

rcme-tol-vit-base-patch16 — модель MVRL, представленная в работе Global and Local Entailment Learning for Natural World Imagery. Это vision-language-модель на основе ViT с патчами 16×16, использующая радиальные кросс-модальные эмбеддинги (RCME) для явного представления транзитивных отношений и иерархии понятий. Модель предназначена для классификации видов по изображениям и поиска по иерархии живых организмов; метаданные Hugging Face указывают задачу zero-shot image classification. В опубликованных экспериментах авторы сообщают об улучшении результатов на иерархической классификации видов и поиске по сравнению с существующими моделями. Модель принимает изображения и текстовые описания классов, а для сравнения и классификации использует совместное vision-language-представление. Репозиторий распространяет веса в форматах PyTorch и safetensors; лицензия — MIT. Карточка не сообщает размер модели, длину контекста или поддерживаемые естественные языки.

Koichi Yasuoka разработал эту крупную модель RoBERTa для лингвистического анализа классического китайского языка. Она дообучена на основе KoichiYasuoka/roberta-classical-chinese-large-char и размечает слова универсальными частями речи UPOS и признаками FEATS; модель также предназначена для синтаксического анализа зависимостей. Модель принимает текст на классическом китайском языке и выдаёт метки для слов. Она содержит 429,6 млн параметров, использует архитектуру RoBERTa и поддерживает контекст до 514 токенов. В карточке указана лицензия Apache-2.0. Для работы с моделью можно использовать Transformers; также автор указывает на библиотеку esupar для POS-разметки и синтаксического анализа.

junnyu/roformer_v2_chinese_char_small — компактная китайскоязычная модель семейства RoFormer V2 от автора репозитория junnyu. Это плотный трансформер с архитектурой RoFormerForMaskedLM, предназначенный прежде всего для восстановления скрытых токенов в тексте (fill-mask). Модель содержит 18,8 млн параметров, принимает последовательности длиной до 512 токенов и опубликована в формате PyTorch. Карточка приводит результаты семейства RoFormer на классификационных задачах CLUE, включая сравнение вариантов RoFormerV2, но эти результаты не являются отдельной оценкой данного small-чекпойнта. Модель может служить основой для извлечения контекстных представлений и дальнейшей адаптации к китайским NLP-задачам. Сведений о лицензии в предоставленных данных нет.

Zabihin/Symptom_to_Diagnosis — модель классификации текста, дообученная автором на базе bert-base-cased для определения возможного диагноза по текстовому описанию симптомов. Она присваивает описанию одну из 22 диагностических меток и предназначена для классификации англоязычных описаний симптомов. Модель использует архитектуру BERT для классификации последовательностей, содержит 135,5 млн параметров и принимает последовательности длиной до 512 токенов. Для обучения использован набор Gretel symptom_to_diagnosis, содержащий 1 065 англоязычных примеров. Модель распространяется под лицензией Apache-2.0.

Adventurousness_binary — англоязычная модель классификации текста, созданная дообучением microsoft/deberta-v3-base. Она предназначена для бинарной классификации текста по признаку adventurousness («склонность к приключениям»); точное значение классов в карточке не раскрыто. Модель содержит 211,6 млн параметров, использует архитектуру DeBERTa V2 и принимает последовательности длиной до 512 токенов. Доступна в формате safetensors под лицензией MIT. В README приведены результаты оценки: accuracy 0,5928 и F1 0,6139, поэтому качество классификации может быть ограниченным. Описание обучающего набора данных, определения меток и предполагаемых сценариев применения отсутствует.

voidful/albert_chinese_base — китайская базовая модель ALBERT, исходно разработанная Google и преобразованная в формат Hugging Face. Она предназначена для задач заполнения маскированных токенов: по контексту предсказывает вероятные слова или символы на месте [MASK]. Модель содержит 129,5 млн параметров, использует архитектуру AlbertForMaskedLM и рассчитана на контекст до 512 токенов. Для загрузки словаря в этом репозитории README рекомендует BertTokenizer, поскольку модель не использует SentencePiece; поддерживается AutoTokenizer. Доступны веса PyTorch и Safetensors. Модель ориентирована на китайский язык. В README приведён пример предсказания, но подробной оценки качества нет. Условия лицензии в предоставленных материалах не описаны.

alt6-209m-16k-1x-s1337 — исследовательская языковая модель на 209 млн параметров из выпуска DilutionAttention. Это базовая модель для изучения оператора внимания, а не диалоговый помощник: она не проходила дообучение на инструкциях или настройку безопасности. Архитектура включает 24 слоя, ширину 768, 12 голов внимания, SwiGLU и связанные эмбеддинги; в чередующихся слоях сочетаются softmax-внимание с RoPE и dilution-внимание без позиционного кодирования. Модель обучена на 4,19 млрд токенов FineWeb-Edu с контекстом 16 384 токена. В карточке приведены результаты извлечения ключевого слова из повторяющегося текста на длинах 16 000 и 24 000 токенов; это проверка поиска в контексте, а не длинных рассуждений. Для работы с входами длиннее обученного контекста README указывает обёртку ExtendedContext с NTK scaling. Модель предназначена для экспериментов с вниманием и экстраполяцией контекста, а не для готового пользовательского ассистента. Лицензия — Apache-2.0.

Altruism_binary — модель классификации текста на базе DeBERTa-v3-base от Microsoft, дообученная разработчиком ajrayman. Она предназначена для бинарной классификации текстовых примеров, связанной с альтруизмом; точное определение классов и сценарий применения в карточке не раскрыты. Модель содержит 211,6 млн параметров, использует архитектуру DeBERTa-v2 для классификации последовательностей и принимает текст длиной до 512 токенов. На оценочном наборе указаны accuracy 0,6986, precision 0,6613, recall 0,8130, F1 0,7293 и AUC 0,7806. Данные обучения обозначены как None, поэтому результаты нельзя уверенно соотнести с конкретным корпусом или применением. Модель распространяется по лицензии MIT.

BERTje — предварительно обученная языковая модель BERT для нидерландского языка, разработанная в Университете Гронингена. Репозиторий wietsedv/bert-base-dutch-cased содержит те же веса, что и актуальный репозиторий GroNLP/bert-base-dutch-cased. Модель предназначена для заполнения пропусков в тексте: она предсказывает подходящее слово на месте маски. Архитектура — BertForMaskedLM, размер — 136,3 млн параметров, контекст — до 512 токенов. Доступны форматы PyTorch, TensorFlow и Flax, включая safetensors. Модель ориентирована на нидерландский язык. Сведения о лицензии и конкретных ограничениях применения в предоставленных источниках отсутствуют.

BioViL-T — разработанная Microsoft domain-specific vision-language модель для анализа рентгенограмм грудной клетки и радиологических заключений. Она объединяет текстовый энкодер на основе BERT и гибридный визуальный энкодер из Vision Transformer и ResNet-50; модель содержит 136,7 млн параметров и принимает контекст до 512 токенов для текстовой части. Доступны веса в форматах PyTorch и Safetensors. Модель обучена на медицинских текстах и последовательностях рентгенограмм с временным мультимодальным предобучением. Она формирует совместные представления изображений и текста и предназначена для извлечения признаков и эмбеддингов, а также для адаптации к задачам сопоставления изображений и заключений, классификации, phrase grounding и обработки естественного языка в радиологии. Основной язык — английский. BioViL-T показала улучшение представления временной информации и результаты на исследовательских бенчмарках радиологии. Модель предназначена для исследований и воспроизведения экспериментов; её не следует использовать для автоматической диагностики или как медицинское устройство. README указывает, что любые развёрнутые сценарии, коммерческие и некоммерческие, находятся вне предполагаемого применения. Лицензия — MIT.

ClinicalTrialBioBERT — языковая модель на основе BioBERT, дообученная domenicrosati на текстах клинических исследований. Она предназначена для работы с формулировками и терминологией клинических испытаний; задача модели — предсказывать скрытые токены в тексте (fill-mask), что подходит, например, для подстановки пропущенных слов и анализа контекста в специализированных фрагментах. Модель содержит 135,5 млн параметров, использует архитектуру BERT и принимает текстовые последовательности длиной до 512 токенов. Модель обучалась 500 тысяч шагов на наборе Clinical Trial Texts Dataset. Данные не описывают отдельные результаты оценки качества; лицензия в предоставленной информации также не указана.

Koichi Yasuoka разработал предобученную модель DeBERTaV2 для текстов на айнском языке. Модель обучена на айнских текстах, записанных катаканой, латиницей и кириллицей; её можно дообучать для разметки частей речи, синтаксического анализа зависимостей и других задач обработки языка. Основная задача модели — предсказание скрытых токенов в тексте. Модель имеет плотную архитектуру DeBERTaV2ForMaskedLM, содержит 118,5 млн параметров и принимает последовательности длиной до 512 токенов. Доступны веса PyTorch; лицензия — CC BY-SA 4.0. Карточка не приводит сведений о конкретных ограничениях качества.

DuplexJev-B Emotion — исследовательская аудиотекстовая модель семейства Ultravox от adventists-ai для получения ответов и закрытых решений непосредственно из речи. Она объединяет замороженный энкодер adventists-ai/Qwen3-ASR-0.6B-Encoder и замороженную Qwen/Qwen3-32B; обучен только коннектор B с 17,8 млн параметров, который передаёт представления последнего слоя энкодера в LLM через укладку кадров и SwiGLU-проектор. Модель принимает аудио и выдаёт текстовый ответ, включая однотокенные варианты для распознавания эмоций, определения говорящего и других вопросов о речи. Модель предназначена для речевых задач с вариантами ответа и языково-согласованными подсказками. В README приведены результаты на небольших наборах: 82,8% для четырёхклассового распознавания эмоций в воспроизведённых экспериментах; оценки зависят от формулировки и порядка вариантов. Карточка указывает китайский и английский языки. Модель проверялась на прочитанной или актёрской речи, но не на потоковом аудио; обучение на паралингвистических данных снижало точность фактических вопросов на спонтанной речи. Эмоциональные метки основаны на актёрских корпусах и не подходят для принятия решений о людях. Коннектор требует указанные в README энкодер и LLM. Лицензия — CC BY-NC 4.0, коммерческое использование ограничено условиями лицензии.

IndoBERTweet — предварительно обученная языковая модель для индонезийских сообщений Twitter, разработанная Фаджри Кото, Джеем Ханом Лау и Тимоти Болдуином. Это модель семейства BERT с архитектурой BertForMaskedLM и примерно 137,8 млн параметров; она обучалась на 409 млн токенов индонезийских твитов с декабря 2019 по декабрь 2020 года. Специализированный словарь для Twitter добавлен к индонезийской BERT-модели, а его векторы инициализированы усреднением представлений подслов. Модель предназначена для языкового моделирования и задач на текстах индонезийского Twitter. Основной сценарий использования — предсказание замаскированных токенов; README также сообщает об оценке на семи датасетах индонезийского Twitter. Контекст составляет до 512 токенов. Для предобработки авторы рекомендуют приводить текст к нижнему регистру, заменять упоминания пользователей и URL на специальные маркеры и преобразовывать эмотиконы в текст. Модель опубликована в формате PyTorch под лицензией Apache-2.0. Она специализирована на индонезийском Twitter, поэтому её применимость к другим языкам и жанрам текста ограничена; для ожидаемой предобработки нужны нормализация регистра, маркеры для упоминаний и URL и текстовое представление эмотиконов.

RogerB дообучил модель kinyaRoberta-large-kinre-finetuned на наборе данных, обозначенном в карточке как None. Это модель RoBERTa для заполнения пропусков в тексте: она предсказывает токен, скрытый специальной маской. Модель содержит 136,3 млн параметров, принимает текст с контекстом до 512 токенов и распространяется в формате PyTorch. Карточка сообщает значение loss 3,9564 на оценочной выборке, но не описывает её состав, методику обучения, языки или конкретные сценарии применения. Лицензия в доступных данных не приведена.

MatSciBERT — предварительно обученная языковая модель на архитектуре BERT, разработанная авторами исследования о языковых моделях для материаловедения. Модель содержит 137,1 млн параметров и обучена на аннотациях и полных текстах научных статей о материалах, включая сплавы, стёкла, металлические стёкла, цемент и бетон. Модель предназначена для извлечения информации и анализа текстов по материаловедению, а также может служить основой для дообучения на профильных задачах. В Hugging Face она представлена как модель заполнения маски: принимает текст с замаскированным токеном и предсказывает его содержимое. Поддерживает английский язык, имеет контекстное окно до 512 токенов и доступна в форматах PyTorch и Safetensors. Лицензия MIT разрешает свободное использование и модификацию с соблюдением её условий. Модель специализирована на научных текстах о материалах, поэтому её возможности за пределами этой области не подтверждены; доступная карточка не приводит оценок качества на отдельных задачах.

Matteo Fasulo разработал эту многоязычную модель для определения позиции комментария по отношению к заданному политическому вопросу. Она дообучена на базе microsoft/mdeberta-v3-base на датасете ZurichNLP/x_stance и использует архитектуру DeBERTa V2 для классификации пары текстов. Размер модели — 306 млн параметров, максимальная длина контекста — 512 токенов. Модель присваивает один из двух классов: FAVOR, если комментарий поддерживает вопрос, и AGAINST, если выступает против него. Она предназначена для анализа политических дебатов, включая многоязычную классификацию позиций и перенос между языками. Обучение охватывало преимущественно немецкие, французские и итальянские дебаты в Швейцарии; карточка также указывает поддержку английского языка. На валидационной выборке указаны accuracy 79,15% и macro F1 79,12%; результаты на тесте X-Stance зависят от языка и сценария оценки. Модель не определяет нейтральную позицию, фактическую достоверность, политическую принадлежность или токсичность. Сарказм и перенос за пределы политических дебатов могут ухудшать качество. Лицензия — MIT.

Многоязычная модель lwachowiak/Metaphor-Detection-XLMR разработана как дообученная версия XLM-RoBERTa для обнаружения метафор на уровне токенов. Она присваивает словам метки в задаче token classification: метка 1 обозначает метафорическое употребление. Модель обучена на англоязычной части корпуса VU Amsterdam Metaphor Corpus, размеченного по протоколу идентификации метафор. Её можно применять для выделения метафор в англоязычном тексте и для нулевого переноса на другие языки; в README сообщается о приемлемых результатах такого переноса. В оценке Shared Task 2020 F1 для класса метафор составил 0,76 для XLM-RBase и 0,77 для XLM-RLarge. Архитектура — XLM-RoBERTa для классификации токенов, размер — 305,2 млн параметров, контекст — 514 токенов. Репозиторий содержит веса PyTorch. Лицензия CC BY-NC-SA 3.0 требует указания авторства и распространяет производные материалы на тех же условиях, с ограничением некоммерческого использования.

AntoineD разработал эту модель как дообученную версию microsoft/MiniLM-L12-H384-uncased для классификации текста. Это компактная плотная модель семейства BERT с архитектурой BertForSequenceClassification, содержащая 40 млн параметров и принимающая последовательности длиной до 512 токенов. Репозиторий содержит веса PyTorch. Карточка не описывает набор меток и конкретную область применения, поэтому модель можно охарактеризовать только как классификатор текста общего назначения. В отчёте об оценке указаны accuracy 0,075 и loss 2,0829; низкая точность ограничивает практическую применимость без дополнительной проверки и настройки. Базовая модель англоязычная; отдельные языковые возможности этой версии не подтверждены. Лицензия — MIT.

PrivBERT — языковая модель для текстов политик конфиденциальности, разработанная на основе предварительно обученной RoBERTa. Модель дообучена на примерно одном миллионе политик конфиденциальности и предназначена для работы с такими документами; в метаданных указана задача fill-mask, то есть предсказание замаскированных токенов в тексте. Это плотная модель архитектуры RoBERTa с примерно 151,8 млн параметров и контекстом до 514 токенов. Доступны форматы PyTorch и TensorFlow. Карточка не приводит оценки качества, поддерживаемые языки или лицензию, поэтому их нельзя уточнить.

ro-political-leaning-v2 — модель, разработанная Manuel Raileanu и дообученная на базе румынской BERT dumitrescustefan/bert-base-romanian-cased-v1. Она оценивает политические тексты на румынском языке по шкале политических взглядов от −1 до +1 и возвращает одно регрессионное значение, соответствующее середине предсказанного класса. Модель различает семь классов — от far_left до far_right, включая отдельный класс far_left. Модель предназначена для анализа политических высказываний и комментариев, в частности текстов о выборах в Румынии. Это BERT с архитектурой классификации последовательностей и регрессионной выходной головой; размер — 151,6 млн параметров, максимальная длина контекста — 512 токенов. Для оценки использовалась тестовая выборка: MAE 0,181, точность точного класса 0,610, точность с учётом соседнего класса 0,884. Обучающие метки частично сформированы моделью gemma2:9b, а неоднозначные примеры исключены. Лицензия — Apache-2.0.

Sôtêr — также называемая ΣΩΤΗΡ — это компактная контекстная модель для лемматизации древнегреческого языка, опубликованная под идентификатором Zual/soter. По карточке это T5-модель с 3,8 млн параметров; README указывает 9,6 млн, поэтому размер в источниках расходится. Модель читает UTF-8-представление символов и контекст до восьми слов вокруг размеченной целевой формы, а затем выдаёт её лемму. Доступны веса в форматах ONNX и safetensors. Модель предназначена для лемматизации древнегреческих текстов, в том числе корпусов Perseus, PROIEL и PTNK; README также описывает оценку на византийском корпусе DBBE. Она обучалась как часть цепочки дистилляции, хотя README уточняет, что веса ByT5 не использовались как начальная точка обучения самой Sôtêr. Указанная лицензия — Apache-2.0. В опубликованных результатах качество различается по корпусам: README сообщает 93,06 на Perseus, 94,43 на PROIEL и 98,18 на PTNK; на DBBE приводится zero-shot exact score 79,87. Автор отдельно предупреждает о расхождении разметочных конвенций, ограничениях методики сравнения и более слабом результате на PROIEL. В описании также есть несогласованность параметров между README и метаданными.

stanfordnlp/stanza-lzh — модель из набора Stanza, разработанного Stanford NLP Group для лингвистического анализа классического китайского языка (lzh). Она выполняет классификацию токенов и предназначена для языкового анализа текста на классическом китайском языке. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache-2.0.

TrOCR Javanese Aksara v6 — модель распознавания печатной яванской письменности Hanacaraka, разработанная thesimonharms и дообученная на базе microsoft/trocr-small-printed. Она принимает изображение одной короткой строки и генерирует её текстовую запись. Архитектура encoder-decoder Transformer включает визуальный энкодер DeiT-small с 12 слоями и входом 384×384, а также декодер TrOCR с 6 слоями; токенизатор дополнен 96 атомарными токенами яванских знаков. Модель рассчитана на чистые печатные строки длиной до 12 знаков, похожие на синтетические обучающие изображения. На выборке из 1500 строк того же синтетического домена заявлены точность полного совпадения 96% и частота ошибок символов 0,68%. Она подходит для распознавания заранее обрезанных строк и прототипирования OCR-конвейеров после детектора строк. Лицензия — MIT. Модель не распознаёт страницы и не включает детектор текста или разбор макета. Она не предназначена для рукописей, пальмовых рукописей, длинных строк, многостолбцовых документов, латиницы и архивных изображений; заявленные метрики относятся к синтетическому домену и не характеризуют качество на таких данных. Для инференса изображения нужно дополнить до квадратной формы перед обработкой TrOCRProcessor; неверное масштабирование или начальный токен декодера может резко ухудшить результат.

Модель katomyomachia/xlm-roberta-persian-meter — классификатор размера (baḥr) полустишия классической персидской поэзии. Она разработана на основе XLM-RoBERTa и дообучена на примерах из корпуса Ganjoor; архитектура — XLMRobertaForSequenceClassification, размер — 305,2 млн параметров, контекст — до 514 токенов. Модель принимает текст полустишия и предсказывает класс стихотворного размера, который можно сопоставить с персидским названием через таблицу label_map.json. Обучающая выборка содержит 277 248 уникальных полустиший из произведений Саиба Тебризи, Хафиза, Саади, Руми, Фирдоуси и Низами. Автор сообщает об accuracy 0,9801 и F1 0,9792 на случайно отобранных 10% обучающих данных, поэтому эти результаты не подтверждают качество на независимой выборке. Редкие размеры представлены недостаточно. Модель ориентирована на персидскую поэзию; лицензия — MIT.

ATOMIS — большая языковая модель, разработанная Корейским институтом ядерной безопасности (KINS) для работы с текстами в ядерной отрасли. Она дообучена на основе google/gemma-2-27b: авторы расширили базовую модель методом passthrough, продолжили предобучение на специализированных материалах, затем применили supervised fine-tuning и direct preference optimization. В репозитории указаны архитектура Gemma 2, 33,3 млрд параметров и контекст до 32 768 токенов. Модель рассчитана прежде всего на понимание и генерацию корейского текста, ответы на вопросы по ядерной тематике и работу в сценариях RAG, где ответ строится по документам. В карточке приведены оценки на корейском языковом бенчмарке LogicKor, ядерном NuclearQA и RAG-бенчмарке RAGEval; заявленные результаты относятся к описанным авторами условиям оценки и не гарантируют точность в иных сценариях. Модель доступна на условиях лицензии Gemma.

redewiedergabe/bert-base-historical-german-rw-cased — модель BERT для немецкого языка, обученная на художественных и нехудожественных текстах 1840–1920 годов. По метаданным, это BERTForMaskedLM с 136,3 млн параметров и контекстом до 512 токенов; доступны веса PyTorch и Flax. Основная задача в каталоге и карточке — заполнение маски в тексте. Модель предназначена для работы с историческими немецкими текстами, а также показала хорошие результаты на художественных текстах современного немецкого языка. В README описана её оценка как языкового представления для отдельного BiLSTM-CRF-теггера, размечающего прямую, косвенную, пересказанную и несобственно-прямую речь и мысль. Результаты этого теггера не следует считать прямой оценкой самой модели для заполнения маски. Лицензия в предоставленных данных не указана.