I.11Классификация, ранжирование и сопоставление
В разделе собраны самостоятельные задачи, где AI помогает распределять объекты по категориям, устанавливать соответствия и определять порядок обработки. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
26 736 моделейUniNER-7B-definition — модель извлечения сущностей и понятий, разработанная авторами UniNER и дообученная на базе LLaMA-7B. Обучающие примеры подготовлены из корпуса Pile-NER-definition с помощью GPT-3.5-turbo-0301: модель училась находить сущности и понятия в отрывках и кратко определять тип каждой найденной единицы, без использования человеческой разметки. Модель предназначена для распознавания именованных сущностей и понятий, в том числе когда тип задан кратким текстовым определением или перефразирован. На вход подаётся текст, а на выходе ожидаются найденные сущности с определениями их типов. Архитектура — плотная LLaMA с 6,6 млрд параметров; длина контекста — 2048 токенов. В метаданных указан английский язык. Авторы отмечают лучшую устойчивость к перефразированию определений типов по сравнению с UniNER-7B-type; при этом версия UniNER-7B-type лучше на стандартных наборах NER с короткими распространёнными метками. Лицензия — CC BY-NC 4.0.
HivetechVN разработала vietnamese-sbert-base-law-768-v1 — Sentence Transformer на базе RoBERTa, дообученный на парах запросов и фрагментов вьетнамских правовых текстов. Модель кодирует предложения и абзацы в плотные векторы размерностью 768 и предназначена для поиска семантически близких документов, сравнения текстов и подбора перефразировок. Для сравнения векторов используется косинусное сходство. Модель подходит для поиска ответов и правовых положений по вьетнамским формулировкам, а также для кластеризации и классификации текста на основе эмбеддингов. Максимальная длина последовательности составляет 258 токенов по метаданным. README указывает английский как язык модели, однако приведённые обучающие пары — на вьетнамском; это указывает на специализацию на вьетнамском правовом тексте, но не подтверждает широкую поддержку английского. Модель распространяется по лицензии Apache-2.0.
Модель timm/vit_pwee_patch16_reg1_gap_256.sbb_in1k — компактная Vision Transformer для классификации изображений и извлечения признаков. Её разработчики обучили её в библиотеке timm на ImageNet-1k; модель содержит 15,3 млн параметров и рассчитана на изображения размером 256 × 256 пикселей. Архитектура использует патчи 16 × 16, один register-токен и глобальное усреднение признаков. Модель подходит для присвоения изображениям классов ImageNet-1k, извлечения карт признаков и получения эмбеддингов изображений. Репозиторий содержит веса PyTorch и Safetensors. Лицензия — Apache-2.0. README не приводит метрик качества именно этой модели; применимость к классам и данным вне ImageNet-1k отдельно не описана.
timm/vit_small_patch16_dinov3_qkvb.eupe_lvd1689m — компактный визуальный энкодер EUPE ViT-S, распространяемый в библиотеке timm. Это Vision Transformer с патчами 16×16 и примерно 21,6 млн параметров; он предназначен для извлечения признаков и эмбеддингов изображений, а также может служить основой для классификации и анализа визуальных данных. Модель обучена методом Efficient Universal Perception Encoder на LVD-1689M с использованием прокси-учителя, дистиллированного из нескольких специализированных визуальных энкодеров. При входном размере изображения 256×256 модель выдаёт классовый, регистрационные и патч-токены. В timm по умолчанию применяется усреднённый глобальный пуллинг; для соответствия исходной схеме с классовым токеном следует выбрать global_pool="token". Модель не описана как мультимодальная генеративная система и не принимает текст. Лицензия FAIR Noncommercial Research License ограничивает коммерческое использование. Качество и пригодность для конкретной предметной области следует проверять отдельно; в README приведены результаты сравнительных оценок, но не гарантии на целевых данных.
bookpanda/wangchanberta-base-att-spm-uncased-tagging — дообученная модель на базе WangchanBERTa от AI Research для классификации токенов. Её можно применять для разметки отдельных слов и фрагментов текста, например для извлечения сущностей, если соответствующие метки предусмотрены обучением. Архитектура — BERT, размер — 139,1 млн параметров; модель принимает текст с контекстом до 512 токенов и доступна в формате PyTorch. Датасет и схема меток в карточке не раскрыты, поэтому нельзя определить точный сценарий разметки или качество. Базовая модель рассчитана на тайский язык, однако сведения о языках этой версии в метаданных отсутствуют. Условия лицензии в предоставленных данных не указаны.
zenkri/autotrain-Arabic_Poetry_by_Subject-920730230 — модель классификации текстов, обученная с помощью AutoTrain для многоклассового определения тем арабской поэзии. Она основана на BERT и содержит 151,6 млн параметров; принимает текст длиной до 512 токенов и выдаёт метку класса. В карточке приведены метрики проверки: accuracy 0,879 и macro F1 0,821. Модель предназначена для тематической классификации арабских стихотворений. Лицензия в предоставленных данных не указана.
leomaurodesenv/bert-base-uncased-answerable-or-not — англоязычная модель классификации текста, полученная дообучением google-bert/bert-base-uncased. Она предназначена для определения, является ли текст или вопрос ответимым; конкретные сценарии и состав обучающих данных в карточке не раскрыты. Модель построена на архитектуре BERT и содержит 136,7 млн параметров, принимает текстовые последовательности длиной до 512 токенов и выдаёт метку класса. В README указаны accuracy 0,9924 и loss 0,0575 на оценочном наборе, однако набор данных и условия оценки не описаны, поэтому эти результаты нельзя напрямую переносить на другие данные. Лицензия — Apache-2.0.
Ruizhou/bert-base-uncased-finetuned-rte — модель классификации последовательностей на архитектуре BERT-base, дообученная для задачи Recognizing Textual Entailment (RTE). Она определяет, следует ли гипотеза из заданного текста, и предназначена для классификации пар предложений на английском языке. По метаданным, модель содержит 136,7 млн параметров, принимает текст с контекстом до 512 токенов и распространяется в формате PyTorch. Базовая модель — google-bert/bert-base-uncased. Разработчик и лицензия для конкретной версии не подтверждены доступными источниками.
textattack/bert-base-uncased-QNLI — модель классификации текста, опубликованная TextAttack. Это BERT base uncased, дообученный для распознавания текстового следования на задаче QNLI: по паре из вопроса и текста модель определяет, содержит ли текст ответ на вопрос. Модель имеет архитектуру BertForSequenceClassification, около 136,7 млн параметров и принимает последовательности длиной до 512 токенов. Модель предназначена для классификации пар вопрос–токенизированный текст на метки «ответ есть» и «ответа нет», а также для экспериментов и проверки методов на задаче QNLI. Английский язык следует из uncased-версии BERT и набора QNLI. Это не генеративная модель: она выдаёт метку класса и оценку, а не формулирует ответ. В репозитории доступны веса PyTorch и Flax. Карточка Hugging Face не приводит лицензию, поэтому условия использования по имеющимся источникам установить нельзя.
Bertha Portuguese Small — компактная языковая модель на архитектуре BERT, разработанная Леонардо Лессой Арамаки и обученная с нуля на бразильском португальском корпусе Corpus Carolina (C4AI/USP). Это энкодерная модель BERT-Small с 6 слоями, 8 головами внимания и размером скрытого представления 512; число параметров — 32,1 млн, максимальный контекст — 512 токенов. Модель предназначена для заполнения маскированных слов и как основа для последующей адаптации к задачам обработки португальского текста, включая распознавание именованных сущностей, классификацию, анализ тональности и извлечение информации. Компактный размер рассчитан на низкую задержку и эффективный запуск на CPU. Карточка приводит финальную потерю около 1,9; это значение само по себе не гарантирует качество на конкретных прикладных задачах. Модель распространяется по лицензии CC-BY-4.0.
bert-sr-small — компактная языковая модель на базе BERT, опубликованная пользователем aajrami. Она предварительно обучена с помощью цели shuffle + random; подробности об этой цели и гиперпараметрах приведены в связанной работе о влиянии целей предобучения на усвоение языковых свойств. В метаданных модель представлена архитектурой RoBERTa с классом RobertaModel и содержит 42,5 млн параметров. Модель предназначена для извлечения признаков из текста и может использоваться как основа для получения контекстных представлений текста в NLP-сценариях. Максимальная длина контекста составляет 514 токенов. Репозиторий содержит веса в форматах PyTorch и Safetensors. Модель распространяется по лицензии CC BY 4.0. Карточка не уточняет поддерживаемые естественные языки и конкретные ограничения качества; результат следует проверять на целевых данных и задачах.
bertweet-base-emotion-analysis — модель классификации текста для распознавания эмоций в англоязычных сообщениях. Её разработали на основе BerTweet и обучили на корпусе EmoEvent. Модель построена на архитектуре RoBERTa и содержит 162,4 млн параметров. Она принимает текст и относит его к категориям эмоций; контекст ограничен 130 токенами. Карточка указывает английский язык и форматы PyTorch и Safetensors. Модель подходит для анализа эмоциональной окраски сообщений и текстов на английском языке. Лицензия в предоставленных данных не указана.
aleynahukmet/bge-medical-small-en-v1.5 — англоязычная модель эмбеддингов для семантического поиска медицинской информации. Разработчик дообучил BAAI/bge-small-en-v1.5 из библиотеки SentenceTransformers на наборах медицинских вопросов и ответов, включая MedQuad и Medical Meadow. Модель построена на архитектуре BERT, содержит около 40 млн параметров и принимает текстовые запросы; максимальная длина контекста — 512 токенов. Модель предназначена для представления медицинских запросов и текстов в виде векторов, чтобы находить семантически близкие материалы в системах поиска и ответов на вопросы. В README сообщается о результате около 0,887 на тестовом наборе, оценённом Translation Evaluator, однако подробности протокола оценки не приведены. Модель выдаёт признаки или эмбеддинги, а не готовые медицинские ответы. Лицензия в предоставленных данных не указана.
Испаноязычный bi-encoder на базе BETO, дообученный для связывания упоминаний сущностей с авторитетными записями Biblioteca Nacional de España (BNE). Он преобразует текстовые упоминания и записи в нормализованные векторы размерностью 768 для векторного поиска, семантического извлечения кандидатов и устранения неоднозначности с привязкой к устойчивым URI BNE. Модель предназначена для работы с историческими авторами, литературными произведениями и библиотечными предметными рубриками. В карточке заявлены результаты Recall@1 0,992, Recall@5 0,997 и Recall@10 0,999 на benchmark-оценке. Метаданные указывают архитектуру BERT, 137,1 млн параметров, контекст до 512 токенов и формат safetensors; модель распространяется по лицензии CC BY 4.0. README приводит другое число параметров — около 110 млн. Применение модели лучше ограничивать испанскими историческими, литературными и библиографическими ресурсами; приведённые метрики относятся к оценке, описанной в карточке.
almanach/camembertv2-base-xnli — модель классификации текста на архитектуре RoBERTa, разработанная Виссамом Антуном из Almanach, Inria-Paris. Она дообучена на almanach/camembertv2-base на датасете FLUE-XNLI для задачи естественного вывода (NLI): определения отношения между посылкой и гипотезой. Модель рассчитана на французский язык и имеет 138,4 млн параметров с контекстом до 1025 токенов. На тестовой части FLUE-XNLI указана точность 0,82851. Модель можно применять для классификации текстовых пар в сценариях проверки следствий, противоречий и нейтральных отношений. Результаты на других наборах данных и задачах могут быть хуже; также возможны смещения, связанные с обучающими данными. Лицензия — MIT.
hfl/chinese-pert-base — китайская модель семейства BERT, опубликованная HFL. Это плотный трансформер BertModel примерно на 129,5 млн параметров, предназначенный для извлечения признаков из текста; README рекомендует загружать её средствами для BERT. Модель принимает текст и формирует контекстные векторные представления токенов, которые можно использовать как признаки в последующих задачах обработки китайского языка. Контекст модели составляет 512 токенов. Доступны веса PyTorch и TensorFlow. Лицензия CC BY-NC-SA 4.0 требует указания авторства и распространяет производные материалы на тех же условиях; лицензия также ограничивает коммерческое использование. Карточка находится в разработке и отсылает за дополнительными сведениями к репозиторию GitHub.
SIRIS Lab разработала эту модель для предварительной проверки библиографических ссылок в составе Citation Parser. Это дообученная DistilBERT-base-multilingual-cased с архитектурой BERT для классификации последовательностей: она относит текст ссылки к действительным или недействительным. Модель рассчитана на автоматизацию проверки ссылок в библиографических базах и рабочих процессах подготовки рукописей. Модель содержит около 205,1 млн параметров, принимает текстовые последовательности длиной до 512 токенов и доступна в формате safetensors для Transformers. Основа многоязычная, однако оценка проводилась на английских ссылках; в описании приведены результаты на тестовой выборке: accuracy 0,95 и macro F1 0,94. Модель распространяется по лицензии Apache 2.0.
Common-Voice-Gender-Detection-IND-En — дообученная модель на базе facebook/wav2vec2-base-960h, разработанная для бинарной классификации английской речи с целью определить, к какому из двух классов — female или male — отнести голос. Она использует архитектуру Wav2Vec2ForSequenceClassification и содержит 113,3 млн параметров. Модель рассчитана на речь на английском языке с индийским акцентом. Модель принимает аудио и выдаёт метку класса. В README приведены результаты на тестовой выборке: точность 99,46%, однако эти показатели не гарантируют такое же качество на других наборах данных и акцентах. Возможные сценарии применения — аналитика записей звонков, разметка аудиоколлекций и исследование акустических особенностей речи. Лицензия — Apache-2.0.
Японская языковая модель Globis University на архитектуре DeBERTa V3, предназначенная для задач классификации токенов. Модель насчитывает 137,8 млн параметров, принимает последовательности длиной до 512 токенов и распространяется в формате PyTorch для Transformers. Для японского текста используется токенизатор с уменьшенным словарём на 32 000 элементов: при выводе не требуется морфологический анализатор, а границы токенов в некоторой степени соответствуют границам слов. Модель подходит для разметки и классификации фрагментов японского текста. Она обучалась на японских ресурсах, включая Wikipedia, WikiBooks, CC-100 и C4. Лицензия — CC BY-SA 4.0. Карточка описывает возможности токенизатора и общий сценарий классификации токенов, но не приводит конкретные результаты оценки этой версии на задачах разметки.
DialogRPT-updown — модель ранжирования ответов в диалоге, разработанная группой Microsoft Research NLP. Она оценивает, насколько вероятно, что ответ получит голос за в контексте диалога; оценку можно использовать для сортировки нескольких кандидатов, созданных другой диалоговой моделью, например DialoGPT. Модель относится к семейству GPT-2 и реализована как классификатор последовательностей на PyTorch; длина контекста составляет до 1024 токенов. Модель обучена на более чем 100 миллионах примеров человеческой обратной связи и предназначена для выбора предпочтительного ответа, а не для генерации диалогов. Карточка описывает задачу updown; отдельные модели семейства DialogRPT предназначены и для других видов обратной связи. Лицензия в предоставленных данных не указана.
Donut-IRS-Tax-Docs-Classifier — модель hsarfraz на базе архитектуры Donut с энкодером Swin, дообученная для классификации изображений налоговых документов IRS США. Она распознаёт до 28 типов документов, используемых при подготовке налоговых деклараций; в карточке перечислены формы 1040, W-2 и различные приложения к декларациям. Для инференса README рекомендует изображения размером 1920 × 2560 пикселей. Модель содержит 58,7 млн параметров и распространяется под лицензией MIT. Модель предназначена для автоматической сортировки сканов и изображений налоговых форм перед дальнейшей обработкой. Обучение проводилось на наборе более чем из 3000 документов. Классификатор специализирован на формах IRS США; README не описывает поддержку других типов документов или языков, а также не приводит метрики качества.
Swallow Education Classifier — набор японских классификаторов на основе fastText, разработанный для оценки образовательной ценности веб-страниц. Модель предназначена для фильтрации и ранжирования японских документов по их учебной ценности, например при подготовке корпусов для обучения языковых моделей. В репозитории представлены два варианта. Wiki-based классификатор оценивает сходство документа с академическими статьями японской Википедии и выдаёт вероятность от 0 до 1. LLM-based классификатор предсказывает один из четырёх классов образовательной ценности (0–3); ожидаемую оценку можно вычислить как взвешенную сумму классов и их вероятностей. Оба варианта обучены fastText за 20 эпох с символьными n-граммами длины 2 и 3. Для более широкого набора документов авторы рекомендуют LLM-based вариант. Классификаторы применялись для фильтрации Swallow Corpus Version 2; в описанных экспериментах такая фильтрация улучшала японские знания обучаемой языковой модели при том же вычислительном бюджете. Модель рассчитана на японский текст, качество работы на других языках не гарантируется. Wiki-based вариант распространяется по CC BY-SA 4.0; LLM-based вариант — на условиях лицензии использованной для разметки модели, Llama 3.1 Community License Agreement или Gemma Terms of Use.
dima806/email-spam-detection-distilbert — дообученная модель DistilBERT для классификации текста на категории «спам» и «не спам». Она предназначена для фильтрации электронных писем и других текстовых сообщений. Модель построена на DistilBertForSequenceClassification и принимает текст длиной до 512 токенов. В карточке приведён отчёт на тестовой выборке из 16 690 примеров: точность составила 99,2%, а F1-score для классов «спам» и «не спам» — около 99,2%. Эти результаты относятся к указанной выборке и не гарантируют аналогичного качества на других данных. Модель распространяется по лицензии Apache-2.0.
Narrativaai/fake-news-detection-spanish — это дообученная модель RoBERTa-large-bne для классификации испаноязычных новостных текстов на настоящие и фальшивые. Она предназначена для предварительной проверки новостей и фильтрации потенциально вводящей в заблуждение информации. Модель принимает текст и возвращает метку класса; в оценке на тестовой выборке FakeDeS указаны F1 0,7717 и точность 0,7797. Обучение проводилось на испанском корпусе FakeDeS из 971 новостной публикации, собранной в 2018 году; тексты написаны на мексиканском варианте испанского. Архитектура — RoBERTa для классификации последовательностей, размер — около 454,1 млн параметров, контекст — до 514 токенов. Модель ограничена тематикой, источниками и временным периодом небольшого обучающего корпуса: результаты на других вариантах испанского языка и современных новостях могут отличаться. Это инструмент для оценки текстовых признаков, а не самостоятельное подтверждение достоверности новости. Условия лицензии в доступных данных не приведены.
TinyBERT Financial News Sentiment Analysis — компактная модель классификации текста, опубликованная mikeysharma и дообученная на финансовых новостях. Она относит текст к одному из трёх классов: отрицательная, нейтральная или положительная тональность. Модель построена на архитектуре TinyBERT с 4 слоями и размерностью скрытого состояния 312; в метаданных указаны 15,6 млн параметров и формат ONNX. Контекст модели — до 512 токенов, а рекомендуемая длина входа в карточке — до 128 токенов. Модель предназначена прежде всего для анализа заголовков финансовых новостей на английском языке. В README заявлены точность 89,2% и F1 0,87; это показатели из карточки, их применимость зависит от данных и условий оценки. Указана предобработка с приведением к нижнему регистру, нормализацией тикеров, удалением URL и усечением текста. Лицензия в предоставленных данных не указана.
Модель khinswezinhan/fine-tuned-burmese-pagoda-model — дообученная Sentence Transformer на базе sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2. Она кодирует предложения и абзацы в плотные векторы размерностью 384 и предназначена для семантического поиска и извлечения текстов, связанных по смыслу. Архитектура включает BERT с усредняющим pooling; сравнение векторов выполняется по косинусному сходству. Модель обучена на 78 парах текстов об известных пагодах Мьянмы: короткие названия сопоставляются с более подробными описаниями. Максимальная длина контекста по метаданным — 512 токенов; в README указана максимальная длина последовательности 128 токенов. Поддерживается текстовый ввод. Примеры и обучающие данные на бирманском языке, поэтому основное применение — поиск по бирманским описаниям пагод и достопримечательностей. Лицензия в предоставленных данных не указана.
Immerwinter/gbert-large-privacy-policy-content-deletion — дообученная немецкоязычная модель BERT для классификации текста по теме удаления данных в политиках конфиденциальности. Карточка относит её к аналитическому конвейеру, в котором также перечислены темы Audience, Contact, LegalBasis, Retention и другие; сама модель предназначена для категории Deletion. Модель основана на deepset/gbert-large, имеет архитектуру BertForSequenceClassification и 434,5 млн параметров. Принимает текст и выдаёт метку классификации; максимальная длина контекста — 512 токенов. Доступны веса в форматах Safetensors и ONNX. Лицензия — Apache-2.0. Модель подходит для выделения фрагментов политики конфиденциальности, относящихся к удалению персональных данных. README не раскрывает состав меток, обучающие данные, качество на тестах или процедуру инференса, поэтому пригодность для конкретного набора документов следует оценить отдельно.
gemma-3-270m-foodextract — дообученная модель thealper2 на основе unsloth/gemma-3-270m-it для извлечения сведений о еде и напитках из текстовых описаний. Она формирует структурированный ответ с категориями вроде состава, пищевой ценности, меню, рецептов, продуктов, напитков, рекламы и упаковки. Модель построена на текстовой архитектуре Gemma 3, содержит 257 млн параметров и использует контекст до 32 768 токенов; обучение проводилось на подмножестве из 20 000 примеров набора FoodExtract-135k. Модель предназначена для извлечения и категоризации упоминаний еды и напитков из описаний, подписей и текстов о продуктах. В README приведены результаты оценки на 500 примерах: точное совпадение — 0,416, F1 для тегов — 0,9227; при оценке самих списков еды и напитков точное совпадение ниже — 0,1977. Обучающие целевые ответы были сгенерированы другой языковой моделью, поэтому результат может воспроизводить ошибки этих меток. Модель обучалась на англоязычных описаниях, а тексты длиннее 1024 токенов исключались из обучения; списки разделяются запятыми, что делает элементы с запятыми неоднозначными. Использование регулируется условиями Gemma Terms of Use базовой модели.
GLiNER2 Large v1 DocEE — модель извлечения информации на основе GLiNER2, дообученная whr778 на базе fastino/gliner2-large-v1 для извлечения событий из документов. Она предназначена для определения событий, связанных с ними сущностей и ролей, а также для классификации документов. Модель обучалась на англоязычном наборе DocEE: 21 966 обучающих записей, 2 748 примеров для валидации и 2 771 для тестирования. Модель использует библиотеку gliner2 и поставляется в формате safetensors. На слепом тесте F1 классификации составил 0,994–0,997 в зависимости от строгости оценки; для извлечения сущностей F1 составил 0,360 в строгом и 0,569 в более мягком режиме. В README не указаны размер модели и длина контекста. Лицензия обозначена как other, поэтому условия использования следует сверить с карточкой модели и источником данных DocEE.
Immerwinter/gottbert-privacy-policy-content-sharing — немецкоязычная модель классификации текста на основе RoBERTa, дообученная на GottBERT/GottBERT_base_last. Она предназначена для анализа текстов политик конфиденциальности и отнесения фрагментов к категориям, связанным с обработкой и передачей данных: например, Sharing, ThirdParty, Purpose и Retention. В README перечислены метки тематик, включая Audience, LegalBasis, Security/Privacy и UserRights, а также указана английская версия материалов. Модель содержит 153,2 млн параметров, принимает текст и выдаёт классы; максимальный контекст — 514 токенов. Репозиторий содержит веса в форматах Safetensors и ONNX. Лицензия — Apache-2.0. Метаданные указывают немецкий язык; наличие в README пометки об английской версии само по себе не подтверждает качество классификации на английском языке.