I.11Классификация, ранжирование и сопоставление

leomaurodesenv выпустил дообученную модель DistilBERT для классификации текста. Она основана на distilbert/distilbert-base-uncased и использует архитектуру DistilBertForSequenceClassification. Модель предназначена для классификации последовательностей; конкретные классы и область применения в карточке не описаны. Модель работает с текстом и имеет контекстное окно до 512 токенов. На указанном в README наборе для оценки достигла accuracy 0,8432 и loss 0,3496; данные и методика оценки не раскрыты. Модель распространяется в формате safetensors по лицензии Apache-2.0.

sentence-transformers/distilroberta-base-msmarco-v2 — модель Sentence Transformers на архитектуре DistilRoBERTa, обученная командой sentence-transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска и кластеризации. Модель содержит 95,2 млн параметров, рассчитана на текстовый ввод, имеет контекстное окно до 514 токенов и доступна в форматах PyTorch, TensorFlow, ONNX и OpenVINO. Модель можно использовать для поиска документов по смыслу, сравнения текстов и группировки похожих предложений. В карточке она помечена как устаревшая: авторы предупреждают о низком качестве эмбеддингов и рекомендуют выбрать другую модель для новых проектов. Лицензия — Apache-2.0.

ElhBERTeu — базовая одноязычная модель BERT для баскского языка, представленная в работе о бенчмарке BasqueGLUE. Авторы предварительно обучили её на корпусе из 575 млн токенов: новостях, Википедии, научных текстах, литературе и субтитрах. Модель имеет регистрозависимый токенизатор со словарём на 50 тыс. токенов; в карточке указаны архитектура BertModel, 151,7 млн параметров и контекст до 512 токенов. Модель предназначена для получения контекстных представлений текста, которые можно использовать как основу для задач понимания баскского языка, например распознавания сущностей, классификации и оценки сходства предложений. Она оценивалась на BasqueGLUE и показала средний результат 73,71. Доступны веса в форматах PyTorch и safetensors. Лицензия — CC BY 4.0.

FinLang/finance-embeddings-investopedia — модель эмбеддингов команды FinLang, дообученная для финансовых приложений на базе BAAI/bge-base-en-v1.5. Она построена на архитектуре BERT, содержит 136,7 млн параметров и преобразует предложения и абзацы в плотные векторы размерности 768. Контекст ограничен 512 токенами. Модель предназначена для семантического поиска и кластеризации финансовых текстов, в том числе для поиска по документам в RAG-системах. В README описана оценка сходства на финансовых парах из Investopedia и проверка сохранения качества на наборах вопросов и ответов общего назначения. Лицензия — CC BY-NC 4.0; сторонние датасеты могут иметь дополнительные условия. Авторы позиционируют проект как исследовательский.

FineLAP — контрастивно предварительно обученная модель для сопоставления аудио и естественного языка. Карточка описывает её как модель, разработанную для задач понимания аудио на уровне целого клипа и отдельных временных кадров. Она предназначена для извлечения признаков и вычисления сходства между аудио и текстом, включая сценарии аудиозаземления, поиска аудио по тексту и обнаружения звуковых событий. Модель использует архитектуру FineLAP и распространяется в формате safetensors; библиотека для работы — Transformers. Лицензия MIT.

Wiebke дообучила DistilBERT на основе distilbert/distilbert-base-german-cased для классификации текста. Модель предназначена для отнесения немецкоязычных текстов к классам; конкретные классы и область применения в карточке не раскрыты. Архитектура — DistilBertForSequenceClassification, формат весов — safetensors, библиотека — Transformers. Контекст составляет 512 токенов. В README указаны Accuracy 0,9298 и F1 0,9296 на оценочном наборе, однако его состав и данные обучения не описаны. Модель распространяется по лицензии Apache-2.0.

Модель shanhy/furina_clir_seed12_cross_translation_augmentation_0.1val — дообученная версия yihongLiu/furina на неизвестном наборе данных. Она использует архитектуру RoBERTa и предназначена для классификации текста; в метаданных указано 421,3 млн параметров и контекст длиной 514 токенов. Модель сохранена в формате safetensors. В README приведены результаты оценки: loss 0,0213 и корреляция Спирмена 0,7695. Назначение набора данных, поддерживаемые языки и конкретные сценарии применения не раскрыты. Лицензия в предоставленных данных не указана.

totum-labs/gemma-4-12B-it-plumb — производная модели на основе Google Gemma 4 12B IT с подключённой к модели головой принятия решений Plumb. Основные веса заморожены; репозиторий содержит обученную голову и LoRA-адаптер, активируемый при обработке решения. Модель сохраняет возможности диалога и вызова инструментов базовой модели, а Plumb оценивает варианты по скрытым состояниям модели и возвращает вероятности, conformal-набор и выбранный ответ за один проход. Модель предназначена для структурированных решений в ходе диалога: выбора одного варианта, ответа «да/нет» или выставления оценки по шкале. README приводит результаты оценки на 447 решениях и сообщает о повышении точности относительно базовой модели в описанных настройках. Для работы требуются vLLM 0.30.0, плагин Plumbify и один GPU; тензорный и конвейерный параллелизм не поддерживаются. Голова обучалась на англоязычных решениях, выбирает только из предоставленных вариантов и не проверяет их корректность; сценарии передачи решения в середине генерации не входили в обучение. Лицензия репозитория — Apache 2.0.

GLM-RoBERTa-Large — плотная языковая модель семейства GLM от Z.ai, разработанная на основе подхода GLM с авторегрессионным заполнением пропусков. Модель содержит 454,2 млн параметров и 24 слоя Transformer с размером скрытого представления 1024 и 16 головами внимания; она предобучена на данных RoBERTa. Модель предназначена для извлечения признаков и может дообучаться для задач понимания и генерации естественного языка, включая генерацию текста и тесты с вариантами ответа. В карточке указана поддержка английского языка. Доступны веса в формате PyTorch; контекстное окно в источниках не описано. Лицензия в предоставленных данных не указана.

Это дообученная модель Google LongT5-TGlobal-Base, опубликованная пользователем jackmedda. Она предназначена для классификации текстов и построена на архитектуре LongT5ForSequenceClassification. Модель содержит 123,8 млн параметров, принимает текстовый контекст длиной до 4096 токенов и распространяется в формате safetensors под лицензией Apache-2.0. В карточке приведены результаты оценки: loss 0,5751, accuracy 0,7647, F1 0,8667, precision 0,7647 и recall 1,0. Датасет для дообучения и предметная область не описаны, поэтому переносить эти показатели на другие наборы данных нельзя. Базовая модель ориентирована на английский язык; сведения о языках и конкретном назначении этого дообучения не приведены.

GovernanceBERT-governance — англоязычная модель классификации текста для выявления материалов по корпоративному управлению в тематике ESG. Её разработали авторы семейства ESGBERT; модель дообучена на GovernanceBERT-base с использованием набора из 2 тысяч примеров о корпоративном управлении. Архитектура — RoBERTa для классификации последовательностей, размер — 95,2 млн параметров, максимальный контекст — 514 токенов. Модель предназначена для отбора и анализа текстов о корпоративном управлении, в том числе при обработке ESG-коммуникаций и подготовке крупных текстовых анализов. Она ориентирована на английский язык и выдаёт результат классификации. Репозиторий содержит веса PyTorch; лицензия — Apache-2.0. Качество зависит от соответствия входных текстов тематике и распределению данных, на которых модель дообучалась.

industry-bert-asset-management-v0.1 — модель llmware для построения семантических эмбеддингов текстов об управлении активами. Это дообученная на публичных документах отрасли модель Sentence Transformer на архитектуре BERT с 136,7 млн параметров и контекстом до 512 токенов. Модель предназначена для использования как замена эмбеддингов в сценариях, связанных с управлением активами; README указывает английский язык. Эмбеддинги можно применять для семантического поиска и сопоставления текстов в документах о бизнесе, финансовых показателях и компаниях отрасли. Модель представлена в формате PyTorch и распространяется по лицензии Apache 2.0. Качество может снижаться за пределами предметной области; авторы также отмечают возможные аномалии в пространстве эмбеддингов и отсутствие специальных мер для снижения смещений в данных.

crcb/isear_bert — модель классификации последовательностей на базе RoBERTa, опубликованная под аккаунтом crcb и обученная с помощью AutoTrain. Она предназначена для многоклассовой классификации текста; README приводит пример отправки текста через API Hugging Face. Модель содержит 151,8 млн параметров, принимает до 514 токенов и представлена в формате PyTorch. В README указаны метрики на валидации: accuracy 0,727 и macro F1 0,723. В карточке также указан набор данных crcb/autotrain-data-isear_bert, однако назначение классов и подробности разметки не описаны. Лицензия в предоставленных данных не указана.

Jet — дообученная языковая модель Michal Jach на базе Qwen3.5-4B, предназначенная для выбора типизированных решений и вероятностей из заданных вариантов. Она принимает текстовое описание состояния и критерии вариантов, а не генерирует свободные ответы. Модель имеет плотную архитектуру Qwen3.5ForCausalLM, содержит 3,4 млрд параметров и поддерживает контекст до 262 144 токенов; данные модели представлены в формате Safetensors и рассчитаны на запуск через Transformers. В версии 6.2 применено корректирующее дообучение LoRA поверх полной объединённой версии Jet 6.1; итоговый выпуск — полные BF16-веса, отдельная базовая модель не требуется. Обучение было сфокусировано на банковских намерениях, финансовой тональности сущностей и сарказме, с примерами для сохранения качества на более широких задачах. Карточка приводит небольшие локальные holdout-оценки и прямо отмечает, что они не доказывают широкого улучшения; качество за пределами проверенных областей не установлено. Модель и runtime распространяются по лицензии Apache-2.0, лицензии исходных наборов данных могут отличаться.

KAILAS (Keyword Labeler At SciX) — англоязычная модель-классификатор на базе RoBERTa, разработанная для SciX Digital Library и адаптированная к задачам NASA Science Mission Directorate. Модель размечает научные тексты метками UAT (Unified Astronomy Thesaurus), чтобы поддерживать поиск и навигацию по научным публикациям в астрономии и смежных областях. Это encoder-only трансформер с архитектурой RobertaForSequenceClassification и 151,8 млн параметров по метаданным. В карточке указаны дообучение на данных SciX и версия UAT 5.1; обучающая выборка включала 18 тысяч заголовков, аннотаций, основного текста и благодарностей из астрономических статей, около 217 млн токенов. Контекст составляет 514 токенов. Лицензия — Apache-2.0.

LaBSE_geonames_RU — модель эмбеддингов предложений на базе многоязычной BERT-модели LaBSE, дообученная автором карточки на русскоязычных географических названиях из набора GeoNames cities15000. Она преобразует названия городов в плотные 768-мерные векторы и предназначена для семантического поиска и кластеризации географических названий. Метаданные указывают 498,1 млн параметров, контекст до 512 токенов и форматы PyTorch и safetensors. Модель рассчитана на работу с русскими географическими названиями; базовая LaBSE поддерживает многоязычные тексты, но специализация этого дообучения — русский. Обучение использовало MultipleNegativesRankingLoss с косинусным сходством. Лицензия в предоставленных данных не указана.

Карточка модели LanguageBind/LanguageBind_Audio на Hugging Face совпадает с карточкой LanguageBind/LanguageBind_Image, поэтому описание составлено по ней. LanguageBind_Image — модель для сопоставления изображений с текстовыми описаниями в рамках проекта LanguageBind, разработанного авторами исследования LanguageBind, принятого на ICLR 2024. В репозитории она представлена как PyTorch-модель на базе архитектуры CLIPModel и предназначена для классификации изображений без примеров на этапе обучения: пользователь задаёт текстовые метки или описания, а модель оценивает их соответствие изображению. Модель входит в мультимодальный подход LanguageBind, который использует язык как общий семантический ориентир для связывания представлений разных модальностей. Для этого чекпойнта подтверждён сценарий zero-shot классификации изображений; описание проекта также упоминает вычисление сходства между модальностями и текстом. README не сообщает размер этой модели, её языковой охват или длину контекста. Лицензия репозитория — MIT.

Funnel Transformer large — предварительно обученная модель семейства Funnel Transformer, выпущенная командой разработчиков Funnel Transformer и представленная в исследовательской работе. Это англоязычная uncased-модель с архитектурой Funnel и декодером, обученная на корпусах BookCorpus, английской Википедии, ClueWeb, GigaWord и Common Crawl. Обучение проводилось без разметки: модель училась определять, какие токены исходного текста были заменены. Модель извлекает контекстные представления текста и предназначена прежде всего для последующего дообучения под задачи классификации последовательностей и токенов, а также ответы на вопросы. Она не предназначена для генерации текста. Контекст составляет до 512 токенов. Репозиторий содержит веса PyTorch, SafeTensors и TensorFlow. Лицензия — Apache-2.0.

LegalBERTPT-br — модель для получения векторных представлений предложений на португальском языке, разработанная на базе предварительно обученной BERTimbau. Авторы обучили её методом SimCSE с контрастивным обучением. Модель предназначена для сравнения смысловой близости предложений и извлечения признаков из текстов. Для обучения использовались комментарии к законопроектам, тексты законопроектов и политические выступления из Бразилии: более 2,3 млн предложений после сегментации и объединения корпусов. Это делает её подходящей для поиска и сопоставления похожих фрагментов в бразильских политических и законодательных текстах. Модель распространяется в формате PyTorch по лицензии MIT. Она обучена на конкретном политико-правовом корпусе, поэтому качество на других темах и разновидностях португальского может отличаться; карточка не приводит оценок качества или длины контекста.

legal-embed-modernbert-v2 — англоязычная модель эмбеддингов для поиска по юридическим текстам, разработанная автором репозитория на базе nomic-ai/modernbert-embed-base. Это дообученная плотная ModernBERT-модель размером 149 млн параметров, предназначенная для сопоставления юридических вопросов с релевантными фрагментами и описаний типов договорных положений с текстом соответствующих пунктов. Модель поддерживает векторные представления Matryoshka: их можно сокращать с 768 до 512, 256, 128 или 64 измерений, снижая стоимость поиска с некоторой потерей качества. Модель подходит для поиска ответов в юридических корпусах, поиска договорных оговорок и построения RAG-систем. В метаданных указано контекстное окно 8192 токена, однако обучение и приведённые оценки проводились при длине последовательности 256 токенов; длинные договоры рекомендуется разбивать на фрагменты. В README описаны высокие результаты на поиске юридических вопросов и договорных положений, но на тесте вопросов о потребительских договорах v2 немного уступила v1 и базовой модели. Данные преимущественно относятся к США, Великобритании и Австралии, поэтому другие юрисдикции представлены слабее. Модель выполняет поиск и сопоставление, но не генерирует юридические советы. Лицензия — Apache-2.0.

KarBik/legal-french-matroshka — модель Sentence Transformers, дообученная на базе intfloat/multilingual-e5-base для работы с французскими юридическими текстами. Она преобразует предложения и абзацы в нормализованные плотные векторы размерностью 768; сходство оценивается косинусной мерой. Модель построена на XLM-RoBERTa с усреднением токенных представлений и поддерживает последовательности до 512 токенов. Модель предназначена для семантического поиска и сопоставления фрагментов юридических документов, а также для поиска перефразировок, кластеризации и классификации текстов. Обучение проведено на 9 000 пар anchor-positive; Matryoshka-обучение позволяет использовать укороченные представления размерностью 512, 256, 128 или 64. В README приведены оценки поиска для этих размерностей, но не описаны тестовый набор и его связь с юридическими сценариями. Модель принимает текст и выдаёт векторы эмбеддингов, а не готовые ответы или юридические заключения. В метаданных указана лицензия? Нет, сведения о лицензии отсутствуют в предоставленных данных.

Модель davanstrien/lfm25-encoder-agnews-smoke — дообученный энкодер LiquidAI/LFM2.5-Encoder-350M для однозначной классификации новостных текстов. Она относит статьи к одной из четырёх категорий: World, Sports, Business или Sci/Tech. Модель содержит 444,6 млн параметров, использует архитектуру lfm2 с классификационной головой и работает с текстом; базовый энкодер поддерживает контекст до 128 000 токенов. Чекпойнт предназначен для экспериментов с классификацией новостей и воспроизведения оценки на AG News. В карточке указаны accuracy 0,7575 и macro-F1 0,7568. Для загрузки через Transformers требуется trust_remote_code=True из-за пользовательской классификационной головы с mean pooling. Лицензия в предоставленных данных не указана.

lid-neural-5.1 — компактная модель для определения языка коротких текстов на четырёх основных языках Нигерии: хауса, йоруба, игбо и нигерийском пиджине. Модель разработала OlaVerse как классификационную доработку энкодера ModernBERT olaverse/mist-encoder-base-ng. Она содержит около 30,7 млн параметров, принимает текст с контекстом до 1024 токенов и предназначена для классификации предложений, запросов и сообщений, в том числе твитов. На сбалансированном отложенном наборе предложений авторы сообщают точность 0,9756 и Macro-F1 0,9753. Модель компактна и подходит для запуска на CPU и периферийных устройствах. Распространяется по лицензии Apache-2.0. Модель всегда выбирает один из четырёх поддерживаемых языков и не имеет класса для английского или других языков, поэтому входной текст на них может быть уверенно размечен ошибочно, чаще как нигерийский пиджин. Пиджин — наиболее сложный для распознавания класс; качество также может снижаться на смешанном тексте и нестандартной орфографии.

MedEmbed Biomedical MRL — англоязычная модель Sentence Transformer на базе BERT, дообученная для семантического поиска по биомедицинским текстам. Она преобразует предложения и абзацы в нормализованные плотные векторы размерности 384; для сравнения используется косинусное сходство. Модель обучена на 4 012 парах запросов и релевантных текстов с функцией потерь MultipleNegativesRankingLoss. Модель подходит для семантического поиска и сопоставления биомедицинских вопросов с текстами, а также для поиска перефразировок, кластеризации и классификации на основе эмбеддингов. Максимальная длина входа — 512 токенов. В README приведены результаты оценки на наборе medembed-small, однако они не гарантируют качество на других данных. Модель распространяется по лицензии Apache-2.0.

opendatalab/meta-rater-reasoning-rating — англоязычная модель-классификатор, разработанная как дообучение ModernBERT-base для оценки сложности рассуждений в тексте по шкале от 0 до 5. Она анализирует многошаговую логику, структуру аргументов, причинно-следственные связи, интеграцию доказательств и глубину анализа; результат представляет собой непрерывную оценку. Модель содержит 149 млн параметров, использует архитектуру ModernBERT для классификации последовательностей и принимает текст с контекстом до 8192 токенов. Модель предназначена для отбора и оценки учебных материалов, научных текстов и данных для обучения языковых моделей, а также для подбора материалов к курсам критического мышления. В карточке указаны F1 89,59% и точность 96,32%; метрики приведены без описания набора оценки, поэтому их следует рассматривать в контексте оригинального эксперимента. Модель ориентирована прежде всего на английский язык: качество может различаться в специализированных областях, особенно для математических и технических рассуждений. Лицензия — MIT.

MFANN 3b version 0.9 — дообученная модель на архитектуре Phi, разработанная netcat420 и обученная на наборе данных MFANN. Она предназначена для классификации текста и генерации текста; основное назначение по карточке Hugging Face — текстовая классификация. Модель содержит 3,5 млрд параметров, использует библиотеку Transformers и принимает контекст длиной до 2048 токенов. Модель поддерживает английский язык. Репозиторий содержит веса в формате Safetensors, лицензия — Apache-2.0. Набор данных MFANN продолжает расширяться; версия модели обучена на его состоянии на 14 мая 2024 года. Карточка не описывает качество, конкретную схему меток или ограничения применения, поэтому пригодность для конкретной классификационной задачи следует проверять отдельно.

Mixtral-8x7B-v0.1-pl — модель семейства Mixtral с архитектурой смеси экспертов (MoE), дообученная на польских данных. Авторы использовали 2,2 млрд польских токенов из набора SpeakLeash и около 600 млн токенов RedPajama, чтобы сохранить возможности модели в английском языке. Обучение провели при поддержке программы TPU Research Cloud на TPUv3-256; в разработке участвовали Konrad Staniszewski, Bartłomiej Cupiał и Piotr Miłoś. Модель предназначена для извлечения признаковых представлений из текста. Она содержит 7,9 млрд параметров, принимает текст с контекстом до 32 768 токенов и ориентирована прежде всего на польский язык, сохраняя поддержку английского. В репозитории представлены веса safetensors для библиотеки Transformers. Лицензия — Apache-2.0.

AI Sweden разработала эту модель как продолжение предобучения answerdotai/ModernBERT-base на текстах Скандинавии. Это плотная encoder-only модель ModernBERT для заполнения пропусков в тексте и построения решений понимания текста. Модель содержит около 149 млн параметров, использует токенизатор, обученный с нуля, и сохраняет контекстное окно в 8192 токена с RoPE и локально-глобальным вниманием. Модель обучалась на скандинавских текстовых корпусах The Nordic Pile и SWEb примерно на 1,2 трлн дополнительных токенов. Она предназначена для заполнения пропусков, извлечения эмбеддингов и дообучения для задач NLP на шведском, норвежском, датском и исландском языках; также может служить заменой BERT-подобного энкодера. Лицензия — Apache-2.0. Это исследовательский артефакт. Веб-корпуса могут содержать шум, стереотипы и чувствительные материалы, а экстраполяция RoPE за пределы 8192 токенов не проверена и может ухудшить качество.

MuRIL — многоязычная модель Google на архитектуре BERT base, предварительно обученная с нуля для 17 индийских языков и их транслитерированных вариантов. Репозиторий содержит модель с MLM-слоем для предсказания замаскированных слов; доступны веса в форматах PyTorch, TensorFlow и Flax. Модель насчитывает около 264,8 млн параметров и принимает последовательности длиной до 512 токенов. MuRIL предназначена для языкового моделирования и последующей адаптации к задачам NLP для индийских языков: например, классификации, разметки последовательностей и извлечения ответов на вопросы. При обучении использовались тексты Википедии, Common Crawl и параллельные переводные и транслитерированные данные; такой подход помогает работать с распространённой в индийском контексте записью языков латиницей. Модель не рассчитана на хорошую работу с языками, не представленными в обучении. Лицензия — Apache 2.0.

MyAwesomeModel — модель из репозитория asdad456/MyAwesomeModel-TestRepo, доступная через библиотеку Transformers и предназначенная для извлечения признаков из входных данных. В метаданных Hugging Face для неё указан pipeline-тег feature-extraction, а также совместимость с PyTorch и семейством BERT. README описывает обновлённую версию модели с улучшениями рассуждений, понимания текста, генерации кода, ответов на вопросы, классификации, анализа тональности, суммаризации и других задач. Однако эти заявления не согласуются с указанным в метаданных назначением feature-extraction, поэтому модель следует прежде всего рассматривать как инструмент получения векторных представлений для последующих NLP-задач. Модель распространяется по лицензии MIT. Размер, длина контекста и поддерживаемые естественные языки в доступных данных не указаны.