I.11Классификация, ранжирование и сопоставление
В разделе собраны самостоятельные задачи, где AI помогает распределять объекты по категориям, устанавливать соответствия и определять порядок обработки. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
26 736 моделейGold-only BERT STSb — модель Sentence Transformers на базе BERT, разработанная для демонстрации в курсе NLP for Semantic Search. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска и кластеризации; также подходит для оценки сходства предложений. Модель содержит 136,7 млн параметров, принимает текст с контекстом до 512 токенов и выдаёт эмбеддинги. При работе через Transformers к выходам модели нужно применить подходящую операцию pooling. Модель обучена с функцией потерь CosineSimilarityLoss на STSb; README описывает её как пример для главы об аугментации данных BERT внутри домена. Данных о поддерживаемых естественных языках в карточке нет. Репозиторий содержит веса PyTorch. Лицензия в предоставленных данных не указана.
Это компактная модель Sentence Transformers, разработанная на основе google/bert_uncased_L-2_H-128_A-2 и дообученная на парах текстов из набора Amazon Reviews. Она преобразует предложения и абзацы в плотные векторы размерностью 128 и предназначена для поиска и сравнения текстов по косинусному сходству. Модель использует архитектуру BERT с mean pooling. В метаданных указан контекст до 512 токенов, а карточка модели задаёт максимальную длину последовательности 128 токенов. Модель принимает текст и выдаёт эмбеддинги; обучение проводилось на 8,2 млн примеров отзывов Amazon. Указанная лицензия в предоставленных данных отсутствует.
swardiantara/bert-tiny-snli-k5-fixed-euclidean — компактная модель Sentence Transformers, дообученная на базе google/bert_uncased_L-2_H-128_A-2. Она преобразует предложения и абзацы в плотные векторы размерности 128 для поиска и сравнения текстов; архитектура включает BERT с усредняющим pooling. Метаданные указывают 4,4 млн параметров и контекст до 512 токенов, а карточка модели задаёт максимальную длину последовательности 128 токенов. Для сравнения векторов README указывает косинусное сходство. Модель подходит для семантического поиска, подбора похожих предложений и извлечения признаков текста. Она обучалась на 6 043 097 примерах с контрастивной функцией потерь. Базовая модель англоязычная, поэтому заявленную применимость разумно ограничить английским языком. Формат весов — safetensors. Сведения о лицензии в предоставленных данных отсутствуют.
swardiantara/bert-tiny-yelp-k3-adaptive-euclidean — компактная модель Sentence Transformers, дообученная разработчиком на базе google/bert_uncased_L-2_H-128_A-2. Она преобразует предложения и абзацы в плотные векторы размерности 128 и предназначена для поиска и сравнения текстов по косинусному сходству. Архитектура включает BERT с двумя слоями и mean pooling; модель содержит 4,4 млн параметров, принимает текст длиной до 512 токенов по метаданным Hugging Face, а README указывает максимум 128 токенов. Модель обучалась на 7 605 030 парах текстов с метками и поддерживает получение эмбеддингов и оценку сходства предложений. Примеры и базовая модель указывают на английский язык; специализация набора данных связана с отзывами Yelp. Репозиторий распространяет веса в формате safetensors. Лицензия в предоставленных данных не указана.
swardiantara/bert-tiny-yelp-k5-adaptive-cosine — компактная модель Sentence Transformers на основе BERT, дообученная для преобразования предложений и абзацев в плотные векторы размерности 128. Она предназначена для поиска и сравнения текстов: близость векторов оценивается косинусным сходством, а архитектура использует BERT-энкодер с усредняющим pooling. Модель обучена на 585 350 примерах с текстовыми парами и метками; базовая модель содержит 4,4 млн параметров. Модель принимает текст. README указывает максимальную длину последовательности 128 токенов, а метаданные каталога — контекст до 512 токенов. Базовая модель ориентирована на английский язык, поэтому для других языков качество не подтверждено. Модель подходит для семантического поиска и извлечения признаков текста; лицензия в предоставленных данных не указана.
google/bert_uncased_L-4_H-768_A-12 — компактная англоязычная модель BERT, выпущенная Google в составе набора BERT Miniatures и описанная в исследовании о предварительном обучении компактных моделей. Это плотный Transformer-энкодер с 4 слоями, скрытым размером 768 и 12 головами внимания; в модели около 61,2 млн параметров, она принимает последовательности длиной до 512 токенов. Модель обучена для английского языка без учёта регистра с WordPiece-маскированием и доступна в форматах PyTorch и Flax. Она предназначена для задач понимания текста и дообучения под конкретные задачи, например классификацию предложений и оценку сходства. По сравнению с крупными вариантами BERT она требует меньше вычислительных ресурсов; авторы отмечают, что особенно эффективна при дистилляции с метками от более крупной модели-учителя. Это базовый энкодер, поэтому для прикладной задачи обычно требуется подходящая голова и дообучение. Лицензия — Apache-2.0.
google/bert_uncased_L-8_H-256_A-4 — компактная англоязычная модель BERT из набора BERT Miniatures, опубликованного Google. Это плотный Transformer-энкодер с 8 слоями, размерностью скрытого состояния 256 и 4 головами внимания; модель содержит 16,2 млн параметров и принимает последовательности длиной до 512 токенов. Она обучена без учёта регистра с токенизацией WordPiece и предназначена для задач понимания английского текста, в том числе для последующего дообучения по схеме BERT. Модель рассчитана на среды с ограниченными вычислительными ресурсами и может служить компактной основой для классификации текста, анализа тональности, оценки сходства и других задач обработки языка. Авторы отмечают, что особенно эффективна она при дистилляции, когда разметку для дообучения генерирует более крупная и точная модель. В карточке приведены реализации для PyTorch и Flax. Лицензия — Apache 2.0.
Это компактная англоязычная модель BERT из набора BERT Miniatures, опубликованного Google. Вариант L-8-H-512-A-8 содержит 8 слоёв, скрытый размер 512 и 8 голов внимания; модель имеет около 49,2 млн параметров и принимает последовательности длиной до 512 токенов. Она обучена без учёта регистра с токенизацией WordPiece и доступна в форматах PyTorch и Flax. Модель предназначена для задач понимания английского текста и может дообучаться для классификации, анализа тональности, определения семантического сходства и других задач обработки языка. Компактный размер рассчитан на среды с ограниченными вычислительными ресурсами; авторы также указывают на эффективность применения в дистилляции, когда метки для дообучения создаёт более крупная модель-учитель. Лицензия — Apache-2.0.
BGE base Financial Matryoshka — англоязычная Sentence Transformer модель, дообученная research-spectator на парах текстов из датасета json объёмом 6 300 примеров. Она основана на BAAI/bge-base-en-v1.5 с архитектурой BERT, формирует нормализованные плотные эмбеддинги размерностью до 768 и поддерживает сравнение по косинусному сходству. Модель предназначена для семантического поиска и сравнения текстов, в том числе финансовых документов; эмбеддинги также можно применять для кластеризации, поиска перефразировок и классификации. Matryoshka-обучение позволяет использовать укороченные векторы размерностью 512, 256, 128 или 64, с некоторым снижением качества поиска на меньших размерностях. Максимальная длина входа — 512 токенов. Модель принимает текст и выдаёт векторы; README указывает английский язык. Лицензия — Apache-2.0.
hyunseop/bge-m3-ko — корейская модель текстовых эмбеддингов, разработанная дообучением dragonkue/BGE-m3-ko. Она основана на XLM-RoBERTa и содержит 658,7 млн параметров; модель предназначена для извлечения векторных представлений, семантического поиска и сравнения предложений. Контекст составляет до 8194 токенов. Модель дообучена с контрастивной функцией потерь на парах запрос–документ, составленных на основе синтетических корейских персон из NVIDIA Nemotron Personas Korea. В описанных тестах она показала хорошие результаты на локальном корпусе AutoRAG, но уступила некоторым другим моделям в публичном корейском поисковом бенчмарке MIRACL. Репозиторий содержит веса Safetensors; условия лицензии в предоставленных данных не описаны.
dragonkue/BGE-m3-ko — модель Sentence Transformer на базе BAAI/bge-m3, дополнительно обученная автором на корейском наборе данных. Она предназначена для получения эмбеддингов предложений и абзацев и их сравнения по косинусному сходству; подходит для семантического поиска, поиска близких текстов, выявления перефразирований, кластеризации и классификации текстов. Модель использует энкодер XLM-RoBERTa с 658,7 млн параметров, формирует плотные векторы размерности 1024 и принимает последовательности длиной до 8194 токенов. Карточка указывает корейский и английский языки; дообучение ориентировано на корейский, а качество для других языков, кроме китайского и английского, автор считает недостаточным без дополнительной адаптации. Репозиторий содержит веса Safetensors и использует библиотеку Sentence Transformers. Качество зависит от предметной области и длины документов: автор приводит разные результаты на корейских поисковых бенчмарках и рекомендует проверять модель на собственных данных. Модель распространяется по лицензии Apache-2.0.
dragonkue/bge-reranker-v2-m3-ko — корейски оптимизированная версия многоязычного переранжировщика BAAI/bge-reranker-v2-m3, дообученная автором dragonkue. Это cross-encoder на архитектуре XLM-RoBERTa с примерно 659 млн параметров: модель принимает пару «запрос — фрагмент документа» и выдаёт оценку их релевантности, которую можно преобразовать в значение от 0 до 1 с помощью sigmoid. Контекст составляет до 8194 токенов. Модель предназначена для переупорядочивания результатов семантического поиска и повышения точности поиска по корейским текстам, в том числе в RAG-сценариях. README приводит результаты тестирования на корейском бенчмарке для финансового сектора, где базовый bge-reranker-v2-m3 показал высокие значения среди сравниваемых cross-encoder-моделей. Как и другие cross-encoder, она медленнее bi-encoder при обработке большого числа пар, поэтому обычно применяется для повторной оценки ограниченного набора кандидатов. Лицензия — Apache-2.0.
CompendiumLabs/bge-small-en-v1.5-gguf — это модель для построения векторных представлений текста, подготовленная Compendium Labs на основе исходной модели BAAI/bge-small-en-v1.5. Она предназначена для семантического поиска, сравнения текстов, кластеризации и других задач, где требуется преобразовать строки в embedding-векторы. Модель рассчитана на использование с llama.cpp, llama-cpp-python и интеграцией LangChain через LlamaCppEmbeddings. В репозитории доступны версии в формате GGUF с точностью F32, F16, Q8_0 и Q4_K_M; их размеры составляют примерно от 24 до 128 МБ. Квантизация может ускорять работу на CPU примерно до 30% при минимальной потере точности, а для GPU преимущество зависит от приложения. Из названия модели следует, что она ориентирована на английский язык; другие языки, размер векторного пространства, архитектура и максимальная длина контекста в README не указаны. Основные ограничения связаны с небольшой ёмкостью модели и возможной потерей точности в квантизированных вариантах. Лицензия — MIT.
pankajrajdeo/Bioformer-8L-UMLS-Pubmed_PMC-Forward_TCE-Epoch-2-MSMARCO-Epoch-2 — модель Sentence Transformer на базе BERT, разработанная автором репозитория. Она преобразует предложения и абзацы в плотные векторы размерностью 512 для поиска по смыслу и сравнения текстов с помощью косинусного сходства. В README указано обучение на парах anchor–positive с MultipleNegativesRankingLoss; метаданные отмечают возможность извлечения признаков и вычисления сходства предложений. Модель содержит 50,3 млн параметров, принимает последовательности длиной до 512 токенов и использует среднее объединение токеновых представлений. Модель подходит для семантического поиска, поиска перефразировок, кластеризации и классификации текста на основе эмбеддингов. В README названы Bioformer, UMLS, PubMed и PMC в идентификаторе модели, но описание обучения говорит о наборе parquet и не подтверждает отдельно медицинскую специализацию или языковой состав. Лицензия в предоставленных данных не указана.
Hemg/biology-english-pancasila-2 — модель Sentence Transformers на базе BERT для преобразования предложений и абзацев в плотные векторы размерностью 384. Её можно использовать для поиска семантически похожих текстов, кластеризации и семантического поиска. Модель обучалась с функцией потерь MultipleNegativesRankingLoss и косинусным сходством. По метаданным, она содержит около 40 млн параметров, принимает текст с контекстом до 512 токенов и распространяется в формате safetensors. Название указывает на тематику биологии и английский язык, однако README и метаданные не подтверждают специализацию или набор языков обучения. Для использования требуется библиотека sentence-transformers. Лицензия в предоставленных данных не указана.
Bruv1-0.8B — разработанная bvolpato специализированная модель принятия решений на основе дообученной Qwen3.5-0.8B. Она принимает состояние с доказательствами, вопрос и от двух до шестнадцати вариантов с метками, после чего оценивает варианты по логитам следующих токенов A–P. Чекпойнт с объединёнными весами работает через Hugging Face Transformers; для Kevala доступен отдельный пакет. Модель обучена на 37 840 примерах из нескольких наборов для классификации, вопросов с ответами да/нет, анализа тональности, маршрутизации и выбора по синтетическим политикам. В указанной схеме оценки Bruv1 достигла точности 80,1% на отложенном тесте и 79,1% на наборе переноса для политик и маршрутизации. Эти результаты относятся к задачам и семействам данных, представленным в обучении, и не подтверждают общие способности к рассуждению или калибровку уверенности. Обычная генерация текста не является проверенным сценарием использования. Размер базовой модели указан как 581,4 млн параметров, нативный контекст — 262 144 токена; во время обучения входы ограничивались 2 048 токенами. Модель текстовая, с архитектурой Qwen3_5ForCausalLM. Базовые веса Qwen лицензированы Apache 2.0, код Bruv — MIT; у исходных датасетов отдельные условия, и карточка не подтверждает возможность их коммерческого использования без ограничений.
Bruv1-4B — локально дообученная текстовая модель принятия решений на базе Qwen3.5-4B, разработанная автором репозитория bvolpato. Она получает состояние с фактами, вопрос и от двух до шестнадцати вариантов с метками, а затем оценивает варианты, предсказывая букву ответа от A до P. Модель предназначена для выбора из заданных вариантов, классификации и маршрутизации по формату Kevala; обычная генерация текста не является её проверенным сценарием. Модель имеет плотную архитектуру Qwen3.5 с 3,4 млрд параметров и работает через Transformers. В карточке указано контекстное окно базовой модели 262 144 токена, однако обучение Bruv ограничивало вход 2 048 токенами. Модель дообучена на 37 840 примерах из набора задач классификации и выбора, включая MultiNLI, BoolQ, Banking77, AG News и SST-5. Разработчик сообщает точность 88,61% на отдельном тестовом разбиении Tev1, но оговаривает, что эти оценки не подтверждают обобщённые способности к рассуждению, безопасность или калибровку уверенности. Контракт модели предполагает оценивание вариантов, а не свободную беседу; результат следует интерпретировать как ранжирование/выбор ответа среди предложенных меток. Доступны веса в формате safetensors; также описан отдельный Q8-пакет для Kevala. Базовые веса Qwen распространяются по Apache 2.0, код Bruv — по MIT, при этом исходные наборы данных имеют собственные условия, и карточка не подтверждает право на их неограниченное коммерческое распространение.
ChengyouXin/cacheverifier-searchqueries — текстовый Cross Encoder на базе BERT, обученный с библиотекой Sentence Transformers для оценки пар «запрос—текст». Модель выдаёт один числовой балл для пары и подходит для переранжирования результатов семантического поиска и оценки соответствия текста запросу. Модель содержит 25,9 млн параметров, принимает текст и ограничивает длину последовательности 512 токенами. В README указано обучение на 60 398 примерах с запросами, ответами и метками, с функцией потерь BinaryCrossEntropyLoss. Язык примеров в карточке — английский; подтверждения поддержки других языков нет. Карточка не сообщает лицензию, поэтому условия использования по имеющимся данным определить нельзя. Модель небольшая, но оценки зависят от обучающих данных и могут быть ненадёжны для запросов и документов вне их распределения.
AbstractPhil/captionbert-8192-v2 — автономный компактный текстовый энкодер предложений, созданный AbstractPhil и дистиллированный из геометрического консенсуса пяти моделей семейства BERT. Модель содержит 66 млн параметров по метаданным, использует 12 слоёв, скрытое представление размерности 512 и контекст до 8192 токенов; на выходе формирует L2-нормализованные векторы размерности 768. Для работы не требуются модели-эксперты; README показывает загрузку через Transformers и токенизатор bert-base-uncased. Модель предназначена для получения векторных представлений предложений и сравнения их семантической близости, включая поиск похожих формулировок и задачи семантического сходства. В README приведены результаты на STS-B, SICK-R и других наборах семантического сходства; авторы отмечают, что базовый энкодер эффективен относительно учителей, но обычное mean pooling у BERT-подобных моделей уступает специализированным энкодерам, обученным на большом количестве пар сходства. Для дополнительной адаптации в репозитории описаны AMOE-адаптеры. Модель ориентирована на английский язык. Лицензия — MIT. Указанная в README загрузка использует trust_remote_code=True; перед применением следует учитывать необходимость доверять коду репозитория. Показатели бенчмарков приведены авторами модели и могут не отражать качество на пользовательских данных.
CareerBERT-JG — модель векторных представлений предложений на базе BERT, разработанная Lukas Wolfrum и соавторами. Она дообучена на таксономии ESCO для сопоставления резюме с профессиями и формирования рекомендаций по подходящим направлениям работы. Модель кодирует текст в общее пространство эмбеддингов, где можно сравнивать резюме и описания профессий по смысловой близости. Она рассчитана на немецкий язык, содержит 137,1 млн параметров и принимает последовательности длиной до 512 токенов. Базовая модель — agne/jobGBERT; веса опубликованы в формате safetensors. CareerBERT-JG подходит для поиска подходящих профессий в базе ESCO и построения систем рекомендаций для соискателей и карьерных консультантов. В README сообщается о результатах оценки на данных вакансий EURES и с экспертной оценкой резюме, однако подробные метрики в карточке не приведены. Лицензия в предоставленных данных не указана.
Chinese-CLIP ViT-L/14 — крупная версия модели OFA-Sys, построенная по принципу CLIP для сопоставления изображений и китайского текста. Она использует визуальный энкодер ViT-L/14 и текстовый энкодер RoBERTa-wwm-base; обучение проводилось на наборе примерно из 200 миллионов китайских пар «изображение — текст». Модель распространяется в формате PyTorch. Модель предназначена для классификации изображений по текстовым описаниям без специального обучения на новых классах, а также для вычисления эмбеддингов изображений и текста и оценки их сходства. Эти возможности подходят для поиска изображений по китайскому запросу и поиска текста по изображению. В карточке приведены результаты на наборах MUGE, Flickr30K-CN и COCO-CN, а также для zero-shot-классификации. Модель ориентирована на китайский язык и визуально-текстовые задачи. Лицензия в предоставленных данных не указана.
OFA-Sys разработала крупную версию Chinese CLIP — модели, которая сопоставляет изображения и текст. Визуальный энкодер построен на ViT-L/14 с входным разрешением 336 пикселей, текстовый — на RoBERTa-wwm-base. Модель обучалась на наборе примерно из 200 миллионов китайских пар «изображение—текст». Репозиторий содержит веса PyTorch. Модель предназначена для классификации изображений по текстовым описаниям без специального обучения на целевых классах, а также для получения эмбеддингов изображений и текста и оценки их сходства. Это позволяет использовать её для поиска изображений по запросу и поиска текста по изображению. Карточка приводит результаты на наборах MUGE, Flickr30K-CN и COCO-CN. Основной язык модели — китайский. Лицензия в предоставленных данных не указана.
Модель CLIP ConvNeXt-Large-D разработана Россом Уайтманом с использованием OpenCLIP и обучена на англоязычной подвыборке LAION-2B из LAION-5B. Она предназначена для классификации изображений по текстовым описаниям без специального обучения на заданных классах, а также для поиска изображений по тексту и текстов по изображениям. Визуальная башня основана на timm ConvNeXt-Large и принимает изображения с разрешением 320×320; текстовая башня имеет 16 слоёв и размерность эмбеддинга 768. Вариант soup получен усреднением весов трёх дообученных моделей. В тесте ImageNet zero-shot он показал точность top-1 76,9%. Модель работает с изображениями и английским текстом; обучение и оценка не охватывали другие языки. Карточка не рекомендует развёртывание модели и применение без тщательной проверки на конкретной задаче и фиксированной таксономии классов. Распознавание лиц и наблюдение указаны как недопустимые сценарии. Модель выпущена под лицензией MIT.
kevinoli/clip-finetuned-csu-p14-336-e3l57-l — дообученная модель CLIP, основанная на openai/clip-vit-large-patch14-336. Она сопоставляет изображения с текстовыми описаниями и поддерживает классификацию изображений по категориям, заданным пользователем, без отдельного обучения под каждую категорию. Модель предназначена для сценариев zero-shot-классификации изображений. В карточке указан результат оценки на тестовой выборке: loss 0,4700; сведения о наборе данных и подробные характеристики обучения не приведены. Репозиторий использует библиотеку Transformers и формат весов safetensors. Лицензия в предоставленных данных не указана.
Geonmo/CLIP-Giga-config-fixed — временная копия конфигурации CLIP от LAION, созданная для использования, пока не будет исправлена конфигурация laion/CLIP-ViT-bigG-14-laion2B-39B-b160k. Модель относится к архитектуре CLIPModel и предназначена для классификации изображений по текстовым описаниям без предварительного обучения на заданных классах. Модель принимает изображения и текстовые метки классов и сопоставляет их, чтобы выбрать подходящую метку. Репозиторий содержит веса в формате PyTorch; карточка указывает лицензию MIT. Это временное исправление конфигурации, поэтому пригодность и качество следует оценивать с учётом зависимости от исходной модели LAION.
clip-japanese-base-v2 — японская модель CLIP, разработанная LY Corporation для сопоставления изображений и текста. Это обновлённая версия line-corporation/clip-japanese-base: для обучения использовано около 2 млрд пар изображение–текст, а дистилляция применена для повышения качества. Модель содержит 196 млн параметров и объединяет визуальный кодировщик на основе Eva02-B Transformer с 12-слойным текстовым кодировщиком BERT. Текстовый кодировщик инициализирован весами rinna/japanese-clip-vit-b-16. Модель подходит для извлечения признаков изображений и текста, поиска изображений по японскому описанию и поиска текстов, соответствующих изображению. В README приведены результаты классификации ImageNet-1k и наборов Recruit и WAON, а также двунаправленного поиска по STAIR Captions. Репозиторий содержит веса в формате safetensors; лицензия — Apache 2.0. Оценки в README показывают, что улучшение относительно предыдущей версии зависит от задачи: например, retrieval R@1 у предыдущей версии выше.
Это мультимодальная CLIP-модель LAION с визуальным энкодером ViT-B/32, обученная с помощью OpenCLIP на 1,4 миллиарда примеров набора DataComp-1B. Она сопоставляет изображения и текст, чтобы классифицировать изображения по текстовым описаниям без дополнительного обучения, а также поддерживает поиск изображений по тексту и поиск текстов по изображениям. Модель подходит для исследовательских экспериментов с классификацией и retrieval; её можно дообучать для задач классификации, использовать для линейного пробника и как условие для генерации изображений. В оценке на наборе из 38 датасетов модель показала точность top-1 72,7% на ImageNet-1k при классификации без обучения. Результаты могут зависеть от выбранной таксономии классов и предметной области, поэтому для конкретной задачи требуется отдельная проверка. README не рекомендует развёртывание модели, в том числе коммерческое, без тщательного тестирования; распознавание лиц и наблюдение прямо отнесены к недопустимым сценариям. Модель опубликована под лицензией MIT.
zeromodels/clip_vit_g_14 — конверсия CLIP от zeromodels в формате Keras 3 на основе laion/CLIP-ViT-g-14-laion2B-s12B-b42K. Это двухэнкодерная модель зрения и текста: она кодирует изображения и текстовые запросы в общее пространство эмбеддингов и предназначена для классификации изображений по текстовым описаниям без специального обучения на целевых классах. Также модель подходит для поиска изображений по тексту или текстов по изображению и получения эмбеддингов. Для работы подаются изображения и текстовые промпты; размер изображения и токенизатор согласуются через соответствующий процессор. Реализация на Keras 3 запускается с TensorFlow, Torch или JAX. Модель основана на CLIP ViT-g/14 LAION, обученной на парах изображений и подписей с контрастивной функцией потерь. Репозиторий распространяется по лицензии MIT. Карточка не приводит конкретные языки обучения или ограничения точности; качество классификации зависит от формулировок текстовых промптов.
ColD-Fusion — текстовая модель на базе RoBERTa, разработанная IBM Research и дообученная на смеси из 35 датасетов. Она предназначена прежде всего как универсальная отправная точка для дообучения под новые задачи классификации текста; также из неё можно извлекать векторные представления текста. Архитектура — RoBERTa с 151,8 млн параметров, контекст — до 514 токенов. Модель принимает текст и формирует представления или классификационные оценки; в метаданных Hugging Face основная задача указана как text-classification, язык карточки — английский. ColD-Fusion показывает сильные результаты на наборе разнообразных задач, включая анализ тональности, определение тематики, распознавание текстовых отношений и классификацию эмоций. В README сообщается, что при оценке на 36 датасетах средний балл составил 78,47 против 76,22 у RoBERTa-base. Лицензия — MIT. Для прикладной задачи рекомендуется дообучить модель на соответствующих данных; оценки из README не гарантируют аналогичного качества на других доменах.
crossencoder-mMiniLMv2-L12-mmarcoFR — французский cross-encoder, разработанный Antoine Louis. Он оценивает релевантность пары «запрос — фрагмент текста», совместно обрабатывая оба текста и выдавая оценку от 0 до 1. Модель предназначена для повторного ранжирования результатов семантического поиска после первичного отбора, например BM25 или плотным би-энкодером. Модель основана на дистиллированной многоязычной XLM-RoBERTa mMiniLMv2-L12-H384 и дообучена на французских данных mMARCO с трудными негативными примерами. В репозитории указано 124,3 млн параметров; максимальная длина входа по метаданным — 514 токенов, а в описании обучения для склеенной пары использовалось ограничение в 256 токенов. Поддерживается французский язык; для инференса указана библиотека Sentence-Transformers. Модель подходит для сортировки найденных фрагментов по релевантности, но сама не выполняет первичный поиск и не генерирует ответы. Обучение и оценка проводились на данных mMARCO-fr; результаты могут зависеть от домена, качества первичного поиска и длины текстовых пар. Лицензия — MIT.