I.1Поиск и навигация по информации
В разделе собраны самостоятельные задачи, где AI помогает находить нужные сведения и помогать человеку быстро переходить от вопроса к подтверждённому источнику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
13 467 моделейcomet24082002/continual_finetune_bge_st_V1 — модель Sentence-Transformers на базе XLM-RoBERTa, разработанная автором репозитория. Она преобразует предложения и абзацы в плотные векторы размерностью 1024 для сравнения смысловой близости, семантического поиска и кластеризации. Модель прошла SimSCE-предобучение и дообучение Sentence-Transformer с MultipleNegativesRankingLoss; использует библиотеку sentence-transformers, веса опубликованы в формате safetensors. Размер — 658,7 млн параметров, контекст — до 8194 токенов. Модель подходит для построения поиска по смыслу и группировки текстов. Архитектура XLM-RoBERTa предполагает поддержку нескольких языков, однако конкретные языки обучения и целевые языки в карточке не перечислены. Условия лицензии в доступных данных не приведены.
nthakur/contriever-base-msmarco — порт модели Contriever MSMARCO в формат Sentence-Transformers. Модель на архитектуре BERT содержит 136,7 млн параметров и преобразует предложения и абзацы в плотные векторы размерности 768; для корректного получения векторов в Transformers требуется подходящая операция pooling над контекстными представлениями токенов. Модель предназначена для семантического поиска и кластеризации текстов, а также для сравнения смысловой близости предложений. Принимает текст и выдаёт эмбеддинги; максимальная длина контекста — 512 токенов. Репозиторий содержит веса PyTorch. README ссылается на исходную модель Contriever, однако сведения о лицензии и поддерживаемых языках в предоставленных данных отсутствуют.
Bylaw/convention-collective-sentence-transformer — модель на базе архитектуры CamemBERT, созданная для преобразования предложений и абзацев в плотные векторы размерностью 1024. Она предназначена для поиска семантически близких текстов, кластеризации и других задач, где нужно сравнивать смысл фрагментов текста. Модель поддерживает контекст до 514 токенов и опубликована в формате safetensors; для работы предусмотрена библиотека Sentence Transformers. Модель можно применять для семантического поиска и группировки текстов по смыслу. В метаданных указано 435,4 млн параметров. Данные о специальной предметной области, языках и условиях лицензии в предоставленных источниках отсутствуют.
Kyleiwaniec/COS_TAPT_n_RoBERTa-sts-e3_OnlineContrastiveLoss_2023-10-16 — модель Sentence-Transformers на архитектуре RoBERTa, обученная представлять предложения и абзацы в виде плотных векторов размерности 1024. Её можно применять для поиска семантически близких текстов, кластеризации и сравнения сходства предложений. Модель принимает текст и выдаёт эмбеддинги; карточка указывает контекст длиной 514 токенов. Она обучалась с OnlineContrastiveLoss и распространяется в формате PyTorch. Доступна для использования через Sentence-Transformers или Transformers с подходящей операцией pooling. Сведения о лицензии и целевых языках не приведены в использованных источниках.
teven/cross_all_bs320_vanilla_finetuned_WebNLG2017 — модель Sentence-Transformers на базе MPNet, дообученная для получения векторных представлений предложений и абзацев. Разработчик указывает, что модель преобразует текст в плотные векторы размерности 768; в метаданных указаны 136,7 млн параметров и контекст до 514 токенов. Модель предназначена для семантического поиска, сравнения текстов и кластеризации. Для работы можно использовать Sentence-Transformers или Transformers с подходящей операцией pooling. Репозиторий содержит веса PyTorch. Лицензия в предоставленных данных не указана.
crossencoder-camembert-L4-mmarcoFR — французская модель-реранкер, разработанная Antoine Louis. Она оценивает релевантность пары «запрос — фрагмент текста» с помощью cross-attention и выдаёт оценку от 0 до 1. Модель предназначена для второго этапа семантического поиска: после первичного отбора документов, например BM25 или плотным биэнкодером, она пересортировывает их по соответствию запросу. Модель основана на CamemBERT L4 и дообучена на французской части mMARCO — многоязычной версии MS MARCO. В обучении использовались 2,6 млн пар запросов и фрагментов с положительными и сложными отрицательными примерами. Размер модели — 62,3 млн параметров; контекст — до 514 токенов по метаданным. README указывает максимальную длину объединённой пары в 256 токенов при обучении. Модель принимает текстовые пары и выдаёт оценки релевантности; заявленный язык — французский. Модель подходит для ранжирования найденных фрагментов в поисковых системах и системах ответа на вопросы. Она не заменяет первичный поиск, поскольку должна оценивать каждую пару запроса и кандидата отдельно. Распространяется по лицензии MIT.
Это переопубликованная модель cross-encoder mmarco-mMiniLMv2-L12-H384-v1, созданная пользователем cross-encoder на Hugging Face; автор текущей копии — corrius. Модель предназначена для повторного ранжирования текстовых пар, например запросов и найденных документов, чтобы уточнить порядок результатов поиска. Архитектура — XLM-RoBERTa для классификации последовательностей; модель содержит 124,3 млн параметров и рассчитана на вход длиной до 514 токенов. В репозитории указаны веса PyTorch. Карточка не описывает языки обучения и поддерживаемые языки, поэтому языковые характеристики установить нельзя. Репозиторий является повторной публикацией исходной модели, а не новой разработкой corrius; README не сообщает лицензию. Для использования и указания авторства следует свериться с исходной карточкой cross-encoder или публикациями авторов.
Карточка модели jameshan5040/cs598-adv-nlp-hw1-jameshan5040 на Hugging Face совпадает с карточкой sentence-transformers/all-MiniLM-L6-v2, поэтому описание составлено по ней. all-MiniLM-L6-v2 — модель Sentence-Transformers, разработанная в ходе Community Week Hugging Face. Это дообученный энкодер на архитектуре BERT с 25,9 млн параметров: он преобразует предложения и короткие абзацы в плотные векторы размерностью 384, отражающие их семантику. Модель дообучена контрастивным методом на более чем миллиарде пар предложений из нескольких наборов данных. Модель предназначена для семантического поиска, сравнения предложений и кластеризации текстов. Она поддерживает английский язык; максимальный контекст по метаданным — 512 токенов, при этом карточка сообщает, что вход длиннее 256 WordPiece-токенов обрезается. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Лицензия — Apache-2.0. Векторы полезны для поиска смыслового сходства, но сама модель не генерирует текст; длинные входы обрезаются, а качество представлений зависит от соответствия текста и задачи обучающим данным.
michaelfeil/ct2fast-e5-small-v2 — компактная англоязычная модель текстовых эмбеддингов E5-small-v2, подготовленная Михаэлем Файлем для ускоренного инференса через CTranslate2. Это BERT-модель с 12 слоями, размерностью эмбеддинга 384 и примерно 40 млн параметров; заявлены варианты инференса int8 и float16. Она преобразует тексты в векторы для семантического поиска, извлечения релевантных фрагментов и сравнения предложений. Для запросов и документов следует использовать префиксы «query: » и «passage: » по назначению; без них качество может снижаться. В задачах сравнения и поиска важен относительный порядок оценок сходства, а не их абсолютные значения. Модель рассчитана только на английский язык, а вход ограничен контекстом 512 токенов: более длинные тексты будут усечены. Она может ускорить инференс и снизить расход памяти на CPU или GPU при использовании CTranslate2. Лицензия — MIT.
MohammadKhodadad/CTMEDGTE7_encoder — дообученная модель Sentence Transformers на базе skyfury/CTMEDGTE-cl7-step_6000. Она преобразует предложения и абзацы в плотные векторы размерности 768 для сравнения текстов по смыслу с помощью косинусного сходства. Архитектура основана на BERT с усреднением токенных представлений; модель рассчитана на последовательности длиной до 512 токенов по метаданным Hugging Face, а в конфигурации из README указано ограничение 256 токенов. Модель подходит для семантического поиска, поиска перефразировок, кластеризации текстов и подготовки признаков для классификации. В метаданных указан объём 136,7 млн параметров и формат safetensors. Сведения о поддерживаемых естественных языках и лицензии в доступных данных отсутствуют.
Lauther/d4-embeddings-v3.0 — модель Sentence Transformer, разработанная Lauther и дообученная на базе intfloat/multilingual-e5-large-instruct на наборе d4-embeddings-triplet_loss из 4 151 обучающего примера. Она преобразует предложения и абзацы в плотные текстовые эмбеддинги размерностью 1024; сходство между ними можно оценивать косинусным сходством. Архитектура включает XLM-RoBERTa, усредняющий пулинг токенов и нормализацию векторов. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации текста. Она поддерживает последовательности длиной до 512 токенов (514 токенов по метаданным) и может применяться в многоязычных сценариях, унаследованных от базовой модели E5. Доступны форматы safetensors и ONNX; для использования подходит библиотека Sentence Transformers. Лицензия в предоставленных данных не указана. Дообучение на 4 151 примере может ограничивать обобщение за пределами распределения данных; сведения о конкретных языках и результатах оценки качества отсутствуют.
Darmm/darmm-embed-kazakh-v2 — модель эмбеддингов текста, разработанная Darmm для семантического поиска на казахском языке и межъязыкового поиска по смыслу на казахском, русском и английском. Она дообучена на базе BAAI/bge-m3 и использует архитектуру XLM-RoBERTa; в метаданных указаны 658,7 млн параметров и контекст до 8194 токенов. Модель предназначена для поиска документов, RAG, удаления дубликатов и кластеризации текстов. По данным README, обучение на 373 тыс. казахских пар улучшило результаты казахского поиска относительно BAAI/bge-m3 на приведённых тестовых выборках. Модель принимает текст и возвращает векторные представления для сравнения сходства и поиска. Основной упор сделан на казахский язык, с поддержкой поиска по русским и английским текстам; лицензия — Apache 2.0. Качество на длинных отрывках отдельно не настраивалось: обучение использовало пары длиной до 192 токенов. Межъязыковые казахско-русские пары получены автоматическим выравниванием и могут содержать шум; юридическая и медицинская терминология представлена ограниченно.
bobox/DeBERTa-small-ST-v1-test-step2 — Sentence Transformers на базе DeBERTa-v2, дообученная авторами на наборах пар и триплетов предложений, включая данные для поиска, вопросов и ответов, проверки фактов и выявления отрицания. Модель кодирует предложения и абзацы в плотные векторы размерности 768; для сравнения используется косинусное сходство. Максимальная длина входа — 512 токенов. Модель предназначена для семантического поиска, оценки сходства и перефразирования, кластеризации и извлечения признаков текста. README приводит результаты оценки на STS и VitaminC, однако качество зависит от задачи и набора данных. Основной язык — английский. Данные не сообщают лицензию, поэтому условия использования по ним определить нельзя.
bobox разработал Sentence Transformer на базе bobox/DeBERTa-small-ST-v1-test-step2, дообученный на наборах пар и триплетов предложений, включая VitaminC, SciTail, SciQ, MS MARCO, Natural Questions, TriviaQA, GooAQ и PAWS. Модель кодирует предложения и абзацы в плотные векторы размерности 768 для поиска семантически близких текстов; сходство можно оценивать косинусной мерой. Архитектура состоит из DebertaV2Model и среднего pooling по токенам. Максимальная длина входа — 512 токенов. Модель рассчитана на английский язык и подходит для семантического поиска, сравнения предложений, поиска перефразирований, кластеризации и подготовки признаков для классификации текста. В README приведены результаты оценки сходства на sts-test и бинарной классификации на VitaminC, однако качество на других данных может отличаться. Лицензия в предоставленных данных не указана.
Kenneth Enevoldsen разработал dfm-sentence-encoder-large-exp2-no-lang-align — модель Sentence Transformers на архитектуре BERT с 453,9 млн параметров. Она преобразует предложения и абзацы в плотные векторы размерностью 1024; длина контекста — до 512 токенов. Модель предназначена для сравнения смысловой близости текстов и подходит для семантического поиска, кластеризации и получения текстовых эмбеддингов. При обучении использовалась функция MultipleNegativesRankingLoss с косинусным сходством. Модель принимает текст и выдаёт векторы. В карточке нет сведений о поддерживаемых естественных языках или условиях лицензии, поэтому определить их нельзя.
rithwik-db/dirty-e5-base-unsupervised — модель эмбеддингов предложений на базе архитектуры BERT, представленная в формате PyTorch. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, кластеризации и сравнения сходства. Модель содержит 136,7 млн параметров и принимает последовательности длиной до 512 токенов. В карточке указано, что модель обучалась с функцией потерь MultipleNegativesRankingLoss и косинусным сходством. Её можно использовать через Sentence-Transformers или Transformers с подходящей операцией pooling. Сведения о поддерживаемых языках и лицензии в предоставленных источниках отсутствуют.
jgammack/distilbert-base-mean-pooling — модель для преобразования предложений и абзацев в плотные векторы размерности 768. Она построена на DistilBERT и использует mean pooling для объединения контекстных представлений токенов. Векторы подходят для семантического поиска, кластеризации и сравнения сходства предложений. Модель принимает текст и выдаёт эмбеддинги; её можно использовать через Sentence-Transformers или Transformers с соответствующим pooling. Максимальная длина контекста — 512 токенов. В карточке не указаны отдельные языковые специализации или прикладная область, поэтому модель следует рассматривать как универсальный инструмент для работы с текстовыми представлениями.
much1na/distil-cohere-l2-ckpt — модель Sentence Transformers, разработанная much1na и дообученная на базе google/bert_uncased_L-6_H-512_A-8. Она преобразует предложения и абзацы на английском языке в плотные векторы размерности 512 для сравнения по косинусному сходству; архитектура состоит из BERT и mean pooling. Модель предназначена для семантического поиска и сопоставления текстов, поиска перефразирований, кластеризации и классификации. Модель принимает текстовые последовательности длиной до 512 токенов и выдаёт эмбеддинги. В метаданных указано 40,8 млн параметров и формат safetensors. Карточка указывает обучающий набор parquet из 3 810 976 примеров. Лицензия в предоставленных данных не указана.
Карточка модели much1na/distil-cohere-v1-ckpt-backup на Hugging Face совпадает с карточкой much1na/distil-cohere-v1-ckpt, поэтому описание составлено по ней. much1na/distil-cohere-v1-ckpt — дообученная модель Sentence Transformers на базе BERT google/bert_uncased_L-6_H-512_A-8. Она преобразует предложения и абзацы в плотные векторы размерностью 512 для семантического поиска, сравнения сходства текстов, поиска перефразировок, кластеризации и классификации. Архитектура включает BertModel с усредняющим pooling; сходство векторов можно оценивать косинусной мерой. Модель принимает только текст, поддерживает последовательности длиной до 512 токенов и содержит 40,8 млн параметров. В карточке указано обучение на наборе parquet из примерно 3,81 млн примеров, а метаданные описывают её как модель эмбеддингов. Базовая модель англоязычная, поэтому основное применение — представление английских текстов. Лицензия в доступных данных не указана.
tomaarsen разработал эту модель Sentence Transformers как дообученную версию distilbert/distilroberta-base на наборе sentence-transformers/all-nli. Она преобразует предложения и абзацы на английском языке в плотные векторы размерностью 768, пригодные для сравнения косинусным сходством. Архитектура состоит из RoBERTa-энкодера и среднего пулинга токенных представлений; модель содержит 95,2 млн параметров и принимает последовательности длиной до 514 токенов по данным метаданных Hugging Face. Модель подходит для семантического поиска, поиска похожих предложений, сопоставления перефразирований, кластеризации и подготовки векторных признаков для классификации текста. В README приведены результаты оценки сходства на sts-dev и sts-test. Модель ориентирована на английский язык и не предназначена для обработки изображений, аудио или других нетекстовых данных. Распространяется в формате safetensors; сведения о лицензии в предоставленных данных отсутствуют.
sentence-transformers/distilroberta-base-paraphrase-v1 — модель семейства RoBERTa, обученная командой sentence-transformers для получения векторных представлений предложений и абзацев. Она преобразует текст в плотные векторы размерности 768, пригодные для семантического поиска и кластеризации; также поддерживает сравнение сходства предложений. Модель содержит 95,2 млн параметров и принимает последовательности длиной до 514 токенов. Модель рассчитана на текстовые задачи, где нужно находить близкие по смыслу фрагменты, группировать тексты или сравнивать предложения. Для использования с библиотекой Transformers поверх контекстных представлений токенов необходимо применить подходящую операцию pooling. Распространяется по лицензии Apache-2.0. В карточке не заявлена поддержка конкретных естественных языков, поэтому языковую специализацию определить нельзя.
ahessamb разработал модель Sentence Transformers на архитектуре RoBERTa для получения эмбеддингов предложений и абзацев. Она преобразует текст в плотные векторы размерности 768 и подходит для семантического поиска, кластеризации и сравнения смысловой близости текстов. Модель содержит 95,2 млн параметров, принимает текст и выдаёт векторные представления; максимальная длина контекста составляет 514 токенов. При обучении использовалась функция потерь TripletLoss с евклидовой метрикой расстояния и отступом 5. В репозитории веса представлены в формате safetensors, библиотека для работы — sentence-transformers. Карточка не сообщает, на каких языках обучалась модель, поэтому языковую специализацию определить нельзя. Лицензия в предоставленных данных не указана.
aloobun/d-mxbai-L8-embed — англоязычная модель Sentence Transformers, созданная автором репозитория на основе mixedbread-ai/mxbai-embed-large-v1 методом дистилляции: в эксперименте оставлено 8 слоёв исходной модели. Она преобразует предложения в плотные эмбеддинги размерности 1024 и предназначена для сравнения смысла текстов, семантического поиска и извлечения признаков. Архитектура использует BERT и CLS-пулинг; максимальная длина входа — 512 токенов. Модель обучалась на 1 195 425 примерах с MSELoss и распространяется в формате Safetensors по лицензии Apache-2.0. В README приведены значения Spearman cosine 0,8873 на sts-dev и 0,8724 на sts-test. Автор сообщает, что модель обрабатывает около 45 примеров в секунду против примерно 30 у базовой модели, при небольшом снижении точности. Эти результаты относятся к указанным оценкам и условиям эксперимента; язык карточки и примеры указывают на английское применение.
Модель lenamisods/doctor_ai_stsb_xlm_r_multilingual_trained — многоязычная модель Sentence-Transformers на архитектуре XLM-RoBERTa, обученная командой Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для вычисления семантического сходства, кластеризации и семантического поиска. Модель содержит 305,2 млн параметров, принимает текст длиной до 514 токенов и распространяется в формате safetensors; лицензия — Apache-2.0. Модель подходит для поиска текстов по смыслу и группировки семантически близких фраз. В README не указаны конкретные языки обучения или оценки качества, поэтому состав поддерживаемых языков нельзя уточнить по доступным данным. Для использования в Transformers поверх контекстных представлений требуется подходящая операция pooling.
E5-base — англоязычная модель текстовых эмбеддингов, разработанная Liang Wang, Nan Yang и соавторами. Это плотная модель на архитектуре BERT с 12 слоями, размерностью эмбеддинга 768 и 136,7 млн параметров; она принимает текст и выдаёт векторные представления. Модель обучена методом контрастивного предобучения со слабым контролем и предназначена для сравнения смысловой близости текстов и поиска по текстовым коллекциям. E5-base подходит для семантического поиска, извлечения релевантных фрагментов для систем вопросов и ответов, поиска перефразировок, кластеризации и использования эмбеддингов как признаков для классификации. Для корректной работы следует добавлять префиксы «query: » и «passage: » в соответствии с типом задачи. В репозитории указаны веса PyTorch и safetensors; длина контекста — до 512 токенов. Модель работает только с английским текстом, а более длинные входы обрезаются до 512 токенов. Авторы рекомендуют перейти на e5-base-v2, который, по их сообщению, показывает лучшие результаты при том же способе использования. Лицензия — MIT.
E5-base-trm — компактная версия многоязычной модели intfloat/multilingual-e5-base, созданная авторами репозитория clips с помощью vocabtrimmer. Из словаря удалены редко встречающиеся токены с опорой на нидерландскую часть набора allenai/c4; размер словаря сокращён с 250 002 до 50 002 токенов. Модель построена на архитектуре XLM-RoBERTa и содержит около 151,6 млн параметров. Модель предназначена для преобразования текстов в эмбеддинги и их сравнения: например, для семантического поиска, сопоставления предложений и поиска по коллекции документов. Карточка показывает пример кодирования запросов и фрагментов MS MARCO, а также приводит результаты оценки на нидерландском MTEB. Модель принимает текст и выдаёт векторные представления; контекст составляет 514 токенов. Это доработка multilingual-e5-base с усечённым словарём, ориентированная на нидерландский язык, поэтому качество и покрытие для других языков могут отличаться от исходной многоязычной модели. Лицензия — MIT.
E5-base-v2-t2t — адаптированная для нидерландского языка модель эмбеддингов на основе intfloat/e5-base-v2. Разработчики создали её с помощью transtokenizer: токенизатор взят из BERTje, а эмбеддинги токенов целевого языка инициализированы взвешенным усреднением семантически близких эмбеддингов исходной модели. Модель содержит 136,3 млн параметров, использует архитектуру BERT и библиотеку sentence-transformers; максимальная длина контекста — 512 токенов. Модель предназначена для получения векторных представлений нидерландских текстов и их семантического сравнения. Её можно применять для поиска документов по смыслу, сопоставления запросов и фрагментов текста, ранжирования passage-кандидатов и задач классификации или кластеризации текста. В README приведены результаты оценки на нидерландском бенчмарке MTEB-NL, но численные результаты для этой версии модели не указаны. Лицензия — MIT. Карточка описывает адаптацию токенизатора и эмбеддингов для нидерландского языка; она не заявляет о генерации связных ответов, поэтому тег text-generation в метаданных не следует трактовать как подтверждённую генеративную функцию.
DariaaaS/e5-fine-tuned — дообученная модель Sentence Transformers на базе intfloat/multilingual-e5-base. Она преобразует предложения и абзацы в плотные векторы размерности 768 для сравнения семантической близости; для оценки сходства в README указана косинусная мера. Архитектура состоит из XLM-RoBERTa, усредняющего пулинга токенов и нормализации; модель содержит 305,2 млн параметров и обрабатывает последовательности длиной до 514 токенов по метаданным. Модель предназначена для семантического поиска, сопоставления предложений, поиска перефразирований, кластеризации и классификации текста. Она обучена с TripletLoss на 100 примерах, поэтому её специализация связана с данными обучения; README приводит примеры запросов и текстов, связанных с преобразованием вопросов в табличные запросы. Выход модели — эмбеддинги, которые можно использовать в поисковых и аналитических системах. Это текстовая многоязычная модель семейства XLM-RoBERTa; базовая модель заявлена как multilingual-e5-base. Условия лицензирования в предоставленных данных не описаны.
upskyy/e5-large-korean — модель Sentence Transformers, дообученная автором на korsts и kornli на базе intfloat/multilingual-e5-large. Она преобразует предложения и абзацы в плотные векторы размерности 1024; архитектура включает XLM-RoBERTa и усреднение токенных представлений. Модель предназначена для сравнения смысла текстов, семантического поиска и других задач, где нужны текстовые эмбеддинги. Для вычисления сходства в README указана косинусная мера; максимальная длина последовательности — 512 токенов по README и 514 по метаданным. В README приведён результат оценки на sts-dev: корреляция Спирмена для косинусного сходства — 0,8699. Модель поддерживает корейский и другие языки; среди языков в метаданных перечислены, в частности, корейский и английский. Репозиторий использует формат safetensors, библиотека — sentence-transformers. Лицензия — MIT.
Это дообученная модель Sentence Transformers на базе intfloat/multilingual-e5-large, разработанная автором репозитория seongil-dn. Она кодирует предложения и абзацы в плотные векторы размерностью 1024 для сравнения текстов по косинусному сходству, семантического поиска, поиска перефразировок, кластеризации и классификации текста. Архитектура включает XLM-RoBERTa, усреднение токенных представлений и нормализацию; максимальная длина последовательности — 512 токенов. Модель предназначена для многоязычных текстов. Векторы можно применять для поиска похожих документов и построения систем семантического поиска. Лицензия в предоставленных данных не указана, поэтому условия распространения установить нельзя. Качество зависит от языка, предметной области и способа подготовки запросов и документов; модель выдаёт эмбеддинги, а не готовые ответы.