I.1Поиск и навигация по информации
В разделе собраны самостоятельные задачи, где AI помогает находить нужные сведения и помогать человеку быстро переходить от вопроса к подтверждённому источнику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
13 467 моделейКарточка модели JaehyeokLee/20m_em_checkpoint_epoch_1_step_720 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.
Карточка модели JaehyeokLee/20m_em_checkpoint_epoch_1_step_760 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.
Карточка модели JaehyeokLee/20m_em_checkpoint_epoch_1_step_80 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.
Карточка модели JaehyeokLee/20m_em_checkpoint_epoch_1_step_840 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.
Карточка модели JaehyeokLee/20m_em_checkpoint_epoch_1_step_920 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.
all-mpnet-base-v1 — модель семейства MPNet, разработанная командой Sentence Transformers при участии Hugging Face в рамках Community Week. Её дообучили на базе microsoft/mpnet-base с контрастивной целью на более чем миллиарде пар предложений, чтобы кодировать предложения и короткие абзацы в плотные векторы размерности 768. Модель предназначена для семантического поиска, информационного поиска, кластеризации текстов и оценки сходства предложений. Она принимает текст; при использовании по умолчанию текст длиннее 128 токенов word-piece обрезается. Максимальная длина контекста по метаданным — 514 токенов. Доступны веса PyTorch, Safetensors, ONNX и OpenVINO. Лицензия — Apache-2.0.
BAAI/bge-large-en-v1.5 — англоязычная модель эмбеддингов семейства BGE, разработанная Beijing Academy of Artificial Intelligence (BAAI) для поиска и сравнения текстов. Она преобразует текст в векторы, пригодные для семантического поиска, извлечения документов и построения систем с дополненной генерацией (RAG). Версия v1.5 улучшает retrieval и делает модель менее зависимой от инструкций для запросов по сравнению с предыдущей версией. Модель основана на архитектуре BERT и содержит 433,9 млн параметров. Она принимает текстовые входы на английском языке, имеет контекстное окно до 512 токенов и доступна в форматах PyTorch, Safetensors и ONNX. Для поиска можно сначала получить кандидатов с помощью эмбеддингов, а затем повысить точность ранжирования отдельной моделью BGE Reranker. Модель подходит для семантического поиска и сходства предложений. README предупреждает, что абсолютные значения сходства не следует трактовать как универсальную шкалу: из-за особенностей обучения оценки могут быть выше 0,5 даже для несхожих предложений. Лицензия — MIT.
Карточка модели katanemo/bge-large-en-v1.5 на Hugging Face совпадает с карточкой BAAI/bge-large-en-v1.5, поэтому описание составлено по ней. BAAI/bge-large-en-v1.5 — англоязычная модель эмбеддингов семейства BGE, разработанная Beijing Academy of Artificial Intelligence (BAAI) для поиска и сравнения текстов. Она преобразует текст в векторы, пригодные для семантического поиска, извлечения документов и построения систем с дополненной генерацией (RAG). Версия v1.5 улучшает retrieval и делает модель менее зависимой от инструкций для запросов по сравнению с предыдущей версией. Модель основана на архитектуре BERT и содержит 433,9 млн параметров. Она принимает текстовые входы на английском языке, имеет контекстное окно до 512 токенов и доступна в форматах PyTorch, Safetensors и ONNX. Для поиска можно сначала получить кандидатов с помощью эмбеддингов, а затем повысить точность ранжирования отдельной моделью BGE Reranker. Модель подходит для семантического поиска и сходства предложений. README предупреждает, что абсолютные значения сходства не следует трактовать как универсальную шкалу: из-за особенностей обучения оценки могут быть выше 0,5 даже для несхожих предложений. Лицензия — MIT.
Карточка модели AlexAnoshka/bge-m3 на Hugging Face совпадает с карточкой BAAI/bge-m3, поэтому описание составлено по ней. BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.
Карточка модели charlesteve26/bge-m3 на Hugging Face совпадает с карточкой BAAI/bge-m3, поэтому описание составлено по ней. BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.
Карточка модели godsyy/bge-m3 на Hugging Face совпадает с карточкой BAAI/bge-m3, поэтому описание составлено по ней. BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.
Карточка модели hamza62be/bge-m3 на Hugging Face совпадает с карточкой BAAI/bge-m3, поэтому описание составлено по ней. BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.
Карточка модели LDCC/bge-m3 на Hugging Face совпадает с карточкой BAAI/bge-m3, поэтому описание составлено по ней. BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.
Карточка модели rjfrjf/bge-m3 на Hugging Face совпадает с карточкой BAAI/bge-m3, поэтому описание составлено по ней. BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.
Карточка модели shen919/bge-m3 на Hugging Face совпадает с карточкой BAAI/bge-m3, поэтому описание составлено по ней. BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.
Карточка модели the-sk/bge-m3 на Hugging Face совпадает с карточкой BAAI/bge-m3, поэтому описание составлено по ней. BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.
Карточка модели MehdiRtal/bge-m3-ct2-int8 на Hugging Face совпадает с карточкой BAAI/bge-m3, поэтому описание составлено по ней. BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.
Карточка модели danyl-ke444a/bge-m3-custom на Hugging Face совпадает с карточкой BAAI/bge-m3, поэтому описание составлено по ней. BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.
CompendiumLabs/bge-m3-gguf — это GGUF-версия модели BGE-M3, опубликованная Compendium Labs и основанная на исходной модели BAAI/bge-m3 от Beijing Academy of Artificial Intelligence (BAAI). Это не генеративная языковая модель, а многоязычная модель текстовых представлений для семантического поиска, поиска по сходству, гибридного retrieval и RAG-систем. Модель построена на архитектуре XLM-RoBERTa, содержит около 568–569 млн параметров, формирует векторы размерности 1024 и поддерживает контекст до 8192 токенов. Она рассчитана более чем на 100 языков и объединяет три режима поиска: dense retrieval, sparse retrieval и multi-vector retrieval в стиле ColBERT. Репозиторий CompendiumLabs содержит файлы GGUF в форматах F16 и F32; размер F16-файла составляет около 1,16 ГБ, F32-файла — около 2,27 ГБ. Сильные стороны модели — многоязычность, обработка длинных документов и возможность получать несколько типов retrieval-представлений из одной модели, что удобно для гибридного поиска. Ограничение состоит в том, что модель предназначена для эмбеддингов и извлечения признаков, а не для генерации текста; для максимальной точности поиска рекомендуется дополнительно применять отдельный reranker. Качество может различаться между языками, поскольку объём и баланс обучающих данных неодинаковы. В карточке CompendiumLabs указана лицензия MIT.
bge-m3-GGUF — GGUF-квантизированная версия многоязычной модели эмбеддингов BGE-M3, разработанной BAAI. Модель предназначена для семантического поиска, извлечения признаков, sentence similarity и построения RAG-систем. Квантизация выполнена на основе версии llama.cpp с идентификатором 61408e7f. BGE-M3 поддерживает более 100 языков и три режима поиска: плотный retrieval, разреженный retrieval с весами токенов и multi-vector retrieval. Модель обрабатывает тексты от коротких предложений до длинных документов длиной до 8192 токенов и формирует векторы размерности 1024. Она подходит для гибридного поиска, объединяющего семантические эмбеддинги и BM25, а также для последующего reranking найденных документов. К сильным сторонам относятся многоязычность, поддержка длинного контекста и объединение нескольких функций извлечения в одной модели. README не содержит сведений о точном размере GGUF-файлов, используемой схеме квантизации, требованиях к ресурсам или детальных ограничениях качества; кроме того, модель предназначена для retrieval-задач и не является генеративной языковой моделью. Указанная лицензия — MIT.
onnx-community/bge-m3-ONNX — ONNX-версия многоязычной модели BAAI/bge-m3, разработанной проектом FlagOpen и автоматически сконвертированной сообществом onnx-community. Модель предназначена для обработки текстов, построения эмбеддингов, семантического сходства и информационного поиска, включая сценарии RAG. Она поддерживает плотный поиск (dense retrieval), разреженный поиск (sparse retrieval) и многовекторный поиск (multi-vector retrieval), что позволяет применять гибридные стратегии, например совместно с BM25. Модель рассчитана более чем на 100 языков, поддерживает входы от коротких предложений до документов длиной до 8192 токенов и формирует векторы размерности 1024. ONNX-формат и интеграция с Transformers.js подходят для запуска в совместимых JavaScript-средах. Сильные стороны — многоязычность, единая поддержка нескольких режимов поиска и работа с длинным контекстом; для повышения точности README рекомендует использовать гибридный поиск и последующее переранжирование cross-encoder-моделью. Количество параметров, требования к ресурсам и детальные ограничения в README не указаны. Лицензия — MIT.
Карточка модели trollathon/bge-m3-safetensors на Hugging Face совпадает с карточкой BAAI/bge-m3, поэтому описание составлено по ней. BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.
Карточка модели dabitbol/bge-m3-sparse-elastic на Hugging Face совпадает с карточкой Bylaw/BAAI-bge-m3, поэтому описание составлено по ней. BAAI/bge-m3 — многоязычная модель эмбеддингов семейства XLM-RoBERTa, разработанная BAAI и представленная в репозитории Bylaw/BAAI-bge-m3. Она предназначена для поиска по смыслу и извлечения документов, включая многоязычный и межъязыковой поиск, а также поиск по длинным текстам. Модель формирует плотные эмбеддинги, разреженные лексические веса и многовекторные представления ColBERT; эти представления можно использовать отдельно или объединять в гибридном поиске и RAG-конвейерах. Модель имеет 658,7 млн параметров, размерность эмбеддинга 1024 и контекст до 8194 токенов. README заявляет поддержку более 100 языков и указывает, что модель можно применять к коротким предложениям и длинным документам. В карточке также заявлены форматы PyTorch и Safetensors, а лицензия — MIT. BGE-M3 удобна тем, что объединяет несколько подходов к поиску и поддерживает длинный контекст. По README, для задач на одном языке специализированные одноязычные модели могут показывать лучшие результаты; поддержка разреженного поиска также зависит от используемой библиотеки. Для повышения точности авторы рекомендуют сочетать гибридный поиск с отдельной моделью-реранкером.
Карточка модели rhantj/bge-m3-workflow-query-robust на Hugging Face совпадает с карточкой BAAI/bge-m3, поэтому описание составлено по ней. BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.
DiTy/bi-encoder-russian-msmarco — русскоязычная модель sentence-transformers, разработанная на основе DeepPavlov/rubert-base-cased и дообученная на датасете MS-MARCO Russian passage ranking. Это двунаправленный энкодер на архитектуре BERT с 205,1 млн параметров: он преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, в том числе асимметричного поиска, когда запрос и документ имеют разную роль. Модель рассчитана на поиск по русскоязычным коллекциям и сравнение текстов по смысловой близости; её можно применять для построения поисковых систем и извлечения релевантных фрагментов. Модель принимает текст и выдаёт векторные представления. Максимальная длина контекста — 512 токенов. Она распространяется по лицензии MIT. В README отмечено, что при использовании через Transformers нужно корректно применить pooling к контекстным представлениям токенов.
ColBERT-Zero-supervised — модель поиска LightOn на базе PyLate и архитектуры ModernBERT, предназначенная для много-векторного поиска по тексту с поздним взаимодействием ColBERT и оценкой MaxSim. Она формирует векторы размерности 128 для токенов запросов и документов; в карточке указаны максимальные длины 39 токенов для запроса и 519 токенов для документа, а метаданные задают контекст до 8192 токенов. Модель содержит 149 млн параметров и использует асимметричные промпты: при кодировании нужно применять prompt_name="query" для запросов и prompt_name="document" для документов. Модель рассчитана на построение поисковых индексов и ранжирование документов по релевантности; в README сообщается результат 55,43 nDCG@10 на BEIR. Данные в карточке указывают на обучение на англоязычных наборах, а метаданные отмечают английский язык. Среди ограничений — чувствительность к соответствию промптов и зависимость результатов от состава обучающих данных и масштаба обучения. Лицензия — Apache-2.0.
ColBERT-Zero-unsupervised — модель LightOnAI для поиска релевантных документов по текстовому запросу. Это ColBERT-модель на архитектуре ModernBERT с 149 млн параметров, реализованная через PyLate. Она кодирует запросы и документы в наборы векторов и сопоставляет их методом позднего взаимодействия MaxSim; выходная размерность — 128. В README указаны длины до 39 токенов для запросов и до 187 токенов для документов, а контекст модели по метаданным — 8192 токена. Модель обучена на открытых данных и предназначена для много-векторного поиска и ранжирования документов. В тестах авторов ColBERT-Zero достигла 55,43 nDCG@10 на BEIR. Для сохранения качества необходимо кодировать запросы и документы с соответствующими промптами `search_query:` и `search_document:`; неверное выравнивание промптов может заметно ухудшить результаты. Карточка сообщает об ограничениях обобщения результатов на другие обучающие данные и настройки. Лицензия — Apache-2.0.
ColPali v1.3 merged — модель визуального поиска по документам, разработанная ViDoRe на основе PaliGemma-3B. Она преобразует изображения страниц и текстовые запросы в многовекторные представления ColBERT-типа, чтобы находить релевантные страницы по их визуальным и текстовым признакам. В этой версии LoRA-адаптер уже объединён с базовой моделью vidore/colpaligemma-3b-pt-448-base; для работы с эмбеддингами предусмотрена интеграция с Sentence Transformers. Модель предназначена прежде всего для поиска по PDF-подобным документам: например, для нахождения страниц, отвечающих на запрос пользователя. Обучение проводилось на 127 460 парах «запрос — страница» на английском языке; авторы проверяли обобщение на другие языки, однако основное внимание уделено английскому и другим распространённым языкам. Для сопоставления используется позднее взаимодействие между токенами текстового запроса и визуальными патчами страницы. Модель принимает текстовые запросы и изображения страниц и выдаёт многовекторные представления для поиска и оценки сходства. Она может потребовать адаптации для систем векторного поиска, которые не поддерживают многовекторный поиск ColBERT. Карточка указывает лицензию Gemma; следует учитывать её условия использования.
facebook/contriever — плотная модель векторного представления текста на базе архитектуры BERT, разработанная командой Facebook. Её обучили без учителя с помощью контрастивного обучения для поиска информации; для получения эмбеддинга предложения поверх выходов модели требуется mean pooling. Модель предназначена для построения векторного поиска по коллекциям документов и извлечения релевантных текстов по запросу. Она содержит 136,7 млн параметров, принимает текст с контекстом до 512 токенов и выдаёт представления текста. В README не указаны языки обучения или специализация на конкретной предметной области. Модель опубликована в формате PyTorch. Условия лицензии в предоставленных данных не описаны.
DRAMA-1B — плотная мультиязычная модель векторного поиска от разработчиков DRAMA, созданная на основе прунированной большой языковой модели и дообученная для извлечения текстов. Она кодирует запросы и документы в векторы, которые можно сравнивать по сходству для поиска релевантных материалов. Модель имеет архитектуру Llama, около 1,2 млрд параметров и контекст до 131 072 токенов. Модель предназначена для семантического поиска и сопоставления запросов с документами на английском и других языках. Она использует двунаправленное внимание и префикс «Query: » для текста запроса; для документов префикс не нужен. Обучение с Matryoshka Representation Learning позволяет сокращать размерность векторов с базовых 2048 до 768 или 256, выбирая компромисс между размером векторов и качеством поиска. DRAMA-1B оценивалась на бенчмарках BEIR, MIRACL, MLDR и задачах MTEB. В обучающих данных представлены арабский, бенгальский, китайский, английский, финский, французский, немецкий, хинди, индонезийский, итальянский, японский, корейский, персидский, португальский, русский, испанский, суахили, телугу, тайский и йоруба; для других языков качество может снижаться. Для работы используются пользовательская реализация модели и режим trust_remote_code. Лицензия CC BY-NC 4.0 ограничивает коммерческое использование.