I.1Поиск и навигация по информации
В разделе собраны самостоятельные задачи, где AI помогает находить нужные сведения и помогать человеку быстро переходить от вопроса к подтверждённому источнику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
13 467 моделейSnowflake Arctic-embed-m-v2.0 — мультиязычная модель эмбеддингов компании Snowflake для поиска и извлечения информации по тексту. Она предназначена для построения векторного поиска, семантического сопоставления запросов и документов и retrieval-систем, включая приложения корпоративного поиска. В README сообщается о сильных результатах на англоязычных и многоязычных тестах поиска, в том числе MTEB Retrieval, MIRACL и CLEF. Модель построена на GTE multilingual base и имеет 305,3 млн параметров, из которых 113 млн не относятся к эмбеддингам. Она формирует векторы размерности 768, поддерживает контекст до 8192 токенов и методы Matryoshka Representation Learning: размерность можно сократить до 256 с умеренным снижением качества. README также описывает сжатие векторов до 128 байт с 4-битной квантизацией. В репозитории есть веса safetensors и формат ONNX. Модель рассчитана на поиск по тексту и выдаёт эмбеддинги; для оптимального качества извлечения README рекомендует использовать CLS-токен и добавлять префикс к запросам. Метаданные и карточка описывают поддержку многих языков, включая английский, арабский, болгарский, бенгальский, каталонский, чешский, немецкий, греческий, испанский, персидский, финский, французский, иврит, хинди, хорватский, венгерский, индонезийский и итальянский. Лицензия — Apache-2.0.
Sonar Pro Search — агентная поисковая система Perplexity, доступная исключительно через API OpenRouter. Режим Pro Search предназначен для углублённого поиска, рассуждений и анализа.
multi-qa-MiniLM-L6-cos-v1 — модель эмбеддингов предложений и абзацев, разработанная в ходе Community week проекта Hugging Face по обучению моделей для семантического поиска. Она преобразует запросы, вопросы и текстовые фрагменты в нормализованные плотные векторы размерности 384 для поиска релевантных документов и сравнения смысловой близости. Модель основана на MiniLM-L6-H384-uncased с архитектурой BERT и содержит 25,9 млн параметров. Для получения эмбеддинга применяется mean pooling; обучение проводилось на 215 млн пар «вопрос — ответ» из разных источников с использованием контрастивной цели. Метаданные указывают библиотеку PyTorch, а карточка описывает применение через Sentence-Transformers или Transformers. Модель предназначена прежде всего для семантического поиска по текстам и вопросам. Контекст ограничен 512 токенами WordPiece, а при обучении использовались входы длиной до 250 токенов, поэтому качество на более длинных текстах может снижаться. Лицензия в предоставленных данных не указана.
Карточка модели 120inblue/topic-positive-embeddings на Hugging Face совпадает с карточкой sentence-transformers/multi-qa-MiniLM-L6-cos-v1, поэтому описание составлено по ней. multi-qa-MiniLM-L6-cos-v1 — модель Sentence Transformers, разработанная в рамках проекта Hugging Face по обучению моделей эмбеддингов предложений. Она преобразует вопросы, предложения и абзацы в нормализованные плотные векторы размерностью 384 и предназначена прежде всего для семантического поиска и подбора релевантных документов по запросу. Модель основана на архитектуре BERT и дообучена на примерно 215 млн пар «вопрос—ответ» из разных источников, включая наборы вопросов и ответов, Stack Exchange и пары для Wikipedia. Для представления текста используется mean pooling; контрастивное обучение улучшает близость векторных представлений связанных текстов. Модель содержит 25,9 млн параметров, поддерживает английский язык и рассчитана на последовательности до 512 токенов, хотя при обучении использовался текст длиной до 250 word pieces. Её можно применять для семантического поиска, поиска ответов и ранжирования текстовых фрагментов по сходству; нормализованные векторы позволяют использовать косинусное сходство или скалярное произведение. Тексты длиннее 512 токенов обрезаются, а качество на последовательностях существенно длиннее 250 word pieces может снижаться. Сведения о лицензии в предоставленных данных отсутствуют.
WebExplorer-8B — агентная языковая модель на 7,6 млрд параметров, разработанная командой HKUST-NLP на основе Qwen3-8B и дообученная с помощью supervised fine-tuning и обучения с подкреплением по алгоритму GRPO. Она предназначена для сложного поиска информации в интернете: модель выполняет многошаговые запросы, использует инструменты поиска и просмотра веб-страниц, анализирует найденные сведения и формирует ответы. Модель поддерживает контекст до 131 072 токенов и до 100 последовательных вызовов инструментов. В карточке заявлены результаты на наборах BrowseComp, GAIA, WebWalkerQA, FRAMES, XBench-DS и HLE. Интерфейс модели рассчитан на диалог и вызов инструментов; метаданные указывают поддержку английского языка, а README также приводит результаты для китайских запросов. Модель распространяется под лицензией Apache-2.0. Результаты бенчмарков получены с оценкой LLM-as-Judge и могут зависеть от среды выполнения и настройки инструментов.
Карточка модели avsolatorio/01-600-11-1-2-2-0-0-cls-qli_6-normed-384-512_ASYM_BAAI_bge-small-en-v1.5-20240417105647-latest на Hugging Face совпадает с карточкой BAAI/bge-small-en-v1.5, поэтому описание составлено по ней. BAAI/bge-small-en-v1.5 — компактная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она построена на архитектуре BERT и предназначена для преобразования английского текста в векторы, которые можно использовать для поиска и сравнения смысловой близости. Размер модели — около 40 млн параметров, максимальная длина входа — 512 токенов. Модель подходит для семантического поиска, извлечения релевантных документов и вычисления сходства предложений, в том числе как компонент RAG-систем. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Доступны форматы PyTorch, Safetensors и ONNX. Лицензия — MIT. Модель рассчитана на английский язык; контексты длиннее 512 токенов не поддерживаются. Оценки сходства не следует трактовать как вероятности или применять фиксированный порог без калибровки.
Карточка модели JaehyeokLee/20m_em_checkpoint_epoch_1_step_40 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.
VladimirRH/all-MiniLM-L6-v2-ru-mnrl — русскоязычная модель Sentence Transformers, дообученная разработчиком на базе sentence-transformers/all-MiniLM-L6-v2 на 20 000 примерах с использованием MultipleNegativesRankingLoss. Энкодер на архитектуре BERT преобразует предложения и абзацы в плотные векторы размерности 384; сходство между ними можно оценивать косинусной близостью. Модель предназначена для семантического поиска и извлечения релевантных текстов. Модель принимает текст и выдаёт векторы признаков. В README указана максимальная длина последовательности 256 токенов, а в метаданных — нативный контекст 512 токенов. Примеры обучающих данных — на русском языке; они включают пары близких по смыслу предложений и отрицательные примеры. Модель распространяется в формате safetensors. Сведения о лицензии в предоставленных данных отсутствуют.
all-mpnet-base-v2 — модель Sentence Transformers, разработанная в ходе Community Week Hugging Face. Она кодирует предложения и короткие абзацы в плотные векторы размерности 768 для поиска по смыслу, сравнения текстов и кластеризации. В основе лежит microsoft/mpnet-base, дообученная контрастивным обучением на более чем миллиарде пар предложений из нескольких наборов данных. Модель содержит 136,7 млн параметров, использует архитектуру MPNet и принимает текст. Её можно применять для семантического поиска, извлечения информации и группировки похожих фрагментов. Текст длиннее 384 токенов модели обрезается; README рекомендует использовать её как кодировщик предложений и коротких абзацев. Лицензия — Apache-2.0.
AREX-Base — большая модель исследовательского агента семейства AREX, разработанного Пекинской академией искусственного интеллекта (BAAI). Она предназначена для длительных задач поиска информации, сбора и проверки свидетельств из нескольких источников и подготовки ответов с учётом множества ограничений. Модель дообучена на Qwen/Qwen3.5-122B-A10B и использует архитектуру Mixture-of-Experts: 122 млрд параметров всего, из них 10 млрд активируются при обработке. Контекстное окно составляет 262 144 токена. AREX-Base поддерживает диалог и интерфейс вызова инструментов. В исследовательском цикле она сохраняет проверенные выводы, источники, отвергнутые варианты и нерешённые вопросы, а затем уточняет план поиска, проверяет предварительный ответ и при необходимости продолжает исследование или начинает его заново. Модель предназначена для агентных сценариев с многоэтапным поиском, просмотром источников и интеграцией свидетельств; README описывает работу с текстовыми данными и инструментами, а метаданные указывают мультимодальную базовую модель Qwen. В карточке заявлена лицензия Apache-2.0. Большой размер модели предполагает высокую стоимость обслуживания; качество ответов зависит от доступных источников и подключённых инструментов.
AREX-Turbo — компактная модель-агент для глубокого исследования, разработанная Beijing Academy of Artificial Intelligence (BAAI). Это плотная модель на 4 млрд параметров, дообученная на Qwen/Qwen3.5-4B; она поддерживает контекст до 262 144 токенов и предназначена для многоэтапного поиска информации с использованием инструментов. Модель собирает и сопоставляет сведения из источников, формирует предварительный ответ, проверяет его по заданным ограничениям и при необходимости уточняет или начинает исследование заново. Она также обновляет контекст исследования, сохраняя проверенные выводы, источники, отвергнутые варианты и нерешённые вопросы. AREX-Turbo рассчитана на сценарии, где важны стоимость обслуживания и скорость итераций; метаданные указывают поддержку диалога и интерфейса вызова инструментов. Модель основана на Qwen3.5-4B и выпущена в формате safetensors для Transformers. В карточке заявлены сценарии поиска, просмотра источников, интеграции свидетельств и построения ответов; оценки приведены для длинных исследовательских задач с инструментами. Лицензия — Apache-2.0. README не описывает отдельные ограничения качества или безопасности.
BAAI/bge-m3 — многоязычная модель эмбеддингов семейства XLM-RoBERTa, разработанная BAAI и представленная в репозитории Bylaw/BAAI-bge-m3. Она предназначена для поиска по смыслу и извлечения документов, включая многоязычный и межъязыковой поиск, а также поиск по длинным текстам. Модель формирует плотные эмбеддинги, разреженные лексические веса и многовекторные представления ColBERT; эти представления можно использовать отдельно или объединять в гибридном поиске и RAG-конвейерах. Модель имеет 658,7 млн параметров, размерность эмбеддинга 1024 и контекст до 8194 токенов. README заявляет поддержку более 100 языков и указывает, что модель можно применять к коротким предложениям и длинным документам. В карточке также заявлены форматы PyTorch и Safetensors, а лицензия — MIT. BGE-M3 удобна тем, что объединяет несколько подходов к поиску и поддерживает длинный контекст. По README, для задач на одном языке специализированные одноязычные модели могут показывать лучшие результаты; поддержка разреженного поиска также зависит от используемой библиотеки. Для повышения точности авторы рекомендуют сочетать гибридный поиск с отдельной моделью-реранкером.
khoa-klaytn/bge-base-en-v1.5-angle — текстовая модель эмбеддингов на основе BERT из семейства BGE, созданного BAAI; этот репозиторий распространяет англоязычную версию base-размера. Модель преобразует текст в плотные векторы для семантического поиска, извлечения документов, сравнения предложений, классификации и кластеризации, в том числе для поиска контекста в системах с векторными базами данных и RAG. Модель содержит 136,7 млн параметров, принимает текстовые входы длиной до 512 токенов и выдаёт эмбеддинги. Версия BGE v1.5 улучшает работу при поиске без инструкций к запросам; для коротких запросов, используемых для поиска длинных документов, инструкция может улучшить результат. Оценки сходства следует трактовать относительно друг друга: абсолютный порог нужно подбирать на собственных данных. Лицензия — MIT.
Карточка модели ekorman-strive/bge-large-en-v1.5 на Hugging Face совпадает с карточкой BAAI/bge-large-en-v1.5, поэтому описание составлено по ней. BAAI/bge-large-en-v1.5 — англоязычная модель эмбеддингов семейства BGE, разработанная Beijing Academy of Artificial Intelligence (BAAI) для поиска и сравнения текстов. Она преобразует текст в векторы, пригодные для семантического поиска, извлечения документов и построения систем с дополненной генерацией (RAG). Версия v1.5 улучшает retrieval и делает модель менее зависимой от инструкций для запросов по сравнению с предыдущей версией. Модель основана на архитектуре BERT и содержит 433,9 млн параметров. Она принимает текстовые входы на английском языке, имеет контекстное окно до 512 токенов и доступна в форматах PyTorch, Safetensors и ONNX. Для поиска можно сначала получить кандидатов с помощью эмбеддингов, а затем повысить точность ранжирования отдельной моделью BGE Reranker. Модель подходит для семантического поиска и сходства предложений. README предупреждает, что абсолютные значения сходства не следует трактовать как универсальную шкалу: из-за особенностей обучения оценки могут быть выше 0,5 даже для несхожих предложений. Лицензия — MIT.
RishabJ/bge-m3-dim-384 — вариант мультиязычной модели эмбеддингов BGE-M3, опубликованный пользователем RishabJ. Основан на архитектуре XLM-RoBERTa, содержит 658,7 млн параметров и рассчитан на последовательности длиной до 8194 токенов. Репозиторий содержит веса PyTorch и Safetensors; лицензия — MIT. Модель предназначена для поиска по смыслу, извлечения документов и построения RAG-систем. Семейство BGE-M3 поддерживает плотный поиск, разреженные лексические веса и многовекторное представление ColBERT, что позволяет строить гибридный поиск и обрабатывать как короткие фразы, так и длинные документы. README указывает поддержку более 100 языков; этот репозиторий имеет уменьшенную размерность эмбеддингов 384. Модель полезна для многоязычного семантического и гибридного поиска, а также для оценки сходства предложений. Для повышения точности поиска README рекомендует применять отдельный реранкер после извлечения кандидатов. Доступна по лицензии MIT.
Карточка модели daitavan/bge-m3-finetune на Hugging Face совпадает с карточкой BAAI/bge-m3, поэтому описание составлено по ней. BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.
Карточка модели comet24082002/bgeM3_MaxSq256_1024 на Hugging Face совпадает с карточкой RishabJ/bge-m3-dim-384, поэтому описание составлено по ней. RishabJ/bge-m3-dim-384 — вариант мультиязычной модели эмбеддингов BGE-M3, опубликованный пользователем RishabJ. Основан на архитектуре XLM-RoBERTa, содержит 658,7 млн параметров и рассчитан на последовательности длиной до 8194 токенов. Репозиторий содержит веса PyTorch и Safetensors; лицензия — MIT. Модель предназначена для поиска по смыслу, извлечения документов и построения RAG-систем. Семейство BGE-M3 поддерживает плотный поиск, разреженные лексические веса и многовекторное представление ColBERT, что позволяет строить гибридный поиск и обрабатывать как короткие фразы, так и длинные документы. README указывает поддержку более 100 языков; этот репозиторий имеет уменьшенную размерность эмбеддингов 384. Модель полезна для многоязычного семантического и гибридного поиска, а также для оценки сходства предложений. Для повышения точности поиска README рекомендует применять отдельный реранкер после извлечения кандидатов. Доступна по лицензии MIT.
mlx-community выпустила неофициальную 6-битную квантованную версию BAAI/bge-m3 для запуска на Apple Silicon с библиотекой MLX. Модель семейства XLM-RoBERTa содержит 658,7 млн параметров, принимает текст и формирует эмбеддинги размерностью 1024; длина контекста — 8194 токена. README описывает плотный, разреженный и многовекторный поиск, включая ColBERT, а метаданные указывают задачу feature-extraction. Квантование affine с группами по 64 веса уменьшает размер до 457 МБ — примерно на 58% относительно FP16 версии, сохраняя компромисс между качеством и использованием памяти. Модель подходит для поиска и сопоставления текстов, включая многоязычные сценарии. Поддерживаются английский, китайский, немецкий, испанский, французский, итальянский, японский, корейский, португальский и русский языки. Лицензия — MIT.
aapot/bge-m3-onnx — это ONNX-конверсия модели BGE-M3, первоначально разработанной BAAI, подготовленная с использованием HF Optimum для запуска через ONNX Runtime. Модель основана на архитектуре XLM-RoBERTa, содержит около 658,7 млн параметров и поддерживает контекст до 8194 токенов. Модель предназначена для построения векторных представлений текста в задачах семантического поиска и сопоставления текстов. Она одновременно формирует плотные embedding-векторы, разреженные лексические представления и ColBERT-представления для много-векторного взаимодействия. Плотные и ColBERT-представления нормализованы аналогично стандартному поведению библиотеки FlagEmbedding. Граф модели оптимизирован на уровне O2, что рассчитано на эффективное выполнение в ONNX Runtime. Модель подходит для семантического поиска, гибридного поиска, ранжирования документов и поиска похожих текстов. Для токенизации можно использовать Transformers, а для инференса — ONNX Runtime. Модель распространяется по лицензии MIT. Она генерирует embedding-представления, а не готовый текст, поэтому не предназначена для диалоговой генерации или прямого ответа на вопросы.
khoa-klaytn/bge-small-en-v1.5-angle — англоязычная модель эмбеддингов на архитектуре BERT, дообученная на тех же данных и с той же библиотекой, что и WhereIsAI/UAE-Large-V1. Она преобразует текст в плотные векторы размером 384, подходящие для поиска и сопоставления текстов. Модель содержит около 40 млн параметров, принимает текст длиной до 512 токенов и распространяется в формате safetensors. Модель предназначена для семантического поиска, извлечения релевантных документов, кластеризации и классификации текстов, а также для использования в векторных базах данных и RAG-системах. Версия BGE v1.5 улучшает поиск без инструкций; для коротких запросов к длинным документам добавление инструкции может повысить качество. Лицензия — MIT. Оценивать сходство следует по относительному порядку оценок: абсолютный балл сам по себе не является надёжным порогом сходства. Для фильтрации по порогу его следует подбирать на данных конкретной задачи.
biencoder-camembert-L4-mmarcoFR — компактная плотная двубашенная модель эмбеддингов для семантического поиска на французском языке, разработанная Antoine Louis. Она кодирует запросы и документы в векторы размерности 768, а релевантность оценивает по косинусному сходству. Основа — CamemBERT-L4, облегчённая версия CamemBERT с удалёнными верхними слоями; модель содержит 62,3 млн параметров и принимает последовательности длиной до 514 токенов, хотя при обучении максимальная длина запросов и документов составляла 128 токенов. Модель дообучена на французских данных mMARCO, включая сложные негативные примеры, для поиска релевантных фрагментов по запросам. Её можно применять для семантического поиска и ранжирования найденных документов в корпусах на французском языке. Для использования доступны Sentence-Transformers, FlagEmbedding и Transformers. Лицензия — MIT.
PM-AI/bi-encoder_msmarco_bert-base_german — немецкоязычная модель двунаправленного кодировщика, разработанная PM-AI для семантического поиска и извлечения релевантных фрагментов документов по запросу. Она основана на BERT и содержит 137,1 млн параметров; принимает текст и формирует эмбеддинги для запроса и пассажей, которые можно сопоставлять для поиска. Максимальная длина контекста — 512 токенов. Модель дообучена на немецком машинном переводе набора MS MARCO Passage Ranking: примерно 500 тысячах вопросов и 8,8 миллиона пассажей. При обучении применялись сложные отрицательные примеры и функция потерь Margin MSE, что предназначено для асимметричного поиска — например, когда короткий вопрос сопоставляется с более длинными фрагментами документов. Модель подходит для поиска по разнородным текстам; заявленное качество зависит от коллекции и требует проверки на целевых данных. Модель распространяется по лицензии MIT. Карточка описывает применение через библиотеку Sentence Transformers; модель предназначена для текстового поиска и не является генеративной системой.
Qdrant/bm25 — модель на основе алгоритма BM25 (Best Matching 25), предназначенная для поиска и ранжирования текстовых документов по их релевантности поисковому запросу. Она распространяется через FastEmbed и рассчитана на использование с векторной базой Qdrant. Модель преобразует тексты в разреженные представления с индексами и весами токенов, которые можно использовать для лексического поиска. Для корректной работы в Qdrant необходимо настроить векторы с модификатором Modifier.IDF. Такой подход подходит для полнотекстового поиска, сопоставления запросов с документами и гибридных поисковых систем, где важна точная лексическая связь между запросом и содержимым. В карточке указана поддержка английского, арабского, нидерландского, датского, финского, французского, немецкого, греческого, венгерского, итальянского, норвежского, португальского, румынского, русского, испанского, шведского, тамильского и турецкого языков. Архитектура, число параметров, размер контекста и дополнительные модальности не указаны; модель предназначена для работы с текстом. Лицензия — Apache-2.0. Ограничение подхода состоит в том, что BM25 опирается преимущественно на совпадение лексики и статистику терминов, поэтому он может хуже учитывать смысловые перефразирования по сравнению с плотными семантическими моделями.
BumbaLM-Embedding-Qwen-4b-v0-200k — текстовая Sentence Transformer-модель, дообученная на базе Qwen/Qwen3-Embedding-4B. Она преобразует предложения и абзацы в плотные векторы размерности 2560 для поиска и сравнения текстов; сходство оценивается косинусной мерой. Архитектура включает трансформер Qwen3, pooling по последнему токену и нормализацию векторов. Модель содержит 3,7 млрд параметров и принимает последовательности длиной до 768 токенов. Модель предназначена для семантического поиска и задач извлечения информации: например, для сопоставления запроса с релевантными документами. README приводит оценку на tripletos_eval: cosine_accuracy@1 — 0,6286, @5 — 0,8024, @10 — 0,8626. Базовая модель мультиязычная, но конкретный языковой охват этого дообучения в карточке не установлен. Лицензия в предоставленных данных не указана.
Cohere и Cohere Labs разработали Command R 08-2024 — авторегрессионную языковую модель с открытыми весами на 32 млрд параметров. Она использует оптимизированную архитектуру Transformer с grouped-query attention и после предварительного обучения прошла supervised fine-tuning и обучение на предпочтениях. Модель принимает и генерирует текст, поддерживает контекст до 128 тысяч токенов и обучена на 23 языках. Модель предназначена для диалогов, рассуждений, суммаризации и ответов на вопросы. Она умеет формировать ответы на основе предоставленных фрагментов документов с указанием цитируемых источников, что подходит для grounded generation и этапа генерации ответа в RAG-системах. Также предусмотрен вызов внешних инструментов в один шаг: модель выбирает инструмент и формирует параметры вызова, а выполнение выполняет приложение. В карточке указаны обучение на английском, французском, испанском, итальянском, немецком, португальском, японском, корейском, арабском, китайском, русском, польском, турецком, вьетнамском, нидерландском, чешском, индонезийском, украинском, румынском, греческом, хинди, иврите и персидском; оценивание проводилось на десяти языках. Для корректной работы с цитированием и вызовом инструментов нужны рекомендованные шаблоны запросов. Лицензия CC-BY-NC-4.0 требует соблюдения Acceptable Use Policy Cohere Labs и ограничивает коммерческое использование.
Cohere и Cohere Labs разработали Command R+ — авторегрессионную языковую модель на архитектуре Transformer с 104 млрд параметров. Модель принимает и генерирует текст, поддерживает контекст до 128 тысяч токенов и предназначена для диалогов, рассуждений, суммаризации и ответов на вопросы. После предварительного обучения она прошла дообучение с учителем и обучение на предпочтениях людей. Command R+ специально обучена для генерации ответов с опорой на предоставленные документы: она может указывать релевантные источники и включать цитаты в ответ. Модель также умеет выбирать внешние инструменты и работать с ними в несколько шагов, что подходит для сложных сценариев с API, базами данных и поиском. Для корректной работы этих функций важно использовать предусмотренный шаблон промпта; отклонение от него может снизить качество. Модель оптимизирована для английского, французского, испанского, итальянского, немецкого, бразильского португальского, японского, корейского, арабского и упрощённого китайского языков. Русский и ещё 12 языков присутствовали в данных предварительного обучения, но не входят в перечень языков, для которых заявлена оптимизация. Веса доступны по лицензии CC-BY-NC-4.0; также требуется соблюдать политику допустимого использования Cohere Labs, а коммерческое использование ограничено условиями лицензии.
ColBERT MUVERA Small — текстовая модель NeuML, дообученная на базе bclavie/mini-base на данных MS MARCO. Она кодирует предложения и абзацы в последовательности плотных векторов размерностью 128 и оценивает семантическое соответствие с помощью MaxSim. Модель рассчитана на семантический поиск, ранжирование текстовых фрагментов и извлечение источников для RAG; её можно использовать с PyLate или txtai. Модель содержит 40 млн параметров, построена на архитектуре BERT и принимает контекст длиной до 512 токенов. Она обучена на ненормализованных оценках, что обеспечивает совместимость с фиксированным кодированием MUVERA. В README приведены результаты на подмножествах BEIR и NanoBEIR; автор отмечает конкурентные результаты при небольшом размере модели. Лицензия — Apache-2.0.
ColBERT-XM — модель для многоязычного семантического поиска, разработанная на основе X-MOD. Она кодирует запросы и документы в последовательности токенных векторов, а затем оценивает соответствие с помощью позднего взаимодействия MaxSim; такой подход подходит для эффективного поиска по большим коллекциям текстов. Модель дообучена на английских запросах и отрывках MS MARCO с трудными отрицательными примерами. Благодаря основе X-MOD она поддерживает перенос поиска на другие языки без отдельного дообучения на каждом из них. В обучении использовались векторы размерности 128 и максимальные длины последовательностей 32 токена для запросов и 256 для документов; базовый контекст модели составляет 514 токенов. Размер — 305,2 млн параметров. Модель предназначена для многоязычного поиска документов и ранжирования отрывков по запросу, включая сценарии семантического поиска и извлечения passages. Карточка описывает оценку на наборах mMARCO и Mr. TyDi. Для использования доступны библиотеки Sentence Transformers и ColBERT. Лицензия — MIT.
ColBERT-Zero — много-векторная модель для поиска и ранжирования текстов, разработанная LightOn AI на базе ModernBERT. Она предназначена для семантического поиска по коллекциям документов и уточнения результатов первичного поиска с помощью позднего взаимодействия ColBERT и функции сходства MaxSim. Модель обучена на открытых данных в трёхфазном процессе с дистилляцией и, согласно карточке, достигает 55,43 nDCG@10 на бенчмарке BEIR. Модель содержит 149 млн параметров, выдаёт векторы размерности 128 и поддерживает контекст до 8192 токенов по метаданным. Для документов README приводит длину до 519 токенов, для запросов — до 39. Она рассчитана на английский язык и работает с текстом; для корректного поиска необходимо использовать асимметричные промпты `search_query:` и `search_document:` через соответствующие режимы query и document. Использовать модель можно через PyLate, а Apache-2.0 разрешает коммерческое применение. Результаты экспериментов зависят от обучающих данных и согласования промптов с режимом кодирования: их пропуск или неверное применение может заметно ухудшить качество. Авторы также отмечают, что выводы о преимуществах много-векторного обучения могут зависеть от масштаба обучения и качества сигнала дистилляции.
facebook/contriever-msmarco — дообученная модель семейства Contriever на основе BERT, разработанная Facebook. Она предназначена для плотного семантического поиска и извлечения признаков текста: преобразует входной текст в векторное представление, которое можно использовать для поиска релевантных документов. Для получения эмбеддинга предложения при работе через Hugging Face Transformers требуется усредняющий mean pooling. Модель содержит 136,7 млн параметров, принимает текст с контекстом до 512 токенов и распространяется в формате PyTorch. Она дообучена по подходу контрастивного обучения для плотного поиска информации. Лицензия в предоставленных данных не указана.