/ Профессии
Универсальные способности и операции

I.1Поиск и навигация по информации

В разделе собраны самостоятельные задачи, где AI помогает находить нужные сведения и помогать человеку быстро переходить от вопроса к подтверждённому источнику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.

ЭмбеддингиТекст
AI-задач
18
в этой профессии
Подходящих моделей
13 467
по типу задач и модальности
Категория
I. Универсальные способности
Основные типы
ЭмбеддингиТекст

Рекомендованные модели

13 467 моделей
Загрузки
Лайки
Дата выхода
61–90 из 13 467
JaehyeokLee
20m_em_checkpoint_epoch_1_step_720

Карточка модели JaehyeokLee/20m_em_checkpoint_epoch_1_step_720 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

1160февр. 2025ctx8.2K
textembeddingmithugging-face
JaehyeokLee
20m_em_checkpoint_epoch_1_step_760

Карточка модели JaehyeokLee/20m_em_checkpoint_epoch_1_step_760 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

1260февр. 2025ctx8.2K
textembeddingmithugging-face
JaehyeokLee
20m_em_checkpoint_epoch_1_step_80

Карточка модели JaehyeokLee/20m_em_checkpoint_epoch_1_step_80 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

1080февр. 2025ctx8.2K
textembeddingmithugging-face
JaehyeokLee
20m_em_checkpoint_epoch_1_step_840

Карточка модели JaehyeokLee/20m_em_checkpoint_epoch_1_step_840 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

1190февр. 2025ctx8.2K
textembeddingmithugging-face
JaehyeokLee
20m_em_checkpoint_epoch_1_step_920

Карточка модели JaehyeokLee/20m_em_checkpoint_epoch_1_step_920 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

1310февр. 2025ctx8.2K
textembeddingmithugging-face
sentence-transformers
all-mpnet-base-v1

all-mpnet-base-v1 — модель семейства MPNet, разработанная командой Sentence Transformers при участии Hugging Face в рамках Community Week. Её дообучили на базе microsoft/mpnet-base с контрастивной целью на более чем миллиарде пар предложений, чтобы кодировать предложения и короткие абзацы в плотные векторы размерности 768. Модель предназначена для семантического поиска, информационного поиска, кластеризации текстов и оценки сходства предложений. Она принимает текст; при использовании по умолчанию текст длиннее 128 токенов word-piece обрезается. Максимальная длина контекста по метаданным — 514 токенов. Доступны веса PyTorch, Safetensors, ONNX и OpenVINO. Лицензия — Apache-2.0.

3.7K12март 2022ctx514
textembeddingapache-2.0hugging-face
BAAI
bge-large-en-v1.5

BAAI/bge-large-en-v1.5 — англоязычная модель эмбеддингов семейства BGE, разработанная Beijing Academy of Artificial Intelligence (BAAI) для поиска и сравнения текстов. Она преобразует текст в векторы, пригодные для семантического поиска, извлечения документов и построения систем с дополненной генерацией (RAG). Версия v1.5 улучшает retrieval и делает модель менее зависимой от инструкций для запросов по сравнению с предыдущей версией. Модель основана на архитектуре BERT и содержит 433,9 млн параметров. Она принимает текстовые входы на английском языке, имеет контекстное окно до 512 токенов и доступна в форматах PyTorch, Safetensors и ONNX. Для поиска можно сначала получить кандидатов с помощью эмбеддингов, а затем повысить точность ранжирования отдельной моделью BGE Reranker. Модель подходит для семантического поиска и сходства предложений. README предупреждает, что абсолютные значения сходства не следует трактовать как универсальную шкалу: из-за особенностей обучения оценки могут быть выше 0,5 даже для несхожих предложений. Лицензия — MIT.

10.0M764сент. 2023ctx512
textembeddingmithugging-face
katanemo
bge-large-en-v1.5

Карточка модели katanemo/bge-large-en-v1.5 на Hugging Face совпадает с карточкой BAAI/bge-large-en-v1.5, поэтому описание составлено по ней. BAAI/bge-large-en-v1.5 — англоязычная модель эмбеддингов семейства BGE, разработанная Beijing Academy of Artificial Intelligence (BAAI) для поиска и сравнения текстов. Она преобразует текст в векторы, пригодные для семантического поиска, извлечения документов и построения систем с дополненной генерацией (RAG). Версия v1.5 улучшает retrieval и делает модель менее зависимой от инструкций для запросов по сравнению с предыдущей версией. Модель основана на архитектуре BERT и содержит 433,9 млн параметров. Она принимает текстовые входы на английском языке, имеет контекстное окно до 512 токенов и доступна в форматах PyTorch, Safetensors и ONNX. Для поиска можно сначала получить кандидатов с помощью эмбеддингов, а затем повысить точность ранжирования отдельной моделью BGE Reranker. Модель подходит для семантического поиска и сходства предложений. README предупреждает, что абсолютные значения сходства не следует трактовать как универсальную шкалу: из-за особенностей обучения оценки могут быть выше 0,5 даже для несхожих предложений. Лицензия — MIT.

1240окт. 2024ctx512
textembeddingmithugging-face
AlexAnoshka
bge-m3

Карточка модели AlexAnoshka/bge-m3 на Hugging Face совпадает с карточкой BAAI/bge-m3, поэтому описание составлено по ней. BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.

3520июль 2025ctx8.2K
textembeddingmithugging-face
charlesteve26
bge-m3

Карточка модели charlesteve26/bge-m3 на Hugging Face совпадает с карточкой BAAI/bge-m3, поэтому описание составлено по ней. BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.

970июнь 2026ctx8.2K
textembeddingmithugging-face
godsyy
bge-m3

Карточка модели godsyy/bge-m3 на Hugging Face совпадает с карточкой BAAI/bge-m3, поэтому описание составлено по ней. BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.

690авг. 2026ctx8.2K
textembeddingmithugging-face
hamza62be
bge-m3

Карточка модели hamza62be/bge-m3 на Hugging Face совпадает с карточкой BAAI/bge-m3, поэтому описание составлено по ней. BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.

170сент. 2026ctx8.2K
textembeddingmithugging-face
LDCC
bge-m3

Карточка модели LDCC/bge-m3 на Hugging Face совпадает с карточкой BAAI/bge-m3, поэтому описание составлено по ней. BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.

1190нояб. 2024ctx8.2K
textembeddingmithugging-face
rjfrjf
bge-m3

Карточка модели rjfrjf/bge-m3 на Hugging Face совпадает с карточкой BAAI/bge-m3, поэтому описание составлено по ней. BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.

750июль 2026ctx8.2K
textembeddingmithugging-face
shen919
bge-m3

Карточка модели shen919/bge-m3 на Hugging Face совпадает с карточкой BAAI/bge-m3, поэтому описание составлено по ней. BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.

130июль 2026ctx8.2K
textembeddingmithugging-face
the-sk
bge-m3

Карточка модели the-sk/bge-m3 на Hugging Face совпадает с карточкой BAAI/bge-m3, поэтому описание составлено по ней. BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.

170авг. 2026ctx8.2K
textembeddingmithugging-face
MehdiRtal
bge-m3-ct2-int8

Карточка модели MehdiRtal/bge-m3-ct2-int8 на Hugging Face совпадает с карточкой BAAI/bge-m3, поэтому описание составлено по ней. BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.

960авг. 2026ctx8.2K
textembeddingmithugging-face
danyl-ke444a
bge-m3-custom

Карточка модели danyl-ke444a/bge-m3-custom на Hugging Face совпадает с карточкой BAAI/bge-m3, поэтому описание составлено по ней. BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.

1020янв. 2025ctx8.2K
textembeddingmithugging-face
CompendiumLabs
bge-m3-gguf

CompendiumLabs/bge-m3-gguf — это GGUF-версия модели BGE-M3, опубликованная Compendium Labs и основанная на исходной модели BAAI/bge-m3 от Beijing Academy of Artificial Intelligence (BAAI). Это не генеративная языковая модель, а многоязычная модель текстовых представлений для семантического поиска, поиска по сходству, гибридного retrieval и RAG-систем. Модель построена на архитектуре XLM-RoBERTa, содержит около 568–569 млн параметров, формирует векторы размерности 1024 и поддерживает контекст до 8192 токенов. Она рассчитана более чем на 100 языков и объединяет три режима поиска: dense retrieval, sparse retrieval и multi-vector retrieval в стиле ColBERT. Репозиторий CompendiumLabs содержит файлы GGUF в форматах F16 и F32; размер F16-файла составляет около 1,16 ГБ, F32-файла — около 2,27 ГБ. Сильные стороны модели — многоязычность, обработка длинных документов и возможность получать несколько типов retrieval-представлений из одной модели, что удобно для гибридного поиска. Ограничение состоит в том, что модель предназначена для эмбеддингов и извлечения признаков, а не для генерации текста; для максимальной точности поиска рекомендуется дополнительно применять отдельный reranker. Качество может различаться между языками, поскольку объём и баланс обучающих данных неодинаковы. В карточке CompendiumLabs указана лицензия MIT.

1.2K0июль 2025
textmithugging-face
gpustack
bge-m3-GGUF

bge-m3-GGUF — GGUF-квантизированная версия многоязычной модели эмбеддингов BGE-M3, разработанной BAAI. Модель предназначена для семантического поиска, извлечения признаков, sentence similarity и построения RAG-систем. Квантизация выполнена на основе версии llama.cpp с идентификатором 61408e7f. BGE-M3 поддерживает более 100 языков и три режима поиска: плотный retrieval, разреженный retrieval с весами токенов и multi-vector retrieval. Модель обрабатывает тексты от коротких предложений до длинных документов длиной до 8192 токенов и формирует векторы размерности 1024. Она подходит для гибридного поиска, объединяющего семантические эмбеддинги и BM25, а также для последующего reranking найденных документов. К сильным сторонам относятся многоязычность, поддержка длинного контекста и объединение нескольких функций извлечения в одной модели. README не содержит сведений о точном размере GGUF-файлов, используемой схеме квантизации, требованиях к ресурсам или детальных ограничениях качества; кроме того, модель предназначена для retrieval-задач и не является генеративной языковой моделью. Указанная лицензия — MIT.

61K58окт. 2024
textembeddingmithugging-face
onnx-community
bge-m3-ONNX

onnx-community/bge-m3-ONNX — ONNX-версия многоязычной модели BAAI/bge-m3, разработанной проектом FlagOpen и автоматически сконвертированной сообществом onnx-community. Модель предназначена для обработки текстов, построения эмбеддингов, семантического сходства и информационного поиска, включая сценарии RAG. Она поддерживает плотный поиск (dense retrieval), разреженный поиск (sparse retrieval) и многовекторный поиск (multi-vector retrieval), что позволяет применять гибридные стратегии, например совместно с BM25. Модель рассчитана более чем на 100 языков, поддерживает входы от коротких предложений до документов длиной до 8192 токенов и формирует векторы размерности 1024. ONNX-формат и интеграция с Transformers.js подходят для запуска в совместимых JavaScript-средах. Сильные стороны — многоязычность, единая поддержка нескольких режимов поиска и работа с длинным контекстом; для повышения точности README рекомендует использовать гибридный поиск и последующее переранжирование cross-encoder-моделью. Количество параметров, требования к ресурсам и детальные ограничения в README не указаны. Лицензия — MIT.

2.1K3май 2026ctx8.2K
textmithugging-face
trollathon
bge-m3-safetensors

Карточка модели trollathon/bge-m3-safetensors на Hugging Face совпадает с карточкой BAAI/bge-m3, поэтому описание составлено по ней. BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.

4742июнь 2025ctx8.2K
textembeddingmithugging-face
dabitbol
bge-m3-sparse-elastic

Карточка модели dabitbol/bge-m3-sparse-elastic на Hugging Face совпадает с карточкой Bylaw/BAAI-bge-m3, поэтому описание составлено по ней. BAAI/bge-m3 — многоязычная модель эмбеддингов семейства XLM-RoBERTa, разработанная BAAI и представленная в репозитории Bylaw/BAAI-bge-m3. Она предназначена для поиска по смыслу и извлечения документов, включая многоязычный и межъязыковой поиск, а также поиск по длинным текстам. Модель формирует плотные эмбеддинги, разреженные лексические веса и многовекторные представления ColBERT; эти представления можно использовать отдельно или объединять в гибридном поиске и RAG-конвейерах. Модель имеет 658,7 млн параметров, размерность эмбеддинга 1024 и контекст до 8194 токенов. README заявляет поддержку более 100 языков и указывает, что модель можно применять к коротким предложениям и длинным документам. В карточке также заявлены форматы PyTorch и Safetensors, а лицензия — MIT. BGE-M3 удобна тем, что объединяет несколько подходов к поиску и поддерживает длинный контекст. По README, для задач на одном языке специализированные одноязычные модели могут показывать лучшие результаты; поддержка разреженного поиска также зависит от используемой библиотеки. Для повышения точности авторы рекомендуют сочетать гибридный поиск с отдельной моделью-реранкером.

1312март 2024ctx8.2K
textembeddingmithugging-face
rhantj
bge-m3-workflow-query-robust

Карточка модели rhantj/bge-m3-workflow-query-robust на Hugging Face совпадает с карточкой BAAI/bge-m3, поэтому описание составлено по ней. BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.

680июль 2026ctx8.2K
textembeddingmithugging-face
DiTy
bi-encoder-russian-msmarco

DiTy/bi-encoder-russian-msmarco — русскоязычная модель sentence-transformers, разработанная на основе DeepPavlov/rubert-base-cased и дообученная на датасете MS-MARCO Russian passage ranking. Это двунаправленный энкодер на архитектуре BERT с 205,1 млн параметров: он преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, в том числе асимметричного поиска, когда запрос и документ имеют разную роль. Модель рассчитана на поиск по русскоязычным коллекциям и сравнение текстов по смысловой близости; её можно применять для построения поисковых систем и извлечения релевантных фрагментов. Модель принимает текст и выдаёт векторные представления. Максимальная длина контекста — 512 токенов. Она распространяется по лицензии MIT. В README отмечено, что при использовании через Transformers нужно корректно применить pooling к контекстным представлениям токенов.

2497апр. 2024ctx512
textembeddingmithugging-face
lightonai
ColBERT-Zero-supervised

ColBERT-Zero-supervised — модель поиска LightOn на базе PyLate и архитектуры ModernBERT, предназначенная для много-векторного поиска по тексту с поздним взаимодействием ColBERT и оценкой MaxSim. Она формирует векторы размерности 128 для токенов запросов и документов; в карточке указаны максимальные длины 39 токенов для запроса и 519 токенов для документа, а метаданные задают контекст до 8192 токенов. Модель содержит 149 млн параметров и использует асимметричные промпты: при кодировании нужно применять prompt_name="query" для запросов и prompt_name="document" для документов. Модель рассчитана на построение поисковых индексов и ранжирование документов по релевантности; в README сообщается результат 55,43 nDCG@10 на BEIR. Данные в карточке указывают на обучение на англоязычных наборах, а метаданные отмечают английский язык. Среди ограничений — чувствительность к соответствию промптов и зависимость результатов от состава обучающих данных и масштаба обучения. Лицензия — Apache-2.0.

1273февр. 2026ctx8.2K
textapache-2.0hugging-face
lightonai
ColBERT-Zero-unsupervised

ColBERT-Zero-unsupervised — модель LightOnAI для поиска релевантных документов по текстовому запросу. Это ColBERT-модель на архитектуре ModernBERT с 149 млн параметров, реализованная через PyLate. Она кодирует запросы и документы в наборы векторов и сопоставляет их методом позднего взаимодействия MaxSim; выходная размерность — 128. В README указаны длины до 39 токенов для запросов и до 187 токенов для документов, а контекст модели по метаданным — 8192 токена. Модель обучена на открытых данных и предназначена для много-векторного поиска и ранжирования документов. В тестах авторов ColBERT-Zero достигла 55,43 nDCG@10 на BEIR. Для сохранения качества необходимо кодировать запросы и документы с соответствующими промптами `search_query:` и `search_document:`; неверное выравнивание промптов может заметно ухудшить результаты. Карточка сообщает об ограничениях обобщения результатов на другие обучающие данные и настройки. Лицензия — Apache-2.0.

1853февр. 2026ctx8.2K
textapache-2.0hugging-face
vidore
colpali-v1.3-merged

ColPali v1.3 merged — модель визуального поиска по документам, разработанная ViDoRe на основе PaliGemma-3B. Она преобразует изображения страниц и текстовые запросы в многовекторные представления ColBERT-типа, чтобы находить релевантные страницы по их визуальным и текстовым признакам. В этой версии LoRA-адаптер уже объединён с базовой моделью vidore/colpaligemma-3b-pt-448-base; для работы с эмбеддингами предусмотрена интеграция с Sentence Transformers. Модель предназначена прежде всего для поиска по PDF-подобным документам: например, для нахождения страниц, отвечающих на запрос пользователя. Обучение проводилось на 127 460 парах «запрос — страница» на английском языке; авторы проверяли обобщение на другие языки, однако основное внимание уделено английскому и другим распространённым языкам. Для сопоставления используется позднее взаимодействие между токенами текстового запроса и визуальными патчами страницы. Модель принимает текстовые запросы и изображения страниц и выдаёт многовекторные представления для поиска и оценки сходства. Она может потребовать адаптации для систем векторного поиска, которые не поддерживают многовекторный поиск ColBERT. Карточка указывает лицензию Gemma; следует учитывать её условия использования.

3.7K9нояб. 2024
textembeddinggemmahugging-face
facebook
contriever

facebook/contriever — плотная модель векторного представления текста на базе архитектуры BERT, разработанная командой Facebook. Её обучили без учителя с помощью контрастивного обучения для поиска информации; для получения эмбеддинга предложения поверх выходов модели требуется mean pooling. Модель предназначена для построения векторного поиска по коллекциям документов и извлечения релевантных текстов по запросу. Она содержит 136,7 млн параметров, принимает текст с контекстом до 512 токенов и выдаёт представления текста. В README не указаны языки обучения или специализация на конкретной предметной области. Модель опубликована в формате PyTorch. Условия лицензии в предоставленных данных не описаны.

8.1M125март 2022ctx512
texthugging-face
facebook
drama-1b

DRAMA-1B — плотная мультиязычная модель векторного поиска от разработчиков DRAMA, созданная на основе прунированной большой языковой модели и дообученная для извлечения текстов. Она кодирует запросы и документы в векторы, которые можно сравнивать по сходству для поиска релевантных материалов. Модель имеет архитектуру Llama, около 1,2 млрд параметров и контекст до 131 072 токенов. Модель предназначена для семантического поиска и сопоставления запросов с документами на английском и других языках. Она использует двунаправленное внимание и префикс «Query: » для текста запроса; для документов префикс не нужен. Обучение с Matryoshka Representation Learning позволяет сокращать размерность векторов с базовых 2048 до 768 или 256, выбирая компромисс между размером векторов и качеством поиска. DRAMA-1B оценивалась на бенчмарках BEIR, MIRACL, MLDR и задачах MTEB. В обучающих данных представлены арабский, бенгальский, китайский, английский, финский, французский, немецкий, хинди, индонезийский, итальянский, японский, корейский, персидский, португальский, русский, испанский, суахили, телугу, тайский и йоруба; для других языков качество может снижаться. Для работы используются пользовательская реализация модели и режим trust_remote_code. Лицензия CC BY-NC 4.0 ограничивает коммерческое использование.

86817февр. 2025ctx131.1K
textcc-by-nc-4.0hugging-face

Задачи профессии

18 задач
1Семантический поиск по смыслу, а не только по точному совпадению слов. — AI преобразует запрос и объекты в сопоставимое представление, затем находит наиболее близкие и подтверждённые результаты. Предметная логика: сопоставляет не только одинаковые слова, но и намерение, контекст и близкие понятия. К исходным данным относятся текст запроса, документы, метаданные, связи между сущностями и права доступа. Формат результата: ранжированный список кандидатов по задаче «Семантический поиск по смыслу, а не только по точному совпадению слов» со ссылками на источники, оценкой соответствия и фрагментами подтверждения. Надёжность оценивают по релевантности, полноте, отсутствию недопустимых источников и точности ссылок на подтверждение; по полноте выдачи, релевантности, качеству источников и точности ссылок на найденные фрагменты.
2Поиск по нескольким хранилищам с объединением и дедупликацией результатов. — Для этой задачи система обходит разрешённые источники, объединяет найденное и отсеивает нерелевантные либо дублирующиеся результаты. Предметная логика: объединяет выдачу из разных источников и удаляет дубли, не раскрывая закрытые материалы. Рабочие входы: индексы нескольких систем, метаданные, связи между сущностями, права доступа и поисковые запросы. Формат результата: ранжированный список кандидатов по задаче «Поиск по нескольким хранилищам с объединением и дедупликацией результатов» со ссылками на источники, оценкой соответствия и фрагментами подтверждения. Критерии приёмки: по релевантности, полноте, отсутствию недопустимых источников и точности ссылок на подтверждение; по полноте выдачи, релевантности, качеству источников и точности ссылок на найденные фрагменты.
3Переформулирование неясного запроса в набор более точных поисковых запросов. — AI разбирает неясный запрос на намерение, объект, ограничения и недостающий контекст, после чего создаёт несколько более точных поисковых формулировок. На вход поступают исходный запрос, история диалога, терминология предметной области и примеры релевантных документов. На выходе — набор запросов для разных трактовок с пояснением, что именно уточняет каждый вариант; качество проверяют по росту релевантности и полноты найденных результатов.
4Расширение запроса синонимами, связанными понятиями и профессиональной терминологией. — AI расширяет исходный запрос синонимами, аббревиатурами, связанными понятиями и профессиональными терминами, сохраняя исходное намерение пользователя. Система использует словари, онтологии, поисковую статистику и контекст коллекции, а также исключает расширения, которые уводят тему в сторону. Результат — контролируемый набор дополнительных терминов или запросов; его проверяют по приросту полноты без заметного падения точности выдачи.
5Ранжирование найденных материалов по релевантности, свежести и качеству источника. — AI строит границы между категориями и ранжирует объекты так, чтобы наиболее важные или срочные обрабатывались раньше. К исходным данным относятся поисковые запросы, документы, метаданные и связи между сущностями. Формат результата: результат «Ранжирование найденных материалов по релевантности, свежести и качеству источника» в виде метки, класса, ранга или тематического слоя с уверенностью и объясняющими признаками. Надёжность оценивают по матрице ошибок, калибровке уверенности и отдельному анализу пограничных классов; по полноте выдачи, релевантности, качеству источников и точности ссылок на найденные фрагменты.
6Поиск ответа внутри корпоративной базы знаний с указанием подтверждающих фрагментов. — Для этой задачи система индексирует доступные материалы, понимает смысл запроса и ранжирует кандидатов по содержательному совпадению. Предметная логика: трассирует утверждение назад по ссылкам и текстовым совпадениям до наиболее раннего надёжного источника. Рабочие входы: утверждение или фрагмент, документы, метаданные, связи между сущностями и права доступа. Формат результата: ранжированный список кандидатов по задаче «Поиск ответа внутри корпоративной базы знаний с указанием подтверждающих фрагментов» со ссылками на источники, оценкой соответствия и фрагментами подтверждения. Критерии приёмки: по релевантности, полноте, отсутствию недопустимых источников и точности ссылок на подтверждение; по полноте выдачи, релевантности, качеству источников и точности ссылок на найденные фрагменты.
7Навигация по большому репозиторию документов, писем, чатов или кода. — Практическая реализация: AI преобразует запрос и объекты в сопоставимое представление, затем находит наиболее близкие и подтверждённые результаты. Предметная логика: объединяет выдачу из разных источников и удаляет дубли, не раскрывая закрытые материалы. Входной контекст включает индексы нескольких систем, метаданные, связи между сущностями, права доступа и поисковые запросы. Формат результата: ранжированный список кандидатов по задаче «Навигация по большому репозиторию документов, писем, чатов или кода» со ссылками на источники, оценкой соответствия и фрагментами подтверждения. Ошибки выявляют по релевантности, полноте, отсутствию недопустимых источников и точности ссылок на подтверждение; по полноте выдачи, релевантности, качеству источников и точности ссылок на найденные фрагменты.
8Поиск похожих документов, случаев, изображений, товаров или инцидентов. — Механизм: AI обходит разрешённые источники, объединяет найденное и отсеивает нерелевантные либо дублирующиеся результаты. Предметная логика: учитывает расположение элементов, связь между страницами и документные правила, а не только распознанный текст. Исходные данные: оригиналы документов, связи между сущностями, права доступа, поисковые запросы и документы. Формат результата: ранжированный список кандидатов по задаче «Поиск похожих документов, случаев, изображений, товаров или инцидентов» со ссылками на источники, оценкой соответствия и фрагментами подтверждения. Проверка: по релевантности, полноте, отсутствию недопустимых источников и точности ссылок на подтверждение; по полноте выдачи, релевантности, качеству источников и точности ссылок на найденные фрагменты.
9Поиск первоисточника утверждения, таблицы, цитаты или статистики. — AI индексирует доступные материалы, понимает смысл запроса и ранжирует кандидатов по содержательному совпадению. Предметная логика: восстанавливает визуальную и логическую структуру, связывая ячейки, заголовки и подписи. К исходным данным относятся геометрия страницы, права доступа, поисковые запросы, документы и метаданные. Формат результата: ранжированный список кандидатов по задаче «Поиск первоисточника утверждения, таблицы, цитаты или статистики» со ссылками на источники, оценкой соответствия и фрагментами подтверждения. Надёжность оценивают по релевантности, полноте, отсутствию недопустимых источников и точности ссылок на подтверждение; по полноте выдачи, релевантности, качеству источников и точности ссылок на найденные фрагменты.
10Поиск экспертов и владельцев знаний по их публикациям, задачам и опыту. — Для этой задачи система преобразует запрос и объекты в сопоставимое представление, затем находит наиболее близкие и подтверждённые результаты. Рабочие входы: поисковые запросы, документы, метаданные и связи между сущностями. Формат результата: ранжированный список кандидатов по задаче «Поиск экспертов и владельцев знаний по их публикациям, задачам и опыту» со ссылками на источники, оценкой соответствия и фрагментами подтверждения. Критерии приёмки: по релевантности, полноте, отсутствию недопустимых источников и точности ссылок на подтверждение; по полноте выдачи, релевантности, качеству источников и точности ссылок на найденные фрагменты.
11Поиск отсутствующих или недоступных документов, на которые ссылаются другие материалы. — Практическая реализация: AI обходит разрешённые источники, объединяет найденное и отсеивает нерелевантные либо дублирующиеся результаты. Предметная логика: учитывает расположение элементов, связь между страницами и документные правила, а не только распознанный текст. Входной контекст включает оригиналы документов, документы, метаданные, связи между сущностями и права доступа. Формат результата: ранжированный список кандидатов по задаче «Поиск отсутствующих или недоступных документов, на которые ссылаются другие материалы» со ссылками на источники, оценкой соответствия и фрагментами подтверждения. Ошибки выявляют по релевантности, полноте, отсутствию недопустимых источников и точности ссылок на подтверждение; по полноте выдачи, релевантности, качеству источников и точности ссылок на найденные фрагменты.
12Построение хронологии материалов вокруг события, проекта или решения. — Механизм: AI создаёт вычислительное представление объекта или процесса и проигрывает на нём альтернативные сценарии. Предметная логика: нормализует временные отметки, разрешает противоречия и выстраивает события в причинно осмысленном порядке. Исходные данные: даты, метаданные, связи между сущностями, права доступа и поисковые запросы. Формат результата: вычислительная модель или карта для «Построение хронологии материалов вокруг события, проекта или решения» с результатами сценариев и анализом чувствительности. Проверка: сопоставлением с наблюдениями, тестами чувствительности и воспроизводимостью вычислений; по полноте выдачи, релевантности, качеству источников и точности ссылок на найденные фрагменты.
13Поиск изменений в постоянно обновляемых источниках. — AI преобразует запрос и объекты в сопоставимое представление, затем находит наиболее близкие и подтверждённые результаты. К исходным данным относятся связи между сущностями, права доступа, поисковые запросы и документы. Формат результата: ранжированный список кандидатов по задаче «Поиск изменений в постоянно обновляемых источниках» со ссылками на источники, оценкой соответствия и фрагментами подтверждения. Надёжность оценивают по релевантности, полноте, отсутствию недопустимых источников и точности ссылок на подтверждение; по полноте выдачи, релевантности, качеству источников и точности ссылок на найденные фрагменты.
14Мониторинг заданной темы с уведомлением о новых релевантных материалах. — Для этой задачи система агрегирует сигналы во времени, подавляет шум и формирует предупреждение только при устойчивом отклонении. Рабочие входы: права доступа, поисковые запросы, документы и метаданные. Формат результата: актуальное состояние в рамках «Мониторинг заданной темы с уведомлением о новых релевантных материалах», временной журнал изменений и предупреждения при значимых отклонениях. Критерии приёмки: по задержке обнаружения, стабильности базовой линии и числу пропущенных либо ложных предупреждений; по полноте выдачи, релевантности, качеству источников и точности ссылок на найденные фрагменты.
15Поиск связанных сущностей и переходов между людьми, организациями, объектами и событиями. — Практическая реализация: AI индексирует доступные материалы, понимает смысл запроса и ранжирует кандидатов по содержательному совпадению. Входной контекст включает поисковые запросы, документы, метаданные и связи между сущностями. Формат результата: ранжированный список кандидатов по задаче «Поиск связанных сущностей и переходов между людьми, организациями, объектами и событиями» со ссылками на источники, оценкой соответствия и фрагментами подтверждения. Ошибки выявляют по релевантности, полноте, отсутствию недопустимых источников и точности ссылок на подтверждение; по полноте выдачи, релевантности, качеству источников и точности ссылок на найденные фрагменты.
16Поиск ответов по естественному языку поверх структурированных баз данных. — Механизм: AI преобразует запрос и объекты в сопоставимое представление, затем находит наиболее близкие и подтверждённые результаты. Исходные данные: документы, метаданные, связи между сущностями и права доступа. Формат результата: ранжированный список кандидатов по задаче «Поиск ответов по естественному языку поверх структурированных баз данных» со ссылками на источники, оценкой соответствия и фрагментами подтверждения. Проверка: по релевантности, полноте, отсутствию недопустимых источников и точности ссылок на подтверждение; по полноте выдачи, релевантности, качеству источников и точности ссылок на найденные фрагменты.
17Поиск по изображению, аудиофрагменту или другому мультимодальному примеру. — AI обходит разрешённые источники, объединяет найденное и отсеивает нерелевантные либо дублирующиеся результаты. Предметная логика: работает одновременно со спектральной структурой, ритмом и временной динамикой сигнала. К исходным данным относятся аудиодорожки, метаданные, связи между сущностями, права доступа и поисковые запросы. Формат результата: ранжированный список кандидатов по задаче «Поиск по изображению, аудиофрагменту или другому мультимодальному примеру» со ссылками на источники, оценкой соответствия и фрагментами подтверждения. Надёжность оценивают по релевантности, полноте, отсутствию недопустимых источников и точности ссылок на подтверждение; по полноте выдачи, релевантности, качеству источников и точности ссылок на найденные фрагменты.
18Поиск информации с учётом роли пользователя, прав доступа и рабочего контекста. — Для этой задачи система индексирует доступные материалы, понимает смысл запроса и ранжирует кандидатов по содержательному совпадению. Предметная логика: учитывает расположение элементов, связь между страницами и документные правила, а не только распознанный текст. Рабочие входы: оригиналы документов, связи между сущностями, права доступа, поисковые запросы и документы. Формат результата: ранжированный список кандидатов по задаче «Поиск информации с учётом роли пользователя, прав доступа и рабочего контекста» со ссылками на источники, оценкой соответствия и фрагментами подтверждения. Критерии приёмки: по релевантности, полноте, отсутствию недопустимых источников и точности ссылок на подтверждение; по полноте выдачи, релевантности, качеству источников и точности ссылок на найденные фрагменты. <a id="section-i-2"></a>

0 моделей