/ Профессии
Разработка ПО, данные, AI и инфраструктура

II.8Инженерия данных и аналитика

В разделе собраны самостоятельные задачи, где AI помогает готовить надёжные данные и превращать их в понятную аналитику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.

ЭмбеддингиТекст
AI-задач
22
в этой профессии
Подходящих моделей
23 488
по типу задач и модальности
Категория
II. Разработка и данные
Основные типы
ЭмбеддингиТекст

Рекомендованные модели

23 488 моделей
Загрузки
Лайки
Дата выхода
14 821–14 850 из 23 488
JaehyeokLee
20m_em_checkpoint_epoch_1_step_3840

Карточка модели JaehyeokLee/20m_em_checkpoint_epoch_1_step_3840 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

1340февр. 2025ctx8.2K
textembeddingmithugging-face
JaehyeokLee
20m_em_checkpoint_epoch_1_step_4760

Карточка модели JaehyeokLee/20m_em_checkpoint_epoch_1_step_4760 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

1360февр. 2025ctx8.2K
textembeddingmithugging-face
JaehyeokLee
20m_em_checkpoint_epoch_1_step_600

Карточка модели JaehyeokLee/20m_em_checkpoint_epoch_1_step_600 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

1340февр. 2025ctx8.2K
textembeddingmithugging-face
JaehyeokLee
20m_em_checkpoint_epoch_1_step_680

Карточка модели JaehyeokLee/20m_em_checkpoint_epoch_1_step_680 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

1140февр. 2025ctx8.2K
textembeddingmithugging-face
JaehyeokLee
20m_em_checkpoint_epoch_1_step_80

Карточка модели JaehyeokLee/20m_em_checkpoint_epoch_1_step_80 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

1050февр. 2025ctx8.2K
textembeddingmithugging-face
JaehyeokLee
20m_em_checkpoint_epoch_1_step_920

Карточка модели JaehyeokLee/20m_em_checkpoint_epoch_1_step_920 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

1310февр. 2025ctx8.2K
textembeddingmithugging-face
jamiehudson
579-STmodel-brand-rem-v5

jamiehudson/579-STmodel-brand-rem-v5 — модель Sentence Transformers на базе архитектуры MPNet, разработанная автором репозитория. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения текстов и кластеризации. Модель содержит 136,7 млн параметров и рассчитана на контекст до 514 токенов; для получения векторов можно использовать библиотеку sentence-transformers или Transformers с подходящей операцией pooling. Модель подходит для поиска близких по смыслу фрагментов и группировки текстов. В README указано обучение с CosineSimilarityLoss, но языки и предметная область не описаны. Репозиторий содержит веса PyTorch; сведения о лицензии в предоставленных данных отсутствуют.

1300нояб. 2022ctx514
textembeddinghugging-face
flax-sentence-embeddings
all_datasets_v3_roberta-large

Модель flax-sentence-embeddings/all_datasets_v3_roberta-large разработана участниками Community Week Hugging Face в рамках проекта по обучению моделей эмбеддингов предложений на больших наборах данных. Это дообученная с контрастивной целью версия roberta-large с архитектурой RoBERTa и 454,1 млн параметров. Она кодирует входное предложение в вектор, отражающий его семантическое содержание, и рассчитана на извлечение признаков и сравнение предложений. В README описано обучение на более чем миллиарде пар предложений из объединённых датасетов; указаны длина последовательности обучения 128 токенов и использование SentenceTransformers. Метаданные указывают родной контекст в 514 токенов. Модель подходит для семантического поиска, группировки текстов и оценки сходства предложений. В карточке указана поддержка английского языка. Репозиторий содержит веса PyTorch; лицензия в предоставленных данных не указана.

18913март 2022ctx514
textembeddinghugging-face
radames
all-MiniLM-L6-v2-feature-extraction

Карточка модели radames/all-MiniLM-L6-v2-feature-extraction на Hugging Face совпадает с карточкой valurank/MiniLM-L6-Keyword-Extraction, поэтому описание составлено по ней. valurank/MiniLM-L6-Keyword-Extraction — англоязычная модель для получения векторных представлений предложений и коротких абзацев. Это Sentence-Transformers-модель на архитектуре BERT с 25,9 млн параметров, создающая плотные эмбеддинги размерности 384. В README описано дообучение контрастивным методом на более чем миллиарде пар предложений на основе nreimers/MiniLM-L6-H384-uncased; метаданные указывают формат PyTorch и контекст до 512 токенов. Модель предназначена для семантического поиска, сравнения сходства текстов и кластеризации. Эмбеддинги можно использовать для ранжирования кандидатов по близости векторных представлений, в том числе при извлечении ключевых слов из текста. По умолчанию тексты длиннее 256 WordPiece-токенов обрезаются. README не приводит отдельную лицензию, а метаданные обозначают её как other, поэтому условия использования следует сверить с карточкой репозитория. Модель обучалась преимущественно на англоязычных данных; качество для других языков не подтверждено.

1181май 2023ctx512
textembeddingapache-2.0hugging-face
mazej
all-MiniLM-L6-v2_MultipleNegativesRankingLoss_b64_accs4_171531_fine-tuned

Это дообученный на 5 509 парах «запрос—документ» англоязычный энкодер предложений mazej на базе sentence-transformers/all-MiniLM-L6-v2. Модель построена на архитектуре BERT и преобразует предложения и абзацы в плотные векторы размерности 384; для сравнения используется косинусное сходство. В README указана максимальная длина последовательности 256 токенов, а в метаданных — контекст 512 токенов. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации на основе эмбеддингов. Её можно применять для ранжирования документов по близости к запросу и группировки похожих текстов. Обучение выполнено с MultipleNegativesRankingLoss; модель распространяется в формате safetensors, для работы используется библиотека Sentence Transformers. Сведения о лицензии в предоставленных данных отсутствуют.

1330май 2025ctx512
textembeddinghugging-face
onnx-models
all-MiniLM-L6-v2-onnx

onnx-models/all-MiniLM-L6-v2-onnx — ONNX-порт модели sentence-transformers/all-MiniLM-L6-v2, подготовленный Binh Nguyen. Модель предназначена для создания векторных представлений текстов и задач сравнения предложений, включая извлечение признаков и работу с семантическим сходством. Используется через библиотеку light-embed. Модель включает Transformer, Pooling и Normalize, формирует embeddings размерностью 384 и поддерживает последовательности длиной до 256 токенов. Размер файлов на диске составляет около 0,08 ГБ, что делает модель компактной для сценариев локального или ресурсно-ограниченного применения. README не содержит сведений о поддерживаемых языках, конкретных показателях качества, ограничениях применения или лицензии, поэтому эти характеристики нельзя определить по предоставленным данным.

13K16июль 2024ctx512
texthugging-face
onnx-community
all-MiniLM-L6-v2-ONNX

onnx-community/all-MiniLM-L6-v2-ONNX — модель для получения векторных представлений предложений и оценки их семантического сходства. Она основана на sentence-transformers/all-MiniLM-L6-v2, а ONNX-веса подготовлены сообществом onnx-community для совместимости с Transformers.js. Модель предназначена для задач feature extraction, включая семантический поиск, сравнение текстов, кластеризацию и построение систем извлечения информации. Модель работает с английским языком и преобразует предложения в эмбеддинги размерностью 384. В README указано использование mean pooling и нормализации векторов; поддерживается обработка нескольких предложений. Архитектурные детали ограничены принадлежностью к семейству MiniLM с шестью слоями, при этом точный размер модели и максимальная длина контекста не указаны. Модель не является генеративной и не предназначена для создания текста. Сильными сторонами являются компактное представление, удобство локального использования в JavaScript-приложениях через Transformers.js и ориентация на широкий набор задач семантического сопоставления. Ограничения включают поддержку только английского языка и отсутствие сведений о точной производительности в конкретных сценариях. Модель распространяется по лицензии Apache-2.0.

26K5июль 2025ctx512
textapache-2.0hugging-face
KhaledReda
all-MiniLM-L6-v65-pair_score

KhaledReda/all-MiniLM-L6-v65-pair_score — англоязычная модель Sentence Transformers, дообученная автором на sentence-transformers/all-MiniLM-L6-v2 с использованием набора пар текстов и оценок pairs_with_scores_v52. Она кодирует предложения и абзацы в плотные векторы размерностью 384 и предназначена для оценки семантического сходства, семантического поиска, поиска перефразировок, кластеризации и классификации текстов. Архитектура — BERT-энкодер с усреднением токеновых представлений и нормализацией векторов; модель содержит 25,9 млн параметров. В README указан максимальный размер входа 256 токенов, а метаданные каталога указывают контекст 512 токенов. Основной язык — английский. Для сравнения векторов рекомендуется косинусное сходство. Модель подходит для поиска семантически близких фрагментов и ранжирования пар текстов по близости. Лицензия — Apache-2.0. Качество на иных доменах и языках, чем английские данные обучения, не установлено; максимальная длина по README ограничена 256 токенами.

630июнь 2026ctx512
textembeddingapache-2.0hugging-face
KhaledReda
all-MiniLM-L6-v78-pair_score

Англоязычный Sentence Transformer, дообученный Khaled Reda на наборе пар предложений pairs_with_scores_v63 для оценки семантической близости текстов. Модель основана на sentence-transformers/all-MiniLM-L6-v2 и использует архитектуру BERT с усреднением токенных представлений и нормализацией. Она преобразует предложения и абзацы в плотные векторы размерности 384; сходство между векторами можно оценивать косинусной мерой. Модель подходит для семантического поиска, сравнения предложений, поиска перефразировок, кластеризации и классификации текста. В README указана максимальная длина последовательности 256 токенов, тогда как метаданные задают нативный контекст в 512 токенов. Распространяется по лицензии Apache-2.0. Карточка описывает обучение на парах с оценками сходства, но не приводит результаты сравнительных тестов; качество на других доменах и языках отдельно не подтверждено.

710авг. 2026ctx512
textembeddingapache-2.0hugging-face
thainq107
all-mpnet-base-v2

Карточка модели thainq107/all-mpnet-base-v2 на Hugging Face совпадает с карточкой KingName1/sentence_transformer, поэтому описание составлено по ней. KingName1/sentence_transformer — модель Sentence Transformers на архитектуре MPNet, предназначенная для преобразования предложений и коротких абзацев в плотные семантические векторы размерности 768. README описывает её как дообученную на основе microsoft/mpnet-base с контрастивной целью на более чем миллиарде пар предложений; метаданные указывают 136,7 млн параметров и библиотеку sentence-transformers. Входной текст кодируется для семантического поиска, сравнения сходства и кластеризации.

1330апр. 2025ctx514
textembeddingapache-2.0hugging-face
deepset
all-mpnet-base-v2-table

deepset/all-mpnet-base-v2-table — модель эмбеддингов предложений на основе MPNet, выпущенная компанией deepset. Она преобразует предложения и абзацы в плотные векторы размерности 768 и предназначена для сравнения смысловой близости, семантического поиска и кластеризации текстов. Модель содержит 136,7 млн параметров и поддерживает контекст до 514 токенов. Обучение использовало MultipleNegativesRankingLoss с косинусной функцией сходства. Векторы можно применять для ранжирования текстов по смысловой близости и поиска похожих фрагментов. Модель принимает текст и выдаёт векторные представления; сведений о специализации на конкретном языке в карточке нет. Лицензия в предоставленных данных не указана.

1677апр. 2022ctx514
textembeddinghugging-face
shreyansh26
bert-base-1024-biencoder-64M-pairs

Модель shreyansh26/bert-base-1024-biencoder-64M-pairs — двубашенный энкодер предложений на архитектуре BERT, основанный на предварительно обученной MosaicML BERT. Она преобразует предложения и абзацы в плотные векторы размерностью 768 для семантического поиска и кластеризации. В README указана обработка последовательностей длиной до 1024 токенов; метаданные модели указывают 136,7 млн параметров и контекст 512 токенов. Модель предназначена для поиска семантически близких текстов, извлечения документов и пассажей, а также сравнения и группировки предложений. В метаданных отмечен английский язык, а среди датасетов для обучения и оценки перечислены MS MARCO, SNLI, MultiNLI и другие наборы для поиска и текстового сходства. Репозиторий содержит веса PyTorch; для использования предлагаются Transformers и специализированная реализация Mosaic BERT. Лицензия в предоставленных данных не указана. Между README и метаданными есть расхождение по длине контекста: README сообщает 1024 токена, метаданные — 512; фактический рабочий предел следует проверять по конфигурации и токенизатору модели.

1170авг. 2023ctx512
textembeddinghugging-face
swardiantara
bert-tiny-sst5-full-adaptive-cosine

Компактная модель Sentence Transformers, разработанная swardiantara путём дообучения google/bert_uncased_L-2_H-128_A-2 на наборе пар предложений с оценками сходства. Она кодирует текст в плотные векторы размерностью 128 и предназначена для поиска похожих предложений и абзацев, включая семантический поиск и извлечение релевантных текстов. Сходство векторов можно оценивать косинусной мерой. Модель построена на архитектуре BERT с усреднением токенных представлений; содержит 4,4 млн параметров и поддерживает входной контекст до 512 токенов по метаданным. README указывает максимальную длину последовательности 128 токенов, поэтому для штатного использования следует учитывать этот предел. Модель принимает текст и выдаёт векторы; базовая модель ориентирована на английский язык, а в примерах обучения использованы англоязычные данные.

760июнь 2026ctx512
textembeddinghugging-face
inrealm
bge-base-all-nli-triplet

inrealm/bge-base-all-nli-triplet — англоязычная модель Sentence Transformer, созданная дообучением BAAI/bge-small-en на наборе sentence-transformers/all-nli. Она использует архитектуру BERT с пулингом CLS-токена и нормализацией, преобразует предложения и абзацы в плотные эмбеддинги размерности 384; сходство векторов можно оценивать косинусной мерой. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации на основе эмбеддингов. Максимальная длина последовательности — 512 токенов. Для работы с ней используются Sentence Transformers и форматы текстовых эмбеддингов. Модель оптимизирована для английского языка и обучена на примерах отношений entailment из all-nli. Качество на других языках и задачах, отличающихся от семантического сопоставления, может быть ниже. Лицензия в предоставленных данных не указана.

990июнь 2024ctx512
textembeddinghugging-face
ekorman-strive
bge-large-en-v1.5

Карточка модели ekorman-strive/bge-large-en-v1.5 на Hugging Face совпадает с карточкой BAAI/bge-large-en-v1.5, поэтому описание составлено по ней. BAAI/bge-large-en-v1.5 — англоязычная модель эмбеддингов семейства BGE, разработанная Beijing Academy of Artificial Intelligence (BAAI) для поиска и сравнения текстов. Она преобразует текст в векторы, пригодные для семантического поиска, извлечения документов и построения систем с дополненной генерацией (RAG). Версия v1.5 улучшает retrieval и делает модель менее зависимой от инструкций для запросов по сравнению с предыдущей версией. Модель основана на архитектуре BERT и содержит 433,9 млн параметров. Она принимает текстовые входы на английском языке, имеет контекстное окно до 512 токенов и доступна в форматах PyTorch, Safetensors и ONNX. Для поиска можно сначала получить кандидатов с помощью эмбеддингов, а затем повысить точность ранжирования отдельной моделью BGE Reranker. Модель подходит для семантического поиска и сходства предложений. README предупреждает, что абсолютные значения сходства не следует трактовать как универсальную шкалу: из-за особенностей обучения оценки могут быть выше 0,5 даже для несхожих предложений. Лицензия — MIT.

1160май 2024ctx512
textembeddingmithugging-face
katanemo
bge-large-en-v1.5

Карточка модели katanemo/bge-large-en-v1.5 на Hugging Face совпадает с карточкой BAAI/bge-large-en-v1.5, поэтому описание составлено по ней. BAAI/bge-large-en-v1.5 — англоязычная модель эмбеддингов семейства BGE, разработанная Beijing Academy of Artificial Intelligence (BAAI) для поиска и сравнения текстов. Она преобразует текст в векторы, пригодные для семантического поиска, извлечения документов и построения систем с дополненной генерацией (RAG). Версия v1.5 улучшает retrieval и делает модель менее зависимой от инструкций для запросов по сравнению с предыдущей версией. Модель основана на архитектуре BERT и содержит 433,9 млн параметров. Она принимает текстовые входы на английском языке, имеет контекстное окно до 512 токенов и доступна в форматах PyTorch, Safetensors и ONNX. Для поиска можно сначала получить кандидатов с помощью эмбеддингов, а затем повысить точность ранжирования отдельной моделью BGE Reranker. Модель подходит для семантического поиска и сходства предложений. README предупреждает, что абсолютные значения сходства не следует трактовать как универсальную шкалу: из-за особенностей обучения оценки могут быть выше 0,5 даже для несхожих предложений. Лицензия — MIT.

1780окт. 2024ctx512
textembeddingmithugging-face
tessimago
bge-large-repmus-matryoshka

tessimago выпустил англоязычную модель Sentence Transformers, дообученную на базе BAAI/bge-large-en-v1.5. Она использует архитектуру BERT с пулингом CLS-токена и нормализацией и преобразует предложения и абзацы в плотные эмбеддинги размерностью 1024; максимальная длина входа — 512 токенов. Обучение проводилось на 1 024 парах текстов с функциями MatryoshkaLoss и MultipleNegativesRankingLoss. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразирований, кластеризации и классификации на основе эмбеддингов. Обучение с MatryoshkaLoss позволяет использовать укороченные векторы: в карточке приведены оценки поиска при размерностях от 64 до 768. Указанная лицензия — Apache-2.0. Карточка приводит метрики InformationRetrievalEvaluator для отдельных конфигураций, но не описывает набор данных оценки, поэтому эти результаты не следует считать гарантией качества в конкретной прикладной задаче.

1060сент. 2024ctx512
textembeddingapache-2.0hugging-face
AlexAnoshka
bge-m3

Карточка модели AlexAnoshka/bge-m3 на Hugging Face совпадает с карточкой BAAI/bge-m3, поэтому описание составлено по ней. BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.

3580июль 2025ctx8.2K
textembeddingmithugging-face
ggml-org
bge-m3-Q8_0-GGUF

ggml-org/bge-m3-Q8_0-GGUF — это модель для извлечения признаков и вычисления семантического сходства предложений, преобразованная в формат GGUF из базовой модели BAAI/bge-m3. Конвертацию выполнили с использованием llama.cpp и сервиса GGUF-my-repo от ggml.ai. Модель предназначена для задач поиска по смыслу, ранжирования, сопоставления текстов и построения векторных представлений, в том числе при локальном запуске через совместимые инструменты llama.cpp. Ключевая характеристика этой версии — квантование Q8_0 в формате GGUF, которое обычно позволяет сократить требования к памяти по сравнению с полноразмерными весами при сохранении большей части качества исходной модели. README не содержит сведений об архитектуре, количестве параметров, поддерживаемых языках, размере контекста и точных модальностях; по назначению и указанной базовой модели речь идет о текстовой embedding-модели. Ограничения качества и совместимости зависят от исходной BAAI/bge-m3 и используемого программного окружения. Лицензия — MIT.

13K18окт. 2025
textembeddingmithugging-face
dabitbol
bge-m3-sparse-elastic

Карточка модели dabitbol/bge-m3-sparse-elastic на Hugging Face совпадает с карточкой Bylaw/BAAI-bge-m3, поэтому описание составлено по ней. BAAI/bge-m3 — многоязычная модель эмбеддингов семейства XLM-RoBERTa, разработанная BAAI и представленная в репозитории Bylaw/BAAI-bge-m3. Она предназначена для поиска по смыслу и извлечения документов, включая многоязычный и межъязыковой поиск, а также поиск по длинным текстам. Модель формирует плотные эмбеддинги, разреженные лексические веса и многовекторные представления ColBERT; эти представления можно использовать отдельно или объединять в гибридном поиске и RAG-конвейерах. Модель имеет 658,7 млн параметров, размерность эмбеддинга 1024 и контекст до 8194 токенов. README заявляет поддержку более 100 языков и указывает, что модель можно применять к коротким предложениям и длинным документам. В карточке также заявлены форматы PyTorch и Safetensors, а лицензия — MIT. BGE-M3 удобна тем, что объединяет несколько подходов к поиску и поддерживает длинный контекст. По README, для задач на одном языке специализированные одноязычные модели могут показывать лучшие результаты; поддержка разреженного поиска также зависит от используемой библиотеки. Для повышения точности авторы рекомендуют сочетать гибридный поиск с отдельной моделью-реранкером.

1282март 2024ctx8.2K
textembeddingmithugging-face
BAAI
bge-m3-unsupervised

BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

1.2K22янв. 2024ctx8.2K
textembeddingmithugging-face
ggml-org
bge-small-en-v1.5-Q8_0-GGUF

ggml-org/bge-small-en-v1.5-Q8_0-GGUF — квантованное представление модели BAAI/bge-small-en-v1.5, разработанной BAAI, в формате GGUF для использования с llama.cpp и совместимыми инструментами. Модель предназначена для получения векторных представлений англоязычных текстов и решения задач семантического поиска, извлечения информации, сравнения сходства предложений, классификации, кластеризации и переранжирования результатов поиска. Модель относится к семейству Sentence Transformers и поддерживает обработку текста на английском языке. В README не указаны точные архитектурные параметры, число параметров и максимальная длина контекста; обозначение Q8_0 указывает на 8-битное квантование. Среди сильных сторон — универсальное применение для задач сопоставления и поиска текстов, а также наличие результатов оценки на наборах MTEB для классификации, извлечения, кластеризации, переранжирования и оценки семантического сходства. Ограничение — заявлена поддержка только английского языка, поэтому качество для русского и других языков не гарантируется. Модель распространяется по лицензии MIT. Для использования требуется среда, совместимая с форматом GGUF, например llama.cpp.

2.7K6февр. 2025
textembeddingmithugging-face
SMARTICT
bge-small-en-v1.5-tr-rag-v1

SMARTICT/bge-small-en-v1.5-tr-rag-v1 — англоязычная модель Sentence Transformers от SMARTICT, дообученная на базе BAAI/bge-small-en-v1.5 для семантического поиска и сравнения текстов. Она кодирует предложения и абзацы в плотные эмбеддинги размерности 384; архитектура включает BERT, пулинг по CLS-токену и нормализацию. Максимальная длина входа — 512 токенов, для сравнения используется косинусное сходство. Обучение проводилось на 8 970 парах anchor-positive с MultipleNegativesRankingLoss. Модель подходит для поиска фрагментов по запросу, оценки семантической близости, поиска перефразировок, кластеризации и классификации текста на основе эмбеддингов. В README приведены результаты оценки поиска на наборе dim_384, включая cosine_accuracy@1 0,6088 и @5 0,7172. Модель распространяется по лицензии Apache-2.0. Она рассчитана на английский язык; качество на других языках не подтверждено, а входы длиннее 512 токенов ограничены максимальной длиной последовательности.

1061нояб. 2024ctx512
textembeddingapache-2.0hugging-face
quangtqv
bi_encoder_tool_learning_backbone_14_6

quangtqv/bi_encoder_tool_learning_backbone_14_6 — модель Sentence Transformer на архитектуре BERT, преобразующая предложения и абзацы в нормализованные плотные векторы размерности 768. Она предназначена для сравнения семантического сходства, семантического поиска, поиска перефразировок, классификации текста и кластеризации; сходство векторов можно оценивать косинусной мерой. Модель принимает текстовые последовательности длиной до 512 токенов. В архитектуре используются BERT, pooling по CLS-токену и нормализация выходного вектора. В метаданных указано 136,7 млн параметров; веса опубликованы в формате safetensors. README описывает обучение модели, но не сообщает базовую модель, набор данных или языки, поэтому её языковую специализацию установить нельзя. Лицензия в предоставленных данных не указана.

940июнь 2024ctx512
textembeddinghugging-face
intfloat
e5-base

E5-base — англоязычная модель текстовых эмбеддингов, разработанная Liang Wang, Nan Yang и соавторами. Это плотная модель на архитектуре BERT с 12 слоями, размерностью эмбеддинга 768 и 136,7 млн параметров; она принимает текст и выдаёт векторные представления. Модель обучена методом контрастивного предобучения со слабым контролем и предназначена для сравнения смысловой близости текстов и поиска по текстовым коллекциям. E5-base подходит для семантического поиска, извлечения релевантных фрагментов для систем вопросов и ответов, поиска перефразировок, кластеризации и использования эмбеддингов как признаков для классификации. Для корректной работы следует добавлять префиксы «query: » и «passage: » в соответствии с типом задачи. В репозитории указаны веса PyTorch и safetensors; длина контекста — до 512 токенов. Модель работает только с английским текстом, а более длинные входы обрезаются до 512 токенов. Авторы рекомендуют перейти на e5-base-v2, который, по их сообщению, показывает лучшие результаты при том же способе использования. Лицензия — MIT.

883K33дек. 2022ctx512
textembeddingmithugging-face

Задачи профессии

22 задачи
400Профилирование нового набора данных. — Механизм: AI сопоставляет наблюдаемое состояние с эталонами, нормативами или историческими аналогами и оценивает степень соответствия. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. Исходные данные: таблицы и события, схемы и определения бизнес-метрик. Формат результата: оценка по задаче «Профилирование нового набора данных» в числовой или категориальной форме с расшифровкой факторов, допущений и неопределённости. Проверка: сверкой с экспертными оценками или фактическими исходами, а также анализом чувствительности к входным данным; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
401Определение вероятного смысла и типа столбцов. — AI сопоставляет наблюдаемые признаки с критериями и устанавливает требуемое значение, состояние или вариант. К исходным данным относятся таблицы, события, файлы и схемы. Формат результата: установленное значение или вариант по задаче «Определение вероятного смысла и типа столбцов» с оценкой уверенности и основаниями решения. Надёжность оценивают по точности относительно эталона, калибровке уверенности и разбору случаев, где источники расходятся; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
402Обнаружение пропусков, выбросов и невозможных значений. — Для этой задачи система анализирует поток наблюдений и локализует признаки, которые отличают целевой объект или нарушение от обычного состояния. Рабочие входы: события, файлы, схемы и каталоги данных. Формат результата: перечень объектов, событий или отклонений, относящихся к «Обнаружение пропусков, выбросов и невозможных значений», с локализацией, уверенностью и признаками срабатывания. Критерии приёмки: по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
403Выбор стратегии заполнения пропущенных данных. — Практическая реализация: AI объединяет историю, текущую ситуацию и обязательные условия, чтобы предложить следующий наиболее обоснованный шаг. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. Входной контекст включает таблицы и события, схемы и определения бизнес-метрик. Формат результата: несколько вариантов для «Выбор стратегии заполнения пропущенных данных», ранжированных по полезности, ограничениям и причинам выбора. Ошибки выявляют по полезности для пользователя, соблюдению ограничений и качеству результата после принятия рекомендации; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
404Очистка и стандартизация категориальных значений. — Механизм: AI преобразует исходный материал по заданным правилам, сохраняя смысл, структуру и критически важные детали. Исходные данные: схемы, каталоги данных, SQL и бизнес-метрики. Формат результата: преобразованный материал по задаче «Очистка и стандартизация категориальных значений» с сохранённым содержанием и журналом значимых изменений. Проверка: сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
405Сопоставление и объединение данных из разных источников. — AI строит единое пространство признаков и устанавливает соответствия между элементами, которые описаны по-разному. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. К исходным данным относятся таблицы и события, схемы и определения бизнес-метрик. Формат результата: карта соответствий и различий для «Сопоставление и объединение данных из разных источников», где элементы приведены к единым критериям и связаны с первичными данными. Надёжность оценивают экспертной сверкой соответствий и проверкой, что различия не вызваны несовместимыми форматами; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
406Автоматическое построение ETL/ELT-конвейера. — Для этой задачи система объединяет уравнения, эмпирические данные и обученные зависимости в модель, пригодную для анализа чувствительности. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. Рабочие входы: таблицы и события, схемы и определения бизнес-метрик. Формат результата: вычислительная модель или карта для «Автоматическое построение ETL/ELT-конвейера» с результатами сценариев и анализом чувствительности. Критерии приёмки: сопоставлением с наблюдениями, тестами чувствительности и воспроизводимостью вычислений; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
407Генерация преобразований данных по словесному описанию. — Практическая реализация: AI создаёт новый артефакт по требованиям, исходным фактам и примерам, сохраняя возможность последующего редактирования. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. Входной контекст включает таблицы и события, схемы и определения бизнес-метрик. Формат результата: редактируемый артефакт по задаче «Генерация преобразований данных по словесному описанию», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — аналитический набор или запрос. Ошибки выявляют по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
408Проверка качества данных по автоматически предложенным правилам. — Механизм: AI сверяет объект с эталоном, правилами и взаимными зависимостями, отмечая пропуски, конфликты и нарушения. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. Исходные данные: таблицы и события, схемы и определения бизнес-метрик. Формат результата: протокол выполнения «Проверка качества данных по автоматически предложенным правилам» с пройденными условиями, найденными нарушениями и спорными местами для ручного решения. Проверка: повторным запуском на эталонных примерах, ручной проверкой спорных случаев и полнотой контрольного покрытия; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
409Обнаружение нарушения контрактов данных. — AI сочетает обученные шаблоны с контрольными правилами, чтобы находить значимые случаи и не пропускать пограничные примеры. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. К исходным данным относятся таблицы и события, схемы и определения бизнес-метрик. Формат результата: перечень объектов, событий или отклонений, относящихся к «Обнаружение нарушения контрактов данных», с локализацией, уверенностью и признаками срабатывания. Надёжность оценивают по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
410Анализ происхождения показателя и цепочки преобразований. — Для этой задачи система разбирает данные по существенным признакам, выявляет связи и формирует выводы с привязкой к исходным свидетельствам. Рабочие входы: файлы, схемы, каталоги данных и SQL. Формат результата: объяснимые выводы по задаче «Анализ происхождения показателя и цепочки преобразований» с влияющими факторами, альтернативными трактовками и ссылками на данные. Критерии приёмки: воспроизводимостью расчётов, проверкой источников и сравнением выводов с альтернативными объяснениями; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
411Генерация SQL по вопросу на естественном языке. — Практическая реализация: AI собирает содержание и структуру из заданных ограничений, затем формирует несколько вариантов для выбора и доработки. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. Входной контекст включает таблицы и события, схемы и определения бизнес-метрик. Формат результата: редактируемый артефакт по задаче «Генерация SQL по вопросу на естественном языке», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — аналитический набор или запрос. Ошибки выявляют по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
412Объяснение SQL-запроса и поиск логических ошибок. — Механизм: AI агрегирует разрозненные сигналы в целостную картину и показывает, какие данные поддерживают каждый вывод. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. Исходные данные: таблицы и события, схемы и определения бизнес-метрик. Формат результата: объяснимые выводы по задаче «Объяснение SQL-запроса и поиск логических ошибок» с влияющими факторами, альтернативными трактовками и ссылками на данные. Проверка: воспроизводимостью расчётов, проверкой источников и сравнением выводов с альтернативными объяснениями; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
413Автоматическое построение подходящей визуализации. — AI создаёт вычислительное представление объекта или процесса и проигрывает на нём альтернативные сценарии. К исходным данным относятся SQL, бизнес-метрики, таблицы и события. Формат результата: вычислительная модель или карта для «Автоматическое построение подходящей визуализации» с результатами сценариев и анализом чувствительности. Надёжность оценивают сопоставлением с наблюдениями, тестами чувствительности и воспроизводимостью вычислений; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
414Создание смыслового слоя метрик. — Для этой задачи система собирает содержание и структуру из заданных ограничений, затем формирует несколько вариантов для выбора и доработки. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. Рабочие входы: таблицы и события, схемы и определения бизнес-метрик. Формат результата: редактируемый артефакт по задаче «Создание смыслового слоя метрик», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — аналитический набор или запрос. Критерии приёмки: по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
415Объяснение изменения показателя через декомпозицию факторов. — Практическая реализация: AI агрегирует разрозненные сигналы в целостную картину и показывает, какие данные поддерживают каждый вывод. Входной контекст включает таблицы, события, файлы и схемы. Формат результата: объяснимые выводы по задаче «Объяснение изменения показателя через декомпозицию факторов» с влияющими факторами, альтернативными трактовками и ссылками на данные. Ошибки выявляют воспроизводимостью расчётов, проверкой источников и сравнением выводов с альтернативными объяснениями; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
416Когортный анализ. — Механизм: AI разбирает данные по существенным признакам, выявляет связи и формирует выводы с привязкой к исходным свидетельствам. Исходные данные: события, файлы, схемы и каталоги данных. Формат результата: объяснимые выводы по задаче «Когортный анализ» с влияющими факторами, альтернативными трактовками и ссылками на данные. Проверка: воспроизводимостью расчётов, проверкой источников и сравнением выводов с альтернативными объяснениями; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
417Анализ воронки и точек потери. — AI сопоставляет наблюдения, отделяет устойчивые закономерности от случайных совпадений и объясняет влияющие факторы. К исходным данным относятся файлы, схемы, каталоги данных и SQL. Формат результата: объяснимые выводы по задаче «Анализ воронки и точек потери» с влияющими факторами, альтернативными трактовками и ссылками на данные. Надёжность оценивают воспроизводимостью расчётов, проверкой источников и сравнением выводов с альтернативными объяснениями; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
418Сегментация объектов по поведению. — Для этой задачи система строит границы между категориями и ранжирует объекты так, чтобы наиболее важные или срочные обрабатывались раньше. Рабочие входы: схемы, каталоги данных, SQL и бизнес-метрики. Формат результата: результат «Сегментация объектов по поведению» в виде метки, класса, ранга или тематического слоя с уверенностью и объясняющими признаками. Критерии приёмки: по матрице ошибок, калибровке уверенности и отдельному анализу пограничных классов; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
419Поиск статистически значимых зависимостей. — Практическая реализация: AI индексирует доступные материалы, понимает смысл запроса и ранжирует кандидатов по содержательному совпадению. Входной контекст включает каталоги данных, SQL, бизнес-метрики и таблицы. Формат результата: ранжированный список кандидатов по задаче «Поиск статистически значимых зависимостей» со ссылками на источники, оценкой соответствия и фрагментами подтверждения. Ошибки выявляют по релевантности, полноте, отсутствию недопустимых источников и точности ссылок на подтверждение; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
420Подготовка аналитического отчёта с выводами и оговорками. — Механизм: AI собирает содержание и структуру из заданных ограничений, затем формирует несколько вариантов для выбора и доработки. Исходные данные: SQL, бизнес-метрики, таблицы и события. Формат результата: редактируемый артефакт по задаче «Подготовка аналитического отчёта с выводами и оговорками», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — аналитический набор или запрос. Проверка: по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
421Естественно-языковой интерфейс к BI-системе. — AI обходит разрешённые источники, объединяет найденное и отсеивает нерелевантные либо дублирующиеся результаты. К исходным данным относятся бизнес-метрики, таблицы, события и файлы. Формат результата: ранжированный список кандидатов по задаче «Естественно-языковой интерфейс к BI-системе» со ссылками на источники, оценкой соответствия и фрагментами подтверждения. Надёжность оценивают по релевантности, полноте, отсутствию недопустимых источников и точности ссылок на подтверждение; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик. <a id="section-ii-9"></a>

0 моделей