/ Профессии
Универсальные способности и операции

I.3Извлечение и структурирование данных

В разделе собраны самостоятельные задачи, где AI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.

ЭмбеддингиТекст
AI-задач
18
в этой профессии
Подходящих моделей
25 791
по типу задач и модальности
Категория
I. Универсальные способности
Основные типы
ЭмбеддингиТекст

Рекомендованные модели

25 791 модель
Загрузки
Лайки
Дата выхода
16 441–16 470 из 25 791
annakotarba
sentence-similarity

annakotarba/sentence-similarity — модель Sentence-Transformers на базе BERT, преобразующая предложения и абзацы в плотные векторы размерностью 384. Её можно применять для семантического поиска и кластеризации текстов, а также для сравнения сходства предложений. Модель содержит 124,3 млн параметров и рассчитана на контекст до 512 токенов. При обучении использовалась TripletLoss с евклидовой метрикой расстояния. Для работы предусмотрена библиотека sentence-transformers; при использовании Transformers требуется применить подходящую операцию pooling к контекстным представлениям токенов. Сведения о лицензии и языках в предоставленных данных отсутствуют.

1050февр. 2024ctx512
textembeddinghugging-face
richie-ghost
sentence-transformers-all-mpnet-base-v2

Это дообученная модель Sentence Transformers на базе sentence-transformers/all-mpnet-base-v2, опубликованная пользователем richie-ghost. Она кодирует предложения и абзацы в плотные векторы размерности 768 для сравнения по косинусному сходству, семантического поиска и других задач работы со сходством текстов. Архитектура состоит из MPNet, среднего pooling по токенам и нормализации; модель содержит 136,7 млн параметров и рассчитана на последовательности до 514 токенов по метаданным Hugging Face. README указывает максимальную длину 384 токена, поэтому практический предел может зависеть от используемой конфигурации. Модель подходит для поиска похожих фрагментов, выявления перефразировок, кластеризации и получения признаков для классификации текста. В README описано дообучение на 48 393 парах предложений с MultipleNegativesRankingLoss. Языки обучения или поддерживаемые языки не подтверждены предоставленными данными. Лицензия в метаданных и README не указана.

1370окт. 2024ctx514
textembeddinghugging-face
ai-human-lab
sentence-transformers_all-mpnet-base-v2

Карточка модели ai-human-lab/sentence-transformers_all-mpnet-base-v2 на Hugging Face совпадает с карточкой XHY-DY/all-mpnet-base, поэтому описание составлено по ней. XHY-DY/all-mpnet-base — модель Sentence Transformers для кодирования предложений и коротких абзацев в плотные векторы размерности 768. Она основана на MPNet и дообучена методом контрастивного обучения на наборе более чем из миллиарда пар предложений; исходная модель — microsoft/mpnet-base. В карточке указано применение для семантического поиска, измерения сходства предложений и кластеризации. По умолчанию текст длиннее 384 частей словаря обрезается. Модель принимает текст и возвращает векторное представление, пригодное для поиска и сравнения по смыслу. Она ориентирована на английский язык; заявленная библиотека — Sentence Transformers. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache-2.0.

1360май 2024ctx514
textembeddingapache-2.0hugging-face
Pyjay
sentence-transformers-multilingual-snli-v2-500k

Pyjay/sentence-transformers-multilingual-snli-v2-500k — модель эмбеддингов предложений на базе XLM-RoBERTa, опубликованная пользователем Pyjay. Она преобразует предложения и абзацы в плотные векторы размерности 768, пригодные для семантического поиска, кластеризации и сравнения текстов. Модель содержит 305,2 млн параметров, принимает текст с контекстом до 514 токенов и распространяется в формате PyTorch. Модель обучалась с использованием Sentence-Transformers и функций потерь SoftmaxLoss и CosineSimilarityLoss. В карточке указано многоязычное назначение, однако конкретный список поддерживаемых языков не приведён. Лицензия в предоставленных данных не указана.

1221март 2022ctx514
textembeddinghugging-face
PrabalAryal
Sentence_Transformer_v0.0.1

PrabalAryal/Sentence_Transformer_v0.0.1 — дообученная модель Sentence Transformers на базе sentence-transformers/paraphrase-multilingual-mpnet-base-v2. Она использует XLM-RoBERTa и преобразует предложения и абзацы в плотные векторы размерности 768; сходство между ними оценивается косинусной мерой. В README указана максимальная длина последовательности 64 токена, а метаданные каталога сообщают о контекстном окне 514 токенов. Модель предназначена для семантического сравнения текстов, поиска похожих фрагментов, поиска перефразировок, кластеризации и классификации текста по эмбеддингам. Обучение описано на 8 884 парах предложений с помощью MultipleNegativesRankingLoss; в примерах датасета есть тексты на нидерландском языке. Базовая модель многоязычная, но конкретный перечень поддерживаемых языков этой версии не приведён. Для использования указана библиотека Sentence Transformers. Лицензия в предоставленных данных не указана.

1030нояб. 2025ctx514
textembeddinghugging-face
mah18
sent_similarity

Карточка модели mah18/sent_similarity на Hugging Face совпадает с карточкой sentence-transformers/all-MiniLM-L6-v2, поэтому описание составлено по ней. all-MiniLM-L6-v2 — модель Sentence-Transformers, разработанная в ходе Community Week Hugging Face. Это дообученный энкодер на архитектуре BERT с 25,9 млн параметров: он преобразует предложения и короткие абзацы в плотные векторы размерностью 384, отражающие их семантику. Модель дообучена контрастивным методом на более чем миллиарде пар предложений из нескольких наборов данных. Модель предназначена для семантического поиска, сравнения предложений и кластеризации текстов. Она поддерживает английский язык; максимальный контекст по метаданным — 512 токенов, при этом карточка сообщает, что вход длиннее 256 WordPiece-токенов обрезается. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Лицензия — Apache-2.0. Векторы полезны для поиска смыслового сходства, но сама модель не генерирует текст; длинные входы обрезаются, а качество представлений зависит от соответствия текста и задачи обучающим данным.

1010янв. 2026ctx512
textembeddingapache-2.0hugging-face
Bjornrun
setfit-minilm-distilled

Карточка модели Bjornrun/setfit-minilm-distilled на Hugging Face совпадает с карточкой chiragme/setfit-minilm-distilled-ledgar, поэтому описание составлено по ней. chiragme/setfit-minilm-distilled-ledgar — модель семейства BERT на базе Sentence-Transformers, преобразующая предложения и абзацы в плотные векторы размерности 384. Её можно применять для семантического поиска, кластеризации и сравнения текстов по смыслу. В метаданных указаны 18,8 млн параметров, контекст до 512 токенов и формат PyTorch; README описывает обучение с CosineSimilarityLoss. Название репозитория указывает на связь с SetFit, MiniLM и Ledgar, однако README и метаданные не уточняют базовую модель, набор данных или специализацию обучения, поэтому эти детали нельзя подтвердить. Модель принимает текст и выдаёт векторы; лицензия и поддерживаемые естественные языки в предоставленных данных не указаны.

990дек. 2022ctx512
textembeddinghugging-face
lewtun
setfit-minilm-distilled

Карточка модели lewtun/setfit-minilm-distilled на Hugging Face совпадает с карточкой chiragme/setfit-minilm-distilled-ledgar, поэтому описание составлено по ней. chiragme/setfit-minilm-distilled-ledgar — модель семейства BERT на базе Sentence-Transformers, преобразующая предложения и абзацы в плотные векторы размерности 384. Её можно применять для семантического поиска, кластеризации и сравнения текстов по смыслу. В метаданных указаны 18,8 млн параметров, контекст до 512 токенов и формат PyTorch; README описывает обучение с CosineSimilarityLoss. Название репозитория указывает на связь с SetFit, MiniLM и Ledgar, однако README и метаданные не уточняют базовую модель, набор данных или специализацию обучения, поэтому эти детали нельзя подтвердить. Модель принимает текст и выдаёт векторы; лицензия и поддерживаемые естественные языки в предоставленных данных не указаны.

1000дек. 2022ctx512
texthugging-face
Laxman
setfit-model-v2

Laxman/setfit-model-v2 — модель Sentence-Transformers на архитектуре MPNet, разработанная автором репозитория Laxman. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, кластеризации и сравнения текстов. Обучение использовало CosineSimilarityLoss; модель содержит 136,7 млн параметров и принимает последовательности длиной до 514 токенов. Модель подходит для построения текстовых эмбеддингов и поиска смыслово близких фрагментов. В метаданных указан формат PyTorch. Лицензия и языковая специализация в предоставленных данных не обозначены.

930нояб. 2022ctx514
textembeddinghugging-face
Sakalti
SJT-7B-1M

SJT-7B-1M — разговорная языковая модель Sakalti, созданная слиянием моделей через mergekit. В качестве основы использована Qwen/Qwen2.5-7B-Instruct-1M, объединённая с Sakalti/model-3 методом TIES. Модель построена на плотной архитектуре Qwen2 и содержит 7,1 млрд параметров. Модель предназначена для генерации текста и диалогов, включая сценарии с длинным контекстом до 1 010 000 токенов. Метаданные также отмечают интерфейс для вызова инструментов. Репозиторий содержит веса в формате safetensors; README указывает тип float16. Лицензия в предоставленных данных не указана.

201янв. 2025ctx1M
texthugging-face
dnth
ssf-retriever-modernbert-embed-base-v4

dnth выпустила модель Sentence Transformer, дообученную на наборе ssf-train-valid-v4 на основе nomic-ai/modernbert-embed-base. Она преобразует предложения и абзацы в плотные эмбеддинги размерности 768, нормализованные для сравнения по косинусному сходству. Архитектура включает ModernBertModel с усреднением токеновых представлений; максимальная длина входа — 8192 токена. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, а также использования эмбеддингов для классификации и кластеризации. Обучение описано на парах и тройках anchor-positive-negative из датасета размером 4524 обучающих примера. Метаданные указывают задачи sentence-similarity и feature-extraction. Язык примеров или языковая специализация модели не подтверждены, поэтому языки не указаны. Файлы представлены в формате safetensors; лицензия в предоставленных данных не указана.

1030сент. 2025ctx8.2K
textembeddinghugging-face
NovaSearch
stella_en_1.5B_v5

NovaSearch/stella_en_1.5B_v5 — модель встраивания текста, разработанная NovaSearch на основе Alibaba-NLP/gte-large-en-v1.5 и Alibaba-NLP/gte-Qwen2-1.5B-instruct. Она предназначена для поиска релевантных фрагментов по запросу, семантического сходства и других задач сравнения текстов; поддерживает кодирование через SentenceTransformers и Transformers. Модель построена на плотной архитектуре Qwen2ForCausalLM и содержит 1,5 млрд параметров. Для векторов доступны размерности 512, 768, 1024, 2048, 4096, 6144 и 8192; обычно авторы рекомендуют 1024 измерения. Контекст архитектуры составляет до 131 072 токенов, однако README рекомендует последовательности длиной 512 токенов: модель обучалась на такой длине, а на специализированных задачах поиска по длинным текстам результаты часто снижаются. Для большинства задач предусмотрены инструкции s2p для поиска и s2s для семантического сходства. Модель подходит для семантического поиска и ранжирования по сходству; метаданные также указывают поддержку извлечения признаков, генерации текста и классификации текста, но README описывает прежде всего получение эмбеддингов. Данные обучения и подробный метод обучения в карточке ещё не опубликованы. Лицензия — MIT.

14K266июль 2024ctx131.1K
textembeddingmithugging-face
r2d2
stsb-bertweet-base-v0

r2d2 разработала модель эмбеддингов предложений на архитектуре RoBERTa. Она преобразует предложения и абзацы в плотные векторы размерности 768 для поиска по смыслу, кластеризации и сравнения текстов. Модель содержит 162,4 млн параметров, обучалась с функцией CosineSimilarityLoss и поддерживает контекст длиной до 130 токенов. Для работы доступны PyTorch и библиотека Sentence-Transformers. Модель подходит для построения семантического поиска и группировки текстов, когда важна близость значений, а не совпадение слов. Данных о лицензии и целевых языках в предоставленных источниках нет; применимость к конкретному языку следует проверить на своих данных.

1030март 2022ctx130
textembeddinghugging-face
Hoax0930
tf_paraphrase-multilingual-mpnet-base-v2

Hoax0930/tf_paraphrase-multilingual-mpnet-base-v2 — модель Sentence-Transformers на архитектуре XLM-RoBERTa, создающая плотные векторы размерностью 768 для предложений и абзацев. В репозитории указано 305,2 млн параметров и контекст до 514 токенов. Модель предназначена для построения эмбеддингов, семантического поиска и кластеризации текстов. Её можно применять для поиска похожих фрагментов и сравнения семантической близости предложений; README описывает обучение с CosineSimilarityLoss. Метаданные указывают формат PyTorch и возможность извлечения эмбеддингов. Карточка не сообщает конкретный перечень поддерживаемых языков, поэтому многоязычность из названия модели не подтверждена. Лицензия в предоставленных данных отсутствует. Результаты зависят от языка и предметной области; для сравнения векторов и поиска требуется подходящая метрика или индекс.

1180февр. 2023ctx514
textembeddinghugging-face
slimaneMakh
triplet-10-tsdaecorpogplparamulti-50to369df-100k5epoch-13mars

Это модель Sentence Transformers на базе архитектуры BERT, созданная для преобразования предложений и абзацев в плотные векторы размерности 384. Её можно применять для семантического поиска и кластеризации текстов, сравнивая полученные представления по близости. Модель обучалась с Triplet Loss и евклидовой метрикой расстояния. Она содержит 124,3 млн параметров, принимает текст с контекстом до 512 токенов и распространяется в формате safetensors. Для использования подходят библиотека sentence-transformers или Transformers с соответствующей операцией pooling. Языки и лицензия в предоставленных сведениях не определены.

210апр. 2024ctx512
textembeddinghugging-face
BaoLocTown
tuned_KaLM-embedding-multilingual-mini-instruct-v2.5_combined_v4_200k_2048_len_lr_2e-5_lasttoken

BaoLocTown/tuned_KaLM-embedding-multilingual-mini-instruct-v2.5_combined_v4_200k_2048_len_lr_2e-5_lasttoken — текстовая модель Sentence Transformer на архитектуре Qwen2 с 494 млн параметров. Она преобразует предложения и абзацы в плотные векторы размерностью 896; сходство между векторами оценивается косинусной мерой. Модель подходит для семантического поиска, оценки сходства текстов, поиска перефразировок, кластеризации и классификации текста. В архитектуре используется pooling по последнему токену. README указывает максимальную длину последовательности 32 768 токенов, а метаданные каталога — нативный контекст 131 072 токена. Модель ориентирована на многоязычные текстовые эмбеддинги, но конкретные языки в предоставленных данных не перечислены. Репозиторий содержит веса в формате safetensors; лицензия в источниках не указана.

970янв. 2026ctx131.1K
textembeddinghugging-face
voyageai
voyage-4-nano

voyage-4-nano — мультиязычная модель для создания текстовых эмбеддингов, разработанная Voyage AI для семантического поиска и извлечения релевантных документов. Она подходит для локальной разработки и сценариев, где важны низкая стоимость и высокая пропускная способность. Модель построена на плотной архитектуре Qwen3 и содержит 306,6 млн параметров; длина контекста по метаданным составляет 40 960 токенов. Модель обучена с Matryoshka Representation Learning и поддерживает эмбеддинги размерностью 2048, 1024, 512 и 256. Благодаря обучению с учетом квантования доступны выходы в форматах float32, int8, uint8 и бинарной точности. Эмбеддинги совместимы в общем пространстве с другими моделями серии Voyage 4, поэтому модели серии можно менять без переиндексации данных. По карточке модель поддерживает многоязычные тексты; лицензия — Apache 2.0.

333K148янв. 2026ctx41K
textembeddingapache-2.0hugging-face
amahdaouy
xlmrsim-mar_2ep

amahdaouy/xlmrsim-mar_2ep — мультиязычная модель Sentence Transformers, дообученная разработчиком на базе sentence-transformers/stsb-xlm-r-multilingual для сравнения смысловой близости предложений. Архитектура XLM-RoBERTa преобразует текст в плотные векторы размерности 768; представление строится усреднением токенных эмбеддингов, а сходство обычно оценивается косинусной мерой. В метаданных указано 305,2 млн параметров и контекст длиной 514 токенов; карточка модели задаёт максимальную длину последовательности 128 токенов. Модель подходит для семантического поиска, поиска перефразировок, кластеризации и классификации текста на основе эмбеддингов. Примеры обучающих пар включают английский, французский и арабский языки, а базовая модель мультиязычная. В README приведены результаты оценки сходства, включая Spearman 0,8659 для косинусного сходства; переносить их на другие наборы данных без проверки не следует. Лицензия в предоставленных сведениях не указана.

1010сент. 2024ctx514
textembeddinghugging-face
Watwat100
256data

Watwat100/256data — модель на базе MPNet, опубликованная в формате PyTorch и упакованная для Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения текстов и кластеризации. Модель содержит 136,7 млн параметров и поддерживает контекст длиной до 514 токенов. При обучении использовалась функция потерь CosineSimilarityLoss. Веса можно применять для построения эмбеддингов и оценки смысловой близости текстов в сценариях поиска и анализа коллекций документов. Лицензия в доступных данных не указана.

1010нояб. 2022ctx514
textembeddinghugging-face
avsolatorio
40-100-11-1-2-2-0-0-mean-normed-384-512_GIST_TaylorAI_gte-tiny-20240201161823-latest

gte-tiny — компактная модель эмбеддингов предложений на базе архитектуры BERT, опубликованная avsolatorio. Она преобразует предложения и абзацы в плотные векторы размерности 384 для семантического поиска, кластеризации и сравнения текстов. Модель дистиллирована из thenlper/gte-small и, согласно карточке, показывает сопоставимое, немного более низкое качество при примерно вдвое меньшем размере. Модель содержит 25,9 млн параметров, принимает текст и поддерживает контекст до 512 токенов. Для получения векторов можно использовать Sentence Transformers либо Transformers с подходящей операцией pooling. Лицензия и перечень поддерживаемых естественных языков в предоставленных данных не описаны.

1460февр. 2024ctx512
textembeddinghugging-face
jamiehudson
579-STmodel-v3

Карточка модели jamiehudson/579-STmodel-v3 на Hugging Face совпадает с карточкой jamiehudson/579-STmodel-v4, поэтому описание составлено по ней. jamiehudson/579-STmodel-v4 — модель Sentence Transformers на базе архитектуры MPNet, разработанная автором репозитория. Она преобразует предложения и абзацы в плотные векторы размерности 768 и предназначена для сравнения смысловой близости текстов, семантического поиска и кластеризации. Для получения эмбеддингов используются веса PyTorch и операция pooling над контекстными представлениями токенов. Модель содержит 136,7 млн параметров, а длина контекста составляет 514 токенов. В README указано обучение с CosineSimilarityLoss. Языки применения не обозначены. Лицензия в предоставленных данных не указана.

670нояб. 2022ctx514
textembeddinghugging-face
jamiehudson
579-STmodel-v4

jamiehudson/579-STmodel-v4 — модель Sentence Transformers на базе архитектуры MPNet, разработанная автором репозитория. Она преобразует предложения и абзацы в плотные векторы размерности 768 и предназначена для сравнения смысловой близости текстов, семантического поиска и кластеризации. Для получения эмбеддингов используются веса PyTorch и операция pooling над контекстными представлениями токенов. Модель содержит 136,7 млн параметров, а длина контекста составляет 514 токенов. В README указано обучение с CosineSimilarityLoss. Языки применения не обозначены. Лицензия в предоставленных данных не указана.

990нояб. 2022ctx514
textembeddinghugging-face
frankwong2001
5_attempt_Qwen3-Embedding-0.6B

Это модель Sentence Transformers на архитектуре Qwen3, разработанная frankwong2001 и дообученная на базе Qwen/Qwen3-Embedding-0.6B. Она преобразует предложения и абзацы в плотные текстовые векторы размерности 1024 для семантического сравнения и поиска; для оценки сходства используется косинусная близость. Модель поддерживает последовательности длиной до 32 768 токенов. Её можно применять для поиска похожих документов, выявления перефразировок, кластеризации текстов и классификации на основе эмбеддингов. При дообучении использован набор ssf-train-valid-full-synthetic-v2 с парами положительных и отрицательных примеров. Метаданные указывают 507,6 млн параметров и формат safetensors. Сведения о лицензии в предоставленных источниках отсутствуют.

1050сент. 2025ctx32.8K
textembeddinghugging-face
JALLAJ
5epo

JALLAJ/5epo — дообученная модель Sentence Transformer на базе BAAI/bge-small-en-v1.5, разработанная автором репозитория JALLAJ. Она преобразует предложения и абзацы в плотные текстовые эмбеддинги размерности 384 для сравнения по косинусному сходству. Модель предназначена для семантического поиска, оценки сходства текстов и поиска перефразирований; её также можно применять для кластеризации и классификации текстов. В основе лежит BERT-архитектура с максимальной длиной последовательности 512 токенов; в README указаны pooling по CLS-токену и нормализация векторов. Для обучения использовалась функция потерь MultipleNegativesRankingLoss и набор из 1 466 примеров. Модель рассчитана на английские тексты, унаследовав англоязычную базу BGE-small-en-v1.5. Она компактна — около 40 млн параметров — и выдаёт векторы, пригодные для поиска и сравнения. Модель распространяется в формате safetensors. Лицензия в предоставленных данных не указана.

930сент. 2025ctx512
textembeddinghugging-face
teven
all_bs160_allneg

teven/all_bs160_allneg — модель на базе MPNet для получения плотных векторных представлений предложений и абзацев. Она содержит 136,7 млн параметров, выдаёт эмбеддинги размерности 768 и рассчитана на контекст до 514 токенов. Модель распространяется в формате PyTorch и используется через библиотеку Sentence-Transformers. Эмбеддинги подходят для семантического поиска, сравнения текстов и кластеризации. При обучении применялась функция потерь MultipleNegativesRankingLoss с косинусным сходством. В карточке не указаны обучающие языки и лицензия, поэтому применимость к конкретному языку и условия распространения требуют проверки.

930июль 2022ctx514
textembeddinghugging-face
flax-sentence-embeddings
all_datasets_v4_MiniLM-L6

Модель all_datasets_v4_MiniLM-L6 разработана в рамках Community Week Hugging Face проектом по обучению моделей эмбеддингов предложений на больших наборах данных. Это дообученная контрастивным обучением версия MiniLM-L6-H384-uncased с архитектурой BERT и примерно 25,9 млн параметров. Для кодирования текста она выдаёт векторное представление, отражающее семантику предложения; длина контекста по метаданным — до 512 токенов. Модель предназначена для поиска информации по смыслу, кластеризации текстов и оценки сходства предложений. При обучении использовалось более миллиарда пар предложений из нескольких наборов данных. В README длина последовательности во время обучения ограничена 128 токенами. Репозиторий содержит веса PyTorch; модель можно применять через SentenceTransformers. Сведения о лицензии в предоставленных данных отсутствуют.

5.3K38март 2022ctx512
textembeddinghugging-face
sentence-transformers
all-distilroberta-v1

all-distilroberta-v1 — модель Sentence Transformers на архитектуре DistilRoBERTa, разработанная в рамках Hugging Face Community Week для проекта по обучению эмбеддингов предложений на большом наборе пар. Модель дообучена на базе distilroberta-base контрастивным обучением на более чем 1 млрд пар предложений. Она преобразует предложения и короткие абзацы в плотные векторы размерностью 768 и предназначена для семантического поиска, оценки сходства и кластеризации текста. Модель принимает текст и выдаёт векторные представления. В README указано усечение входа длиннее 128 word pieces; метаданные сообщают контекстное окно 514 токенов. В карточке отмечен английский язык. Репозиторий содержит веса PyTorch и варианты ONNX, OpenVINO и safetensors. Модель распространяется по лицензии Apache-2.0. Модель подходит для поиска текстов по смыслу и группировки семантически близких фрагментов. Она не предназначена для генерации ответов; качество зависит от соответствия языка и предметной области обучающим данным, а длинные входы ограничиваются усечением.

2.8M50март 2022ctx514
textembeddingapache-2.0hugging-face
sentence-transformers
all-MiniLM-L12-v1

all-MiniLM-L12-v1 — модель sentence-transformers, разработанная в рамках Community Week Hugging Face в проекте по обучению эмбеддингов предложений на большом наборе пар. Она основана на microsoft/MiniLM-L12-H384-uncased и дообучена контрастивным методом на более чем миллиарде пар предложений. Архитектура — BERT; модель содержит около 40 млн параметров и выдаёт плотный вектор размерности 384 для каждого входного текста. Модель предназначена для кодирования предложений и коротких абзацев. Полученные эмбеддинги подходят для семантического поиска, сравнения сходства предложений и кластеризации. README указывает ограничение на вход длиной свыше 128 word pieces: такой текст обрезается, хотя контекстное окно в метаданных составляет 512 токенов. Поддерживается английский язык. Доступны форматы PyTorch, safetensors, ONNX и OpenVINO. Лицензия — Apache-2.0.

1.6K13март 2022ctx512
textembeddingapache-2.0hugging-face
ronanki
all-MiniLM-L12-v2-2022-11-07

ronanki/all-MiniLM-L12-v2-2022-11-07 — модель Sentence-Transformers на архитектуре BERT с примерно 40 млн параметров. Она преобразует предложения и абзацы в плотные векторы размерности 384 и предназначена для семантического поиска, сравнения сходства текстов и кластеризации. Модель работает с текстом и имеет контекстное окно до 512 токенов. Модель обучалась с функцией потерь MultipleNegativesRankingLoss и косинусной мерой сходства. Её можно использовать для поиска похожих текстов и группировки предложений или документов; для эксплуатации требуется библиотека sentence-transformers. В репозитории указаны веса PyTorch. Лицензия в предоставленных данных не указана.

1000нояб. 2022ctx512
textembeddinghugging-face
KhaledReda
all-MiniLM-L6-test_model-pair_score

KhaledReda/all-MiniLM-L6-test_model-pair_score — англоязычная модель Sentence Transformers, дообученная на базе sentence-transformers/all-MiniLM-L6-v2. Это плотный BERT-энкодер с 25,9 млн параметров: он преобразует предложения и абзацы в нормализованные векторы размерности 384, которые можно сравнивать косинусным сходством. README указывает максимальную длину последовательности 256 токенов, а метаданные — контекст до 512 токенов. Модель предназначена для оценки семантического сходства, семантического поиска и поиска перефразировок; полученные векторы также подходят для кластеризации и классификации текстов. Она принимает текст и возвращает векторные представления. Обучение указано с функцией потерь CoSENTLoss. Лицензия — Apache-2.0.

1211июнь 2026ctx512
textembeddingapache-2.0hugging-face

Задачи профессии

18 задач
37Извлечение имён, организаций, мест, дат, сумм, идентификаторов и других сущностей. — AI разбирает неструктурированный источник на элементы и связывает каждое извлечённое значение с местом его происхождения. К исходным данным относятся журналы, сообщения, разнородные записи и неструктурированный текст. Формат результата: структурированные данные, полученные в рамках «Извлечение имён, организаций, мест, дат, сумм, идентификаторов и других сущностей», с нормализованными значениями и ссылками на исходные фрагменты. Надёжность оценивают посимвольной или пополевой сверкой с оригиналом и проверкой обязательных полей; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
38Извлечение отношений между сущностями. — Для этой задачи система выделяет сущности, числа и отношения, нормализует формат и формирует машиночитаемую запись. Рабочие входы: сообщения, разнородные записи, неструктурированный текст и таблицы. Формат результата: структурированные данные, полученные в рамках «Извлечение отношений между сущностями», с нормализованными значениями и ссылками на исходные фрагменты. Критерии приёмки: посимвольной или пополевой сверкой с оригиналом и проверкой обязательных полей; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
39Извлечение событий, их участников, времени, места и результата. — Практическая реализация: AI находит нужные фрагменты в исходном материале, распознаёт их роль и переносит в заданные структурированные поля. Входной контекст включает разнородные записи, неструктурированный текст, таблицы и журналы. Формат результата: структурированные данные, полученные в рамках «Извлечение событий, их участников, времени, места и результата», с нормализованными значениями и ссылками на исходные фрагменты. Ошибки выявляют посимвольной или пополевой сверкой с оригиналом и проверкой обязательных полей; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
40Извлечение обязательств, требований, условий, исключений и сроков. — Механизм: AI разбирает неструктурированный источник на элементы и связывает каждое извлечённое значение с местом его происхождения. Исходные данные: неструктурированный текст, таблицы, журналы и сообщения. Формат результата: структурированные данные, полученные в рамках «Извлечение обязательств, требований, условий, исключений и сроков», с нормализованными значениями и ссылками на исходные фрагменты. Проверка: посимвольной или пополевой сверкой с оригиналом и проверкой обязательных полей; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
41Извлечение числовых показателей и единиц измерения. — AI выделяет сущности, числа и отношения, нормализует формат и формирует машиночитаемую запись. К исходным данным относятся таблицы, журналы, сообщения и разнородные записи. Формат результата: структурированные данные, полученные в рамках «Извлечение числовых показателей и единиц измерения», с нормализованными значениями и ссылками на исходные фрагменты. Надёжность оценивают посимвольной или пополевой сверкой с оригиналом и проверкой обязательных полей; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
42Извлечение таблиц, списков и иерархий из неструктурированного контента. — Для этой задачи система находит нужные фрагменты в исходном материале, распознаёт их роль и переносит в заданные структурированные поля. Предметная логика: восстанавливает визуальную и логическую структуру, связывая ячейки, заголовки и подписи. Рабочие входы: геометрия страницы, журналы, сообщения, разнородные записи и неструктурированный текст. Формат результата: структурированные данные, полученные в рамках «Извлечение таблиц, списков и иерархий из неструктурированного контента», с нормализованными значениями и ссылками на исходные фрагменты. Критерии приёмки: посимвольной или пополевой сверкой с оригиналом и проверкой обязательных полей; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
43Преобразование свободного текста в JSON, XML, CSV или другую заданную схему. — Практическая реализация: AI сначала определяет элементы, которые должны сохраниться, затем перестраивает форму представления и отмечает внесённые изменения. Входной контекст включает сообщения, разнородные записи, неструктурированный текст и таблицы. Формат результата: преобразованный материал по задаче «Преобразование свободного текста в JSON, XML, CSV или другую заданную схему» с сохранённым содержанием и журналом значимых изменений. Ошибки выявляют сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
44Нормализация дат, адресов, телефонов, валют и единиц измерения. — Механизм: AI переводит объект в новый формат или вид, контролируя потери информации и нежелательные артефакты. Исходные данные: разнородные записи, неструктурированный текст, таблицы и журналы. Формат результата: преобразованный материал по задаче «Нормализация дат, адресов, телефонов, валют и единиц измерения» с сохранённым содержанием и журналом значимых изменений. Проверка: сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
45Сопоставление разных написаний одной и той же сущности. — AI нормализует сравниваемые объекты, выравнивает их по общим признакам и показывает совпадения, различия и связи. К исходным данным относятся неструктурированный текст, таблицы, журналы и сообщения. Формат результата: карта соответствий и различий для «Сопоставление разных написаний одной и той же сущности», где элементы приведены к единым критериям и связаны с первичными данными. Надёжность оценивают экспертной сверкой соответствий и проверкой, что различия не вызваны несовместимыми форматами; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
46Разрешение неоднозначных упоминаний и местоименных ссылок. — Для этой задачи система строит единое пространство признаков и устанавливает соответствия между элементами, которые описаны по-разному. Рабочие входы: таблицы, журналы, сообщения и разнородные записи. Формат результата: карта соответствий и различий для «Разрешение неоднозначных упоминаний и местоименных ссылок», где элементы приведены к единым критериям и связаны с первичными данными. Критерии приёмки: экспертной сверкой соответствий и проверкой, что различия не вызваны несовместимыми форматами; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
47Автоматическое присвоение метаданных, тегов и ключевых слов. — Практическая реализация: AI строит границы между категориями и ранжирует объекты так, чтобы наиболее важные или срочные обрабатывались раньше. Входной контекст включает журналы, сообщения, разнородные записи и неструктурированный текст. Формат результата: результат «Автоматическое присвоение метаданных, тегов и ключевых слов» в виде метки, класса, ранга или тематического слоя с уверенностью и объясняющими признаками. Ошибки выявляют по матрице ошибок, калибровке уверенности и отдельному анализу пограничных классов; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
48Построение таксономии по коллекции материалов. — Механизм: AI создаёт вычислительное представление объекта или процесса и проигрывает на нём альтернативные сценарии. Исходные данные: сообщения, разнородные записи, неструктурированный текст и таблицы. Формат результата: вычислительная модель или карта для «Построение таксономии по коллекции материалов» с результатами сценариев и анализом чувствительности. Проверка: сопоставлением с наблюдениями, тестами чувствительности и воспроизводимостью вычислений; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
49Построение онтологии или графа знаний. — AI восстанавливает скрытые связи между параметрами и использует модель для виртуальных экспериментов. К исходным данным относятся разнородные записи, неструктурированный текст, таблицы и журналы. Формат результата: вычислительная модель или карта для «Построение онтологии или графа знаний» с результатами сценариев и анализом чувствительности. Надёжность оценивают сопоставлением с наблюдениями, тестами чувствительности и воспроизводимостью вычислений; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
50Выделение тем и под-тем в больших массивах текста. — Для этой задачи система выделяет сущности, числа и отношения, нормализует формат и формирует машиночитаемую запись. Рабочие входы: неструктурированный текст, таблицы, журналы и сообщения. Формат результата: структурированные данные, полученные в рамках «Выделение тем и под-тем в больших массивах текста», с нормализованными значениями и ссылками на исходные фрагменты. Критерии приёмки: посимвольной или пополевой сверкой с оригиналом и проверкой обязательных полей; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
51Кластеризация материалов по смысловой близости. — Практическая реализация: AI извлекает признаки, относит каждый объект к подходящей категории или уровню приоритета и оценивает уверенность. Предметная логика: сопоставляет не только одинаковые слова, но и намерение, контекст и близкие понятия. Входной контекст включает текст запроса, таблицы, журналы, сообщения и разнородные записи. Формат результата: результат «Кластеризация материалов по смысловой близости» в виде метки, класса, ранга или тематического слоя с уверенностью и объясняющими признаками. Ошибки выявляют по матрице ошибок, калибровке уверенности и отдельному анализу пограничных классов; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
52Обнаружение точных и смысловых дублей. — Механизм: AI анализирует поток наблюдений и локализует признаки, которые отличают целевой объект или нарушение от обычного состояния. Предметная логика: сопоставляет не только одинаковые слова, но и намерение, контекст и близкие понятия. Исходные данные: текст запроса, журналы, сообщения, разнородные записи и неструктурированный текст. Формат результата: перечень объектов, событий или отклонений, относящихся к «Обнаружение точных и смысловых дублей», с локализацией, уверенностью и признаками срабатывания. Проверка: по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
53Сопоставление полей между несовместимыми схемами данных. — AI сопоставляет объекты по одинаковым критериям и отделяет содержательные различия от различий формата или терминологии. К исходным данным относятся сообщения, разнородные записи, неструктурированный текст и таблицы. Формат результата: карта соответствий и различий для «Сопоставление полей между несовместимыми схемами данных», где элементы приведены к единым критериям и связаны с первичными данными. Надёжность оценивают экспертной сверкой соответствий и проверкой, что различия не вызваны несовместимыми форматами; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику.
54Восстановление недостающей структуры у плохо оформленных данных. — Для этой задачи система преобразует исходный материал по заданным правилам, сохраняя смысл, структуру и критически важные детали. Рабочие входы: разнородные записи, неструктурированный текст, таблицы и журналы. Формат результата: преобразованный материал по задаче «Восстановление недостающей структуры у плохо оформленных данных» с сохранённым содержанием и журналом значимых изменений. Критерии приёмки: сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; по точности полей, полноте извлечения, согласованности схемы и привязке к первоисточнику. <a id="section-i-4"></a>

0 моделей