I.2Синтез, понимание и проверка знаний

Карточка модели avsolatorio/01-600-11-1-4-2-0-0-cls-qli_0-normed-384-512_ASYM_BAAI_bge-small-en-v1.5-20240424004605-best на Hugging Face совпадает с карточкой BAAI/bge-small-en-v1.5, поэтому описание составлено по ней. BAAI/bge-small-en-v1.5 — компактная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она построена на архитектуре BERT и предназначена для преобразования английского текста в векторы, которые можно использовать для поиска и сравнения смысловой близости. Размер модели — около 40 млн параметров, максимальная длина входа — 512 токенов. Модель подходит для семантического поиска, извлечения релевантных документов и вычисления сходства предложений, в том числе как компонент RAG-систем. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Доступны форматы PyTorch, Safetensors и ONNX. Лицензия — MIT. Модель рассчитана на английский язык; контексты длиннее 512 токенов не поддерживаются. Оценки сходства не следует трактовать как вероятности или применять фиксированный порог без калибровки.

Карточка модели JaehyeokLee/20m_em_checkpoint_epoch_1_step_600 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

all_datasets_v3_MiniLM-L6 — модель эмбеддингов предложений, разработанная в рамках Community week Hugging Face. Она предназначена для кодирования текста в вектор, отражающий его семантическое содержание, и обучена контрастивным методом на более чем миллиарде пар предложений из объединения нескольких датасетов. В основе — шестислойная MiniLM-L6-H384-uncased, полученная из microsoft/MiniLM-L12-H384-uncased; модель содержит 25,9 млн параметров и принимает последовательности длиной до 512 токенов. Векторы подходят для поиска информации, кластеризации текстов и оценки сходства предложений. Модель имеет архитектуру BERT и доступна в формате PyTorch; README демонстрирует использование с библиотекой SentenceTransformers. Метаданные указывают английский язык. Лицензия в предоставленных данных не указана.

miller96/all-MiniLM-L12-v2-fine-tuned-v0.1 — модель Sentence Transformers, дообученная для получения эмбеддингов предложений и абзацев. Она преобразует текст в плотные векторы размерностью 384 и подходит для семантического поиска и кластеризации. Модель основана на архитектуре BERT; в метаданных указаны 40 млн параметров и контекст до 512 токенов. Обучение проводилось в течение одной эпохи с функцией потерь MultipleNegativesRankingLoss и косинусным сходством. Модель принимает текст и выдаёт векторы, которые можно сравнивать для оценки семантической близости. В карточке не указаны языковая специализация или предметная область. Репозиторий содержит веса PyTorch; лицензия в предоставленных данных не указана.

all-MiniLM-L6-v76-pairscore — англоязычный энкодер предложений KhaledReda, дообученный на sentence-transformers/all-MiniLM-L6-v2 с помощью CoSENTLoss на наборах пар текстов с оценками сходства. Модель на архитектуре BERT содержит 25,9 млн параметров и преобразует предложения и абзацы в нормализованные плотные векторы размерности 384; сходство между ними оценивают косинусной мерой. Метаданные указывают контекст до 512 токенов, а README — максимальную длину последовательности 256 токенов. Модель предназначена для оценки семантического сходства, семантического поиска и поиска перефразировок; её векторы также подходят для кластеризации и классификации текстов. Она ориентирована на английский язык и распространяется по лицензии Apache-2.0. Результаты отражают сходство векторов, поэтому для прикладных сценариев пороги и качество поиска следует проверять на собственных данных.

Humair/all-mpnet-base-v2-finetuned-v2 — модель Sentence Transformers на архитектуре MPNet, разработанная Humair. Она кодирует предложения и абзацы в плотные векторы размерности 768 и предназначена для поиска семантически похожих текстов, семантического поиска и кластеризации. Модель содержит 136,7 млн параметров и принимает текст; контекст составляет до 514 токенов. При обучении использовалась функция потерь MultipleNegativesRankingLoss с косинусным сходством. Для работы можно использовать библиотеку Sentence Transformers либо Transformers с соответствующей операцией pooling. Язык модели в карточке не указан. Лицензия не приводится в доступных данных.

Charul1223/bert-base-cased-on-sts — модель на базе BERT, опубликованная пользователем Charul1223. Она преобразует предложения и абзацы в плотные векторы размерности 768 для сравнения семантической близости, кластеризации и семантического поиска. Модель обучалась с функцией потерь CosineSimilarityLoss и рассчитана на использование с библиотекой Sentence-Transformers или через Transformers с соответствующей операцией pooling. Модель содержит 135,5 млн параметров, принимает текст и формирует векторные представления; максимальная длина контекста — 512 токенов. Репозиторий содержит веса PyTorch. Язык и лицензия в предоставленных данных не указаны.

BEE-spoke-data/bert-plus-L8-v1.0-syntheticSTS-4k — модель эмбеддингов на архитектуре BERT, разработанная BEE-spoke-data на базе BEE-spoke-data/bert-plus-L8-v1.0-allNLI_matryoshka. Она преобразует предложения и абзацы в плотные векторы размерности 768 и предназначена для поиска семантически близких текстов и кластеризации. Модель дообучена на синтетических данных о сходстве текстов; поддерживает Matryoshka-размерности 768, 512, 256, 128 и 64, а контекст составляет до 4096 токенов. Её можно применять для семантического поиска, сравнения сходства текстов и группировки документов по смыслу. Репозиторий содержит веса Safetensors и формат ONNX; модель рассчитана на английский язык. Лицензия — Apache-2.0.

567-labs/bge-base-en-v1.5-ft-quora-0.9 — модель эмбеддингов предложений и абзацев на базе BERT, представленная в формате Sentence-Transformers. Она кодирует текст в плотные векторы размерностью 768 и предназначена для семантического поиска и кластеризации. Модель обучалась с функцией потерь OnlineContrastiveLoss; в метаданных указано 136,7 млн параметров и контекст до 512 токенов. Модель подходит для поиска вопросов, похожих по смыслу, в частности в корпусах вопросов и ответов, а также для группировки текстов по тематике. Она принимает текст и выдаёт векторы для последующего сравнения, ранжирования или кластеризации. По названию репозитория и описанию обучения это дообученная версия BGE base English v1.5 на данных Quora; отдельная лицензия в предоставленных данных не указана.

BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.

Карточка модели jpbalarini/bge-m3 на Hugging Face совпадает с карточкой BAAI/bge-m3, поэтому описание составлено по ней. BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.

Карточка модели mykor/bge-m3 на Hugging Face совпадает с карточкой BAAI/bge-m3, поэтому описание составлено по ней. BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.

Карточка модели rjfrjf/bge-m3 на Hugging Face совпадает с карточкой BAAI/bge-m3, поэтому описание составлено по ней. BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.

barisaydin/bge-small-en — англоязычная модель эмбеддингов семейства BGE, основанная на архитектуре BERT и содержащая около 40 млн параметров. Она преобразует текст в плотные векторы для поиска, сравнения и других задач, где нужно оценивать смысловую близость текстов. Модель принимает текст и выдаёт векторные представления; максимальная длина контекста — 512 токенов. Модель подходит для семантического поиска, поиска документов по запросу, кластеризации и классификации текста, а также для использования в векторных базах данных и RAG-системах. В задачах поиска README рекомендует добавлять к короткому запросу инструкцию «Represent this sentence for searching relevant passages:», но не добавлять её к документам. README рекомендует перейти на BAAI/bge-small-en-v1.5: в исходной версии распределение сходства менее удобно, поэтому абсолютный порог косинусного сходства не следует трактовать как универсальный критерий. Для фильтрации похожих текстов порог нужно подбирать на своих данных. Лицензия модели — MIT.

claif-roberta-base — модель OpenMOSS-Team для построения эмбеддингов предложений и абзацев. Она основана на RoBERTa и выдаёт плотные векторы размерности 768; модель обучали с функцией потерь CosineSimilarityLoss и распространяют в формате PyTorch. Модель подходит для семантического поиска, сравнения текстов и кластеризации. Векторные представления можно использовать для поиска похожих фрагментов в коллекции документов или группировки текстов по смыслу. Доступна лицензия Apache-2.0. Контекст модели составляет 514 токенов. Карточка указывает английский язык; качество на других языках не подтверждено. Для использования через Transformers требуется применить корректную операцию pooling к контекстным представлениям токенов.

Tool-COLT/contriever-base-msmarco-v1-ToolLens — модель Sentence-Transformers на основе BERT, преобразующая предложения и абзацы в плотные векторы размерности 768. Она предназначена для семантического поиска, сравнения текстов и кластеризации; обучение с MultipleNegativesRankingLoss использовало косинусное сходство. Модель содержит 136,7 млн параметров, принимает текст и формирует эмбеддинги; максимальная длина контекста — 512 токенов. Модель подходит для построения поиска по смыслу и группировки похожих текстов. В метаданных указаны формат safetensors и библиотека Transformers; README описывает использование через Sentence-Transformers или Transformers с подходящим pooling. Язык и лицензия в предоставленных данных не установлены.

Kyleiwaniec/COS_TAPT_n_RoBERTa_STS — модель на архитектуре RoBERTa, созданная для Sentence Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 1024, предназначенные для оценки семантической близости, семантического поиска и кластеризации. Модель обучалась с функцией потерь CosineSimilarityLoss; её контекст составляет 514 токенов, размер — около 454,1 млн параметров. Модель подходит для поиска похожих текстов и группировки предложений или документов по смыслу. Для использования с Transformers поверх контекстных представлений требуется применить соответствующую операцию pooling. В репозитории указаны веса PyTorch; лицензия не приведена в доступных данных.

kardosdrur/dfm-sentence-encoder-large-v1 — sentence-transformers модель на архитектуре BERT, предназначенная для преобразования предложений и абзацев в плотные векторы размерностью 1024. Её можно применять для поиска семантически близких текстов, кластеризации и других сценариев сравнения текстов по смыслу. Модель содержит 453,9 млн параметров, принимает текст с контекстом до 512 токенов и выдаёт векторные представления. При обучении использовалась функция потерь MultipleNegativesRankingLoss с косинусным сходством. В карточке нет сведений о целевых языках, поэтому языковую специализацию определить нельзя. Для использования доступны PyTorch и библиотеки Sentence-Transformers или Hugging Face Transformers; при работе через Transformers необходимо применить соответствующую операцию pooling. Лицензия в предоставленных данных не указана.

d0rj/e5-large-en-ru — компактная версия модели intfloat/multilingual-e5-large, созданная за счёт сокращения словаря до токенов русского и английского языков. Модель основана на XLM-RoBERTa и формирует плотные текстовые представления размерностью 1024; в метаданных указаны 464,4 млн параметров и контекст до 514 токенов. Модель предназначена для поиска по смыслу и оценки сходства предложений, в том числе для извлечения релевантных документов по запросу. Для поиска README рекомендует сравнивать эмбеддинги скалярным произведением. На бенчмарке SberQUAD разработчик сообщает о результатах, сопоставимых с исходной multilingual-e5-large. Она принимает текст и выдаёт векторные представления токенов. Указаны русский и английский языки. Сокращённый словарь уменьшает размер модели относительно исходной версии, но исключает поддержку токенов других языков. Лицензия — MIT.

Debbie89889/esci-biencoder — текстовая модель Sentence Transformers, дообученная на базе sentence-transformers/all-MiniLM-L6-v2. Энкодер BERT преобразует предложения и абзацы в плотные векторы размерности 384, усредняет токенные представления и нормализует результат. Для сравнения векторов указана косинусная близость; модель предназначена для семантического поиска и извлечения релевантных текстов. Модель обучалась на 148 465 примерах с MultipleNegativesRankingLoss. README указывает максимальную длину последовательности 128 токенов, а метаданные — контекстное окно 512 токенов. Она принимает текст и выдаёт векторы; метаданные также отмечают поддержку извлечения признаков и сравнения предложений. Лицензия в предоставленных данных не указана.

EuroDense-435M — плотная мультиязычная модель эмбеддингов от OPI-PIB, предназначенная для поиска релевантных текстов и оценки семантического сходства. Модель содержит 433,9 млн параметров, принимает текст и формирует векторные представления; поддерживает контекст до 8192 токенов. Для поиска запросы следует подавать с инструкционным префиксом для извлечения релевантных фрагментов, а для сравнения сходства — с префиксом для семантически похожих текстов. Модель рассчитана на английский, немецкий, французский, испанский, итальянский, португальский, нидерландский, русский и польский языки. В README описано обучение с дистилляцией от Stella-400M и Pplx-Embed-4B, а затем контрастивным дообучением на данных для поиска. По результатам оценки на 150 наборах данных модель показала высокие результаты для своего размерного класса, особенно на большинстве поддерживаемых языков. Лицензия — Gemma; для загрузки пользовательской реализации требуется включить trust_remote_code=True.

Это порт модели DPR question encoder в формат Sentence Transformers, опубликованный под именем sentence-transformers. Модель на основе BERT преобразует предложения и абзацы в плотные векторы размерности 768; всего в ней 136,7 млн параметров, а максимальная длина входа — 512 токенов. Модель предназначена для получения эмбеддингов, семантического поиска и кластеризации текстов. Векторные представления можно использовать для поиска фрагментов, близких по смыслу к вопросу, в системах поиска и обработки коллекций документов. Репозиторий содержит варианты в форматах PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Лицензия — Apache-2.0. Это энкодер, а не генеративная модель: он возвращает векторные представления текста. README не сообщает о специальных ограничениях качества или доменной специализации.

Falcon-H1R-7B — языковая модель Technology Innovation Institute, предназначенная для рассуждений и генерации ответов. Она построена на Falcon-H1-7B-Base и дообучена методом supervised fine-tuning на длинных цепочках рассуждений, а затем усилена обучением с подкреплением GRPO. Модель имеет причинную декодерную архитектуру, сочетающую Transformer и Mamba2, и содержит 6,4 млрд параметров. Она принимает текст и поддерживает контекст до 262 144 токенов. В README заявлена специализация на математике, программировании, следовании инструкциям и общей логике; модель также поддерживает диалоговый режим. Основной язык — английский, при этом заявлена многоязычная поддержка. Для использования указаны Transformers, vLLM и SGLang. Модель может выводить ход рассуждений перед итоговым ответом; для уменьшения повторов README рекомендует настраивать параметры повторения и присутствия. Лицензия — Falcon-LLM License.

Granite-Embedding-311M-Multilingual-R2 — модель эмбеддингов текста, разработанная командой Granite Embedding компании IBM. Она использует плотный bi-encoder на архитектуре ModernBERT с 311,6 млн параметров и выдаёт векторы размерностью 768 для запросов, документов, фрагментов текста и кода. Максимальная длина контекста — 32 768 токенов; эмбеддинги можно сокращать до 512, 384, 256 или 128 измерений с постепенным снижением качества. Модель предназначена для семантического поиска, сопоставления запросов и документов, поиска по длинным текстам и межъязыкового поиска. Она поддерживает более 200 языков, а для 52 языков, включая русский, и ряда языков программирования прошла дополнительное обучение на парах для поиска и межъязыкового сопоставления. Поддерживаются Python, Go, Java, JavaScript, PHP, Ruby, SQL, C и C++. Векторы можно сравнивать, например, по косинусному сходству. В README указаны контрастивное дообучение, дистилляция знаний и слияние моделей. Доступны форматы Safetensors, ONNX и OpenVINO; лицензия Apache 2.0. Качество зависит от языка: для низкоресурсных языков оно может быть ниже, чем для языков с расширенной поддержкой; длинные входы сверх лимита контекста обрезаются. Фильтрация обучающих данных и синтетические данные могут вносить смещения.

arshvir/granite-embedding-311m-multilingual-r2-GGUF — конвертированная в формат GGUF модель эмбеддингов IBM Granite Embedding 311M Multilingual R2 на архитектуре ModernBERT. Репозиторий содержит веса в формате F16; модель насчитывает 311 млн параметров и поддерживает контекст до 32 768 токенов. Она преобразует текст в векторы размерностью 768, которые можно усекать до 512, 384, 256 или 128 измерений благодаря Matryoshka Representation Learning. Модель предназначена для многоязычного и межъязыкового семантического поиска, сравнения предложений и поиска по длинным документам, а также для поиска по коду. В README заявлена поддержка более 200 языков, с усиленным обучением на 52 языках и примерами языков программирования. Для загрузки GGUF предлагается использовать llama-cpp-python. По README, модель набрала 65,2 на 18 задачах многоязычного retrieval-бенчмарка MTEB; эти результаты приведены автором карточки. Репозиторий указывает лицензию Apache 2.0. Это преобразование исходной модели в GGUF F16, а не новая обученная версия; для использования нужна совместимая среда выполнения GGUF.

ICT-TIME-and-Querit-embedding-v1 — модель текстовых эмбеддингов, разработанная ICT-TIME-and-Querit на основе Qwen3-4B. Она предназначена для поиска по смыслу, сопоставления предложений, ранжирования и других задач, где текст нужно представить в виде векторов. Модель использует архитектуру Qwen3 с 3,7 млрд параметров, pooling по последнему токену и контекст до 40 960 токенов по метаданным (в README указано 32k). Модель обучена на общих текстовых данных и данных для поиска кода, а итоговая версия объединяет модели двух этапов обучения методом Multi-SLERP. В README приведены результаты на MTEB English v2, HUME и MTEB Code; заявленная область применения охватывает как обычные тексты, так и код. Основной язык обучения — английский, также в обучающих данных есть китайские и другие языки. Метаданные указывают библиотеку Transformers и формат safetensors. Лицензия в предоставленных данных не указана. Показатели бенчмарков из README не гарантируют такого же качества на конкретных данных; особенно важно оценивать модель на целевом языке и домене.

Inkling-Small — мультимодальная модель общего назначения, опубликованная Unsloth как дообученная версия thinkingmachines/Inkling-Small. Она принимает текст, изображения и аудио, а ответы формирует текстом; предназначена для диалогов, следования инструкциям, разработки чат-ботов, помощников по программированию, систем RAG и приложений с агентами и вызовом инструментов. Модель построена на 42-слойном авторегрессионном трансформере с разреженной MoE-архитектурой: всего 276 млрд параметров, из которых активно 12 млрд; для каждого токена выбираются 6 из 256 экспертов и задействуются 2 общих эксперта. Изображения обрабатываются иерархическим patch-энкодером, аудио — через дискретные токены. Поддерживаются BF16 и NVFP4; для изображений рекомендуются размеры сторон от 40 до 4096 пикселей, для аудио — WAV с частотой 16 кГц и длительностью менее двух минут. Основной язык — английский, также заявлена общая многоязычная поддержка. Лицензия — Apache-2.0. Модель может галлюцинировать, неточно следовать инструкциям и хуже работать в длинных многошаговых диалогах; качество может различаться между языками и областями. Для медицинских, юридических и других критически важных решений необходимы проверка результатов и человеческий контроль. README рекомендует дополнительную фильтрацию и мониторинг при развертывании, поскольку модель иногда поддается косвенно сформулированным вредоносным запросам.

jina-embedding-s-en-v1 — англоязычная модель эмбеддингов, разработанная Jina AI для представления предложений и текстов в виде векторов. Она обучена на наборе Linnaeus-Clean из 380 млн пар предложений, включая пары запрос–документ, отобранные из разных предметных областей. Архитектура — T5 encoder; модель содержит 38,5 млн параметров и принимает последовательности длиной до 512 токенов. Модель предназначена для сравнения семантической близости предложений, поиска подходящих документов по запросу и построения текстовых векторных представлений. В README приведено сравнение с несколькими моделями на наборах STS и задачах поиска; результаты зависят от конкретного набора данных и сценария. Доступна под лицензией Apache-2.0.

KaLM-embedding-multilingual-mini-instruct-v1 — мультиязычная модель эмбеддингов из серии KaLM-Embedding, разработанной командой HIT-TMG. Она дообучена на базе Qwen/Qwen2-0.5B с использованием масштабного слабонаблюдаемого предварительного обучения и обучения с учителем. Модель предназначена для преобразования текстов в векторы, оценки сходства предложений и поиска по смыслу; версия instruct рассчитана на сценарии, где запросы и инструкции помогают уточнить задачу. Модель содержит около 494 млн параметров, использует плотную архитектуру Qwen2 и формат весов safetensors. Заявленная длина контекста — 131 072 токена. В README приведены оценки серии KaLM-Embedding на наборах C-MTEB и MTEB, а также сравнение с другими моделями эмбеддингов. Лицензия — MIT. Для запуска авторы рекомендуют transformers версии 4.37.0 или новее.

KaLM-embedding-multilingual-mini-instruct-v1.5 — многоязычная модель для создания текстовых эмбеддингов, разработанная командой HIT-TMG и опубликованная HITsz-TMG. Она основана на Qwen2-0.5B и обучена с использованием масштабного слабонаблюдаемого предварительного обучения и контролируемой тонкой настройки. Модель содержит 494 млн параметров, использует архитектуру Qwen2 и поддерживает контекст до 131 072 токенов. Модель предназначена для получения векторных представлений предложений и текстов, поиска семантически близких фрагментов и сравнения сходства между текстами. Метаданные указывают поддержку задач извлечения признаков и сравнения предложений; карточка приводит оценки на наборах MTEB и C-MTEB. Модель распространяется в формате safetensors по лицензии MIT. Для работы с Qwen2 в README рекомендуется Transformers версии 4.37.0 или новее. Языки, конкретные ограничения качества и сведения о том, какие именно языки охвачены обучением, в предоставленных данных не перечислены.