I.1Поиск и навигация по информации

Contextual AI разработала ctxl-rerank-v2-instruct-multilingual-6b — плотную модель на архитектуре Mistral с 6,4 млрд параметров для ранжирования текстов. Она оценивает релевантность документов запросу и умеет учитывать пользовательские инструкции, например отдавать приоритет более свежим сведениям или разрешать противоречия между результатами поиска. Модель рассчитана на мультиязычный поиск более чем на 100 языках и сценарии поиска товаров и рекомендаций. Модель принимает запрос, документ и, при необходимости, инструкцию; выдаёт оценку релевантности, где более высокий балл означает более подходящий документ. README указывает контекст до 32 тысяч токенов, тогда как метаданные Hugging Face заявляют нативный контекст в 1 024 000 токенов; фактический поддерживаемый размер зависит от реализации и конфигурации. В карточке также описаны применение для ответов на вопросы и результаты на BEIR, однако это остаётся моделью ранжирования, а не генератором ответов. Лицензия CC BY-NC-SA 4.0 допускает использование на её условиях, включая ограничения на коммерческое применение.

Diba-Embed — модель для получения плотных векторных представлений текста, разработанная Dibachain. Она предназначена прежде всего для поиска и извлечения информации на персидском языке, поддерживает также английский и сопоставление текстов между этими языками. Модель содержит около 507,6 млн параметров, выдаёт эмбеддинги размерностью 1024 с возможностью сокращения до 32 по принципу Matryoshka и принимает последовательности длиной до 32 768 токенов. Для загрузки через sentence-transformers требуется trust_remote_code=True; также доступны файлы GGUF для запуска через llama.cpp. Модель подходит для семантического поиска, извлечения фрагментов для RAG, сопоставления FAQ, кластеризации, дедупликации и ранжирования найденных текстов. В описанном автором тесте на 400 персидских парах вопросов и ответов указаны Recall@1 82%, Recall@3 95% и MRR 0,89; тест охватывал историю Ирана, современные темы и вопросы о компании Dibachain. Качество лучше на обычном и формальном персидском; для узкоспециализированных или зашумлённых текстов может потребоваться адаптация. Модель выдаёт векторы, а не готовые ответы или сгенерированный текст, и может отражать смещения обучающих данных. Лицензия — Apache-2.0.

distiluse-base-multilingual-cased-v1 — модель Sentence-Transformers, обученная командой sentence-transformers. Она преобразует предложения и абзацы в плотные векторы размерностью 512 для поиска по смыслу, сравнения текстов и кластеризации. Архитектура основана на DistilBERT; модель принимает текст и выдаёт эмбеддинги. Поддерживает арабский, китайский, нидерландский, английский, французский, немецкий, итальянский, корейский, польский, португальский, русский, испанский и турецкий языки. Максимальная длина контекста — 512 токенов. Распространяется по лицензии Apache-2.0.

Dmeta-embedding-zh — плотная модель эмбеддингов на архитектуре BERT, разработанная командой DMetaSoul. Она преобразует китайские и английские тексты в векторы для семантического поиска, сопоставления предложений и других задач, основанных на близости текстовых представлений. Модель предназначена для поиска, вопросно-ответных систем, интеллектуальной поддержки клиентов и приложений с дополненной генерацией по поиску (RAG); поддерживает интеграцию через Transformers, Sentence-Transformers и LangChain. В модели 129,5 млн параметров, размерность эмбеддингов — 768, а контекстное окно составляет до 1024 токенов. В README заявлены обучение на разнообразных слабых и размеченных парах, включая данные из нескольких предметных областей, и оптимизация для задач поиска. Репозиторий распространяется в формате PyTorch по лицензии Apache-2.0. Результаты MTEB, приведённые в карточке, относятся к опубликованной оценке 2024 года; фактическое качество может зависеть от данных и сценария применения.

Marqo Stella v2 — модель для получения текстовых эмбеддингов и оценки сходства между предложениями. В карточке она описана как близкая к исходной Dunzhang Stella 400M, но с объединённым Matryoshka-слоем: он позволяет получать эмбеддинги меньшей размерности с меньшими вычислительными затратами, сохраняя метрики релевантности. Модель содержит 433,9 млн параметров, поддерживает контекст до 8192 токенов и распространяется в форматах PyTorch и Safetensors. Модель подходит для семантического поиска, сопоставления запросов с документами и поиска похожих текстов. В метаданных указан pipeline sentence-similarity, а среди возможностей — embeddings. Лицензия — MIT. README не уточняет поддерживаемые языки или специализированные области применения.

YarKo69/e5-base-retrievers — модель Sentence Transformers, дообученная автором на базе intfloat/multilingual-e5-small. Она использует архитектуру BERT и преобразует предложения и абзацы в нормализованные плотные векторы размерности 384; для сравнения предусмотрена косинусная близость. Максимальная длина входа — 512 токенов. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации текстов. Её можно применять, например, для построения векторного поиска по коллекции документов или сопоставления запросов с подходящими фрагментами. Карточка не содержит сведений о специальной отраслевой настройке или лицензии.

E5-large-v2 — англоязычная модель текстовых эмбеддингов, разработанная Liang Wang, Nan Yang, Xiaolong Huang и соавторами. Она обучена методом контрастивного предобучения со слабой супервизией и основана на архитектуре BERT: 24 слоя и размерность эмбеддинга 1024. Общее число параметров — 433,9 млн, максимальная длина входа — 512 токенов. Модель преобразует тексты в векторы для семантического поиска, сопоставления запросов и документов, оценки сходства предложений, поиска перефразировок, кластеризации и использования эмбеддингов как признаков для классификации. Для асимметричного поиска рекомендуется добавлять к запросу префикс «query: », а к документу — «passage: »; для симметричного сравнения обычно используют «query: » перед обоими текстами. Модель предназначена только для английских текстов; более длинные входы обрезаются до 512 токенов. При использовании косинусного сходства важнее относительный порядок оценок, чем их абсолютные значения. Расхождения в версиях PyTorch и Transformers могут вызывать небольшие различия результатов. Лицензия — MIT.

Карточка модели ef-zulla/e5-multi-sml-torch на Hugging Face совпадает с карточкой maiyad/multilingual-e5-small, поэтому описание составлено по ней. Multilingual-E5-small — модель текстовых эмбеддингов, основанная на архитектуре BERT и обученная авторами работы Liang Wang и соавторов методом контрастивного предобучения на слабой разметке. В репозитории maiyad/multilingual-e5-small представлены веса модели размером 124,3 млн параметров; модель имеет 12 слоёв и выдаёт векторы размерности 384. Она основана на microsoft/Multilingual-MiniLM-L12-H384 и дополнительно обучена на смеси многоязычных датасетов. Модель предназначена для поиска и сравнения текстов: семантического сходства, поиска пассажей по запросу, поиска перефразировок и межъязыкового поиска. Для асимметричного поиска рекомендуется добавлять к запросу префикс «query: », а к тексту для поиска — «passage: »; для ряда симметричных задач и извлечения признаков рекомендуется префикс «query: ». Модель поддерживает 100 языков, но для языков с малым объёмом обучающих данных качество может быть ниже. Контекст ограничен 512 токенами, длинные тексты усекаются. Лицензия — MIT.

Карточка модели ChaosAIVision/embeddinggemma-300m на Hugging Face совпадает с карточкой michaelfeil/embeddinggemma-300m, поэтому описание составлено по ней. EmbeddingGemma — компактная мультиязычная модель эмбеддингов от Google DeepMind на основе текстовой архитектуры Gemma 3 с инициализацией T5Gemma. Она преобразует текст в векторы и предназначена для семантического поиска и извлечения информации, оценки сходства, классификации и кластеризации. Модель содержит 302,8 млн параметров, принимает текст длиной до 2048 токенов и выдаёт эмбеддинги размером 768, 512, 256 или 128 измерений с помощью Matryoshka Representation Learning. Обучалась на данных более чем из 100 языков и рассчитана в том числе на запуск на мобильных устройствах и компьютерах с ограниченными ресурсами. Подходит для поиска документов и кода по запросам, поиска материалов для систем вопросов и ответов, обнаружения дубликатов, тематической группировки текстов и классификации по заданным категориям. Для использования предусмотрена библиотека Sentence Transformers. Лицензия — Gemma; применяются условия использования и политика допустимого использования Gemma. Качество зависит от охвата и особенностей обучающих данных. Модель может хуже улавливать языковые нюансы, сарказм и переносный смысл; возможны смещения в эмбеддингах.

Карточка модели dnouv/embeddinggemma-300m на Hugging Face совпадает с карточкой google/embeddinggemma-300m, поэтому описание составлено по ней. EmbeddingGemma — компактная модель эмбеддингов Google DeepMind на 300 млн параметров, построенная на Gemma 3 с инициализацией T5Gemma. Она преобразует текстовые запросы и документы в векторы и предназначена для семантического поиска, оценки сходства, классификации и кластеризации. Модель поддерживает более 100 языков и рассчитана на локальное использование на телефонах и компьютерах с ограниченными ресурсами. Модель принимает текст с контекстом до 2048 токенов и выдаёт эмбеддинги размерностью 768; с помощью Matryoshka Representation Learning размерность можно сократить до 512, 256 или 128 с последующей нормализацией. Она подходит для поиска документов и кода по запросу, поиска материалов для систем вопросов и ответов, обнаружения дубликатов и тематической группировки текстов. Для работы предусмотрена библиотека Sentence Transformers. Качество представлений зависит от охвата и возможных смещений обучающих данных; модель может хуже учитывать тонкие языковые оттенки, сарказм и переносный смысл. Лицензия указана как Gemma; применяются условия использования Gemma и её политика запрещённого использования.

EmbeddingGemma-300m — компактная модель эмбеддингов Google DeepMind на базе Gemma 3 с инициализацией T5Gemma. Она преобразует текст в векторы размерности 768; благодаря Matryoshka Representation Learning векторы можно сократить до 512, 256 или 128 измерений и перенормировать. Модель содержит 302,8 млн параметров, принимает до 2048 токенов и рассчитана на работу, в том числе на устройствах с ограниченными ресурсами. Модель предназначена для семантического поиска и извлечения документов, сравнения текстов, классификации и кластеризации. Её можно применять для поиска по документам и коду, обнаружения дубликатов, подбора рекомендаций и поиска доказательств для проверки фактов. Обучение охватывает более 100 языков, однако в карточке этой версии явно указаны английский и немецкий. Модель выдаёт числовые векторы, а не готовые текстовые ответы. Её качество зависит от охвата обучающих данных; возможны ошибки при интерпретации языковых нюансов, сарказма и образных выражений. Репозиторий указывает лицензию Gemma; использование регулируется условиями Google и политикой допустимого использования Gemma.

EmbeddingGemma — компактная мультиязычная модель эмбеддингов от Google DeepMind на основе текстовой архитектуры Gemma 3 с инициализацией T5Gemma. Она преобразует текст в векторы и предназначена для семантического поиска и извлечения информации, оценки сходства, классификации и кластеризации. Модель содержит 302,8 млн параметров, принимает текст длиной до 2048 токенов и выдаёт эмбеддинги размером 768, 512, 256 или 128 измерений с помощью Matryoshka Representation Learning. Обучалась на данных более чем из 100 языков и рассчитана в том числе на запуск на мобильных устройствах и компьютерах с ограниченными ресурсами. Подходит для поиска документов и кода по запросам, поиска материалов для систем вопросов и ответов, обнаружения дубликатов, тематической группировки текстов и классификации по заданным категориям. Для использования предусмотрена библиотека Sentence Transformers. Лицензия — Gemma; применяются условия использования и политика допустимого использования Gemma. Качество зависит от охвата и особенностей обучающих данных. Модель может хуже улавливать языковые нюансы, сарказм и переносный смысл; возможны смещения в эмбеддингах.

Карточка модели SteveCIB77/embeddinggemma-300m на Hugging Face совпадает с карточкой google/embeddinggemma-300m, поэтому описание составлено по ней. EmbeddingGemma — компактная модель эмбеддингов Google DeepMind на 300 млн параметров, построенная на Gemma 3 с инициализацией T5Gemma. Она преобразует текстовые запросы и документы в векторы и предназначена для семантического поиска, оценки сходства, классификации и кластеризации. Модель поддерживает более 100 языков и рассчитана на локальное использование на телефонах и компьютерах с ограниченными ресурсами. Модель принимает текст с контекстом до 2048 токенов и выдаёт эмбеддинги размерностью 768; с помощью Matryoshka Representation Learning размерность можно сократить до 512, 256 или 128 с последующей нормализацией. Она подходит для поиска документов и кода по запросу, поиска материалов для систем вопросов и ответов, обнаружения дубликатов и тематической группировки текстов. Для работы предусмотрена библиотека Sentence Transformers. Качество представлений зависит от охвата и возможных смещений обучающих данных; модель может хуже учитывать тонкие языковые оттенки, сарказм и переносный смысл. Лицензия указана как Gemma; применяются условия использования Gemma и её политика запрещённого использования.

EmbeddingGemma — компактная модель эмбеддингов от Google DeepMind на 302,8 млн параметров, построенная на текстовой архитектуре Gemma 3 с инициализацией T5Gemma. Она преобразует текстовые запросы и документы в векторы размерности 768; размер можно сократить до 512, 256 или 128 с помощью Matryoshka Representation Learning. Модель рассчитана на контекст до 2048 токенов и обучалась на данных более чем на 100 языках. Модель предназначена для семантического поиска и извлечения информации, оценки сходства, классификации и кластеризации текстов. Её небольшой размер подходит для развёртывания на телефонах, ноутбуках и настольных компьютерах с ограниченными ресурсами. В README указано использование через Sentence Transformers и Transformers. Качество зависит от охвата и особенностей обучающих данных; модель может хуже улавливать нюансы, сарказм и переносный смысл, а смещения в данных могут отражаться в эмбеддингах. Репозиторий распространяется по лицензии Gemma; следует учитывать условия использования и политику допустимого применения Gemma.

EmbeddingGemma — компактная модель эмбеддингов Google DeepMind с 300 млн параметров, построенная на Gemma 3 с инициализацией T5Gemma. Она преобразует текстовые запросы и документы в векторы и предназначена для семантического поиска и извлечения информации, оценки сходства, классификации и кластеризации. Модель обучалась на текстах более чем на 100 языках и рассчитана на запуск на устройствах с ограниченными ресурсами, включая телефоны и ноутбуки. Модель принимает текст длиной до 2048 токенов и выдаёт вектор размерности 768; благодаря Matryoshka Representation Learning его можно сократить до 512, 256 или 128 измерений с последующей нормализацией. Подходит для поиска документов и кода по запросу, обнаружения дубликатов и подбора материалов для систем вопросов и ответов. Возможны ошибки при понимании языковых нюансов и неоднозначности; качество зависит от охвата обучающих данных. Лицензия — Gemma; применяются условия использования Gemma и политика запрещённого использования Google.

EmbeddingGemma — мультиязычная модель эмбеддингов Google DeepMind на 302,8 млн параметров, основанная на текстовой архитектуре Gemma 3 с инициализацией T5Gemma. Она преобразует текст в векторы для поиска, извлечения информации, оценки семантического сходства, классификации и кластеризации. Модель обучена на данных более чем на 100 языках и рассчитана на запуск в условиях ограниченных ресурсов, включая мобильные устройства и настольные компьютеры. Модель принимает текст длиной до 2048 токенов и выдаёт вектор размерности 768; с помощью Matryoshka Representation Learning его можно сократить до 512, 256 или 128 измерений с последующей нормализацией. Веса предназначены для использования с Sentence Transformers и реализацией Gemma 3 в Transformers. Модель подходит для поиска документов и кода по запросам, а также для подбора текстов по смыслу. Качество может снижаться при неоднозначных формулировках, сарказме и тонких языковых нюансах; результаты также зависят от охвата и возможных смещений обучающих данных. Лицензия — Gemma; применяются условия использования и политика запрещённого использования Gemma.

F2LLM-0.6B — модель эмбеддингов от CodeFuse AI, представленная в техническом отчёте F2LLM. Это дообученная на базе Qwen3-0.6B плотная архитектура Qwen3 с 507,9 млн параметров; она кодирует текст в векторные представления для поиска и сопоставления. Обучение проводилось на 6 млн открытых пар «запрос — документ» из задач поиска, классификации и кластеризации, без синтетических данных и многоэтапного конвейера. Модель предназначена для векторного поиска, сравнения предложений, классификации и кластеризации текста. Контекст составляет до 40 960 токенов. Использовать модель можно через Sentence Transformers или Transformers; веса доступны в формате safetensors. Лицензия — Apache-2.0.

F2LLM-1.7B — модель эмбеддингов семейства F2LLM от CodeFuse AI, представленная в техническом отчёте о качестве векторных представлений. Это плотная модель на архитектуре Qwen3, дообученная на 6 миллионах пар «запрос—документ» из открытых наборов данных для поиска, классификации и кластеризации. Модель содержит 1,7 млрд параметров, принимает текст и выдаёт векторные представления; поддерживает контекст до 40 960 токенов и рассчитана на английский язык. Модель подходит для семантического поиска, сопоставления запросов с документами и измерения сходства текстов, а также для построения признаков для классификации и кластеризации. Она распространяется в формате Safetensors и доступна по лицензии Apache-2.0.

F2LLM-v2-4B — многоязычная модель эмбеддингов от CodeFuse AI, основанная на плотной архитектуре Qwen3. Она предназначена для преобразования текста в векторные представления, которые можно использовать для поиска, ранжирования, оценки сходства, кластеризации и поиска параллельных текстов. Модель содержит 3,7 млрд параметров и поддерживает контекст до 40 960 токенов. Модель обучена на отобранном наборе из 60 миллионов общедоступных примеров; семейство F2LLM-v2 ориентировано более чем на 200 языков, в том числе языки с ограниченными обучающими ресурсами. Поддерживаются инструкции для запросов, а обучение Matryoshka Representation Learning позволяет уменьшать размерность эмбеддингов с сохранением полезных свойств представления. Репозиторий предоставляет веса в формате safetensors и использует библиотеку Transformers. Лицензия — Apache-2.0. Практическое качество зависит от языка, формулировки инструкции и выбранной размерности эмбеддингов; README не приводит отдельных численных результатов именно для версии 4B.

tikanosa выпустил дообученную модель Sentence Transformer на базе sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2. Она использует архитектуру BERT с усреднённым pooling и преобразует предложения и абзацы в плотные векторы размерностью 384 для поиска и сравнения семантического сходства. Модель предназначена для извлечения текстовых эмбеддингов и retrieval-сценариев; сходство векторов можно оценивать косинусной мерой. Модель содержит 124,3 млн параметров и принимает текстовые последовательности длиной до 512 токенов по метаданным; в README указана максимальная длина 128 токенов. Она основана на многоязычной модели, поэтому подходит для работы с текстами на нескольких языках. Дообучение проведено на наборе из 5 493 пар предложений с оценками сходства. Лицензия в предоставленных данных не указана.

kimquynh/finetuned_sbert_5 — модель Sentence Transformer на архитектуре BERT, обученная разработчиком репозитория для получения векторных представлений предложений и абзацев. Она кодирует текст в нормализованные плотные векторы размерностью 768 и рассчитана на поиск похожих фрагментов и извлечение релевантных текстов. Для сравнения векторов можно использовать косинусное сходство. Модель принимает только текст и поддерживает последовательности длиной до 512 токенов. В README приведены оценки на задачах семантического сходства и бинарной классификации, включая Spearman cosine 0,5087 на наборе resume-job-sim. Метаданные указывают 136,7 млн параметров и формат safetensors. Языки и конкретная базовая модель не указаны. Условия лицензии в предоставленных данных отсутствуют.

Карточка модели Ccre/gemma-embedding-model на Hugging Face совпадает с карточкой michaelfeil/embeddinggemma-300m, поэтому описание составлено по ней. EmbeddingGemma — компактная мультиязычная модель эмбеддингов от Google DeepMind на основе текстовой архитектуры Gemma 3 с инициализацией T5Gemma. Она преобразует текст в векторы и предназначена для семантического поиска и извлечения информации, оценки сходства, классификации и кластеризации. Модель содержит 302,8 млн параметров, принимает текст длиной до 2048 токенов и выдаёт эмбеддинги размером 768, 512, 256 или 128 измерений с помощью Matryoshka Representation Learning. Обучалась на данных более чем из 100 языков и рассчитана в том числе на запуск на мобильных устройствах и компьютерах с ограниченными ресурсами. Подходит для поиска документов и кода по запросам, поиска материалов для систем вопросов и ответов, обнаружения дубликатов, тематической группировки текстов и классификации по заданным категориям. Для использования предусмотрена библиотека Sentence Transformers. Лицензия — Gemma; применяются условия использования и политика допустимого использования Gemma. Качество зависит от охвата и особенностей обучающих данных. Модель может хуже улавливать языковые нюансы, сарказм и переносный смысл; возможны смещения в эмбеддингах.

Giga-Embeddings-instruct-10B-A1.8B-0826 — модель текстовых эмбеддингов, разработанная ai-sage на основе GigaChat3-10B-A1.8B. Её адаптировали под двунаправленное encoder-style внимание и обучили контрастивной функцией потерь InfoNCE. По карточке, архитектура относится к DeepSeek-V3: 26 слоёв, скрытая размерность 1536, Multi-head Latent Attention и MoE с 64 маршрутизируемыми экспертами. Всего около 10 млрд параметров, из них примерно 1,8 млрд активны на токен; веса представлены в bfloat16. Модель строит плотные векторы для поиска по смыслу, семантического сравнения, классификации и кластеризации текста. Она рассчитана в первую очередь на русский и английский языки и поддерживает контекст до 262 144 токенов. Для получения эмбеддингов требуется усреднить представления непустых токенов и выполнить L2-нормализацию; для асимметричного поиска инструкцию добавляют к запросу, а документы кодируют без неё. В README сообщается о результатах на русских, английских и кодовых бенчмарках MTEB. Для коммерческого и иного использования применяется лицензия MIT. Важно соблюдать предусмотренную схемой обработки последовательность пулинга и нормализации: CLS- и last-token pooling дают неверные результаты. Результаты могут немного различаться в зависимости от версий Transformers и PyTorch.

Giga-Embeddings-instruct-3B-0826 — двуязычная модель текстовых эмбеддингов из серии Giga-Embeddings. Она основана на предобученной модели разработчика с архитектурой Qwen3, адаптированной для двунаправленного encoder-style внимания, и дообучена контрастивной функцией потерь InfoNCE. Модель содержит около 3,2 млрд параметров, формирует плотные векторы размерностью 2048 и поддерживает контекст до 8192 токенов. Модель предназначена для поиска по смыслу, сравнения предложений и абзацев, классификации и кластеризации на русском и английском языках. В асимметричном поиске к запросу следует добавлять инструкцию задачи, оставляя документы без инструкции; для симметричного сравнения инструкцию можно опустить. Для корректной работы нужны усреднение непустых токенов и L2-нормализация, после чего векторы сравнивают по косинусной близости. Репозиторий предоставляет веса в формате safetensors; лицензия — MIT.

GeorgeCU/Giga-Embeddings-instruct-3B-0826-ft — модель текстовых эмбеддингов из серии Giga-Embeddings, построенная на собственной предобученной модели с архитектурой Qwen3 и двунаправленным encoder-style вниманием. Она содержит около 3,2 млрд параметров, формирует векторы размерностью 2048 и поддерживает контекст до 8192 токенов. Для получения эмбеддинга используются mean pooling по непаддинговым токенам и L2-нормализация. Модель предназначена для векторного поиска, семантического сравнения, классификации и кластеризации текстов. Она обучена контрастивным методом InfoNCE и рассчитана прежде всего на русский и английский языки. В асимметричном поиске инструкцию следует добавлять к запросу, оставляя документы без инструкции; для симметричного сравнения инструкцию можно опустить или использовать общую. README приводит результаты MTEB для русского, английского и кода. Для корректного применения нужны mean pooling и L2-нормализация: CLS- и last-token pooling дают неверные результаты. При прямом использовании transformers эти операции нужно выполнять самостоятельно; результаты могут немного различаться в зависимости от версий PyTorch и Transformers. Лицензия — MIT.

Карточка модели Boopathy2861/google_embeddinggemma-300m на Hugging Face совпадает с карточкой google/embeddinggemma-300m, поэтому описание составлено по ней. EmbeddingGemma — компактная модель эмбеддингов Google DeepMind на 300 млн параметров, построенная на Gemma 3 с инициализацией T5Gemma. Она преобразует текстовые запросы и документы в векторы и предназначена для семантического поиска, оценки сходства, классификации и кластеризации. Модель поддерживает более 100 языков и рассчитана на локальное использование на телефонах и компьютерах с ограниченными ресурсами. Модель принимает текст с контекстом до 2048 токенов и выдаёт эмбеддинги размерностью 768; с помощью Matryoshka Representation Learning размерность можно сократить до 512, 256 или 128 с последующей нормализацией. Она подходит для поиска документов и кода по запросу, поиска материалов для систем вопросов и ответов, обнаружения дубликатов и тематической группировки текстов. Для работы предусмотрена библиотека Sentence Transformers. Качество представлений зависит от охвата и возможных смещений обучающих данных; модель может хуже учитывать тонкие языковые оттенки, сарказм и переносный смысл. Лицензия указана как Gemma; применяются условия использования Gemma и её политика запрещённого использования.

gte-large — модель текстовых эмбеддингов семейства General Text Embeddings (GTE), разработанная Alibaba DAMO Academy на основе архитектуры BERT. Она обучена на крупных наборах пар текстов с разметкой релевантности и предназначена для поиска информации, сравнения смысловой близости предложений и ранжирования текстов. Модель принимает английский текст и преобразует его в векторы размерностью 1024. Максимальная длина входа — 512 токенов; более длинные тексты обрезаются. В README приведены результаты на бенчмарке MTEB, включая задачи поиска, семантического сходства, классификации и ранжирования. Репозиторий содержит веса PyTorch и ONNX. Лицензия — MIT.

gte-large — модель текстовых эмбеддингов General Text Embeddings, разработанная Alibaba DAMO Academy на основе архитектуры BERT и обученная контрастивным обучением на крупном корпусе пар текстов с оценками релевантности. Она преобразует английские тексты в векторы размерностью 1024 и предназначена для поиска информации, сравнения семантической близости и ранжирования текстов. Модель применима в поисковых системах, семантическом сопоставлении предложений и других задачах, использующих текстовые эмбеддинги. В тесте MTEB для gte-large указана средняя оценка 63,13 по 56 задачам. Контекст ограничен 512 токенами: более длинные тексты обрезаются. Модель рассчитана только на английский язык. Лицензия — MIT.

ChristianAzinn/gte-large-gguf — это квантизированная GGUF-версия модели gte-large, разработанной Alibaba DAMO Academy и опубликованной thenlper. Репозиторий подготовил ChristianAzinn; исходная модель построена преимущественно на архитектуре BERT и распространяется как модель для создания текстовых эмбеддингов. Модель предназначена для информационного поиска, оценки семантического сходства текстов, reranking и других задач, где требуется сопоставление текстовых представлений. Она обучалась на крупном корпусе релевантных пар текстов из различных предметных областей. Указан английский язык, максимальная длина контекста — 512 токенов. GGUF-файлы поддерживаются llama.cpp и LM Studio; доступны варианты квантизации от 2 до 8 бит, а также FP16 и FP32. Квантизация уменьшает размер и требования к памяти, но низкобитные варианты могут заметно снижать качество; README рекомендует сбалансированные варианты Q4_K_M, Q5_K_S, Q5_K_M и Q8_0. Модель не предназначена для генерации текста: её основная функция — получение эмбеддингов для последующего сравнения или поиска. Варианты с высокой степенью квантизации удобны для локального запуска на ограниченных ресурсах, однако требуют оценки влияния потери точности на конкретную задачу. Исходная модель и материалы репозитория распространяются по лицензии MIT.

gte-Qwen2-7B-instruct — мультиязычная модель текстовых эмбеддингов из семейства GTE, разработанная Alibaba-NLP с использованием базовой Qwen2-7B от команды Qwen. Это дообученная плотная модель архитектуры Qwen2 с двунаправленным механизмом внимания и инструкционной настройкой запросов. Она преобразует текст в векторы размерностью 3584 и предназначена для поиска по смыслу, сравнения предложений и других задач семантического сопоставления. Модель обучена на большом мультиязычном корпусе из разных областей с использованием слабой и контролируемой разметки. README сообщает о высоких результатах на английском и китайском наборах MTEB на июнь 2024 года. Карточка указывает максимум 32 тыс. входных токенов, тогда как метаданные каталога дают нативный контекст 131072 токена. Лицензия — Apache-2.0. Для работы требуются Transformers версии 4.39.2 или новее и flash_attn версии 2.5.6 или новее. Модель ориентирована на получение эмбеддингов, хотя метаданные также отмечают генерацию текста и классификацию как поддерживаемые задачи. Заявления о лидерстве в бенчмарках относятся к указанным оценкам и дате; коммерческие облачные API GTE, согласно README, не полностью идентичны открытой модели.