I.14Автоматизация процессов и AI-агенты

E5-base-v2 — англоязычная модель эмбеддингов текста, разработанная Liang Wang, Nan Yang и соавторами. Она обучена методом контрастивного предобучения со слабой супервизией и основана на архитектуре BERT: 12 слоёв, размерность эмбеддинга 768, около 136,7 млн параметров. Модель принимает текст и выдаёт векторные представления для сравнения предложений и поиска по смыслу. Модель подходит для семантического сходства, поиска документов и пассажей, поиска перефразировок, кластеризации и классификации на основе эмбеддингов. Для асимметричного поиска рекомендуется добавлять к запросам префикс «query: », а к документам — «passage: »; для сходства и других симметричных задач используется префикс «query: ». Контекст ограничен 512 токенами, длинные тексты обрезаются; модель предназначена только для английского языка. Лицензия — MIT.

Карточка модели vectoriseai/e5-base-v2 на Hugging Face совпадает с карточкой intfloat/e5-base-v2, поэтому описание составлено по ней. E5-base-v2 — англоязычная модель эмбеддингов текста, разработанная Liang Wang, Nan Yang и соавторами. Она обучена методом контрастивного предобучения со слабой супервизией и основана на архитектуре BERT: 12 слоёв, размерность эмбеддинга 768, около 136,7 млн параметров. Модель принимает текст и выдаёт векторные представления для сравнения предложений и поиска по смыслу. Модель подходит для семантического сходства, поиска документов и пассажей, поиска перефразировок, кластеризации и классификации на основе эмбеддингов. Для асимметричного поиска рекомендуется добавлять к запросам префикс «query: », а к документам — «passage: »; для сходства и других симметричных задач используется префикс «query: ». Контекст ограничен 512 токенами, длинные тексты обрезаются; модель предназначена только для английского языка. Лицензия — MIT.

EmbeddingGemma — компактная модель эмбеддингов от Google DeepMind на 302,8 млн параметров, построенная на текстовой архитектуре Gemma 3 с инициализацией T5Gemma. Она преобразует текстовые запросы и документы в векторы размерности 768; размер можно сократить до 512, 256 или 128 с помощью Matryoshka Representation Learning. Модель рассчитана на контекст до 2048 токенов и обучалась на данных более чем на 100 языках. Модель предназначена для семантического поиска и извлечения информации, оценки сходства, классификации и кластеризации текстов. Её небольшой размер подходит для развёртывания на телефонах, ноутбуках и настольных компьютерах с ограниченными ресурсами. В README указано использование через Sentence Transformers и Transformers. Качество зависит от охвата и особенностей обучающих данных; модель может хуже улавливать нюансы, сарказм и переносный смысл, а смещения в данных могут отражаться в эмбеддингах. Репозиторий распространяется по лицензии Gemma; следует учитывать условия использования и политику допустимого применения Gemma.

EmbeddingGemma — компактная модель эмбеддингов Google DeepMind на 302,8 млн параметров, построенная на Gemma 3 с инициализацией T5Gemma. Она принимает текст и преобразует его в векторы размерностью 768, которые можно сократить до 512, 256 или 128 измерений с помощью Matryoshka Representation Learning. Максимальная длина входа — 2048 токенов; модель предназначена для работы с Sentence Transformers и ориентирована на запуск на мобильных устройствах и компьютерах с ограниченными ресурсами. Модель подходит для семантического поиска и извлечения документов, оценки сходства текстов, классификации и кластеризации, а также для поиска фрагментов кода по текстовым запросам и подбора источников для систем ответов на вопросы. Обучение охватывало более 100 языков и включало веб-тексты, код, техническую документацию и данные для задач поиска и классификации. Модель выдаёт векторы, а не готовые ответы на вопросы. Качество зависит от охвата обучающих данных; возможны трудности с нюансами, сарказмом и переносными смыслами, а обучающие данные могут содержать смещения. Лицензия — Gemma; использование регулируется условиями Google и политикой запрещённого использования Gemma.

ERNIE-4.5-300B-A47B-2Bits-TP4-Paddle — текстовая MoE-модель семейства ERNIE 4.5, разработанная Baidu и размещённая в формате SafeTensors для запуска на PaddlePaddle. Она предназначена для диалогов, понимания языка и генерации текста; README также описывает веб-поиск с передачей вопроса, даты и найденных ссылок в промпте. Модель содержит 300 млрд параметров, из которых для каждого токена активируются около 47 млрд, и поддерживает контекст до 131 072 токенов. В README говорится о мультимодальном обучении семейства ERNIE 4.5, однако эта версия обозначена как текстовая, поэтому не следует считать, что она принимает изображения. Репозиторий указывает 47,1 млрд параметров; это расходится с общим описанием 300 млрд параметров и 47 млрд активированных параметров, вероятно, из-за способа учёта параметров. Для эксплуатации README приводит пример FastDeploy с квантизацией WINT4 и параллелизмом по тензорам. Лицензия — Apache-2.0.

EuroBERT-610m — многоязычная плотная encoder-модель семейства EuroBERT от разработчиков, представивших это семейство. Веса содержат около 607,8 млн параметров; модель предназначена для языковых задач, включая поиск и ранжирование текстов, классификацию и регрессию. В Hugging Face она опубликована как masked language model для заполнения пропусков в тексте. Модель поддерживает 15 языков, а также математические задачи и код. Контекст — до 8 192 токенов. По данным карточки, EuroBERT-610m сопоставима с XLM-RoBERTa-XL на большинстве оценённых многоязычных задач и превосходит её в задачах с кодом и математикой; качество зависит от задачи и прикладной настройки. Доступна для Transformers в форматах PyTorch и Safetensors. Лицензия — Apache-2.0.

Это порт модели контекстного энкодера Dense Passage Retrieval (DPR) в формате Sentence Transformers, предназначенный для кодирования предложений и абзацев в плотные векторы размерности 768. Архитектура основана на BERT; модель содержит 136,7 млн параметров и принимает текстовые последовательности длиной до 512 токенов. Полученные эмбеддинги подходят для семантического поиска, кластеризации и сравнения текстов. Модель можно использовать через Sentence Transformers или Transformers с соответствующей операцией pooling. Репозиторий содержит веса в форматах PyTorch и Safetensors, а также варианты ONNX и OpenVINO. Лицензия — Apache-2.0.

kimquynh/finetuned_sbert_8 — дообученная модель Sentence Transformers на базе sentence-transformers/all-mpnet-base-v2, разработанная автором репозитория. Она преобразует предложения и абзацы на естественном языке в плотные текстовые векторы размерности 768 и подходит для поиска по смыслу и сравнения текстов по косинусному сходству. Архитектура включает MPNet, усредняющий pooling и нормализацию; размер модели — 136,7 млн параметров. В README указан предел последовательности 384 токена, а метаданные сообщают о native context в 514 токенов. Модель обучена на 6 241 парах текстов со значениями сходства; в README приведены результаты проверки на задачах семантического сходства и бинарной классификации. Она принимает текст и выдаёт эмбеддинги, которые можно использовать для извлечения релевантных документов, ранжирования кандидатов и кластеризации. Языки обучающих данных и основного применения не установлены по предоставленным сведениям. Лицензия в доступных данных не указана.

Galactic-Qwen-14B-Exp2 — языковая модель PrithivMLmods для генерации текста, диалогов и решения задач на рассуждение. Это плотная модель семейства Qwen2, содержащая 14 млрд параметров и дообученная на базе prithivMLmods/Lacerta-Opus-14B-Elite8 с использованием модели, обученной на длинных цепочках рассуждений, и специализированных наборов данных. В метаданных указаны библиотека Transformers и формат safetensors. Модель предназначена для ответов на вопросы, логических выводов, многошагового решения задач, следования инструкциям, объяснений, суммаризации и генерации структурированного текста, включая JSON. Она поддерживает контекст до 131 072 токенов; в карточке также заявлена генерация до 8 000 токенов за один ответ и поддержка более 29 языков, включая английский, китайский и русский. Заявленные сценарии включают образовательную помощь, чат-ботов, многоязычную коммуникацию и создание длинных текстов. Карточка приводит результаты IFEval (66,20%) и BBH (59,92%), но не содержит подробностей методики оценки. Среди ограничений указаны высокие требования к памяти при работе с длинным контекстом, возможная предвзятость и ошибки, чувствительность к формулировке запроса и отсутствие доступа к актуальным событиям. Лицензия — Apache-2.0.

Gemini 2.5 Pro Preview 06-05 — предварительная версия мультимодальной модели Google Gemini 2.5 Pro. Она предназначена для сложных задач рассуждения, программирования, математики и науки. В карточке указаны способности к рассуждению, но подробности об архитектуре, размере и длине контекста не приведены. Модель ориентирована на сценарии, где требуется разбирать запрос и формировать содержательный ответ, включая помощь с кодом и решение математических задач. Метаданные классифицируют её как image-text-to-text, однако README не уточняет поддерживаемые типы входных данных. Условия лицензии в доступных сведениях не описаны.

GLM-4.7-Flash-bf16 — диалоговая языковая модель семейства GLM4 MoE Lite, подготовленная сообществом mlx-community в формате MLX из zai-org/GLM-4.7-Flash. Она предназначена для генерации текста в диалоге, включая рассуждения и программирование. Модель содержит 4,1 млрд параметров и поддерживает контекст до 202 752 токенов; карточка указывает поддержку английского и китайского языков. Модель построена на архитектуре Glm4MoeLiteForCausalLM и использует библиотеку MLX. Репозиторий содержит веса Safetensors и доступен по лицензии MIT. В README приведена команда установки mlx-lm для использования модели на MLX-совместимой платформе.

GPT-3.5 Turbo 16k — вариант модели GPT-3.5 Turbo с увеличенным контекстным окном, разработанный OpenAI. Он предназначен для генерации текста и диалогов, в том числе для запросов, в которых нужно передать большой объём текста за один раз. По карточке модель обрабатывает примерно 20 страниц текста в одном запросе; использование обходится дороже, чем у стандартной версии GPT-3.5 Turbo.

gte-large-en-v1.5 — англоязычная модель текстовых эмбеддингов, разработанная Institute for Intelligent Computing группы Alibaba. Она предназначена для поиска по смыслу, сопоставления предложений и длинных текстов, а также для задач извлечения информации, где требуется сравнивать текстовые представления. Модель построена на энкодерной архитектуре transformer++ на основе BERT с RoPE и GLU; содержит около 434 млн параметров, выдаёт векторы размерности 1024 и поддерживает контекст до 8192 токенов. В README приведены результаты оценки на MTEB и LoCo, включая сильные показатели для модели этого размера и конкурентные результаты на длинноконтекстном поиске. Модель обучалась с masked language modeling и контрастивным предварительным обучением и дообучением. Для работы с ней доступны веса safetensors и ONNX, библиотека Transformers. Лицензия — Apache-2.0. Модель ориентирована на английский язык; качество для других языков не заявлено.

Карточка модели DeepanBabu/gte-Qwen2-1.5B-instruct на Hugging Face совпадает с карточкой Alibaba-NLP/gte-Qwen2-1.5B-instruct, поэтому описание составлено по ней. gte-Qwen2-1.5B-instruct — модель текстовых эмбеддингов из семейства GTE, разработанная Alibaba NLP на базе Qwen2-1.5B. Она преобразует тексты в векторы размерности 1536 и предназначена для поиска по смыслу, сравнения предложений, ранжирования и других задач, использующих текстовые представления. Модель поддерживает инструкции для запросов и обучалась на многоязычных данных из разных областей; в карточке указано контекстное окно 131 072 токена, тогда как README описывает максимальную длину входа 32 000 токенов. В основе — архитектура Qwen2 с причинной языковой моделью, дополненной двунаправленным механизмом внимания для контекстного представления текста. В README заявлены сценарии для широкого круга языков и задач, но конкретный список языков не приведён. Модель распространяется под лицензией Apache-2.0. Для запуска README указывает зависимости transformers версии 4.39.2 или новее и flash_attn версии 2.5.6 или новее.

Карточка модели vectoriseai/gte-small на Hugging Face совпадает с карточкой avsolatorio/MixEmbedFinetune-base-20240122220725-best, поэтому описание составлено по ней. avsolatorio/MixEmbedFinetune-base-20240122220725-best — модель текстовых эмбеддингов на базе BERT, представленная в карточке как gte-small. Семейство GTE разработано Alibaba DAMO Academy и обучалось на большом наборе пар текстов с оценками релевантности; конкретный репозиторий содержит дообученную модель размером около 40 млн параметров. Модель предназначена для получения векторных представлений английских текстов и их сравнения по смыслу. Её можно применять для семантического поиска, оценки сходства предложений, поиска релевантных документов и ранжирования текстов. Максимальная длина последовательности — 512 токенов; более длинный ввод обрезается. Лицензия — MIT.

I-DLM-32B — плотная диффузионная языковая модель на 29,7 млрд параметров, созданная командой yifanyu на основе Qwen/Qwen3-32B. Она предназначена для диалоговой генерации текста, ответов на вопросы, математических рассуждений, программирования и следования инструкциям. Метод Introspective Strided Decoding позволяет генерировать и проверять группы токенов параллельно; для воспроизведения результатов авторы рекомендуют конвейер ISD на базе SGLang. Модель заявлена как сопоставимая по качеству с авторегрессионной Qwen3-32B на 15 тестах, охватывающих знания, математику, код и следование инструкциям. Модель использует архитектуру SDAR и принимает текст, выдавая текст. Нативная длина контекста — 40 960 токенов. Карточка указывает английский язык; базовая Qwen3-32B описана как многоязычная. Репозиторий содержит веса Safetensors. Лицензия — Apache-2.0. Прямая загрузка через Transformers пока не поддерживает воспроизведение результатов из статьи; для вывода рекомендуется SGLang с реализацией ISD.

Intel разработала intel-optimized-model-for-embeddings-v1 — текстовую модель эмбеддингов на архитектуре BERT. Она преобразует предложения и абзацы в плотные векторы размерностью 512 для семантического поиска и кластеризации. Модель содержит 49,2 млн параметров, принимает текст с контекстом до 512 токенов и доступна в форматах PyTorch и safetensors. Модель дообучена с использованием библиотеки sentence-transformers на основе BERT-Medium_L-8-H-512-A-8 с UAE-Large-V1 в роли учителя. В обучении использовались наборы данных для поиска сущностей, открытого вопросно-ответного поиска и задач по научным документам. Лицензия модели — MIT. Данные не определяют поддерживаемые естественные языки и конкретные показатели качества.

jina-embeddings-v5-text-small-mlx — мультимодульная по задачам модель эмбеддингов Jina AI для Apple Silicon, основанная на Qwen3 и использующая четыре LoRA-адаптера для переключения задач. Репозиторий содержит базовые веса и адаптеры; при смене задачи адаптеры объединяются с весами на месте. Модель имеет 507,9 млн параметров, работает в float16 и создаёт векторы размерностью до 1024 с поддержкой Matryoshka-размеров 32, 64, 128, 256, 512, 768 и 1024. Максимальная длина последовательности — 32 768 токенов. Модель предназначена для семантического поиска, сравнения текстов и группировки документов; метаданные указывают задачу feature-extraction. Карточка сообщает о высокой близости результатов к предварительно объединённым контрольным точкам и переключении адаптеров примерно за 20 мс. Установка описана через MLX, поэтому применение ориентировано на устройства Apple Silicon. Модель основана на jinaai/jina-embeddings-v5-text-small и распространяется по лицензии CC BY-NC 4.0, которая не разрешает коммерческое использование.

KaLM-Embedding-Gemma3-12B-2511 — модель эмбеддингов от Tencent, дообученная на базе google/gemma-3-12b-pt. Она преобразует текст в векторы для поиска и сравнения смысловой близости; также подходит для классификации, кластеризации и ранжирования. Модель имеет плотную архитектуру Gemma 3 Text, содержит 11,6 млрд параметров, использует pooling по последнему токену и формирует эмбеддинги размерностью 3840 с поддержкой сокращения размерности до 64. Метаданные указывают контекст до 131 072 токенов, тогда как README заявляет максимум входа 32 тыс. токенов. В тесте MMTEB, приведённом в README, модель заняла первое место по сводному показателю; этот результат относится к оценке на момент публикации карточки и не гарантирует превосходства на других данных. Для работы доступны Sentence Transformers и vLLM с отдельной ревизией CausalLM. Лицензия указана как other, поэтому перед использованием следует проверить условия в карточке модели.

Saxo (Джи Юнсон), специалист по данным компании Linkbricks Horizon-AI, дообучил эту плотную языковую модель семейства Llama на базе Saxo/Linkbricks-Horizon-AI-Japanese-Superb-V3-70B. Модель с 69,5 млрд параметров прошла японское SFT и DPO; заявленное окно контекста — 128 тыс. токенов. Для обучения использовались японские новости и Википедия, а также данные для задач на японском, корейском, китайском и английском языках. Модель предназначена для генерации текста, письма и программирования, математических и логических рассуждений, анализа отзывов и публикаций в социальных сетях. В карточке заявлена поддержка вызова функций и инструментов. Репозиторий использует формат safetensors и библиотеку Transformers; лицензия — Apache-2.0. Описание не приводит результатов независимой оценки качества или подробностей о безопасном применении модели.

Диалоговая модель shibing624 на базе Llama-3-8B-Instruct-262k, дообученная методом ORPO на наборе предпочтений для китайского и английского языков. Модель использует плотную архитектуру LlamaForCausalLM и содержит около 7,5 млрд параметров; поддерживает контекст до 262 144 токенов и рассчитана на многоходовый диалог, генерацию текста, кодирование и рассуждения, а также сценарии RAG с длинными документами. Модель поддерживает китайский и английский языки. В README отмечены ограничения: при ответах на вопросы о знаниях возможны галлюцинации, особенно по китайской тематике и классической китайской литературе. Для запуска приведены ориентиры по видеопамяти: около 18,66 ГБ для кодирования 2 048 токенов и 24,58 ГБ для генерации 8 192 токенов в FP16/BF16; для Int4 — около 9,21 ГБ и 14,62 ГБ соответственно. Лицензия указана как other, поэтому конкретные условия использования следует сверять с лицензией репозитория.

Llama-3-8B-Magpie-Align-SFT-v0.2 — разговорная языковая модель, дообученная командой Magpie-Align на базе meta-llama/Meta-Llama-3-8B. Для обучения использованы наборы Magpie-Pro-MT-300K-v0.1 и Magpie-Reasoning-150K с примерами математики, программирования и рассуждений. Модель содержит 7,5 млрд параметров, использует плотную архитектуру LlamaForCausalLM и поддерживает контекст до 8192 токенов. Модель предназначена для ответов на инструкции и диалоговых сценариев, включая задачи на рассуждение, математику и код. В README сообщаются результаты на MT-Bench, Alpaca Eval 2 и Arena Hard, но они не гарантируют качество на конкретных запросах. Для лучшей работы рекомендуется официальный шаблон чата Llama 3. Модель рассчитана прежде всего на английский язык. Распространяется по лицензии Meta Llama 3 Community License; применяются условия этой лицензии.

ainativestudio/locomo-e5-large-finetuned — текстовая Sentence Transformer модель, дообученная на базе intfloat/e5-large-v2. Она кодирует предложения и абзацы в плотные векторы размерностью 1024 для семантического поиска и извлечения релевантных фрагментов. Архитектура включает BERT, mean pooling и нормализацию; сходство векторов можно оценивать косинусной мерой. Модель принимает только текст, максимальная длина последовательности — 512 токенов. Модель обучена с TripletLoss на 2 806 примерах, включающих вопросы, релевантные и нерелевантные текстовые фрагменты. Это делает её подходящей для поиска ответов и контекста в коллекциях текстов, в том числе в сценариях retrieval и RAG. Веса опубликованы в формате safetensors. Лицензия в предоставленных данных не указана.

Meta Llama 3 70B — большая авторегрессионная языковая модель Meta с оптимизированной архитектурой Transformer и Grouped-Query Attention. Эта версия предназначена для генерации текста; семейство включает предварительно обученные и настроенные варианты, но карточка репозитория не уточняет, к какому варианту относится этот чекпойнт. Модель принимает текст и генерирует текст, включая код. Её можно использовать для диалоговых помощников и адаптировать к различным задачам генерации естественного языка. В README указано, что модель предназначена для коммерческого и исследовательского использования на английском языке; применение на других языках выходит за рамки заявленного назначения, хотя дообучение для них допускается при соблюдении условий лицензии и политики использования. Модель выпущена Meta в апреле 2024 года. Репозиторий содержит веса в формате safetensors и распространяется по специальной лицензии Llama 3 с коммерческими условиями. Ответы могут требовать дополнительных мер безопасности, настроенных под конкретное приложение.

Meta Llama 3 70B — большая авторегрессионная языковая модель Meta на 69,5 млрд параметров с плотной архитектурой Transformer и Grouped-Query Attention. Репозиторий содержит веса в формате safetensors; модель принимает текст и генерирует текст и код. Контекст модели составляет 8192 токена. Карточка описывает семейство Llama 3, включающее предварительно обученные и дообученные для следования инструкциям варианты; README указывает, что варианты с инструкционным дообучением используют SFT и RLHF, однако не уточняет вариант этого репозитория. Модель предназначена для генерации текста и кода, а диалоговые сценарии особенно подходят инструкционным вариантам. В README заявлено целевое использование на английском языке; применение на других языках выходит за рамки рекомендаций, хотя дообучение для других языков допускается условиями лицензии и политики использования. Модель статична и обучена на офлайн-данных. Для использования требуется соблюдать пользовательскую лицензию Meta Llama 3 и Acceptable Use Policy; лицензия обозначена в метаданных как нестандартная, а README сообщает о доступности коммерческой лицензии.

Карточка модели Undi95/Meta-Llama-3-8B-Instruct-hf на Hugging Face совпадает с карточкой kuotient/Meta-Llama-3-8B-Instruct, поэтому описание составлено по ней. kuotient/Meta-Llama-3-8B-Instruct — чат-модель, разработанная Meta на основе семейства Llama 3. Это авторегрессионная плотная трансформерная модель класса LlamaForCausalLM с примерно 7,5 млрд параметров и механизмом Grouped-Query Attention. Она принимает текст и генерирует текст или код; версия с инструкционной настройкой предназначена для диалогов и работы в роли помощника. Модель рассчитана прежде всего на английский язык, а её контекстное окно составляет 8192 токена. Модель подходит для диалоговых помощников, ответов на вопросы, генерации и редактирования текста и кода. Инструкционные варианты Llama 3 настроены с помощью supervised fine-tuning и обучения с обратной связью от людей для повышения полезности и безопасности. Модель статична и обучена на офлайн-данных. Для использования действует специальная коммерческая лицензия Meta Llama 3; необходимо соблюдать её условия и политику допустимого использования.

MIMO-xlm-roberta-large — мультиязычная модель Sentence Transformers, дообученная автором yjoonjang на FacebookAI/xlm-roberta-large. Она преобразует предложения и абзацы в плотные векторы размерности 1024; сходство оценивается косинусной мерой. Архитектура включает XLM-RoBERTa large и mean pooling. В README указана максимальная длина последовательности 256 токенов, а в метаданных — контекст 514 токенов. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразирований, классификации и кластеризации. В README приведены результаты тестирования поиска на NanoMIRACL для десяти языков, включая русский. Метаданные указывают размер модели 658,7 млн параметров и формат Safetensors. Лицензия в предоставленных данных не указана.

ronanki/ml_mpnet_768_MNR_15 — модель Sentence Transformers на архитектуре XLM-RoBERTa, разработчик — ronanki. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения сходства и кластеризации текстов. Модель содержит 305,2 млн параметров и принимает последовательности длиной до 514 токенов. Обучение с MultipleNegativesRankingLoss и косинусной мерой сходства ориентировано на ранжирование пар предложений.

Карточка модели Ruthvikkk/MNLP_M2_document_encoder на Hugging Face совпадает с карточкой thenlper/gte-small, поэтому описание составлено по ней. gte-small — модель текстовых эмбеддингов семейства General Text Embeddings (GTE), разработанная Alibaba DAMO Academy на основе архитектуры BERT. Вариант small содержит около 40 млн параметров и принимает тексты длиной до 512 токенов; для более длинных текстов вход обрезается. Модель рассчитана на английский язык. Полученные эмбеддинги подходят для семантического поиска и сравнения предложений, а также могут использоваться в конвейерах поиска информации и ранжирования текстов. Модель можно применять, например, для поиска релевантных документов или оценки смыслового сходства запросов и фрагментов текста. Лицензия — MIT.

Карточка модели Ruthvikkk/MNLP_M3_document_encoder на Hugging Face совпадает с карточкой thenlper/gte-small, поэтому описание составлено по ней. gte-small — модель текстовых эмбеддингов семейства General Text Embeddings (GTE), разработанная Alibaba DAMO Academy на основе архитектуры BERT. Вариант small содержит около 40 млн параметров и принимает тексты длиной до 512 токенов; для более длинных текстов вход обрезается. Модель рассчитана на английский язык. Полученные эмбеддинги подходят для семантического поиска и сравнения предложений, а также могут использоваться в конвейерах поиска информации и ранжирования текстов. Модель можно применять, например, для поиска релевантных документов или оценки смыслового сходства запросов и фрагментов текста. Лицензия — MIT.