I.1Поиск и навигация по информации

Qwen3-Reranker-8B — текстовая модель для переранжирования, разработанная командой Qwen. Она оценивает релевантность пар «запрос — документ» и помогает упорядочить найденные кандидаты так, чтобы наиболее подходящие фрагменты оказались выше. Модель предназначена для поиска по текстам и коду, включая многоязычный и межъязыковой поиск, например как этап извлечения контекста в RAG-системах. Модель основана на плотной авторегрессионной архитектуре Qwen3 и дообучена на базе Qwen/Qwen3-8B-Base. В ней около 7,6 млрд параметров; метаданные указывают контекст до 40 960 токенов, а README — 32 тыс. токенов. Заявлена поддержка более 100 языков. Модель поддерживает инструкции, настраиваемые под задачу; в README отмечено, что их применение может улучшать результаты поиска. Для получения оценки релевантности модель принимает текстовую пару и выдаёт оценку, пригодную для ранжирования. В README указано, что по умолчанию это разность логитов; при необходимости её можно преобразовать в вероятность. Для работы с моделью заявлена библиотека Transformers, также описано использование Sentence Transformers. Лицензия — Apache-2.0.

Step 3.7 Flash — мультимодальная vision-language модель, разработанная StepFun. Она предназначена для высокочастотных производственных нагрузок и агентных сценариев, объединяющих восприятие изображений, поиск, проверку информации, рассуждения и взаимодействие с инструментами. Модель подходит для анализа больших финансовых отчётов, многошагового поиска с верификацией по нескольким источникам, параллельной работы coding-агентов, обработки пользовательских интерфейсов, диаграмм и других визуальных материалов. Модель построена на разреженной архитектуре Mixture-of-Experts (MoE) и содержит около 198 млрд параметров: примерно 196 млрд приходятся на языковую часть и 1,8 млрд — на vision encoder. На каждый токен активируется около 11 млрд параметров. Поддерживается контекст длиной до 256 тысяч токенов, изображения и текст, а также три уровня рассуждения — low, medium и high, позволяющие выбирать баланс между скоростью, стоимостью и глубиной анализа. В README указан английский язык; заявленная мультимодальность обеспечивает понимание изображений, визуальное заземление, анализ интерфейсов и преобразование визуальных данных в структурированный код. Сильные стороны модели — высокая пропускная способность до 400 токенов в секунду, работа с длинным контекстом, устойчивое выполнение многошаговых агентных процессов, использование внешних API, визуальная проверка данных и задачи программной инженерии. Ограничения включают очень большой общий размер модели и, как следствие, высокие требования к инфраструктуре при локальном развёртывании; заявленные результаты также зависят от конкретных бенчмарков и сценариев. Модель распространяется по лицензии Apache-2.0 и поддерживает Transformers, vLLM, SGLang и llama.cpp; доступна через StepFun Open Platform, OpenRouter и NVIDIA NIM, а также может развёртываться в облачных, дата-центровых и локальных средах.

all-MiniLM-L12-v2 — модель Sentence Transformers, разработанная в рамках проекта Hugging Face по обучению моделей эмбеддингов предложений на больших наборах парных данных. Это дообученная версия microsoft/MiniLM-L12-H384-uncased: компактная BERT-архитектура примерно с 40 млн параметров, которая кодирует предложения и короткие абзацы в плотные векторы размерности 384. Модель предназначена для поиска по смыслу, оценки сходства предложений и кластеризации текстов. Её можно применять для получения векторных представлений документов и запросов; для текстов длиннее 256 WordPiece-токенов вход усекается. Данные обучения охватывают широкий спектр текстовых пар, но карточка описывает модель как англоязычную. Доступны веса и конвертированные варианты в форматах PyTorch, Safetensors, ONNX и OpenVINO. Лицензия — Apache-2.0. Это текстовый энкодер: он выдаёт эмбеддинги, а не готовые ответы или сгенерированный текст.

barisaydin/bge-base-en — англоязычная модель встраивания текста из семейства BGE (BAAI General Embedding), представленная в карточке FlagEmbedding. Она кодирует текст в плотные векторы для поиска релевантных документов, семантического поиска, кластеризации и классификации, а также для использования в векторных базах данных и системах RAG. Архитектура — BERT; модель содержит 136,7 млн параметров и обрабатывает до 512 токенов. Для поиска по короткому запросу в длинных документах авторы рекомендуют добавлять к запросу инструкцию «Represent this sentence for searching relevant passages:», но не к документам. В README рекомендован переход на BAAI/bge-base-en-v1.5: у текущей версии распределение оценок сходства менее удобно. Абсолютные значения сходства могут быть высокими даже у несхожих предложений, поэтому порог следует подбирать на данных конкретной задачи и ориентироваться на относительный порядок результатов. Модель распространяется по лицензии MIT.

C4AI Command A в репозитории unsloth — производная версия модели Cohere Command A, разработанной Cohere и Cohere For AI. Это авторегрессионная плотная трансформерная языковая модель на 111,1 млрд параметров для диалога, генерации текста, корпоративных сценариев, работы с документами и агентных приложений. Модель поддерживает вызов инструментов через диалоговый шаблон и специально обучена выполнять заключительный этап RAG, включая ответы с цитатами по переданным фрагментам документов. Модель принимает и генерирует только текст. Её контекстное окно составляет 262 144 токена. Архитектура использует скользящее внимание с окном 4096 токенов в трёх слоях и глобальное внимание в четвёртом; обучение включало контролируемую настройку и обучение предпочтениям. Заявлена поддержка 23 языков, включая русский, английский, французский, китайский и арабский. Модель подходит для многоязычного чата, ответов с опорой на документы, суммаризации, извлечения информации и задач с использованием инструментов. Для запуска требуются значительные вычислительные ресурсы, несмотря на заявленную разработчиками возможность развёртывания на двух GPU. Лицензия CC-BY-NC-4.0 ограничивает коммерческое использование; также требуется соблюдать политику допустимого использования C4AI.

C4AI Command R 08-2024 — генеративная языковая модель, разработанная Cohere и Cohere For AI. Она предназначена для диалогов, рассуждений, суммаризации, ответов на вопросы и работы с поиском по документам (RAG); также умеет выбирать и вызывать инструменты в диалоговом интерфейсе. Модель использует авторегрессионную архитектуру Transformer с grouped-query attention, дообучена с учителем и на предпочтениях пользователей. В README указан размер 35 млрд параметров, а в метаданных — 32,3 млрд; длина контекста составляет 128K токенов. Модель принимает и генерирует только текст. Обучение охватывало 23 языка, оценка проводилась на 10; метаданные перечисляют английский, французский, немецкий, испанский, итальянский, португальский, японский, корейский, китайский и арабский. Для вызова инструментов требуется использовать специальный шаблон диалога; отклонение от него может снизить качество. Лицензия CC-BY-NC-4.0 ограничивает коммерческое использование, также необходимо соблюдать политику допустимого использования C4AI.

Elephant Embeddings V1 Text Small — многоязычная модель текстовых эмбеддингов от Agentic Intelligence Lab, предназначенная для семантического поиска и сопоставления в агентных системах. Это дообученный энкодер ModernBERT на базе llm-semantic-router/mmbert-32k-yarn с 306,9 млн параметров и контекстом до 32 768 токенов. Модель формирует векторы размерностью 768 и поддерживает обучение Matryoshka, позволяющее использовать сокращённые представления размерностью 512, 256, 128 или 64. Модель подходит для поиска по базе знаний и RAG, извлечения записей памяти агентов, сопоставления запросов с инструментами и маршрутами, а также для кластеризации и удаления дубликатов. README приводит оценки MTEB mean 61,4 и STS Benchmark 80,5 и сообщает о сохранении 99% качества при 256 измерениях и 98% при 64 измерениях. Модель доступна в формате safetensors и распространяется по лицензии Apache-2.0. Сокращение векторов или слоёв ускоряет обработку и уменьшает расходы на хранение, но может ухудшить качество; для важных финальных этапов поиска README рекомендует полные 768 измерений. Длинные входы увеличивают затраты памяти и вычислений. Модель предназначена для получения эмбеддингов и семантического сопоставления, а не для генерации текста.

Kimi K2 Thinking — открытая reasoning-модель, разработанная Moonshot AI. Она предназначена для задач, требующих глубокого пошагового рассуждения и длительного автономного взаимодействия с инструментами: исследований, поиска информации, программирования, написания текстов и многоэтапных агентских рабочих процессов. Модель умеет чередовать рассуждение и вызовы функций, сохраняя целенаправленное поведение примерно на протяжении 200–300 последовательных вызовов инструментов. Модель построена на архитектуре Mixture-of-Experts (MoE) и содержит около 1 трлн параметров, из которых 32 млрд активируются для обработки одного токена. Архитектура включает 61 слой, 384 эксперта с выбором 8 экспертов на токен, один общий эксперт, 64 attention heads, механизм внимания MLA и функцию активации SwiGLU. Размер словаря составляет 160 тыс. токенов, контекстное окно — 256 тыс. токенов. Модель использует нативную INT4-квантизацию, заявленную как обеспечивающую двукратное ускорение в низколатентном режиме и снижение требований к памяти без потери качества. Сильные стороны модели — глубокое рассуждение, стабильное использование инструментов на длинных дистанциях, работа с большими контекстами и высокие результаты в математических, исследовательских, поисковых и coding-бенчмарках. README не указывает поддерживаемые естественные языки и не содержит подробностей о мультимодальности, поэтому модель следует считать текстовой в рамках доступных данных. Также заявленные преимущества и результаты зависят от сценария, наличия инструментов и настроек оценки. Модель распространяется по лицензии Modified MIT.

mxbai-embed-large-v1 — модель Mixedbread AI для построения векторных представлений предложений и текстов. Это плотная BERT-модель на 433,9 млн параметров с контекстом до 512 токенов; она принимает текст и выдаёт эмбеддинги для поиска и сопоставления текстов. Карточка указывает английский язык и библиотеку sentence-transformers. Модель предназначена для семантического поиска, извлечения релевантных фрагментов и оценки сходства предложений. Для поисковых запросов README рекомендует добавлять префикс «Represent this sentence for searching relevant passages:». Поддерживаются Matryoshka Representation Learning и бинарная квантизация, позволяющие уменьшать размер эмбеддингов и затраты на их хранение. В заявленной авторами оценке на MTEB модель показывает сильные результаты среди моделей размера BERT-large. Модель распространяется по лицензии Apache-2.0. Ограничения включают окно контекста в 512 токенов и необходимость использовать рекомендованный префикс для запросов в сценариях поиска; авторы также отмечают наличие ограничений, которые планировали исправить в версии v2, не уточняя их в этой карточке.

nomic-embed-text-v1.5 — текстовая модель эмбеддингов компании Nomic AI на архитектуре NomicBert, содержащая 136,7 млн параметров. Она преобразует тексты в векторы для семантического поиска, индексации документов для RAG, кластеризации, поиска дубликатов и подготовки признаков для классификации. Для выбора режима перед текстом требуется указать инструкционный префикс, например search_document или search_query. Модель использует Matryoshka Representation Learning: размерность вектора можно уменьшать, снижая потери качества; в карточке приведены результаты для размерностей 768 и 512. README сообщает о последовательностях до 8192 токенов, тогда как метаданные указывают базовый размер контекста 2048 токенов. Доступны форматы safetensors и ONNX, лицензия Apache-2.0. Для совместных мультимодальных эмбеддингов README указывает на отдельную модель nomic-embed-vision-v1.5; сама эта модель кодирует текст.

Карточка модели Salahuddin1234/OmniDoctor-Reranker-8B на Hugging Face совпадает с карточкой Qwen/Qwen3-Reranker-8B, поэтому описание составлено по ней. Qwen3-Reranker-8B — текстовая модель для переранжирования, разработанная командой Qwen. Она оценивает релевантность пар «запрос — документ» и помогает упорядочить найденные кандидаты так, чтобы наиболее подходящие фрагменты оказались выше. Модель предназначена для поиска по текстам и коду, включая многоязычный и межъязыковой поиск, например как этап извлечения контекста в RAG-системах. Модель основана на плотной авторегрессионной архитектуре Qwen3 и дообучена на базе Qwen/Qwen3-8B-Base. В ней около 7,6 млрд параметров; метаданные указывают контекст до 40 960 токенов, а README — 32 тыс. токенов. Заявлена поддержка более 100 языков. Модель поддерживает инструкции, настраиваемые под задачу; в README отмечено, что их применение может улучшать результаты поиска. Для получения оценки релевантности модель принимает текстовую пару и выдаёт оценку, пригодную для ранжирования. В README указано, что по умолчанию это разность логитов; при необходимости её можно преобразовать в вероятность. Для работы с моделью заявлена библиотека Transformers, также описано использование Sentence Transformers. Лицензия — Apache-2.0.

NeuralMetrics/Qwen3-Embedding-0.6B — размещённая Neural Metrics копия модели Qwen3-Embedding-0.6B, разработанной командой Qwen. Согласно карточке, веса и поведение совпадают с исходной моделью. Это плотная модель семейства Qwen3 с 507,6 млн параметров, предназначенная для преобразования текста в эмбеддинги; она поддерживает контекст до 32 768 токенов и выходные векторы размером от 32 до 1024 измерений. Модель подходит для семантического поиска по документам, пунктам договоров, строкам и полям, поиска по коду, выявления похожих текстов, классификации и кластеризации. Она поддерживает более 100 языков, включая возможности межъязыкового поиска, и принимает инструкции, позволяющие настроить эмбеддинги под задачу. Векторы можно использовать в системах поиска и маршрутизации документов. Ограничения: это модель эмбеддингов, поэтому для поиска нужен отдельный индекс векторов и компонент, который сопоставляет запросы с документами. Для использования с Transformers требуется версия 4.51.0 или новее; карточка рекомендует подбирать инструкции под сценарий, поскольку их отсутствие может снизить качество поиска. Лицензия — Apache-2.0.

VSR Embeddings v1 Text Nano — компактный мультиязычный текстовый энкодер семейства ModernBERT от Xunzhuo, дообученный на базе llm-semantic-router/mmbert-embed-32k-2d-matryoshka. Модель независимо кодирует текстовые фрагменты двунаправленным энкодером и предназначена для семантической маршрутизации, сопоставления текстов, поиска по эмбеддингам и извлечения релевантных фрагментов. Она содержит 306,9 млн параметров, поддерживает контекст до 32 768 токенов и выдаёт векторы размерности 768, которые можно сокращать до 512, 256, 128 или 64 измерений с повторной нормализацией. Модель рассчитана на высокую пропускную способность и низкую задержку, в том числе для семантического кэширования, удаления дубликатов запросов, кластеризации, поиска по карточкам моделей и классификации по прототипам. Для длинных документов автор рекомендует разбивать текст на перекрывающиеся фрагменты и оценивать максимум сходства запроса с фрагментами, а не полагаться на один общий вектор документа. Доступна под лицензией Apache-2.0. Векторное сходство не является откалиброванным решением для безопасности или политик. Качество выбранной размерности эмбеддинга следует проверять на целевом индексе.

Это кросс-энкодерный реранкер семейства BGE, опубликованный пользователем onzi-suba и основанный на BAAI/bge-reranker-base. Модель оценивает релевантность пары «запрос — документ» и помогает упорядочить результаты поиска; она предназначена, в частности, для повышения качества поиска в RAG-системах. В метаданных указаны архитектура XLM-RoBERTa для классификации последовательностей, около 305,2 млн параметров и контекст до 514 токенов. Исходная модель BGE Reranker Base рассчитана на английский и китайский языки; она выдаёт оценку релевантности вместо эмбеддинга. Поиск и метаданные не подтверждают отдельную лицензию или условия использования именно этой копии.

mlx-community преобразовала BAAI/bge-m3 в формат MLX с точностью FP16 для инференса на компьютерах Apple Silicon. Это модель эмбеддингов на архитектуре XLM-RoBERTa с 658,7 млн параметров, размерностью векторов 1024 и контекстом до 8194 токенов. Она поддерживает плотный, разреженный и многовекторный поиск, включая подход ColBERT, и подходит для семантического и гибридного поиска по многоязычным текстам и документам. Модель рассчитана на создание векторных представлений для поиска, сопоставления и ранжирования текстов; карточка описывает генерацию эмбеддингов с помощью MLX, а также совместимость с oMLX embedding endpoint. Указаны английский, китайский, немецкий, испанский, французский, итальянский, японский, корейский, португальский и русский языки. Конверсия неофициальная; лицензия — MIT. README подтверждает формат FP16 и назначение для Apple Silicon, а метаданные перечисляют safetensors как формат файлов.

vectoriseai/bge-small-en-v1.5 — англоязычная модель эмбеддингов семейства BGE, опубликованная под именем vectoriseai; карточка описывает её через материалы проекта FlagEmbedding. Модель преобразует текст в плотные векторы для поиска, сравнения предложений, классификации и кластеризации, а также для поиска контекста в векторных базах данных и системах RAG. Модель основана на архитектуре BERT, содержит около 40 млн параметров и поддерживает контекст до 512 токенов. Для поиска по длинным документам README рекомендует при необходимости добавлять поисковую инструкцию к короткому запросу, но не к документам. Доступны веса PyTorch и ONNX; лицензия — MIT. Версия BGE v1.5 улучшает распределение оценок сходства и поиск без инструкции. Оценки сходства следует интерпретировать относительно: порог для отбора похожих текстов нужно подбирать на своих данных. Модель ориентирована на английский язык; качество для других языков не заявлено.

E5-Mistral-7B-Instruct-Embedding-GGUF — модель для создания текстовых эмбеддингов, основанная на intfloat/e5-mistral-7b-instruct. Модель разработана intfloat, а GGUF-квантизация выполнена Second State Inc. Она предназначена для задач семантического поиска, сопоставления текстов, кластеризации и построения retrieval-систем. В README указана поддержка английского языка и текстовая модальность. Модель доступна в нескольких вариантах квантизации GGUF с разрядностью от 2 до 8 бит, а также в формате f16; размер файлов составляет примерно от 2,72 до 14,5 ГБ. Рекомендуемыми названы варианты Q4_K_M, Q5_K_M и Q5_K_S, обеспечивающие баланс между размером и потерей качества. Контекстное окно — 4096 токенов. Для запуска через LlamaEdge требуется версия 0.8.2 или новее и шаблон prompt типа embedding. Более сильная квантизация уменьшает размер и требования к ресурсам, но может заметно снижать качество эмбеддингов; для малых вариантов в README отмечены существенные потери качества. Лицензия — MIT.

OrcaDB/mxbai-large — текстовая модель эмбеддингов предложений из семейства Mixedbread mxbai-embed-large-v1. Она преобразует предложения и фрагменты текста в векторы для поиска, сравнения семантической близости и других задач векторного поиска. Архитектура — плотная модель на базе BERT с 433,9 млн параметров и контекстом до 512 токенов. Модель рассчитана прежде всего на англоязычный текст. Для поисковых запросов при retrieval следует добавлять префикс «Represent this sentence for searching relevant passages:»; для остальных входов специальный префикс не требуется. Поддерживаются Matryoshka Representation Learning и бинарное квантование, позволяющие сокращать размерность и объём хранения эмбеддингов. README сообщает о сильных результатах на MTEB для моделей размера BERT-large. Модель опубликована по лицензии Apache-2.0. Карточка отмечает, что у версии есть ограничения, которые планировалось устранить в v2, но конкретные ограничения не перечисляет.

nomic-embed-text-v1.5 — текстовая модель эмбеддингов, разработанная Nomic и опубликованная RedHatAI. Она преобразует тексты в плотные векторы для семантического поиска, сопоставления запросов с документами, кластеризации, выявления дубликатов и подготовки признаков для классификации. Для разных сценариев во входной текст добавляют соответствующую инструкцию, например search_document или search_query; модель рассчитана на использование в системах RAG и поисковых индексах. Модель построена на архитектуре NomicBert и поддерживает контекст до 8192 токенов. Matryoshka Representation Learning позволяет уменьшать размерность эмбеддингов с небольшим снижением качества; в README приведены варианты на 768 и 512 измерений. Доступны форматы PyTorch, TensorFlow, ONNX и OpenVINO. Хотя README говорит о мультимодальном пространстве, эта репозитория содержит текстовую модель; согласованная модель для изображений упомянута отдельно. Модель предназначена для прикладного использования; распространяется по лицензии Apache-2.0. Для корректной работы нужно указывать инструкцию задачи, а качество может зависеть от выбранного префикса, размерности вектора и домена данных.

techAInewb/Qwen3-Embedding-0.6B-INT8 — восьмибитная квантованная версия многоязычной модели эмбеддингов Qwen3-Embedding-0.6B от Qwen. Она преобразует текст в векторы размерности 1024 для семантического поиска, сравнения документов, кластеризации, классификации и систем RAG. Модель построена на архитектуре Qwen3; в метаданных указано 507,6 млн параметров и контекст до 32 768 токенов. README сообщает о поддержке 29 языков и совместимости с экосистемой Hugging Face Transformers. Квантование INT8 выполнено методом статического квантования Optimum Quanto с сохранением токенизатора. По данным README, размер модели снижен примерно на 37%, а качество эмбеддингов близко к исходной версии. Модель предназначена для текстовых входов и выдаёт векторные представления. Распространяется по лицензии Apache 2.0.

SPEED-embedding-7b-instruct — текстовая модель эмбеддингов от Haonan Chen и соавторов, представленная в работе «Little Giants: Synthesizing High-Quality Embedding Data at Scale» (2024). Она предназначена для преобразования запросов и документов в векторы, пригодные для семантического поиска и ранжирования. Модель построена на архитектуре Mistral, содержит 7,1 млрд параметров, имеет 32 слоя и размер эмбеддинга 4096. Метаданные указывают контекст до 32 768 токенов, однако авторы не рекомендуют подавать входы длиннее 4096 токенов. Для запросов следует задавать краткую инструкцию на естественном языке, описывающую задачу; документы можно кодировать без инструкции. Это позволяет настраивать представления для разных сценариев. В README указана оценка на наборах BEIR и MTEB. Модель ориентирована на английский язык. Распространяется по лицензии MIT.

Assistify Recommendation Model — модель Sentence Transformers, дообученная на базе sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2 для поиска и сопоставления текстов. Она использует архитектуру BERT с усредняющим pooling и преобразует предложения и абзацы в плотные векторы размерности 384; сходство оценивается косинусной мерой. Модель принимает текст. В README указана максимальная длина последовательности 128 токенов, а метаданные каталога указывают контекстное окно 512 токенов. Модель предназначена для семантического поиска, извлечения подходящих документов и рекомендаций по текстовому запросу. Обучение проводилось на 35 910 парах предложений с MultipleNegativesRankingLoss; примеры включают запросы о медицинских товарах на арабском и английском языках. Лицензия в предоставленных данных не указана.

RedHatAI/bge-large-en-v1.5-quant — квантованная версия модели эмбеддингов BGE-Large-en-v1.5 от BAAI, подготовленная Red Hat AI. Модель основана на архитектуре BERT и распространяется в формате ONNX с квантованием INT8; для запуска README рекомендует DeepSparseSentenceTransformers, а ускорение inference обеспечивается DeepSparse. Модель преобразует английский текст в векторные представления для семантического поиска, сопоставления текстов и построения retrieval-систем. Контекст ограничен 512 токенами. По README, ускорение на 10-ядерном ноутбуке достигает 4,8 раза, а на 16-ядерном AWS-инстансе — 3,5 раза; эти показатели относятся к указанным конфигурациям. Модель выпущена под лицензией MIT. Квантование INT8 и формат ONNX ориентированы на более эффективный inference; поддерживаемый язык — английский.

mlx-community/bge-small-en-v1.5-8bit — компактная 8-битная версия модели bge-small-en-v1.5 в формате MLX для построения текстовых эмбеддингов. Модель относится к семейству sentence-transformers, основана на архитектуре BERT и содержит около 40 млн параметров; она предназначена для работы с английским языком и поддерживает контекст до 512 токенов. Модель преобразует тексты и предложения в векторные представления, пригодные для семантического поиска, сравнения похожести, классификации, кластеризации и reranking. Она может использоваться как компонент retrieval-систем и RAG-приложений, а формат MLX ориентирован на запуск в экосистеме Apple. Модель не является генеративной и не предназначена для создания ответов или продолжения текста. Распространяется по лицензии MIT. К ограничениям относятся поддержка английского языка, максимальная длина контекста 512 токенов и возможная потеря точности из-за 8-битного квантования; качество зависит от предметной области и способа использования эмбеддингов.

Cohere Labs Command R7B Arabic — авторегрессионная языковая модель Cohere и Cohere Labs примерно с 8 млрд параметров: 7 млрд параметров трансформера и 1 млрд параметров эмбеддингов. Она оптимизирована для современного литературного арабского языка (MSA) и английского, а контекст составляет до 128 000 токенов. Архитектура использует чередование слоёв с локальным скользящим вниманием и слоя глобального внимания; после предварительного обучения модель прошла дообучение на инструкциях и обучение предпочтениям. Модель предназначена для диалогов, следования инструкциям и генерации ответов в сценариях RAG. При подаче фрагментов документов она может формировать ответы с внутритекстовыми ссылками на источники. Также подходит для извлечения информации, суммаризации, перевода и классификации; режим работы задаётся шаблоном промпта. README отмечает хорошие результаты на арабских тестах понимания языка, следования инструкциям и RAG. Весам доступна лицензия CC-BY-NC-4.0; также требуется соблюдать политику допустимого использования Cohere Labs. Модель принимает и выдаёт только текст. Хотя она оптимизирована прежде всего для арабского и английского, в обучающих данных присутствовали и другие языки; уровень её работы на них не гарантирован.

Luong23/e5-finetune-embedding — дообученная модель Sentence Transformers на базе intfloat/multilingual-e5-base, созданная для преобразования предложений и абзацев в плотные текстовые эмбеддинги размерности 768. В архитектуре используются XLM-RoBERTa, mean pooling и нормализация; близость векторов можно оценивать косинусным сходством. По метаданным модель содержит 305,2 млн параметров и поддерживает контекст до 514 токенов, а карточка указывает максимальную длину последовательности 256 токенов. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации. Обучающие примеры состоят из пар anchor-positive; в карточке приведён пример поиска по вьетнамским товарным запросам и описаниям, поэтому она подходит для семантического поиска по каталогу на вьетнамском языке. Вход и выход — текст и его векторное представление. Языковая поддержка унаследована от многоязычной базовой модели; конкретный полный перечень языков в предоставленных данных не приведён. Лицензия в метаданных и README не указана.

EmbeddingGemma 300M — открытая модель для получения векторных представлений текста, разработанная Google DeepMind. Она построена на основе Gemma 3 с инициализацией T5Gemma и предназначена для задач семантического поиска и извлечения информации, классификации, кластеризации и вычисления семантического сходства. Модель содержит около 300 млн параметров и ориентирована на локальное использование на мобильных устройствах, ноутбуках и настольных компьютерах. Она принимает текстовые строки длиной до 2048 токенов и возвращает эмбеддинги размерностью 768. Благодаря Matryoshka Representation Learning размерность можно сократить до 512, 256 или 128 с последующей нормализацией. Модель обучалась на данных объёмом около 320 млрд токенов, включая более 100 языков, веб-документы, код, технические материалы и синтетические данные для задач поиска, классификации и анализа тональности. К сильным сторонам относятся небольшой размер, мультиязычность, поддержка широкого спектра сценариев работы с текстовыми эмбеддингами и возможность эффективного развёртывания на устройствах с ограниченными ресурсами. Ограничением является максимальная длина входа 2048 токенов; активации модели не поддерживают float16, поэтому рекомендуется использовать float32 или bfloat16. Веса рассчитаны на применение с Sentence Transformers и реализацией Gemma 3 в Hugging Face Transformers. Модель распространяется по лицензии Gemma; условия использования определяются соответствующими Terms of Use Google.

jina-embeddings-v2-small-en — англоязычная модель эмбеддингов, разработанная Jina AI. Она построена на архитектуре JinaBERT на базе BERT: энкодер предварительно обучен на C4, а затем модель дообучена на наборе Jina AI из более чем 400 миллионов пар предложений и сложных негативных примеров из разных областей. Модель преобразует текст в векторы для поиска по длинным документам, семантического сравнения текстов, ранжирования, рекомендаций и систем RAG. Контекст поддерживает до 8192 токенов благодаря двунаправленному варианту ALiBi; при обучении использовалась длина последовательности 512 токенов. Для получения эмбеддинга предложения или фрагмента текста README рекомендует применять mean pooling. Размер модели — около 32,4 млн параметров по метаданным. Компактный размер обеспечивает быстрое и экономное по памяти получение эмбеддингов. Модель предназначена для английского языка и не является мультиязычной. Для работы через Transformers может потребоваться параметр trust_remote_code=True; модель доступна в форматах PyTorch, Safetensors, ONNX и Core ML. Лицензия — Apache-2.0.

sentence-transformers/nli-mpnet-base-v2 — модель эмбеддингов, обученная командой Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 на основе архитектуры MPNet с 136,7 млн параметров. Модель предназначена для поиска по смыслу, сравнения предложений и кластеризации текстов; доступна через библиотеку Sentence-Transformers и поддерживает форматы PyTorch, TensorFlow, ONNX и OpenVINO. Модель принимает текст и выдаёт векторные представления. Её контекстное окно составляет 514 токенов. Лицензия Apache-2.0 разрешает свободное использование с соблюдением её условий.

Orange разработала текстовую модель эмбеддингов на базе nomic-ai/nomic-embed-text-v1.5. Она кодирует тексты в векторы размерностью 1536 для поиска по смыслу, сравнения предложений и других задач, где нужны текстовые представления. Модель построена на архитектуре NomicBert: выход базового трансформера размерностью 768 проходит через pooling и обучаемую линейную проекцию до 1536 измерений. В README указано, что проекция сохраняет косинусное сходство базовой модели; поддерживаются Matryoshka-векторы меньшей размерности и контекст до 8192 токенов. Модель подходит для семантического поиска, индексации документов для RAG, сопоставления запросов с документами, кластеризации и сравнения текстов. Для задания режима обработки вход нужно снабжать инструкционным префиксом, например search_document, search_query или clustering. Карточка указывает поддержку английского языка; лицензия — Apache-2.0. Дополнительная размерность может быть полезна для совместимости с существующими 1536-мерными векторными хранилищами, однако README отмечает лишь маргинальную пользу увеличения размерности и не приводит полных результатов сравнительной оценки.