I.1Поиск и навигация по информации

Это дообученная компанией Austin Patrick на базе BAAI/bge-small-en-v1.5 модель Sentence Transformer для представления предложений и абзацев в виде плотных векторов. Архитектура основана на BERT; модель содержит около 40 млн параметров, выдаёт эмбеддинги размерности 384 и обрабатывает последовательности длиной до 512 токенов. Для сравнения векторов используется косинусное сходство. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации текста. В примерах обучающих данных пары вопросов и фрагментов документации, что подходит для поиска ответов по документам и информационного поиска. Модель англоязычная и принимает текст, возвращая векторные представления; также может применяться для извлечения признаков. В README приведены результаты оценки информационного поиска, включая точность cosine_accuracy@1 0,6682 и @5 0,9119. Карточка не содержит сведений о лицензии, поэтому условия использования по имеющимся данным определить нельзя.

Granite-Embedding-125m-English — англоязычная модель эмбеддингов команды Granite Embedding компании IBM. Она преобразует текст в векторы размерности 768 для поиска, извлечения документов и вычисления сходства между текстами. Модель рассчитана на сценарии семантического поиска и retrieval, включая корпоративные задачи; показывает результаты на бенчмарках MTEB Retrieval и CoIR. Модель содержит около 151,8 млн параметров и использует плотную encoder-only архитектуру на основе RoBERTa с 12 слоями и 12 головами внимания. Она обучалась с retrieval-ориентированным предварительным обучением, контрастивным дообучением и дистилляцией. Принимает только английский текст и обрабатывает до 512 токенов; более длинный ввод обрезается. Лицензия — Apache 2.0.

Granite-Embedding-278M-Multilingual — модель для получения векторных представлений текста из линейки Granite Embeddings, разработанная командой Granite Embedding Team компании IBM. Она предназначена для поиска, извлечения документов и сравнения смысловой близости текстов. Модель основана на энкодерной архитектуре XLM-RoBERTa, содержит около 305 млн параметров по метаданным и формирует эмбеддинги размерности 768. Контекст ограничен 514 токенами по метаданным; README указывает ограничение в 512 токенов, после которого длинные тексты обрезаются. Модель обучалась с помощью контрастивного дообучения, дистилляции знаний и слияния моделей. Она поддерживает английский, арабский, чешский, немецкий, испанский, французский, итальянский, японский, корейский, нидерландский, португальский и китайский языки. Для русского и других языков вне этого списка README допускает дополнительное дообучение, но не заявляет их как штатно поддерживаемые. Лицензия Apache 2.0.

Granite Embedding 97M Multilingual R2 — текстовая модель эмбеддингов, разработанная командой Granite Embedding в IBM. Она использует архитектуру bi-encoder на базе ModernBERT и преобразует запросы, документы, фрагменты текста и код в векторы размерностью 384 для сравнения по косинусному сходству и поиска похожего содержимого. Модель предназначена для многоязычного семантического поиска, сопоставления запросов с документами и поиска по коду. Она содержит 97,4 млн параметров, 12 слоёв и поддерживает контекст до 32 768 токенов. Улучшенное обучение данными для поиска заявлено для 52 естественных языков и кода; энкодер предварительно обучен на текстах более чем 200 языков. Доступны форматы Safetensors, ONNX и OpenVINO; лицензия — Apache 2.0. Компактный размер позволяет использовать модель при меньших требованиях к ресурсам, чем у более крупной версии Granite Embedding. Компромисс — возможное снижение точности, особенно для языков с малым объёмом ресурсов; качество токенизации также может различаться между языками, а тексты длиннее контекстного окна усекаются.

GritHopper-7B — плотная модель поиска, разработанная авторами GritHopper на основе объединения GritLM-7B и Mistral-7B-v0.1. Она предназначена для многошагового поиска доказательных фрагментов по сложным вопросам без явного разложения запроса на под-вопросы. На каждом шаге модель учитывает исходный запрос и уже найденные свидетельства, а затем выбирает следующий набор документов; поиск можно завершить автоматически или ограничить числом шагов. Модель использует декодерную архитектуру Mistral и подход к извлечению, похожий на encoder-only: каждый шаг поиска выполняется за один прямой проход. Она обучена на наборах данных для многошаговых вопросов и фактчекинга, включая MuSiQue, HotPotQA, 2WikiMultiHopQA, HoVer и EX-Fever, и рассчитана на обобщение на данные, отличающиеся от обучающих. Размер составляет 7,1 млрд параметров, контекст — до 32 768 токенов; указана поддержка английского языка. Лицензия — Apache-2.0. Модель подходит для построения систем поиска по документам и RAG-конвейеров, которым требуется собирать сведения из нескольких источников. Она оценивает сходство запроса с кандидатами-документами и поддерживает итеративный поиск, но сама по себе не заменяет генератор итогового ответа. Заявления о качестве основаны на бенчмарках авторов; фактическая эффективность зависит от корпуса, настроек поиска и сценария применения.

gte-base-en-v1.5 — англоязычная модель текстовых эмбеддингов, разработанная Institute for Intelligent Computing группы Alibaba. Она построена на энкодерной архитектуре transformer++ (BERT с RoPE и GLU) и содержит 136,7 млн параметров. Модель кодирует текст в векторы размерности 768 и поддерживает последовательности длиной до 8192 токенов. Модель предназначена для поиска и сравнения текстов, семантической близости предложений и извлечения релевантных документов, в том числе в длинном контексте. По данным карточки, серия gte-v1.5 показывает высокие результаты на англоязычном бенчмарке MTEB для своего размерного класса и конкурентоспособные результаты в тестах длинноконтекстного поиска LoCo. Модель принимает текст и выдаёт векторы; это не генеративная модель. Доступна по лицензии Apache-2.0. В карточке приведены оценки на бенчмарках; они не гарантируют аналогичного качества на конкретных данных и сценариях.

Это модель Sentence Transformers, дообученная IoannisKat1 на базе Alibaba-NLP/gte-multilingual-base для преобразования предложений и абзацев в плотные текстовые эмбеддинги. Вектор размерности 768 нормализуется; для сравнения используется косинусное сходство. Максимальная длина последовательности — 8192 токена. Модель предназначена для поиска и извлечения релевантных текстов, включая сценарии семантического поиска по документам и вопросам. В карточке приведены результаты оценки поиска при усечении эмбеддингов до 768, 512, 256, 128 и 64 измерений; качество снижается при уменьшении размерности. Обучение описано на 4 268 парах текстов с функциями потерь MatryoshkaLoss и MultipleNegativesRankingLoss. README указывает английский язык, но примеры обучающих данных содержат греческий текст, поэтому языковой охват по карточке определить однозначно нельзя. Лицензия — Apache-2.0.

gte-small — модель текстовых эмбеддингов семейства General Text Embeddings (GTE), разработанная Alibaba DAMO Academy на основе архитектуры BERT. Вариант small содержит около 40 млн параметров и принимает тексты длиной до 512 токенов; для более длинных текстов вход обрезается. Модель рассчитана на английский язык. Полученные эмбеддинги подходят для семантического поиска и сравнения предложений, а также могут использоваться в конвейерах поиска информации и ранжирования текстов. Модель можно применять, например, для поиска релевантных документов или оценки смыслового сходства запросов и фрагментов текста. Лицензия — MIT.

sentence-transformers/gtr-t5-base — модель для получения эмбеддингов предложений и абзацев, предназначенная для семантического поиска. Она преобразует текст в плотные векторы размерности 768; архитектура основана на энкодере T5-base и содержит 123,8 млн параметров. Модель создана авторами GTR, а эта версия преобразована из TensorFlow-модели gtr-base-1 в PyTorch и сохранена в FP16. Модель подходит для построения векторного поиска по документам, извлечения релевантных фрагментов по запросу и сравнения текстов по смыслу. Для обработки текста указан контекст до 512 токенов. Карточка рекомендует использовать модель через библиотеку Sentence Transformers и ссылается на публикацию Large Dual Encoders Are Generalizable Retrievers. В README отмечено, что эмбеддинги этой версии могут немного отличаться от TensorFlow-варианта, хотя результаты на тех же тестах совпадают. Лицензия Apache-2.0 разрешает использование и распространение модели на её условиях.

sentence-transformers/gtr-t5-xl — модель для семантического поиска, опубликованная сообществом Sentence Transformers и основанная на работе «Large Dual Encoders Are Generalizable Retrievers». Она кодирует предложения и абзацы в плотные векторы размерностью 768, чтобы находить тексты, близкие по смыслу к запросу. Модель использует энкодер архитектуры T5; в README указано, что веса происходят от T5-3B и хранятся в формате FP16. Версия PyTorch получена преобразованием исходной TensorFlow-модели gtr-xl-1. Максимальная длина контекста по метаданным — 512 токенов. Поддерживаемый язык — английский. Для распространения указана лицензия Apache-2.0. Модель подходит для семантического поиска и сопоставления предложений через векторные представления. README предупреждает, что эмбеддинги могут немного отличаться от TensorFlow-версии, хотя результаты на упомянутых бенчмарках совпадают; подробные ограничения применения не описаны.

Voctree разработала эту модель Sentence Transformers дообучением microsoft/harrier-oss-v1-0.6b. Она преобразует предложения и абзацы в плотные текстовые эмбеддинги размерностью 1024 для семантического поиска и извлечения релевантных текстов. Близость векторов оценивается косинусным сходством. Модель построена на архитектуре Qwen3: трансформер формирует токенные представления, затем применяется pooling по последнему токену и нормализация. Она принимает только текст и поддерживает последовательности длиной до 32 768 токенов. В обучающем наборе из 18 851 пары есть примеры на английском и корейском; базовая модель заявлена как мультиязычная, но полный перечень поддерживаемых языков не приведён. Веса доступны в формате safetensors; лицензия в предоставленных данных не указана.

INF-Retriever-v1-1.5B — компактная плотная модель для поиска по текстам, разработанная INF TECH на основе Alibaba-NLP/gte-Qwen2-1.5B-instruct и дообученная для задач извлечения информации. Она кодирует запросы и документы в эмбеддинги размерностью 1536, чтобы находить семантически близкие материалы в системах поиска и retrieval-augmented generation (RAG). Модель содержит 1,5 млрд параметров; архитектура основана на Qwen2. README указывает максимальный входной размер 32 768 токенов, тогда как метаданные каталога приводят нативный контекст 131 072 токена. Модель прежде всего настроена на поиск на английском и китайском языках и предназначена для разнородных коллекций и тематических областей. В README сообщается о результатах на AIR-Bench, включая высокий рейтинг среди моделей менее 7 млрд параметров; заявленные результаты отражают конкретный бенчмарк и не гарантируют качество на любой коллекции. Также указана работоспособность на других языках, но дообучение проводилось на английских и китайских данных, поэтому качество для остальных языков может отличаться. Лицензия — Apache-2.0.

ThanhRise/intfloat-multilingual-e5-base-SimCSE-fine-turned-QA — модель эмбеддингов предложений на архитектуре XLM-RoBERTa, представленная в формате PyTorch и созданная на основе multilingual-e5-base. Она преобразует предложения и абзацы в плотные векторы размерности 768 для поиска по смыслу, кластеризации и сравнения текстов. Модель обучена с функцией MultipleNegativesRankingLoss и косинусным сходством. В README она описана как дообученная для задач вопросно-ответного поиска; метаданные указывают задачу sentence-similarity. Она рассчитана на многоязычные тексты, а контекст ограничен 514 токенами. Лицензия в предоставленных данных не приведена.

jinaai/jina-embeddings-v5-text-nano-retrieval-mlx — порт модели эмбеддингов jina-embeddings-v5-text-nano-retrieval для библиотеки MLX, предназначенный для эффективного инференса на компьютерах Apple Silicon. Модель построена на архитектуре EuroBERT с плотным представлением и содержит 211,7 млн параметров по метаданным Hugging Face. Она принимает текст и преобразует его в векторные представления для поиска по смыслу и задач retrieval; максимальная длина последовательности составляет 8192 токена. Модель поддерживает многоязычный текст и может применяться для семантического поиска и извлечения релевантных документов. Репозиторий распространяется под лицензией CC BY-NC 4.0, которая ограничивает коммерческое использование. README указывает 239 млн параметров, тогда как метаданные содержат 211,7 млн; для размера в этом описании использовано значение метаданных.

jina-reranker-v1-tiny-en-GGUF — англоязычная модель для переранжирования результатов поиска, разработанная Jina AI. Это GGUF-квантизация исходной модели jina-reranker-v1-tiny-en, подготовленная на основе версии llama.cpp с идентификатором f4d2b. Модель предназначена для оценки релевантности документов относительно поискового запроса и сортировки найденных результатов, в том числе в системах семантического поиска и retrieval-augmented generation. В основе модели лежит JinaBERT — вариант архитектуры BERT с симметричным двунаправленным механизмом ALiBi, поддерживающим обработку последовательностей длиной до 8192 токенов. Модель имеет 4 слоя, скрытый размер 384 и около 33 миллионов параметров. Она работает с текстом на английском языке и относится к архитектуре cross-encoder, то есть совместно анализирует запрос и каждый документ. Для повышения скорости используется knowledge distillation: компактная модель-ученик перенимает знания более крупной jina-reranker-v1-base-en. Ключевые преимущества модели — высокая скорость вывода, небольшой размер и возможность обрабатывать длинные тексты при сохранении конкурентной точности. Ограничением является специализация на английском языке и компромисс между скоростью и точностью: по сравнению с более крупными моделями она ориентирована на сценарии, где максимальная точность менее важна. В README указана лицензия Apache-2.0.

corto-ai/jina-reranker-v1-turbo-en-onnx — ONNX-версия модели jina-reranker-v1-turbo-en, разработанной Jina AI. Это англоязычный cross-encoder для переранжирования результатов поиска: модель оценивает релевантность пары «запрос—документ» и помогает упорядочить найденные документы в поисковых системах, системах вопросно-ответного поиска и других приложениях neural search. Модель предназначена для локального использования в ONNX-совместимой инфраструктуре и интеграции, в частности, с Transformers.js или библиотеками на базе Transformers и sentence-transformers. В основе лежит JinaBERT — вариант архитектуры BERT с двунаправленным симметричным ALiBi, поддерживающий контекст до 8192 токенов. Модель содержит 6 слоёв, скрытый размер 384 и около 37,8 млн параметров. Она создана с применением knowledge distillation из более крупной модели, что обеспечивает высокую скорость инференса при сохранении значительной части качества исходной модели. Основное ограничение — специализация на английском языке и задаче ранжирования; модель не предназначена для генерации текста и не заявлена как мультимодальная. В карточке указана лицензия Apache-2.0.

Это мультиязычный кросс-энкодер для ранжирования текстовых пар, созданный на базе jinaai/jina-reranker-v2-base-multilingual и дообученный с помощью Sentence Transformers. Модель принимает запрос и текст документа и выдаёт оценку их релевантности, которую можно использовать для переранжирования результатов поиска и семантического поиска. Архитектура — XLM-RoBERTa для классификации последовательностей; в репозитории представлены веса safetensors. Модель содержит 305,2 млн параметров и обрабатывает до 1026 токенов контекста. При оценке на наборе данных Berria указаны значения MAP 0,6179, MRR@10 0,7386 и nDCG@10 0,7582. В примере обучающих данных есть баскские запросы и документы, но карточка не задаёт полный перечень поддерживаемых языков. Лицензия в предоставленных данных не указана.

jinaai/jina-reranker-v3.5 — многоязычная модель-реранкер от Jina AI для повторной сортировки списка документов по релевантности запросу. Она дообучена на Qwen/Qwen3-0.6B и содержит около 508 млн параметров. Архитектура Qwen3 дополнена проектором MLP; модель оценивает кандидатов совместно в одном проходе, используя listwise-подход и косинусное сравнение. Контекст — до 131 072 токенов. Модель предназначена для второго этапа поиска: она уточняет порядок документов, уже найденных поисковой системой, и рассчитана на многоязычный поиск, устойчивую работу в разных предметных областях и ранжирование структурированных данных. По результатам сравнений в карточке она превосходит предыдущую jina-reranker-v3 на ряде наборов тестов, включая BEIR и Struct-IR; скорость инференса также улучшена для списков разной длины. Для локального запуска карточка рекомендует Transformers; также доступен API Jina AI. Лицензия CC BY-NC 4.0 ограничивает коммерческое использование без отдельного разрешения. Модель выдаёт оценки и порядок релевантности, а не готовые ответы на запросы.

KaLM-Reranker-V1-Large — мультиязычный реранкер KaLM-Embedding на базе encoder-decoder архитектуры T5Gemma2, дообученной на Google T5Gemma 2 4B. Модель оценивает релевантность документов запросу и упорядочивает их по соответствию запросу; она предназначена для поиска, retrieval-augmented generation (RAG) и других систем, где нужно выбрать наиболее полезные фрагменты из корпуса. Модель использует 4 млрд активируемых параметров, 34 слоя и поддерживает последовательности длиной до 128 тыс. токенов. В архитектуре разделены вычисления для запросов и документов: энкодер предварительно кодирует документы с Matryoshka pooling, а декодер учитывает инструкции и намерение запроса; cross-attention сохраняет взаимодействие между запросом и представлениями документов. По описанию авторов, модель показывает конкурентные результаты на BEIR, MIRACL и LMEB, при этом заявленная эффективность связана с уменьшением вычислений при ранжировании. Модель принимает текстовые запросы и документы и выдаёт оценки релевантности для их ранжирования. Метаданные отмечают мультиязычность; README сообщает о результатах на мультиязычном MIRACL, хотя модель не обучалась на большом объёме мультиязычных данных. В README приведены параметры реализации, допускающие ограничение длины запроса и документа при инференсе. Лицензия — Apache-2.0.

KaLM-Reranker-V1-Nano-R2 — компактная модель ранжирования документов из семейства KaLM-Reranker, разработанная авторами KaLM-Embedding. Это дообученная версия encoder-decoder модели Google T5Gemma2; вариант Nano имеет 0,27 млрд активируемых параметров и поддерживает контекст до 128 тыс. токенов. Модель оценивает релевантность документа запросу и предназначена для повторной сортировки результатов поиска, в том числе в многоязычных системах и RAG-конвейерах. Модель использует архитектуру fast-but-not-late-interaction и поддерживает Matryoshka pooling с коэффициентом сжатия от 1x до 128x. Это позволяет выбирать компромисс между расходом вычислений и качеством ранжирования, а также сначала отбирать кандидатов по сжатым представлениям и затем уточнять порядок наиболее перспективных документов. В README приведены результаты на наборах BEIR и MIRACL, включая многоязычные сценарии. Модель принимает текст запроса и документа и выдаёт оценку релевантности, поэтому подходит для ранжирования кандидатов поиска, улучшения выдачи RAG и многоязычного поиска по документам. Лицензия — Apache-2.0. Качество зависит от языка, предметной области и выбранного коэффициента сжатия; при большем сжатии метрики в приведённых тестах снижаются.

KURE-v2 — двуязычная корейско-английская модель поиска документов, разработанная nlpai-lab на основе skt/A.X-Encoder-base. Она предназначена для извлечения релевантных документов по запросу и повторного ранжирования кандидатов в поисковых системах и RAG-сценариях. Модель использует архитектуру ModernBERT и позднее взаимодействие: представляет каждый токен 128-мерным вектором, а релевантность пары «запрос — документ» оценивает через MaxSim. Размер по метаданным — 148,7 млн параметров; контекст — до 16 384 токенов. В карточке сообщается, что модель обучалась в два этапа и показала средний nDCG@10 0,8160 на девяти корейских задачах MTEB Retrieval. Для запросов и документов не нужны инструкции-префиксы. Модель подходит для корейского и английского поиска, включая длинные документы. Позднее взаимодействие хранит несколько векторов на документ, поэтому размер индекса и стоимость поиска зависят от выбранного способа индексации и сжатия; для больших коллекций README рекомендует индекс, формирующий кандидатов, например PLAID или BinaryIVF. Лицензия — Apache-2.0.

Карточка модели ronaldmannak/LFM2.5-ColBERT-350M-8bit на Hugging Face совпадает с карточкой mlx-community/LFM2.5-ColBERT-350M-8bit, поэтому описание составлено по ней. LFM2.5-ColBERT-350M-8bit — 8-битная MLX-квантизация многоязычной модели ColBERT от Liquid AI, опубликованная сообществом mlx-community. Модель предназначена для семантического поиска и ранжирования: она кодирует каждый токен вектором размерности 128, а релевантность запроса и документа оценивается методом позднего взаимодействия MaxSim. Число параметров — 443,4 млн, размер контекста — до 128 000 токенов. Репозиторий содержит веса в формате MLX safetensors, квантизированные до 8 бит; README указывает на снижение размера с 707 до 376 МБ относительно bf16 и близкое сохранение качества на приведённых наборах поиска. Модель подходит для локального поиска по текстовым коллекциям на устройствах Apple Silicon. Базовая модель — LiquidAI/LFM2.5-ColBERT-350M; лицензия указана как other, поэтому перед использованием следует проверить условия исходной карточки. Результаты оценки приведены для небольших или сокращённых корпусов и не сопоставимы напрямую с лидербордами полного MIRACL.

LFM2.5-ColBERT-350M-bf16 — конвертированная сборка модели Liquid AI для локального инференса на компьютерах Apple Silicon с использованием MLX. Это двунаправленный энкодер LFM2 с поздним взаимодействием ColBERT: он выдаёт 128-мерный вектор для каждого токена, а релевантность пары запроса и документа оценивается методом MaxSim. В репозитории указано 443,4 млн параметров и контекст до 128 000 токенов. Модель предназначена для семантического поиска и извлечения документов по запросу на нескольких языках. В карточке приведены оценки поиска на английских наборах NanoBEIR и многоязычных поднаборах MIRACL для испанского, немецкого, японского и арабского языков. Весовые параметры сохранены в исходной точности bf16; это преобразование формата PyTorch/safetensors в MLX, а не квантизация. Для работы архитектуры включена отдельная реализация MLX, поскольку стандартные mlx-lm и mlx-embeddings её не поддерживают из коробки. Репозиторий создан сообществом mlx-community, а веса, архитектура и поведение модели принадлежат Liquid AI. README сообщает о близком совпадении токеновых векторов с оригинальной версией при проверке, но результаты поиска приведены на ограниченных пулах и не сопоставимы напрямую с полными корпусами MIRACL. Лицензия в метаданных обозначена как other; конкретные условия следует сверить с карточкой базовой модели.

Карточка модели ronaldmannak/LFM2.5-ColBERT-350M-bf16 на Hugging Face совпадает с карточкой mlx-community/LFM2.5-ColBERT-350M-bf16, поэтому описание составлено по ней. LFM2.5-ColBERT-350M-bf16 — конвертированная сборка модели Liquid AI для локального инференса на компьютерах Apple Silicon с использованием MLX. Это двунаправленный энкодер LFM2 с поздним взаимодействием ColBERT: он выдаёт 128-мерный вектор для каждого токена, а релевантность пары запроса и документа оценивается методом MaxSim. В репозитории указано 443,4 млн параметров и контекст до 128 000 токенов. Модель предназначена для семантического поиска и извлечения документов по запросу на нескольких языках. В карточке приведены оценки поиска на английских наборах NanoBEIR и многоязычных поднаборах MIRACL для испанского, немецкого, японского и арабского языков. Весовые параметры сохранены в исходной точности bf16; это преобразование формата PyTorch/safetensors в MLX, а не квантизация. Для работы архитектуры включена отдельная реализация MLX, поскольку стандартные mlx-lm и mlx-embeddings её не поддерживают из коробки. Репозиторий создан сообществом mlx-community, а веса, архитектура и поведение модели принадлежат Liquid AI. README сообщает о близком совпадении токеновых векторов с оригинальной версией при проверке, но результаты поиска приведены на ограниченных пулах и не сопоставимы напрямую с полными корпусами MIRACL. Лицензия в метаданных обозначена как other; конкретные условия следует сверить с карточкой базовой модели.

LiquidAI/LFM2.5-ColBERT-350M-GGUF — мультиязычная модель извлечения и переранжирования документов, разработанная Liquid AI. Это модель позднего взаимодействия (late interaction retriever) на базе эффективной архитектуры LFM2 с заявленным размером 350 млн параметров. Модель формирует отдельный вектор для каждого токена и сопоставляет запрос с документом с помощью метода MaxSim, что позволяет учитывать локальные совпадения между их фрагментами. Модель предназначена для семантического поиска, переранжирования результатов и интеграции в RAG-конвейеры, включая сценарии, где запросы и документы написаны на разных языках. В карточке заявлена высокая точность для 11 языков: английского, испанского, немецкого, французского, итальянского, португальского, арабского, шведского, норвежского, японского и корейского. Скорость вывода сопоставима с гораздо меньшими моделями, что делает её подходящей для развёртывания на периферийных устройствах и использования через llama.cpp в формате GGUF. Сильными сторонами являются мультиязычная работа, высокая заявленная точность, относительно эффективный inference и возможность заменить существующий retriever в RAG-системе. Ограничения связаны с архитектурой позднего взаимодействия: для документов необходимо хранить последовательность токеновых векторов и вычислять MaxSim, поэтому модель требует иной организации индексов, чем обычные модели с одним вектором на документ. Максимальная длина контекста и другие детальные характеристики в карточке не указаны. Лицензия обозначена как lfm1.0; подробные условия приведены в файле LICENSE.

Sahil Chachra подготовил 8-битную квантованную версию mxfp8 модели LiquidAI/LFM2.5-ColBERT-350M для запуска на компьютерах Apple Silicon через MLX. Это двунаправленный энкодер семейства LFM2.5 с поздним взаимодействием ColBERT: он строит 128-мерные векторы для каждого токена, а релевантность оценивается методом MaxSim. Модель предназначена для многоязычного семантического поиска и ранжирования документов; при кодировании запросов и документов нужны маркеры `[Q] ` и `[D] ` соответственно. В README приведён тест на подмножестве английского NanoBEIR: среднее сохранение NDCG@10 относительно fp16 указано как 99,2%. Веса занимают 365 МБ; пропускная способность кодирования в приведённом тесте на устройстве M-series составляет 12 254 токена в секунду. Метаданные указывают 443,4 млн параметров и контекст до 128 000 токенов. Лицензия обозначена как `other`; условия её использования следует сверить с карточкой модели и базовой моделью.

Это 8-битная MLX-версия мультиязычной плотной двунаправленной модели эмбеддингов LiquidAI/LFM2.5-Embedding-350M, подготовленная сообществом mlx-community для локального запуска на компьютерах Apple Silicon. Модель кодирует запросы и документы в векторы размерности 1024; косинусное сходство между ними используют для семантического поиска и оценки близости предложений. Репозиторий содержит преобразованные для MLX веса, квантизованные до 8 бит с аффинным режимом и размером группы 64. В README сообщается, что на описанных тестовых наборах качество поиска практически совпало с вариантом bf16, а размер весов снизился с 709 до 377 МБ. Метаданные указывают контекст до 128 000 токенов и поддержку английского, испанского, немецкого, французского, итальянского, португальского, арабского, шведского, норвежского, японского и корейского языков. Модель предназначена для векторизации текстов и локального поиска на Apple Silicon с MLX. Лицензия указана как other; README отсылает к исходной карточке за сведениями об обучении и предполагаемом использовании, поэтому условия следует сверить с ней. Результаты оценки в README получены на ограниченных пулах документов и не сопоставимы напрямую с результатами на полных корпусах.

LFM2.5-Embedding-350M-GGUF — GGUF-версия модели LiquidAI/LFM2.5-Embedding-350M, разработанная компанией Liquid AI. Это плотный bi-encoder для быстрого многоязычного семантического поиска и извлечения документов, предназначенный для RAG-конвейеров, sentence similarity и feature extraction. Модель преобразует запросы и документы в отдельные векторы, которые можно сопоставлять, например, по косинусному сходству; для корректной асимметричной обработки используются префиксы «query: » и «document: ». Модель интегрируется с llama.cpp и запускается в режиме embeddings. Модель ориентирована на 11 языков: английский, испанский, немецкий, французский, итальянский, португальский, арабский, шведский, норвежский, японский и корейский. Указан размер 350M параметров; архитектурной основой служит эффективный LFM2 backbone. Заявлены высокая многоязычная точность для плотной embedding-модели такого размера и скорость инференса, сопоставимая с существенно меньшими моделями, что делает её подходящей для компактных и быстрых поисковых индексов. Данные о длине контекста и поддерживаемых модальностях, кроме текстовой, не приведены. Модель распространяется по лицензии LFM1.0; подробные условия находятся в файле LICENSE. README не содержит количественных результатов бенчмарков, точных ограничений по длине входа или иных детальных ограничений, поэтому эти характеристики нельзя определить по представленным данным.

Это 4-битная квантизированная версия mxfp4 модели LFM2.5-Embedding-350M, подготовленная Sahil Chachra для запуска на Apple Silicon через MLX. Модель представляет собой плотный двунаправленный биэнкодер семейства LFM2.5 с вектором CLS размерности 1024; она кодирует запросы и документы для мультиязычного поиска. Для входов требуются префиксы «query: » и «document: », а сходство векторов можно оценивать косинусной мерой. Модель подходит для семантического и межъязыкового поиска по документам и для построения retrieval-компонента систем RAG. README сообщает о размере весов 188 МБ и скорости кодирования 13 936 токенов/с на устройстве серии M; приведённый бенчмарк охватывает только ограниченную англоязычную выборку NanoBEIR. Метаданные указывают 444,6 млн параметров и контекст 128 000 токенов. Лицензия обозначена как other, поэтому условия использования следует сверить с карточкой базовой модели и репозитория.

LFM2-ColBERT-350M — многоязычный поисковый ретривер с поздним взаимодействием ColBERT от Liquid AI. Модель использует плотную архитектуру LFM2 с 17 слоями: 10 свёрточными, 6 attention-слоями и одним плотным слоем. В карточке указано 353,3 млн параметров, а в метаданных — 443,4 млн; это расхождение не позволяет однозначно определить размер. Репозиторий содержит веса в формате safetensors и рассчитан на использование с PyLate. Модель кодирует запросы и документы в многовекторные представления размерности 128 и сопоставляет их функцией MaxSim. Она предназначена для многоязычного и межъязыкового поиска, извлечения документов и ранжирования результатов, в том числе в RAG-системах. README рекомендует длину документа до 512 токенов и запроса до 32 токенов; модель особенно подходит для поиска, когда запрос и документ написаны на разных языках. Заявлены английский, арабский, китайский, французский, немецкий, японский, корейский и испанский языки. Применения включают поиск товаров, локальный семантический поиск и корпоративных помощников по внутренним документам. README сообщает о результатах на NanoBEIR, но таблицы метрик в предоставленном тексте отсутствуют. Лицензия в метаданных обозначена как other, без уточнения условий.