Характеристики

Контекст: 128 000 токенов
Параметры: 445 млн
Лицензия: Своя лицензия
Архитектура: lfm2 · dense
Базовая модель: LFM2.5-Embedding-350M
Библиотека: mlx
Опубликована: 22 июн 2026

Ссылки

LFM2.5-Embedding-350M-bf16

Сходство предложенийТекст → score9 профессий

Производная модели mlx-community/LFM2.5-Embedding-350M-bf16. Мультиязычный энкодер Liquid AI для получения векторных представлений запросов и документов и семантического поиска на Apple Silicon.

22скачиваний за 30 дней0лайковвеса обновлены22 июн 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Карточка модели ronaldmannak/LFM2.5-Embedding-350M-bf16 на Hugging Face совпадает с карточкой mlx-community/LFM2.5-Embedding-350M-bf16, поэтому описание составлено по ней.

LFM2.5-Embedding-350M-bf16 — мультиязычная модель-энкодер Liquid AI, преобразующая запросы и документы в векторы для семантического поиска и сравнения сходства. Репозиторий mlx-community содержит сборку для локального запуска на устройствах Apple Silicon с библиотекой MLX; архитектура — двунаправленный плотный энкодер LFM2.5 с 1024-мерным CLS-представлением. Число параметров — 444,6 млн, исходная точность bf16 сохранена, контекст — до 128 000 токенов.

Модель подходит для поиска документов по смыслу, многоязычного и кросс-языкового поиска, а также ранжирования по косинусному сходству векторных представлений. В README приведены оценки retrieval на небольших наборах NanoBEIR и сокращённых пулах MIRACL для нескольких языков; авторы предупреждают, что абсолютные результаты MIRACL нельзя напрямую сравнивать с лидербордом. Это конверсия исходной модели LiquidAI/LFM2.5-Embedding-350M: веса и поведение сохранены, изменён формат для MLX. Лицензия указана как other; конкретные условия следует сверить с карточкой исходной модели.

Сценарии применения

семантический поиск по коллекции документов
многоязычный поиск по запросам и документам
кросс-язычный поиск между поддерживаемыми языками
сравнение сходства предложений и текстовых фрагментов
подготовка эмбеддингов для retrieval-системы

Ограничения

Сборка предназначена для локального запуска через MLX на Apple Silicon, а архитектура требует включённой в репозиторий реализации, поскольку не поддерживается стандартными компонентами mlx-lm и mlx-embeddings. Опубликованные абсолютные оценки MIRACL получены на сокращённых пулах и не сопоставимы напрямую с результатами лидерборда.

Для каких профессий подходит9

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.1Универсальные способностиПоиск и навигация по информацииAI помогает находить нужные сведения и помогать человеку быстро переходить от вопроса к подтверждённому источнику.18 задач13 467моделей I.11Универсальные способностиКлассификация, ранжирование и сопоставлениеAI помогает распределять объекты по категориям, устанавливать соответствия и определять порядок обработки.15 задач26 736моделей II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей I.12Универсальные способностиРекомендации и персонализацияAI помогает подбирать релевантные варианты и адаптировать опыт под конкретного человека или ситуацию.15 задач7 627моделей

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

LFM2.5-Embedding-350M — MLX (bf16)

MLX build of LiquidAI/LFM2.5-Embedding-350M, a multilingual dense bi-encoder (1024-dim CLS embedding, cosine similarity), for local inference on Apple Silicon with MLX.

All weights, architecture, and behavior are LiquidAI's. This repository changes the file format (PyTorch/safetensors → MLX) and kept at the original bf16 precision — it is not quantized. Quantized variants (8-bit / 4-bit) are available as sibling repos; see the table below. See the original model card for training details and intended use.

Conversion details

Converted with mlx; weights unchanged apart from tensor layout (bf16 → MLX bf16).
The architecture is Lfm2BidirectionalModel (a bidirectional LFM2 encoder), which mlx-lm / mlx-embeddings do not support out of the box, so a small self-contained MLX implementation is included as lfm2_bidirectional.py.
Verified against the original (PyTorch, float32, identical token ids): worst-case cosine of the CLS embedding ≈ 1.0 across short prompts and a 130-token passage.

Evaluation

Retrieval quality of this checkpoint (and its sibling precisions), measured as NDCG@10 / Recall@10 on judged pools. Retention = metric ÷ bf16 metric, averaged per-dataset.

Setup. English = the four NanoBEIR sets (full small corpora, ~2–5k passages, 50 queries each). Multilingual = MIRACL dev (the real queries and relevance judgments) for Spanish, German, Japanese, Arabic, each scored over a reduced pool of ~6k passages (judged positives + hard-mined negatives + sampled distractors, from mteb/MIRACLRetrievalHardNegatives), 100 queries each. Reduced pools make absolute scores easier than full-corpus MIRACL and not leaderboard-comparable — but every precision searches the identical pool, so the retention numbers (the point of this table) are sound. ColBERT uses brute-force MaxSim with no query augmentation, so its absolute scores sit a touch below a full PLAID setup.

Summary (mean over 8 datasets)

precision	NDCG@10	NDCG retention	Recall@10	Recall retention	size
bf16 ◄	0.728	100.0%	0.775	100.0%	709 MB
8-bit	0.729	100.1%	0.775	100.0%	377 MB
4-bit	0.730	100.0%	0.766	98.6%	200 MB
mxfp4	0.725	99.8%	0.764	98.4%	—

NDCG@10 by dataset

dataset	bf16 ◄	8-bit	4-bit	mxfp4
NanoNQ · en	0.704	0.704	0.703	0.703
NanoFiQA2018 · en	0.504	0.511	0.502	0.498
NanoSciFact · en	0.716	0.717	0.714	0.712
NanoNFCorpus · en	0.342	0.340	0.335	0.345
MIRACL · es	0.891	0.892	0.895	0.893
MIRACL · de	0.809	0.810	0.819	0.812
MIRACL · ja	0.929	0.928	0.940	0.922
MIRACL · ar	0.926	0.926	0.928	0.916

License & attribution

Redistributed under the LFM Open License v1.0 (LICENSE) — the same license as the original model. Per Section 4, this notice records that the files were modified (format conversion to MLX). The original work is by Liquid AI; this repository is an independent conversion, not affiliated with or endorsed by Liquid AI. The license includes a commercial-use threshold (Section 5) — review it for your use case.

Base model: LiquidAI/LFM2.5-Embedding-350M

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · mlx

Нельзя запустить

MLX-модели работают только на Apple Silicon.

Класс архитектуры: Lfm2BidirectionalModel
Ревизия весов: f165d3d