/ Модель

Характеристики

Контекст
131 072 токена
Параметры
1,5 млрд
Размер весов
3,6 ГБ
Лицензия
Apache 2.0
Архитектура
qwen2 · dense
Базовая модель
gte-Qwen2-1.5B-instruct
Библиотека
mlx
Опубликована
28 июл 2026

gte-Qwen2-1.5B-instruct-MLX-BF16

Генерация текстаТекст → текст9 профессий

Эмбеддинговая модель на базе GTE-Qwen2 в формате MLX BF16 для семантического поиска на Apple Silicon.

26скачиваний за 30 дней0лайковвеса обновлены28 июл 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

TiGa-RCE/gte-Qwen2-1.5B-instruct-MLX-BF16 — модель эмбеддингов на базе Alibaba-NLP/gte-Qwen2-1.5B-instruct, преобразованная в формат MLX с точностью BF16. Она предназначена для получения векторных представлений текстов и семантического поиска на устройствах Apple Silicon с MLX или oMLX. Модель содержит 1,5 млрд параметров, построена на архитектуре Qwen2 и поддерживает контекст до 131072 токенов. Лицензия — Apache-2.0.

В локальном тесте извлечения информации модель получила 24 успешных ответа из 24 пар запросов и документов, с MRR 1,0. Это ограниченная инженерная проверка на фиксированном наборе, а не оценка общего качества. Контрольный чекпойнт предназначен для MLX/oMLX на Apple Silicon; результаты для CUDA и PyTorch к нему не относятся.

Сценарии применения

  • семантический поиск по документам
  • получение эмбеддингов запросов и документов
  • поиск релевантных фрагментов для RAG
  • сравнение текстов по смыслу
  • поиск ближайших текстов по векторному сходству

Ограничения

Проверка качества ограничена 24 парами запросов и документов и не является общей оценкой вроде MTEB. Чекпойнт рассчитан на MLX/oMLX на Apple Silicon; показатели производительности CUDA и PyTorch для него не приведены.

Для каких профессий подходит9

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

gte-Qwen2-1.5B-instruct — MLX bf16

BF16 reference checkpoint for this matched local sweep.

This is the BF16 MLX conversion checkpoint from a matched local embedding-quantization experiment. It is published with explicit lineage, calibration evidence where applicable, and the bounded evaluation result that accompanied the conversion.

Provenance and lineage

  • Upstream model: Alibaba-NLP/gte-Qwen2-1.5B-instruct
  • Upstream revision recorded for publication: a9af15a6372d7d6b25e9fb07c2ccb9e1fe645644
  • Revision evidence: upstream revision verified at publication time; historical local snapshot metadata was not retained
  • Direct parent: Alibaba-NLP/gte-Qwen2-1.5B-instruct
  • Conversion rule: every quantized checkpoint branches directly from the family MLX BF16 checkpoint; no lossy checkpoint was used to create another.
  • Quantization: BF16 MLX conversion
  • Local conversion stack: oMLX 0.5.3, mlx-lm 0.31.3, MLX 0.32.0
  • Full collection: MLX Embedding Quantization Matrix

PROVENANCE.json contains machine-readable lineage and SHA-256 hashes for the published weight files. No importance matrix was used for this checkpoint.

Bounded local evaluation

RoleRetrieval smoke
BF16 reference24/24 top-1, MRR 1.0

The evaluation used 24 frozen query/document pairs, the upstream query instruction recipe, last-token pooling, L2 normalization, and direct comparison with vectors from the family BF16 checkpoint. This is an engineering smoke test, not MTEB and not a claim of universal quality. Retrieval success and representation fidelity are reported separately.

Runtime scope

This checkpoint targets Apple Silicon through MLX/oMLX. CUDA and PyTorch results are a separate control lane and must not be interpreted as measurements of MLX/Metal kernel performance.

License and attribution

Apache-2.0, following the upstream model card. The original model authors retain attribution for the upstream model; this repository contains a local MLX conversion or quantized derivative prepared by TiGa-RCE for reproducibility research.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · mlx

Нельзя запустить

MLX-модели работают только на Apple Silicon.

Класс архитектуры
Qwen2ForCausalLM
Ревизия весов
1ca6472

0 моделей