/ Модель

Характеристики

Контекст
32 768 токенов
Параметры
508 млн
Лицензия
MIT
Архитектура
bidirectional_pplx_qwen3 · dense
Библиотека
onnx
Опубликована
22 июн 2026

pplx-embed-v1-0.6b-onnx-int8-server

ЭмбеддингиТекст → embedding9 профессий

Квантизированная ONNX-модель Deposium для получения текстовых эмбеддингов и их использования в серверных приложениях.

14скачиваний за 30 дней0лайковвеса обновлены22 июн 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

PPLX Embed v1 0.6B ONNX INT8 — артефакт серверного инференса эмбеддингов, используемый Deposium в deposium-turbov3. Модель с двунаправленной архитектурой PPLXQwen3Model содержит около 507,9 млн параметров и распространяется в формате ONNX с INT8-квантизированными весами.

Модель принимает текст и выдаёт векторное представление размерностью 1024; серверный сценарий использует первые 256 измерений благодаря усечению Matryoshka. Она рассчитана на контекст до 32 768 токенов и подходит для получения текстовых эмбеддингов в серверных приложениях, например для поиска и сопоставления текстов. Лицензия — MIT.

Репозиторий содержит ONNX-модель с внешним файлом данных и файлы конфигурации и токенизатора. Это серверный артефакт, поэтому он отличается от однофайловой браузерной версии для Transformers.js; совместимость с другими рантаймами и качество на конкретных задачах в карточке не описаны.

Сценарии применения

  • создание эмбеддингов для семантического поиска
  • сопоставление запросов с документами по смыслу
  • поиск похожих текстов
  • подготовка векторов для RAG-системы

Ограничения

Репозиторий содержит серверный ONNX-артефакт с внешним файлом данных, а не однофайловую браузерную версию для Transformers.js. Данные о поддерживаемых языках и качестве на целевых задачах в карточке не приведены.

Для каких профессий подходит9

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

PPLX Embed v1 0.6B ONNX INT8 server artifact

This repository contains the exact server-side artifact used by Deposium deposium-turbov3 for pplx-embed-v1 embedding inference.

It is not the browser/Transformers.js single-file export. It uses ONNX external data:

  • model_quantized.onnx
  • model_quantized.onnx_data
  • config.json
  • tokenizer.json
  • tokenizer_config.json
  • special_tokens_map.json

Runtime contract observed in turbov3:

  • registered model name: pplx-embed-v1
  • architecture: PPLXQwen3Model
  • model type: bidirectional_pplx_qwen3
  • output used by server: pooler_output
  • native output dimension: 1024
  • production consumer dimension: 256 via Matryoshka truncation
  • max context: 32768 tokens

Checksums from the source container:

4f8df41878c7a8cb483516eac180aa61843196e3dd7ec36cc0e83c79abc2047f  model_quantized.onnx
4d7f80998954f14d9555e6655204d928c35f5477499f95acef3002e7eec62b91  model_quantized.onnx_data
f7865547ecc1c077c5b1f83913fb9816a6586c676ccf3e0f7f00105a1b0c1c6c  config.json
c6fb5c5bbba5fa5f8332edfb6d8aa67bd7fb3d75365b1765f108201698eaebf5  tokenizer.json

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · onnx

Нельзя запустить

В репозитории нет весов в формате PyTorch/safetensors.

Класс архитектуры
PPLXQwen3Model
Ревизия весов
d37df30

0 моделей