/ Модель

Характеристики

Лицензия
Apache 2.0
Библиотека
gguf
Опубликована
11 июл 2026

thomas-zhu-lean-premise-gguf

Сходство предложенийТекст → score

GGUF-конверсия модели эмбеддингов предложений на базе DistilRoBERTa для поиска и выбора посылок в Lean.

16скачиваний за 30 дней0лайковвеса обновлены11 июл 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель Thomas Zhu Lean Premise GGUF — преобразованная в формат GGUF F16 модель эмбеддингов предложений для выбора посылок в Lean. Она основана на дообученной all-distilroberta-v1 от l3lab, использует архитектуру RobertaModel и предназначена для сервера lean-premise-server и поиска релевантных посылок по запросу. Для работы с описанным сценарием README приводит режим non-joint с mean pooling и контекстом 512 токенов; авторегрессионная генерация чата в этом режиме намеренно отключена. Репозиторий распространяется по лицензии Apache-2.0.

Сценарии применения

  • поиск релевантных посылок для доказательства в Lean
  • ранжирование утверждений по сходству с запросом
  • извлечение посылок из корпуса формальных доказательств

Ограничения

Модель предназначена для эмбеддингов и выбора посылок, а не для генерации текста; авторегрессионный чат в указанном режиме сервера отключён. README описывает применение с контекстом 512 токенов.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Thomas Zhu Lean Premise GGUF

GGUF conversion of the Lean premise embedding model used by hanwenzhu/lean-premise-server.

  • Source model: l3lab/all-distilroberta-v1-lr2e-4-bs256-nneg3-ml-ne2
  • Source revision: v4.30.0
  • Architecture: RobertaModel
  • Converted file: thomas-zhu-lean-premise.f16.gguf

Example with joint-server in non-joint premise mode:

server/build/joint-server.exe --host 127.0.0.1 --port 8081 --model D:/hparam_outputs/thomas-zhu-lean-premise.f16.gguf --no-joint --pooling mean --ctx-size 512

Use /version, /cache, and /select for premise retrieval. Autoregressive chat generation is intentionally rejected in --no-joint mode.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · gguf

Нельзя запустить

GGUF-веса поддерживаются только для текстовых LLM (llama.cpp).

Ревизия весов
64ad9d5

0 моделей