/ Модель

Характеристики

Контекст
131 072 токена
Параметры
7,5 млрд
Размер весов
9,1 ГБ
Лицензия
Llama 3.1
Архитектура
llama · dense
Базовая модель
Llama-3.1-8B-Instruct
Библиотека
transformers
Опубликована
26 фев 2026

Llama-3.1-8B-Instruct-pearl

Генерация текстаТекст → текст3 профессии

pearl-ai/Llama-3.1-8B-Instruct-pearl — сертифицированный Pearl вариант модели Llama-3.1-8B-Instruct, разработанной Meta.

6 719скачиваний за 30 дней6лайковвеса обновлены27 апр 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Вариант предназначен для работы с Pearl vLLM mining plugin и стеком Pearl miner/vLLM, где генерация текста интегрируется с процессами майнинга Pearl.

Модель представляет собой авторегрессионную instruction-tuned языковую модель для генерации текста. Из README известны базовая модель Llama-3.1-8B-Instruct, размер 8B параметров, текстовая модальность и основной язык English. В качестве целевой среды указаны vLLM и Pearl miner stack; в приведённом примере развертывания используется максимальная длина контекста 8192 токена. Для запуска требуются Python 3.12, uv, Rust toolchain, CUDA-совместимый NVIDIA GPU архитектуры sm90, например H100 или H200, а также работающий узел pearld с RPC-учётными данными.

Сильная сторона модели — специализированная интеграция с инфраструктурой Pearl и поддержка сценариев генерации текста через vLLM. Ограничения связаны с зависимостью от Pearl miner stack, совместимого программного и аппаратного окружения, а также с типичными рисками языковых моделей: возможными ошибочными, небезопасными или предвзятыми ответами, поэтому необходимы контроль развертывания и валидация результатов. Модель распространяется на условиях лицензии Llama 3.1 как производная от Llama 3.1.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

pearl-ai/Llama-3.1-8B-Instruct-pearl

Pearl-certified variant of Llama-3.1-8B-Instruct, intended to run with the Pearl vLLM mining plugin.

Model Details

  • Base model: meta-llama/Llama-3.1-8B-Instruct
  • Model type: Causal LLM (instruction-tuned)
  • Primary runtime target: Pearl vLLM plugin (miner/vllm-miner)
  • Intended use: Text generation with Pearl mining integration

Intended Use

This model is intended to be served through the Pearl miner stack, where vLLM inference is integrated with Pearl mining workflows.

Typical flow:

  1. Run pearld with RPC enabled.
  2. Start the Pearl miner/vLLM stack.
  3. Serve this model through vLLM while Pearl gateway/miner components handle mining-side integration.

How To Use (Pearl vLLM Plugin)

Follow the miner setup from the Pearl repo:

High-level prerequisites:

  • Python 3.12
  • uv
  • CUDA + NVIDIA GPU (sm90 class, e.g. H100/H200, per project docs)
  • Rust toolchain
  • Running pearld node with RPC credentials

Docker Example

From the Pearl repository root:

docker buildx build -t vllm_miner . -f miner/vllm-miner/Dockerfile
docker run --rm -it --gpus all \
  -p 8000:8000 -p 8337:8337 -p 8339:8339 \
  -e PEARLD_RPC_URL=<PEARLD_URL> \
  -e PEARLD_RPC_USER=<RPC_USER> \
  -e PEARLD_RPC_PASSWORD=<RPC_PASSWORD> \
  -v ~/.cache/huggingface:/root/.cache/huggingface \
  --shm-size 8g \
  vllm_miner:latest \
  pearl-ai/Llama-3.1-8B-Instruct-pearl \
  --host 0.0.0.0 --port 8000 \
  --max-model-len 8192 \
  --gpu-memory-utilization 0.9 \
  --enforce-eager

License

This model is a derivative of Llama 3.1 and is distributed under the Llama 3.1 license terms.

Limitations

  • Can generate incorrect, unsafe, or biased outputs.
  • Requires careful deployment controls and output validation.
  • Hardware/software compatibility depends on the Pearl miner stack and supported GPU architectures.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
5dcb348

0 моделей