Характеристики

Лицензия: Apache 2.0
Опубликована: 2 янв 2025

Ссылки

Hugging Face

grok-1

lmzheng

Языковая модель

Русское описание этой модели ещё готовится. Пока можно заглянуть в карточку модели от автора ниже.

0скачиваний за 30 дней0лайковвеса обновлены30 июн 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

A version of https://huggingface.co/xai-org/grok-1 that is compatible with the latest SGLang.

The tokenizer is from https://huggingface.co/Xenova/grok-1-tokenizer

# Load real weights
python3 -m sglang.launch_server --model lmzheng/grok-1 --tp 8 --quantization fp8 --attention-backend triton

# Load dummy weights
python3 -m sglang.launch_server --model lmzheng/grok-1 --tp 8 --quantization fp8 --attention-backend triton --load-format dummy

# Test accuracy on gsm-8k (sanity check), it should be around 0.85
python3 -m sglang.test.few_shot_gsm8k --num-questions 200

Note: We use triton attention backend because the default flashinfer backend has an accuracy regression after flashinfer>=0.2.0

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

У модели не указана задача, поэтому рантайм не знает, как её запускать.

Ревизия весов: beff48f