GLM-5.1 — англоязычная модель генерации текста на 30,4 млрд параметров для диалогов и работы с длинным контекстом в экосистеме MLX.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
GLM-5.1 — языковая модель семейства GLM, опубликованная сообществом mlx-community в формате для библиотеки MLX. Модель предназначена для генерации текста и диалогового взаимодействия на английском языке; в метаданных указана архитектурная метка glm_moe_dsa и библиотека mlx.
Модель содержит 30,4 млрд параметров и поддерживает контекст длиной до 202 752 токенов. Её можно использовать для продолжения текста, генерации ответов в диалоге и других сценариев text generation на совместимых системах Apple MLX. README не содержит сведений о лицензии, поэтому условия использования по предоставленным данным определить нельзя.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
pip install mlx-lm
from mlx_lm import load, generate
model, tokenizer = load("mlx-community/GLM-5.1")
prompt = "hello"
if tokenizer.chat_template is not None:
messages = [{"role": "user", "content": prompt}]
prompt = tokenizer.apply_chat_template(
messages, add_generation_prompt=True, return_dict=False,
)
response = generate(model, tokenizer, prompt=prompt, verbose=True)
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · mlx
MLX-модели работают только на Apple Silicon.