/ Модель

Характеристики

Контекст
131 072 токена
Параметры
8,5 млрд
Размер весов
221 ГБ
Лицензия
MIT
Архитектура
glm4_moe · dense
Базовая модель
Huihui-GLM-4.5-Air-abliterated-GGUF
Библиотека
transformers
Опубликована
7 сен 2025

Huihui-GLM-4.5-Air-abliterated-lossytensors

Генерация текстаТекст → текст5 профессий

Преобразованная из GGUF в safetensors версия диалоговой GLM-4.5 Air для генерации текста через Transformers и совместимые backend-системы.

130скачиваний за 30 дней6лайковвеса обновлены13 окт 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Huihui-GLM-4.5-Air-abliterated-lossytensors — преобразованная версия модели Huihui-GLM-4.5-Air-abliterated от Huihui AI, предназначенная для генерации текста и диалогового общения. Репозиторий содержит веса safetensors для запуска через Transformers и совместимые с этим форматом backend-системы. По карточке модели, веса вручную восстановлены из GGUF Q4_K_M и сохранены в BF16, поэтому преобразование не возвращает качество полной точности; модель относится к семейству GLM-4 MoE, имеет 8,5 млрд параметров и контекст до 131 072 токенов.

Модель помечена как abliterated и uncensored; такие обозначения указывают на ослабленные ограничения ответов, но README не описывает конкретную методику изменения поведения. Указаны английский и китайский языки. Лицензия — MIT. Карточка предупреждает, что повторная квантизация в формат с точностью выше Q4_K_M не повысит качество.

Сценарии применения

  • диалоговые ответы на английском языке
  • диалоговые ответы на китайском языке
  • генерация текста через Transformers
  • запуск модели в backend-системах, требующих safetensors

Ограничения

Веса восстановлены из квантизированного GGUF Q4_K_M, поэтому качество ниже полной точности; повторная квантизация выше Q4_K_M не улучшит его. README не приводит сравнительных оценок качества.

Для каких профессий подходит5

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

huihui-ai/Huihui-GLM-4.5-Air-abliterated-lossytensors

This is a lossy safetensors version of Huihui-GLM-4.5-Air-abliterated-GGUF that can be run with huggingface transformers, since the original release did not include safetensors files.

It was re-converted back into .safetensors manually from the Q4_K_M GGUF file.

As such, although the weights are now in BF16, it is considered a "lossy" version of inferior quality to the full precision model.

However, you should now be able to use it with backends that cannot use GGUF and require safetensors (e.g. MLX, VLLM).

Avoid requantizing it to formats above Q4_K_M - You will NOT gain any additional quality.

If you require the max precision version, you'll have to buy it from huihui.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

vLLM

Можно запустить

Подбираем GPU…

Класс архитектуры
Glm4MoeForCausalLM
Ревизия весов
3c41df6

0 моделей