/ Модель

Характеристики

Лицензия
Apache 2.0
Базовая модель
NeoHorse-1-4B
Библиотека
transformers
Опубликована
18 сен 2026

Huihui-NeoHorse-1-4B-abliterated-GGUF

Генерация текстаТекст → текст8 профессий

Huihui-NeoHorse-1-4B-abliterated-GGUF — языковая модель для генерации текста, разработанная huihui-ai на базе TokenRhythm/NeoHorse-1-4B.

16 431скачиваний за 30 дней18лайковвеса обновлены18 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель распространяется в формате GGUF и предназначена для задач следования инструкциям, рассуждений, программирования, использования инструментов и агентских сценариев. В карточке также указано наличие компонентов MTP и Visual, извлечённых из Qwen/Qwen3.5-4B, что должно обеспечивать поддержку визуальных возможностей, однако подробные сведения о поддерживаемых модальностях и языках не приведены.

Это экспериментальная версия с уменьшенной фильтрацией отказов, полученная методом abliteration: аблированы слои 5–17 с индексацией от нуля. Заявленный размер — около 1,4 млрд параметров, а рекомендуемый размер контекста при использовании через llama.cpp составляет 262144 токена. К сильным сторонам относятся компактность, поддержка локального запуска через llama.cpp и ориентация на кодирование, рассуждения и tool use. При этом метод модификации описан как грубая proof-of-concept реализация, поэтому качество, стабильность и поведение модели могут быть непредсказуемыми.

Фильтрация контента существенно ослаблена, поэтому модель может генерировать чувствительные, спорные или неподходящие материалы и не предоставляет стандартных гарантий безопасности. Она рекомендуется преимущественно для исследований, тестирования и контролируемых сред, а не для публичных или критически важных производственных приложений; необходимы мониторинг и проверка результатов человеком. Лицензия — Apache 2.0.

Для каких профессий подходит8

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

huihui-ai/Huihui-NeoHorse-1-4B-abliterated-GGUF

This is an uncensored version of TokenRhythm/NeoHorse-1-4B created with abliteration (see remove-refusals-with-transformers to know more about it). This is a crude, proof-of-concept implementation to remove refusals from an LLM model without using TransformerLens.

Note

Layers 5-17 are being ablated (0-based indexing).

The MTP and Visual components were extracted from the original Qwen/Qwen3.5-4B and can provide excellent support.

llama.cpp

Use the latest llama.cpp,

llama-cli -m huihui-ai/Huihui-NeoHorse-1-4B-abliterated-GGUF/Huihui-NeoHorse-1-4B-abliterated-f16.gguf -c 262144

Usage Warnings

  • Risk of Sensitive or Controversial Outputs: This model’s safety filtering has been significantly reduced, potentially generating sensitive, controversial, or inappropriate content. Users should exercise caution and rigorously review generated outputs.

  • Not Suitable for All Audiences: Due to limited content filtering, the model’s outputs may be inappropriate for public settings, underage users, or applications requiring high security.

  • Legal and Ethical Responsibilities: Users must ensure their usage complies with local laws and ethical standards. Generated content may carry legal or ethical risks, and users are solely responsible for any consequences.

  • Research and Experimental Use: It is recommended to use this model for research, testing, or controlled environments, avoiding direct use in production or public-facing commercial applications.

  • Monitoring and Review Recommendations: Users are strongly advised to monitor model outputs in real-time and conduct manual reviews when necessary to prevent the dissemination of inappropriate content.

  • No Default Safety Guarantees: Unlike standard models, this model has not undergone rigorous safety optimization. huihui.ai bears no responsibility for any consequences arising from its use.

Donation

Your donation helps us continue our further development and improvement, a cup of coffee can do it.
  • bitcoin:
  bc1qqnkhuchxw0zqjh2ku3lu4hq45hc6gy84uk70ge
  • Support our work on Ko-fi!

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.

Ревизия весов
fb32df7

0 моделей