/ Модель

Характеристики

Контекст
8 192 токена
Параметры
1,7 млрд
Лицензия
Apache 2.0
Архитектура
llama · dense
Базовая модель
SmolLM2-1.7B
Библиотека
transformers
Опубликована
13 дек 2025

SmolLM2-1.7B-Instruct-Heretic

Генерация текстаТекст → текст3 профессии

Англоязычная модель на 1,7 млрд параметров для диалоговой генерации текста и выполнения инструкций с ослабленным отказом на запросы.

139скачиваний за 30 дней0лайковвеса обновлены13 дек 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

ChiKoi7/SmolLM2-1.7B-Instruct-Heretic — англоязычная диалоговая модель на 1,7 млрд параметров, созданная ChiKoi7 на основе HuggingFaceTB/SmolLM2-1.7B-Instruct с помощью Heretic v1.1.0. Это плотная причинная языковая модель семейства Llama, предназначенная для генерации текста и выполнения инструкций; модель работает с контекстом до 8192 токенов и доступна в формате safetensors для Transformers.

Автор описывает её как версию с ослабленными отказами: в приведённом сравнении она отказала в 5 из 100 запросов против 37 у исходной SmolLM2-1.7B-Instruct; также указана дивергенция KL 0,0523. Это характеристика поведения на конкретном тесте, а не гарантия качества или безопасности. Модель распространяется по лицензии Apache-2.0.

Сценарии применения

  • диалоговый помощник на английском языке
  • генерация ответов на инструкции
  • локальный запуск компактной языковой модели
  • эксперименты с моделями с ослабленными отказами

Ограничения

Модель компактная и в README приведены только сравнительные показатели отказов и дивергенции KL, а не оценка общей точности. Англоязычная карточка подтверждает английский язык; результаты на других языках не описаны.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

SmolLM2-1.7B-Instruct-Heretic

A decensored version of HuggingFaceTB/SmolLM2-1.7B-Instruct, made using Heretic v1.1.0

Quantized/GGUF versions available here: ChiKoi7/SmolLM2-1.7B-Instruct-Heretic-GGUF

SmolLM2-1.7B-Instruct-Heretic Original model SmolLM2-1.7B-Instruct
Refusals5/10037/100
KL divergence0.05230 (by definition)

Heretic Abliteration Parameters

ParameterValue
direction_index18.34
attn.o_proj.max_weight0.81
attn.o_proj.max_weight_position14.52
attn.o_proj.min_weight0.56
attn.o_proj.min_weight_distance8.50
mlp.down_proj.max_weight1.14
mlp.down_proj.max_weight_position17.18
mlp.down_proj.min_weight0.93
mlp.down_proj.min_weight_distance7.16

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
6f04d4f

0 моделей