Характеристики

Контекст: 262 144 токена
Параметры: 3,7 млрд
Лицензия: Apache 2.0
Архитектура: qwen3 · dense
Базовая модель: Qwen3-4B-Instruct-2507
Библиотека: transformers
Опубликована: 18 июн 2026

Ссылки

qwen3-4b-cai-sft

Генерация текстаТекст → текст3 профессии

Исследовательская донастройка Qwen3-4B-Instruct-2507 для воспроизведения Constitutional AI и анализа безопасных ответов и избыточных отказов.

28скачиваний за 30 дней0лайковвеса обновлены18 июн 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

yavuz-ai выпустила qwen3-4b-cai-sft — исследовательскую модель на базе Qwen3-4B-Instruct-2507, дообученную методом LoRA SFT и затем объединённую с базовой моделью. Она обучалась на самостоятельно критикованных и исправленных ответах на red-team-запросы, сформированных с опорой на пятипринципную конституцию из работы Constitutional AI и опубликованных материалов Anthropic.

Модель предназначена для воспроизведения эксперимента Constitutional AI и анализа компромисса между безопасностью и избыточным отказом. В описанной оценке доля отказов на безобидные запросы выросла с 0,327 до 0,431, а показатель безопасности остался примерно на уровне 1,0. Это контрольная ступень исследовательского эксперимента, а не универсальный помощник. Архитектура — плотная Qwen3ForCausalLM, размер — 3,7 млрд параметров; базовая модель поддерживает контекст до 262 144 токенов. Вход и выход — текст, диалоговый режим поддерживается.

Модель распространяется под лицензией Apache-2.0. Результаты ограничены описанным экспериментом: повышенная склонность к отказам на допустимые запросы делает её неподходящей для использования как обычного универсального ассистента; качество за пределами приведённой оценки в карточке не характеризуется.

Сценарии применения

воспроизведение эксперимента Constitutional AI
анализ отказов на безобидные запросы
исследование безопасности ответов языковой модели
анализ влияния самокритики и пересмотра ответов
сравнение этапов обучения модели на red-team-запросах

Ограничения

На безобидные запросы модель отказывает чаще базовой: показатель вырос с 0,327 до 0,431 при сохранении примерно того же уровня безопасности. Карточка позиционирует её как артефакт для воспроизводимости и анализа, а не как универсального ассистента.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей II.9Разработка и данныеСтатистика, эксперименты и причинный анализAI помогает планировать эксперименты и делать статистически обоснованные выводы о связях и эффектах.18 задач2 881модель II.4Разработка и данныеОтладка, тестирование и качество ПОAI помогает находить дефекты, строить проверки и повышать надёжность программного продукта.25 задач13 978моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

qwen3-4b-cai-sft (SL-CAI stage)

The supervised stage of a Constitutional AI reproduction (Bai et al. 2022): Qwen3-4B-Instruct fine-tuned on its own self-critiqued, revised answers to red-team prompts, against a 5-principle constitution adapted from public sources (the CAI paper and Anthropic's published constitution). LoRA SFT, merged. Code + full writeup: https://github.com/shipbehaves/constitutional-cai

research artifact, not a better assistant

On a two-axis eval this stage raises over-refusal on benign prompts from 0.327 to 0.431 while safety stays ~1.0. It is published for reproducibility and failure analysis, not as a general-purpose model. See the repo for the stage-by-stage teardown of the harmless-vs-overrefusal tension.

training

LoRA SFT (r=16, alpha=32, all-linear), completion-only loss on the revised answers, 2 epochs, lr 1e-4, bf16, on 1x A100. Data: ~4,800 self-revisions generated from hh-rlhf harmless-base prompts.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры: Qwen3ForCausalLM
Ревизия весов: 74dd99a