/ Модель
Каталог

Характеристики

Контекст
262 144 токена
Параметры
3,4 млрд
Лицензия
Apache 2.0
Архитектура
qwen3_5_text · dense
Базовая модель
Qwen3.5-4B
Библиотека
transformers
Опубликована
6 сен 2026

Ссылки

Hugging Face

ps4mas-sft-4b-claude-x5-single-ep3-mask16k

yinita
Генерация текстаТекст → текст3 профессии

Экспериментальная диалоговая модель на базе Qwen3.5-4B, дообученная полным SFT на данных дистилляции Claude для генерации текста.

83скачиваний за 30 дней0лайковвеса обновлены6 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

yinita/ps4mas-sft-4b-claude-x5-single-ep3-mask16k — экспериментальная полнослойная дообученная версия Qwen/Qwen3.5-4B, созданная для воспроизведения варианта SFT-модели best_sft_claude_x5_single_ep3 на 4 млрд параметров. Она обучена на тех же данных с дистилляцией Claude и использует маскирование потерь сообщений; обучение проводилось три эпохи с learning rate 2e-5 и максимальной длиной последовательности 16 384 токена.

Модель предназначена для генерации текста в диалоговом формате. В репозитории указаны веса SafeTensors и библиотека Transformers; метаданные заявляют контекст до 262 144 токенов. Лицензия — Apache 2.0. Карточка описывает воспроизведение эксперимента и не приводит результатов оценки качества.

Сценарии применения

  • генерация ответов в диалоге
  • воспроизведение эксперимента по SFT и дистилляции Claude
  • эксперименты с маскированием потерь сообщений
  • тестирование компактной дообученной модели Qwen

Ограничения

Карточка не приводит оценок качества или сравнительных результатов; указанная настройка воспроизводит экспериментальную модель на 4B, а не исходную 9B. Хотя метаданные заявляют контекст 262 144 токена, в README для обучения указан max_seq=16 384.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии
I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделейII.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделейI.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

ps4mas-sft-4b-claude-x5-single-ep3-mask16k

Full-FT Qwen/Qwen3.5-4B reproducing: 9B best_sft_claude_x5_single_ep3 (Terra final_test); 4B repro with message_loss_mask + max_seq=16384

9B originalthis 4B
Datadata/sft_splits/claude_distill_x5/topology_splits/sft_claude_teacher_single.masked.jsonl (500 hops)same
Objectivefull sequence SFT (no LoRA)same
Epochs / lr3 / 2e-5same
Batchper-device 1, grad accum 2, 8 GPU ZeRO-2same
Seq4096same

Local path: results/0903/sft_full_4b_claude_x5_single_ep3_mask16k
Uploaded: 2026-09-06T03:14:25.433302+00:00

from transformers import AutoModelForCausalLM, AutoTokenizer
model = AutoModelForCausalLM.from_pretrained("yinita/ps4mas-sft-4b-claude-x5-single-ep3-mask16k", trust_remote_code=True)
tok = AutoTokenizer.from_pretrained("yinita/ps4mas-sft-4b-claude-x5-single-ep3-mask16k", trust_remote_code=True)

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
Qwen3_5ForCausalLM
Ревизия весов
6747d86

0 моделей

    Создать бенчмарк