/ Модель

Характеристики

Контекст
40 960 токенов
Параметры
3,7 млрд
Размер весов
17,6 ГБ
Архитектура
qwen3 · dense
Базовая модель
Qwen3-4B
Библиотека
transformers
Опубликована
21 сен 2026

gpt54-mini-sequential-qwen3-4b-sft-s1-babyai-20260920

Генерация текстаТекст → текст3 профессии

Дообученный Qwen3-4B чекпойнт для экспериментов с агентными задачами BabyAI и генерацией диалогового текста.

264скачиваний за 30 дней0лайковвеса обновлены21 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Diluner опубликовал дообученный методом supervised fine-tuning чекпойнт Qwen3-4B. Модель содержит около 3,7 млрд параметров, использует плотную архитектуру Qwen3 и рассчитана на генерацию текста в диалоговом режиме. Указанное окно контекста — 40 960 токенов.

Чекпойнт обучен на первом этапе цепочки BabyAI → TextCraft → SearchQA: пять эпох и 125 обновлений оптимизатора с использованием gpt-5.4-mini в роли учителя. Он предназначен для экспериментов с агентным обучением в среде BabyAI; завершённость этапа подтверждена, но отдельной оценки качества этого чекпойнта нет. Итоговые оценки более поздней модели нельзя переносить на него. В репозитории доступны конфигурация, токенизатор и веса в safetensors; состояние оптимизатора, исходные логи и траектории учителя не включены. Лицензия для этой публикации не заявлена; применимые условия следует сверять с лицензией базовой модели.

Сценарии применения

  • эксперименты с агентом в среде BabyAI
  • генерация ответов в диалоговом интерфейсе
  • исследование последовательного дообучения языковых моделей
  • создание прототипов агентов на базе Qwen3

Ограничения

Для этого промежуточного чекпойнта отдельная оценка качества не приложена, поэтому результаты последующих этапов обучения к нему неприменимы. Лицензия публикации не заявлена.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

gpt54-mini-sequential-qwen3-4b-sft-s1-babyai-20260920

Qwen/Qwen3-4B trained with SFT using teacher gpt-5.4-mini. This is the final checkpoint of a completed babyai stage: five epochs, 125 optimizer updates in that stage.

Sequential stage 1 of BabyAI → TextCraft → SearchQA. Completed training prefix: babyai. Each environment receives five epochs. The student and method are carried through the chain.

Training-completion evidence: Observed complete stage manifest, verified full-step count, and complete controller task with verification marker.

No completed evaluation for this intermediate checkpoint is attached. Final three-environment scores belong only to the fully trained stage-3 model.

Provenance and interpretation notes:

  • This is one trained checkpoint, not evidence of a general method advantage or replication across training seeds.
  • The selection inventory records file names, sizes and modification times. It is not a tensor-byte hash binding to historical evaluation responses.
  • No stage-specific evaluation is attached. Scores of later sequential checkpoints or standalone models must not be attributed to this checkpoint.
  • This checkpoint is from a separate sequential chain, not the historical standalone run. Each stage carries the preceding stage of the same method and student.

The HF export is stored at the repository root; configuration, tokenizer, and all weight shards are included. Optimizer state, raw logs, and teacher trajectories are not included. Machine-readable source references and checksums are in experiment.json.

from transformers import AutoTokenizer, AutoModelForCausalLM
repo_id = "Diluner/gpt54-mini-sequential-qwen3-4b-sft-s1-babyai-20260920"
tokenizer = AutoTokenizer.from_pretrained(repo_id)
model = AutoModelForCausalLM.from_pretrained(repo_id, torch_dtype="auto")

Repository access is public, as authorized by the experiment owner. No license is asserted here; consult the base model and applicable terms.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
Qwen3ForCausalLM
Ревизия весов
70cd9d6

0 моделей