Характеристики

Контекст: 40 960 токенов
Параметры: 508 млн
Лицензия: Apache 2.0
Архитектура: qwen3 · dense
Базовая модель: Qwen3-0.6B
Библиотека: transformers
Опубликована: 10 сен 2026

Ссылки

teacher_gpt-oss-20B

Генерация текстаТекст → текст5 профессий

Производная модели MaxSchulten/gpt-oss-20B-distill-Qwen3-0.6B-Unfiltered. Дообученная на базе Qwen3-0.6B компактная модель для генерации текста и диалогов с контекстом до 40 960 токенов.

173скачиваний за 30 дней0лайковвеса обновлены10 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Карточка модели MaxSchulten/teacher_gpt-oss-20B на Hugging Face совпадает с карточкой MaxSchulten/gpt-oss-20B-distill-Qwen3-0.6B-Unfiltered, поэтому описание составлено по ней.

MaxSchulten/gpt-oss-20B-distill-Qwen3-0.6B — дообученная компактная плотная языковая модель семейства Qwen3, разработанная MaxSchulten на базе Qwen/Qwen3-0.6B. Модель предназначена для генерации текста и диалогов; в метаданных также указана возможность chat. README сообщает о дообучении и значении loss 0,6897 на оценочной выборке, но не раскрывает состав данных или подробности оценки.

Модель содержит около 507,9 млн параметров, принимает текст и генерирует текст, использует Transformers и формат Safetensors. Длина контекста — до 40 960 токенов. Лицензия — Apache-2.0. Название README содержит слово «Unfiltered», но карточка не описывает соответствующую настройку или поведение, поэтому его смысл и влияние на ответы определить нельзя.

Сценарии применения

генерация текстовых ответов в диалоге
создание черновиков и продолжение текста
прототипирование чат-бота на компактной модели

Ограничения

README не описывает обучающие данные и подробно не сообщает об оценке качества; приведено только значение loss 0,6897 на оценочной выборке. Практические свойства, подразумеваемые словом «Unfiltered» в названии, не документированы.

Для каких профессий подходит5

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей II.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель I.7Универсальные способностиРечь, диалоги и встречиAI помогает понимать разговорную речь, поддерживать диалог и превращать встречи в структурированные результаты.17 задач26 923модели

Также подходит для

II.1Анализ требований и архитектура ПО

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

teacher_gpt-oss-20B

This model is a fine-tuned version of Qwen/Qwen3-0.6B on the None dataset. It achieves the following results on the evaluation set:

Loss: 0.6897

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

learning_rate: 2e-05
train_batch_size: 4
eval_batch_size: 8
seed: 42
gradient_accumulation_steps: 16
total_train_batch_size: 64
optimizer: Use OptimizerNames.ADAMW_TORCH_FUSED with betas=(0.9,0.999) and epsilon=1e-08 and optimizer_args=No additional optimizer arguments
lr_scheduler_type: cosine
lr_scheduler_warmup_steps: 100
num_epochs: 3

Training results

Training Loss	Epoch	Step	Validation Loss
0.7241	1.0	266	0.7113
0.6823	2.0	532	0.6905
0.6683	3.0	798	0.6897

Framework versions

Transformers 5.16.1
Pytorch 2.11.0+cu128
Datasets 5.0.1
Tokenizers 0.23.1

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

Репозиторий недоступен на Hugging Face.

Класс архитектуры: Qwen3ForCausalLM
Ревизия весов: a72485e