/ Модель

Характеристики

Контекст
262 144 токена
Параметры
2,6 млрд
Размер весов
61,1 ГБ
Лицензия
Apache 2.0
Архитектура
qwen3_moe · MoE
Базовая модель
Qwen3-Coder-30B-A3B-Instruct
Библиотека
transformers
Опубликована
10 авг 2026

tt-x1_lr-lr8e6-60-30B

Генерация текстаТекст → текст8 профессий

Экспериментальный чекпойнт Qwen3 Coder, дообученный методом GRPO для генерации текста и решения задач программирования.

168скачиваний за 30 дней0лайковвеса обновлены4 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

laion/tt-x1_lr-lr8e6-60-30B — чекпойнт шага 60, созданный LAION в рамках эксперимента TaskTrove X1 по подбору скорости обучения. Это дообучение инструктивной модели Qwen/Qwen3-Coder-30B-A3B-Instruct с архитектурой Qwen3 MoE, выполненное методом GRPO на наборе DCAgent/exp_rpt_multifile с использованием SkyRL и Terminus-2. Модель предназначена для генерации текста в диалоговом формате, в частности для задач программирования и работы с несколькими файлами.

Для выбора чекпойнта использовали скользящую экспоненциальную среднюю награды за последние пять шагов; шаг 60 показал наивысшее значение среди сохранённых вариантов. Обучение остановили на шаге 71 из 80 из-за роста энтропии, поэтому результат не отражает завершённый цикл обучения. Контекст модели составляет 262 144 токена; в метаданных указано 2,6 млрд параметров. Лицензия — Apache-2.0.

Сценарии применения

  • генерация и дополнение кода
  • ответы на вопросы о коде
  • работа с задачами на несколько файлов
  • диалоговое взаимодействие с моделью для программирования

Ограничения

Обучение остановлено на шаге 71 из 80, а энтропия политики росла; чекпойнт не является результатом завершённого цикла и может быть нестабильным.

Для каких профессий подходит8

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

tt-x1_lr-lr8e6 -- step 60 (X1 learning rate 8e-6)

GRPO checkpoint from the TaskTrove X1 (learning rate) sweep. Base model Qwen/Qwen3-Coder-30B-A3B-Instruct, trained on DCAgent/exp_rpt_multifile with SkyRL + Terminus-2; campaign verifier is pass_ratio shaping.

Checkpoint selection

global_step_60 was selected by the trailing-5 reward EMA (alpha = 1/3) over the full restart chain -- the highest-EMA aligned checkpoint (EMA 0.1894; step reward 0.1973; pass@8 0.3125; entropy 0.2878), per parse_skyrl_metrics.py --run_dir --save_every 5.

Run status -- terminated mid-horizon (elevated entropy)

Terminated by the owner at step 71/80. Policy entropy climbed ~3.2x (0.11 -> 0.36) -- elevated and rising (entropy stop rule fires at 10x). Step 60 is the best saved checkpoint. Not a horizon result.

See training_logs/ for metrics.csv, report.md, reward_plot.png, rl_config.json, and the gzipped .out chain.

Training Traces

open-athena/tt-x1_lr-lr8e6 -- 1/4 systematic subsample (every 4th trial, uniform coverage of steps 1-71; 22,169 rows). The full ~96k-trial set was GPFS-read-bound (~9h on the login node); subsample is a documented deviation for this terminated (71/80) arm.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
Qwen3MoeForCausalLM
Ревизия весов
60ae253

0 моделей