/ Модель

Характеристики

Контекст
40 960 токенов
Параметры
1,7 млрд
Размер весов
3,4 ГБ
Лицензия
Apache 2.0
Архитектура
qwen3 · dense
Базовая модель
Qwen3-1.7B
Библиотека
transformers
Опубликована
7 окт 2026

aime_dpo_qwen3_1_7b_random_lora_tuned

Генерация текстаТекст → текст

Дообученная на случайных парах DPO диалоговая модель Qwen3 с 1,7 млрд параметров для генерации текста и бесед.

243скачиваний за 30 дней0лайковвеса обновлены7 окт 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это самостоятельная диалоговая модель на архитектуре Qwen3 с 1,7 млрд параметров, созданная talzoomanzoo на основе Qwen/Qwen3-1.7B. Модель дообучена с помощью DPO на случайных парах для проекта AIME, а затем LoRA-адаптер объединён с базовыми весами; для загрузки отдельный адаптер не нужен. В репозитории есть токенизатор и шаблон чата, а веса сохранены в формате bfloat16 safetensors.

Модель предназначена для генерации текста и диалогов; заявленная длина контекста — 40 960 токенов. Для форматирования диалогов следует применять встроенный шаблон Qwen. Лицензия — Apache-2.0. README не подтверждает точность модели на AIME, поэтому пригодность для решения математических задач следует оценивать отдельно.

Сценарии применения

  • генерация ответов в диалоговом интерфейсе
  • следование инструкциям в формате чата
  • эксперименты с DPO и обучением на случайных парах
  • оценка поведения компактной модели Qwen3 в задачах AIME

Ограничения

README не приводит оценки точности на AIME и не подтверждает пригодность модели для математических задач. Для корректных диалогов необходимо использовать включённый шаблон чата Qwen.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Qwen3-1.7B — AIME random-pair DPO

Standalone model produced by merging the aime_dpo_qwen3_1_7b_random_lora_tuned LoRA adapter into Qwen/Qwen3-1.7B.

The merge was performed in float32 and exported as bfloat16 safetensors. The tokenizer and chat template are included. Loading does not require a separate adapter or PEFT.

Use AutoModelForCausalLM.from_pretrained and AutoTokenizer.from_pretrained with this repository ID. Apply the included Qwen chat template when formatting conversations.

Merge provenance and numerical validation are recorded in merge_info.json. This upload does not establish downstream AIME accuracy.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
Qwen3ForCausalLM
Ревизия весов
2d885db

0 моделей