/ Модель

Характеристики

Контекст
32 768 токенов
Параметры
3,1 млрд
Размер весов
6,2 ГБ
Лицензия
Apache 2.0
Архитектура
qwen2 · dense
Библиотека
transformers
Опубликована
22 сен 2026

cs2881r-dobby-qwen2.5-3b-final-combined-grpo100-step25

Генерация текстаТекст → текст3 профессии

Разговорная модель Qwen2.5-3B, дообученная SFT, RLAIF и GRPO для генерации ответов с учётом персоны и качества.

229скачиваний за 30 дней0лайковвеса обновлены22 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это разговорная текстовая модель из учебного проекта Harvard CS 2881R по безопасности ИИ, подготовленная для задания Assignment 1, этапа 3. Она основана на Qwen2.5-3B-Instruct через промежуточную модель, дообученную методом SFT и RLAIF; затем к ней применили GRPO и объединили LoRA-адаптер с весами модели. В метаданных указаны архитектура Qwen2, 3,1 млрд параметров и контекст до 32 768 токенов.

Модель предназначена для генерации диалоговых ответов. При выборе чекпойнта авторы учитывали соответствие заданной персоне, качество, правильность ответов по проверяющим критериям и склонность к зацикливанию или пропуску EOS. Веса доступны в формате safetensors, лицензия — Apache-2.0. README описывает учебный эксперимент, но не приводит результатов, позволяющих оценить качество модели в более широких сценариях.

Сценарии применения

  • генерация диалоговых ответов
  • ответы в заданной персоне или стиле
  • эксперименты с дообучением языковых моделей методом GRPO

Ограничения

Модель описана как чекпойнт учебного задания; README не приводит количественных результатов или оценки качества за пределами dev-набора из 150 промптов. При обучении отдельно штрафовали за зацикливание и пропуск EOS.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

nathanwei05/cs2881r-dobby-qwen2.5-3b-final-combined-grpo100-step25

Harvard CS 2881R (AI Safety, Fall 2026), Assignment 1, stage 3 (combined). LoRA GRPO (rank 16, LR 2e-5, beta 0.04, 100 updates, checkpoint 25 selected on a 150-prompt dev set) from axel-sdq/cs2881r-dobby-qwen2.5-3b-rlaif-grpo100-step25 at revision ba9705301d86619447f480121c06133039a496d3, which is itself SFT + RLAIF from Qwen2.5-3B-Instruct. Reward: persona x quality / 16 from a DeepSeek judge + verifier correctness - 0.5 x degeneration penalty (loop or missing EOS), weights 1 / 1 / 0.5.

The merged model is at the repository root; the LoRA adapter is under adapter/. Training code, data, worklog and results: https://github.com/harvard-cs2881f26/hw1-soderquist-wei

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
Qwen2ForCausalLM
Ревизия весов
ee1c22a

0 моделей