/ Модель

Характеристики

Контекст
131 072 токена
Параметры
7,5 млрд
Размер весов
16,1 ГБ
Лицензия
Llama 3.1
Архитектура
llama · dense
Базовая модель
Llama-3.1-Tulu-3-8B-DPO
Библиотека
transformers
Опубликована
9 сен 2026

llama31_tulu3_8b_dpo_grpo_nonthink_intentcheck_tulu3_8b_dpo

Генерация текстаТекст → текст4 профессии

Экспериментальная англоязычная модель на базе Tulu 3 8B DPO, дообученная GRPO для диалоговой генерации и следования инструкциям с проверкой намерений.

42скачиваний за 30 дней0лайковвеса обновлены9 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

sangyon/llama31_tulu3_8b_dpo_grpo_nonthink_intentcheck_tulu3_8b_dpo — экспорт контрольной точки эксперимента IntentCheck для англоязычной модели диалогов и следования инструкциям. Модель разработана на основе allenai/Llama-3.1-Tulu-3-8B-DPO и дообучена методом GRPO с программной наградой за выполнение ограничений и дополнительным бонусом за прохождение проверки IntentCheck. Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров; экспортированы веса BF16 в формате safetensors. Метаданные указывают контекст до 131072 токенов.

Модель предназначена для генерации ответов в диалоге и выполнения инструкций с заданными ограничениями. Она принимает текст и генерирует текст; обучение описано как non-reasoning, поэтому карточка не заявляет режим пошагового рассуждения. Проверялись целостность тензоров и локальная загрузка, но новые результаты бенчмарков для этого экспорта не приводятся. Используется лицензия Llama 3.1 Community License и применимая политика допустимого использования базовой модели.

Сценарии применения

  • генерация ответов в диалоговом интерфейсе
  • выполнение текстовых инструкций с ограничениями
  • создание англоязычных ответов на запросы пользователей

Ограничения

Для экспорта не заявлены новые бенчмарк-оценки, поэтому его качество на прикладных задачах не охарактеризовано. Модель подчиняется лицензии и политике допустимого использования базовой модели.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Tulu 3 8B DPO — IntentCheck GRPO

Hugging Face-format export of the global_step_364 checkpoint from the non-reasoning Tulu IntentCheck experiment.

  • Initial policy: allenai/Llama-3.1-Tulu-3-8B-DPO.
  • IntentCheck judge: the fixed Tulu 3 8B DPO model.
  • Reward: programmatic constraint reward, plus 0.1 when an eligible response passes IntentCheck. Non-passing responses do not receive the additional bonus.
  • Training: GRPO, four epochs, batch size1024, eight rollouts per prompt, maximum response length2048 tokens.
  • Actor KL coefficient: 0.001.
  • Export: four FSDP model shards merged into BF16 safetensors. Optimizer state is not included.
  • Validation: tensor finiteness, local model/tokenizer loading, and a finite CPU forward pass were checked. No new benchmark evaluation is claimed for this export.

Experiment: llama31_tulu3_8b_dpo_grpo_nonthink_intentcheck_tulu3_8b_dpo_bonus01_b1024_c1_t1_2k_e4_s91_20260907b.

Final resumed training run: https://wandb.ai/ifif/verl_if_rlvr/runs/ti4r0908b

The model is subject to the Llama3.1 Community License and applicable acceptable-use policy inherited from its base model.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
6bf1132

0 моделей