Характеристики

Параметры: 55,1 млн
Лицензия: Apache 2.0
Архитектура: t5 · dense
Базовая модель: ke-t5-small
Опубликована: 21 фев 2025

Ссылки

Hugging Face

keT5-news-title-gen

onebeans

СуммаризацияТекст → текст

Дообученная модель Ke-T5-small, которая генерирует заголовки новостных статей по их тексту.

104скачиваний за 30 дней1лайквеса обновлены23 апр 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель onebeans/keT5-news-title-gen — компактная модель генерации заголовков новостных статей, созданная дообучением Ke-T5-small от KETI. Она построена на архитектуре T5 и содержит 55,1 млн параметров. Для обучения использовались газетные статьи из набора AIHub «문서요약 텍스트». Модель предназначена для создания заголовка по тексту новостной статьи. В карточке указаны корейский и английский языки, лицензия Apache-2.0.

Автор сообщает, что изначально хотел создать модель суммаризации новостей, но из-за ограниченных вычислительных ресурсов сосредоточился на генерации заголовков.

Сценарии применения

генерация заголовка по тексту газетной статьи
автоматическая подготовка заголовков для новостной ленты
создание кратких заголовков для архива новостей

Ограничения

Модель обучалась на газетных статьях из набора AIHub, поэтому её применимость к другим жанрам не подтверждена. Автор описывает её как личный эксперимент; оценок качества в карточке нет.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Model Description

KETI에서 제공하는 트랜스포머기반 요약 모델인 Ke-T5-small을 기반으로 Finetuning하여 만든 '뉴스 기사 제목 생성 모델'입니다.

학습 데이터는 AIHub에서 제공하는 '문서요약 텍스트 (https://aihub.or.kr/aihubdata/data/view.do?currMenu=115&topMenu=100&aihubDataSe=realm&dataSetSn=97) '의 신문기사들을 사용하였습니다.

원래는 '뉴스 기사 요약 모델'을 만들어 보고 싶었으나, 개인 연구 사정상 컴퓨팅 성능이 좋지 않아 우선 뉴스 제목 생성 모델로 만들어 보았습니다.

실행환경

Window 10

NVIDIA GeForce RTX 3070, 8192 MiB

Training Arguments

training_args = Seq2SeqTrainingArguments(
    evaluation_strategy="epoch",                    
    save_strategy="epoch",                          
    save_total_limit=2,                             
    warmup_steps=1000,                             
    learning_rate=5e-5,                             
    per_device_train_batch_size=16,                
    per_device_eval_batch_size=16,               
    num_train_epochs=3,                           
    weight_decay=0.01,                             
    predict_with_generate=True,                    
    fp16=True                               
)

Framework Versions

Python: 3.10.14

PyTorch: 1.12.1

Transformers: 4.46.2

Datasets: 3.2.0

Tokenizers: 0.20.3

차후 뉴스 기사 요약 모델도 만들어보도록 하겠습니다. 감사합니다.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры: T5ForConditionalGeneration
Ревизия весов: 0c9d139