/ Модель
Каталог

Характеристики

Контекст
1 024 токена
Параметры
226 млн
Лицензия
MIT
Архитектура
mbart · dense
Опубликована
9 июн 2023

Ссылки

Hugging Face

ru-mbart-large-summ

d0rj
СуммаризацияТекст → текст9 профессий

Модель mBART для автоматического составления кратких пересказов русских и английских текстов, включая новости и диалоги.

40скачиваний за 30 дней9лайковвеса обновлены21 июн 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

d0rj/ru-mbart-large-summ — модель суммаризации на базе ru-bart-large, созданной как уменьшенная версия facebook/mbart-large-50 с эмбеддингами только для русского и английского языков. Модель дообучена на объединённых обучающих выборках из датасетов d0rj/samsum-ru, IlyaGusev/gazeta, zjkarina/matreshka, rcp-meetings/rudialogsum_v2, GEM/wiki_lingua и mlsum; размер обучающей выборки составил 155 678 примеров.

Модель предназначена для сокращения текстов, в том числе новостных материалов и диалогов. Это плотная encoder-decoder архитектура mBART с 226,2 млн параметров и контекстом до 1024 токенов; в репозитории доступны веса PyTorch и safetensors. В README приведён пример использования через pipeline Transformers с задачей summarization.

Лицензия — MIT. В README указано, что оценка проводилась на части объединённых validation-наборов, однако численные результаты и подробное описание метрик недоступны в карточке; отчёт обозначен как незавершённый.

Сценарии применения

  • краткий пересказ новостных статей
  • суммаризация русскоязычных диалогов
  • составление резюме стенограмм встреч
  • сокращение длинных текстов на русском или английском
  • подготовка краткого обзора многоязычных материалов

Ограничения

Контекст ограничен 1024 токенами. В карточке нет численных результатов оценки, поэтому качество на конкретных типах текстов по ней определить нельзя.

Для каких профессий подходит9

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии
I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделейI.7Универсальные способностиРечь, диалоги и встречиAI помогает понимать разговорную речь, поддерживать диалог и превращать встречи в структурированные результаты.17 задач26 923моделиI.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модельIII.2Корпоративные функцииИсследование рынка и маркетингAI помогает понимать рынок, создавать коммуникации и улучшать эффективность маркетинга.22 задачи8 594модели

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

ru-mbart-large-summ

Model

Model forked from ru-bart-large which is smaller version of the facebook/mbart-large-50 with only Russian and English embeddings.

Data

All 'train' subsets was concatenated and shuffled with seed 1000 - 7.

Train subset = 155678 rows.

Metrics

Evaluation on 10% of concatenated 'validation' subsets = 1458 rows.

See WandB logs.

See report at REPORT WIP.

Usage

from transformers import pipeline


pipe = pipeline('summarization', model='d0rj/ru-mbart-large-summ')
pipe(text)

import torch
from transformers import AutoTokenizer, MBartModel


tokenizer = AutoTokenizer.from_pretrained('d0rj/ru-mbart-large-summ')
model = MBartModel.from_pretrained('d0rj/ru-mbart-large-summ')

inputs = tokenizer('Всё в порядке, мимо двигал Утром прозвенел будильник', return_tensors='pt')
with torch.no_grad():
    outputs = model(**inputs)

last_hidden_states = outputs.last_hidden_state

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
MBartForConditionalGeneration
Ревизия весов
dae4725

0 моделей

    Создать бенчмарк