/ Модель

Характеристики

Контекст
512 токенов
Параметры
50,9 млн
Архитектура
bart · dense
Опубликована
14 дек 2022

bart-small

Языковая модель5 профессий

Компактная модель BART для преобразования текста в текст с 50,9 млн параметров и контекстом до 512 токенов.

3 716скачиваний за 30 дней5лайковвеса обновлены6 окт 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

lucadiliello/bart-small — компактная версия BART от автора репозитория. Это плотная encoder-decoder-модель типа BartForConditionalGeneration с 50,9 млн параметров и контекстом до 512 токенов. По сравнению с bart-base у неё меньше голов внимания, меньший размер feed-forward слоёв и меньшая скрытая размерность.

Модель предназначена для задач преобразования текста в текст, в которых входной текст используется для получения целевого текста. Карточка не уточняет конкретные обучающие задачи, языки или датасеты, поэтому область применения можно описать только на общем уровне. Репозиторий содержит веса PyTorch и Safetensors; лицензия в предоставленных данных не указана.

Сценарии применения

  • генерация целевого текста по входному тексту
  • эксперименты с компактной encoder-decoder-моделью
  • прототипирование задач преобразования текста в текст

Ограничения

Карточка не описывает конкретные обучающие задачи или подтверждённое качество на бенчмарках; контекст ограничен 512 токенами.

Для каких профессий подходит5

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

bart-small is a lighter version of bart-base with less attention heads, smaller FFT and smaller hidden-size.

More details can be found here.

Citation

@software{Di_Liello_bart-small,
  author = {Di Liello, Luca},
  license = {GPL-2.0},
  title = {{bart-small}},
  url = {https://github.com/lucadiliello/bart-small}
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

У модели не указана задача.

Класс архитектуры
BartForConditionalGeneration
Ревизия весов
b08bc62

0 моделей