Характеристики
- Контекст
- 512 токенов
- Параметры
- 38,5 млн
- Архитектура
- t5 · dense
- Опубликована
- 2 мар 2022
Ссылки
unifiedqa-t5-small
Небольшая англоязычная модель T5 от AI2, дообученная отвечать на вопросы разных типов в формате текстового входа и ответа.
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
UnifiedQA-T5-Small — модель Allen Institute for AI (AI2), основанная на архитектуре T5 и дообученная для ответов на вопросы в разных форматах. Она преобразует текстовый вопрос, при необходимости вместе с контекстом или вариантами ответа, в текстовый ответ; поддерживает открытые, извлекающие, абстрактные, да/нет и тестовые вопросы с выбором ответа. Вариант small содержит около 38,5 млн параметров, использует кодировщик-декодировщик T5 и рассчитан на контекст до 512 токенов.
Модель предназначена для построения и оценки систем вопросно-ответного поиска и может служить начальной точкой для дальнейшей настройки на пользовательских данных. Карточка и материалы проекта указывают английский язык. Модель принимает и выдаёт текст, а ожидаемый формат входа использует разделитель между вопросом и дополнительными данными. Репозиторий проекта распространяется по лицензии Apache-2.0.
Сценарии применения
- ответы на вопросы по предоставленному текстовому контексту
- ответы на вопросы с выбором одного из вариантов
- ответы да или нет на вопросы по тексту
- генерация кратких ответов на открытые вопросы
- оценка и прототипирование систем вопросно-ответного поиска
Ограничения
Контекст ограничен 512 токенами; для корректной работы вход следует кодировать в текстовом формате с разделителем между вопросом и другими частями. Материалы проекта предостерегают от неверных результатов при неправильном форматировании входных данных.
Для каких профессий подходит4
Разделы каталога профессий, в задачах которых используется эта модель
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Автор не опубликовал карточку модели.
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
У модели не указана задача.
- Класс архитектуры
- T5ForConditionalGeneration
- Ревизия весов
- 10c4e0c