/ Модель

Характеристики

Контекст
512 токенов
Параметры
124 млн
Лицензия
cc-by-sa-3.0
Архитектура
t5 · dense
Опубликована
19 фев 2023

fid_flan_t5_base_nq

Генерация текстаТекст → текст3 профессии

Англоязычная модель Intel на базе Fusion-in-Decoder и FLAN-T5 для генерации ответов на вопросы по найденным текстовым фрагментам.

136скачиваний за 30 дней4лайкавеса обновлены27 сен 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Intel/fid_flan_t5_base_nq — текстовая генеративная модель Intel на архитектуре Fusion-in-Decoder, обученная на наборе Natural Questions. В основе лежит google/flan-t5-base; для каждого вопроса при обучении использовалась подборка релевантных текстовых фрагментов, полученных из корпуса Википедии.

Модель предназначена для ответов на вопросы по найденным документам: на вход подаются запрос и релевантные passages, на выходе генерируется текстовый ответ. Она содержит 123,8 млн параметров, поддерживает английский язык и имеет контекст до 512 токенов. Доступны веса PyTorch и safetensors.

Лицензия — CC BY-SA 3.0. Карточка не приводит подробностей о качестве ответов или условиях развертывания; эффективность зависит от релевантности переданных фрагментов и ограниченного контекстного окна.

Сценарии применения

  • ответы на вопросы по фрагментам Википедии
  • генерация ответов на вопросы Natural Questions
  • извлечение ответа из набора найденных документов

Ограничения

Контекст ограничен 512 токенами, поэтому объём одновременно обрабатываемых фрагментов невелик. Качество ответа зависит от релевантности переданных текстов; метрики оценки в README не приведены.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Fusion-In-Decoder Base on Natural Questions

This trained model is based on the Fusion-In-Decoder model, and trained on the Natural Questions dataset.

Model Details

Model is based on Fusion-In-Decoder, which in turn is based on the google/flan-t5-base checkpoint as the base model. For training, we utilized text retrieval for each query, which provides a collection of relevant passages for it.

We note that the passages were retrieved using a corpus based on Wikipedia.

Evaluation

See model performance on Evaluation Results tab on the right side.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
FusionInDecoderForConditionalGeneration
Ревизия весов
f282568

0 моделей