Русскоязычная BERT-модель извлекает ответ на вопрос из предоставленного текстового контекста.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Den4ikAI/rubert_large_squad_2 — русскоязычная модель ответов на вопросы на базе ruBert-base от Sberbank AI. Она принимает вопрос и текстовый контекст и извлекает из контекста фрагмент, который отвечает на вопрос. Модель построена на архитектуре BERT, содержит 205,5 млн параметров и рассчитана на контекст до 512 токенов.
По карточке модель дообучена за четыре эпохи на выборке из четырёх примеров; README показывает использование через Transformers pipeline для question-answering. Такой малый объём обучения ограничивает надёжность и обобщение результатов, поэтому качество на новых данных следует проверять отдельно. Модель распространяется по лицензии MIT.
В README указано обучение на выборке из четырёх примеров, поэтому качество и обобщение на новых данных могут быть ограничены. Контекст ограничен 512 токенами.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
обученный rubert от sberbank-ai/ruBert-base.
размер выборки - 4.
Эпохи - 4.
from transformers import pipeline
qa_pipeline = pipeline(
"question-answering",
model="Den4ikAI/rubert_large_squad_2",
tokenizer="Den4ikAI/rubert_large_squad_2"
)
predictions = qa_pipeline({
'context': "Пушкин родился 6 июля 1799 года",
'question': "Когда родился Пушкин?"
})
print(predictions)
# output:
#{'score': 0.8013797664642334, 'start': 15, 'end': 31, 'answer': '6 июля 1799 года'}
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · question-answering
Подбираем GPU…