/ Модель

Характеристики

Контекст
514 токенов
Параметры
659 млн
Лицензия
CC BY-NC 4.0
Архитектура
roberta · dense
Базовая модель
vi-mrc-large
Опубликована
20 окт 2023

vi-mrc-large-version-2

Ответы на вопросыТекст → текст3 профессии

Дообученная RoBERTa-модель для извлечения ответов из контекста по вопросам, преимущественно на вьетнамском языке.

20скачиваний за 30 дней0лайковвеса обновлены20 окт 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

SalmonAI123/vi-mrc-large-version-2 — модель на архитектуре RoBERTa, дообученная на базе nguyenvulebinh/vi-mrc-large для ответов на вопросы. Она предназначена для извлечения ответа из предоставленного контекста по вопросу; в описании базовой модели указан приоритет вьетнамского языка. Модель содержит 658,7 млн параметров и поддерживает контекст длиной до 514 токенов.

В README приведён результат оценки Loss 0,9283, но набор данных и подробности оценки не описаны. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.

Сценарии применения

  • извлечение ответа из вьетнамского текста по заданному вопросу
  • поиск ответа в предоставленном фрагменте документа
  • создание системы вопросно-ответного поиска по вьетнамским материалам

Ограничения

README не описывает обучающие данные и ограничения применения; в нём указан только результат оценки Loss 0,9283 без подробностей набора и методики. Лицензия CC BY-NC 4.0 ограничивает коммерческое использование.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

vi-mrc-large-version-2

This model is a fine-tuned version of nguyenvulebinh/vi-mrc-large on the None dataset. It achieves the following results on the evaluation set:

  • Loss: 0.9283

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

  • learning_rate: 1e-05
  • train_batch_size: 4
  • eval_batch_size: 4
  • seed: 42
  • optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
  • lr_scheduler_type: linear
  • num_epochs: 2

Training results

Training LossEpochStepValidation Loss
No log1.01490.9254
No log2.02980.9283

Framework versions

  • Transformers 4.33.0
  • Pytorch 2.0.0
  • Datasets 2.1.0
  • Tokenizers 0.13.3

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · question-answering

Можно запустить

Подбираем GPU…

Класс архитектуры
RobertaForQuestionAnswering
Ревизия весов
113aa2d

0 моделей