/ Модель
Каталог

Характеристики

Контекст
512 токенов
Параметры
59,7 млн
Лицензия
MIT
Архитектура
mobilebert · dense
Базовая модель
mobilebert-uncased-squad-v1
Опубликована
17 июл 2024

Ссылки

Hugging Face

MobileBERT-uncased-squad-v1-BiLSTM-finetuned-squad-optiparam

allistair99
Языковая модель7 профессий

Дообученная MobileBERT для извлечения ответов на вопросы из английского текста.

9скачиваний за 30 дней0лайковвеса обновлены17 июл 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

allistair99 разработал дообученную версию csarron/mobilebert-uncased-squad-v1 для извлечения ответов на вопросы по предоставленному тексту. Модель использует архитектуру MobileBERT, содержит 59,7 млн параметров и рассчитана на контекст до 512 токенов. В репозитории указана оценка Loss 0,9972 на наборе для оценки; обучающий набор не назван.

Модель подходит для поиска короткого ответа в тексте по вопросу, например, при извлечении фактов из документов. Базовая модель ориентирована на английский язык. Модель распространяется по лицензии MIT.

Сценарии применения

  • извлечение ответа на вопрос из предоставленного текста
  • поиск фактов в англоязычных документах
  • ответы на вопросы по текстовым фрагментам

Ограничения

Данные обучения не описаны; указанный Loss 0,9972 сам по себе не позволяет оценить качество на прикладных данных. Контекст ограничен 512 токенами.

Для каких профессий подходит7

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии
I.1Универсальные способностиПоиск и навигация по информацииAI помогает находить нужные сведения и помогать человеку быстро переходить от вопроса к подтверждённому источнику.18 задач13 467моделейI.3Универсальные способностиИзвлечение и структурирование данныхAI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации.18 задач25 791модельI.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модельIII.8Корпоративные функцииДоговоры, юридическая работа и complianceAI помогает ускорять юридический анализ и compliance, не подменяя профессиональное заключение.25 задач1 953модели

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

MobileBERT-uncased-squad-v1-BiLSTM-finetuned-squad-optiparam

This model is a fine-tuned version of csarron/mobilebert-uncased-squad-v1 on an unknown dataset. It achieves the following results on the evaluation set:

  • Loss: 0.9972

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

  • learning_rate: 3e-05
  • train_batch_size: 6
  • eval_batch_size: 60
  • seed: 42
  • optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
  • lr_scheduler_type: linear
  • num_epochs: 2

Training results

Training LossEpochStepValidation Loss
0.60891.0146191.0084
0.58042.0292380.9972

Framework versions

  • Transformers 4.40.0
  • Pytorch 2.3.0+cu121
  • Datasets 2.20.0
  • Tokenizers 0.19.1

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

У модели не указана задача.

Класс архитектуры
MobileBertForQuestionAnswering1
Ревизия весов
73672ff

0 моделей

    Создать бенчмарк