Характеристики

Контекст: 512 токенов
Лицензия: Apache 2.0
Архитектура: distilbert · dense
Базовая модель: distilbert-base-uncased
Библиотека: transformers
Опубликована: 20 июл 2026

Ссылки

Hugging Face

squad_distilbert_qa_model

hrithikkoduri18

Ответы на вопросыТекст → текст

Дообученная англоязычная DistilBERT-модель для извлечения ответов из контекста по заданному вопросу.

5скачиваний за 30 дней0лайковвеса обновлены20 июл 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это компактная модель DistilBERT, разработанная на основе distilbert/distilbert-base-uncased и дообученная для поиска ответа на вопрос в предоставленном тексте. Она подходит для систем извлечения ответов из документов и коротких фрагментов на английском языке. Модель принимает текст вопроса и контекст, а затем выделяет в контексте ответ; архитектура — DistilBertForQuestionAnswering, длина контекста — до 512 токенов.

Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. В README указан результат Loss 1.8342 на оценочном наборе, но датасет, методика оценки и практическая точность не описаны, поэтому качество на конкретных данных не установлено.

Сценарии применения

извлечение ответа на вопрос из текста на английском языке
поиск фактов в коротких документах
ответы на вопросы по статьям и справочным материалам
создание компонента вопросно-ответной системы по контексту

Ограничения

Контекст ограничен 512 токенами. Датасет дообучения и подробности оценки не приведены; указанный Loss 1.8342 сам по себе не позволяет оценить точность на пользовательских данных.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

squad_distilbert_qa_model

This model is a fine-tuned version of distilbert/distilbert-base-uncased on an unknown dataset. It achieves the following results on the evaluation set:

Loss: 1.8342

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

learning_rate: 2e-05
train_batch_size: 16
eval_batch_size: 16
seed: 42
optimizer: Use adamw_torch_fused with betas=(0.9,0.999) and epsilon=1e-08 and optimizer_args=No additional optimizer arguments
lr_scheduler_type: linear
num_epochs: 3

Training results

Training Loss	Epoch	Step	Validation Loss
No log	1.0	250	2.4473
2.7476	2.0	500	1.9079
2.7476	3.0	750	1.8342

Framework versions

Transformers 4.57.6
Pytorch 2.8.0
Datasets 4.5.0
Tokenizers 0.22.2

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers · question-answering

Можно запустить

Подбираем GPU…

Класс архитектуры: DistilBertForQuestionAnswering
Ревизия весов: cac59de