tinyroberta-squad2-finetuned-squad

В репозитории нет отдельной карточки модели, но указаны задача Question Answering, библиотека Transformers, PyTorch и архитектурное семейство RoBERTa. Модель предназначена для извлечения ответа из заданного контекста по вопросу и поддерживает сценарии SQuAD-подобного ответа на вопросы.

По названию и доступным данным это производная от deepset/tinyroberta-squad2, дистиллированной версии deepset/roberta-base-squad2. Базовая модель обучена для английского языка на SQuAD 2.0, содержит около 81,5 млн параметров и рассчитана на работу с последовательностями длиной до 384 токенов; при обучении использовался doc stride 128 и максимальная длина вопроса 64 токена. Дистилляция делает её компактнее и примерно вдвое быстрее базовой модели, сохраняя сопоставимое качество; для базовой версии заявлены F1 около 81,9 на dev-выборке SQuAD 2.0.

Сильные стороны модели — небольшие размеры, высокая скорость инференса и способность определять отсутствие ответа в контексте благодаря обучению на SQuAD 2.0. Ограничения включают специализацию на английском extractive question answering: модель не является универсальной генеративной LLM, не предназначена для свободной генерации текста и может хуже работать на языках, доменах и формулировках, отличающихся от обучающих данных. Для точной версии ahujaniharika95 отдельно не указаны контекстное окно, метрики, ограничения применения и лицензия; у базовой deepset/tinyroberta-squad2 указана лицензия CC BY 4.0, но её применимость к производной версии необходимо проверять в репозитории.