Экспериментальный компактный чекпойнт GPT-2 для проверки окружения и бенчмаркинга задержки локального инференса на GPU.

Подходит для: проверка окружения для инференса GPT-2 · проверка совпадения весов между средами · бенчмаркинг задержки генерации на GPU

Англоязычный классификатор на базе ModernBERT для определения, отказала ли языковая модель в ответе или выполнила запрос.

Подходит для: проверка ответа чат-бота на наличие отказа · разметка ответов модели как отказов или соответствующих запросу · скрининг отказов в потоке ответов языковой модели