NiviG/hallucination-detector — модель классификации текста, созданная дообучением DeBERTa-v3-base от Microsoft. Она сопоставляет утверждение, сгенерированное ИИ, с предоставленным контекстом и определяет, подтверждается ли оно, опровергается ли или остаётся непроверяемым. Модель обучена на более чем 25 тысячах примеров FEVER для проверки фактов и выявления галлюцинаций в ответах языковых моделей.

Архитектура — DeBERTa-v2 для классификации последовательностей, около 211,6 млн параметров; модель работает с текстом и имеет контекст до 512 токенов. Она выдаёт одну из трёх меток: FACTUAL, UNCERTAIN или HALLUCINATION. Веса опубликованы в формате safetensors; библиотека — Transformers. Карточка не указывает лицензию, поэтому условия использования по имеющимся данным определить нельзя.