Дообученный англоязычный классификатор для оценки безопасности текстов.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Safety Classification — англоязычный классификатор безопасности текста, разработанный Locus Lab путём дообучения энкодерной модели Alibaba-NLP/gte-large-en-v1.5. Модель предназначена для присвоения тексту оценок безопасности и подходит для автоматической проверки пользовательских запросов или текстовых ответов.
Модель использует архитектуру последовательной классификации и содержит 433,9 млн параметров. Она принимает текст, выдаёт метки или оценки классификации и поддерживает контекст до 8192 токенов. Для использования указаны Transformers и загрузка с trust_remote_code=True. Модель распространяется по лицензии Apache-2.0.
В карточке не описаны категории классификации, методика оценки и результаты тестирования; качество на других языках не подтверждено.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
This is a fine-tuned version of gte-large-en-v1.5 for safety scoring.
from transformers import AutoModelForSequenceClassification, AutoTokenizer
model = AutoModelForSequenceClassification.from_pretrained(
"locuslab/safety-classifier_gte-large-en-v1.5",
torch_dtype=torch.bfloat16,
num_labels=6,
trust_remote_code=True
)
tokenizer = AutoTokenizer.from_pretrained("locuslab/safety-classifier_gte-large-en-v1.5")
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · fill-mask
Модели нужен код из репозитория; автор пока не в списке доверенных организаций.