/ Модель

Характеристики

Контекст
32 768 токенов
Параметры
7,4 млрд
Размер весов
15,5 ГБ
Лицензия
Apache 2.0
Архитектура
internlm2 · dense
Библиотека
transformers
Опубликована
12 июл 2024

anah-v2

Генерация текстаТекст → текст3 профессии

ANAH-v2 — дообученная на InternLM2-7B модель для выявления и разметки галлюцинаций в ответах LLM.

26скачиваний за 30 дней5лайковвеса обновлены8 мар 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

ANAH-v2 — модель OpenCompass на базе InternLM2-7B, дообученная для разметки галлюцинаций в ответах больших языковых моделей. Она предназначена для аналитической оценки ответов: по инструкции и шаблону из статьи модель определяет наличие галлюцинаций в тексте. Модель имеет плотную архитектуру InternLM2ForCausalLM с 7,4 млрд параметров, работает с текстом и поддерживает контекст до 32 768 токенов. Репозиторий использует Transformers и формат safetensors. Лицензия Apache-2.0.

Сценарии применения

  • выявление галлюцинаций в ответах языковых моделей
  • разметка ответов LLM для аналитической оценки
  • анализ достоверности сгенерированных текстовых ответов

Ограничения

Для разметки необходимо использовать формат запроса из статьи; карточка не сообщает точность и качество модели на независимых тестах.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

ANAH-v2: Scaling Analytical Hallucination Annotation of Large Language Models

arXiv license

This page holds the ANAH-v2 model which is trained based on the InternLM2-7B. It is fine-tuned to annotate the hallucination in LLMs' responses.

More information please refer to our project page.

🤗 How to use the model

You have to follow the prompt in our paper to annotate the hallucination and you can find it easily here.

We also provide some examples of using the ANAH-v2 annotator, which you can refer to for annotating your content.

🖊️ Citation

If you find this project useful in your research, please consider citing:

@article{gu2024anah,
  title={ANAH-v2: Scaling Analytical Hallucination Annotation of Large Language Models},
  author={Gu, Yuzhe and Ji, Ziwei and Zhang, Wenwei and Lyu, Chengqi and Lin, Dahua and Chen, Kai},
  journal={arXiv preprint arXiv:2407.04693},
  year={2024}
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

Модели нужен код из репозитория; автор пока не в списке доверенных организаций.

Класс архитектуры
InternLM2ForCausalLM
Ревизия весов
3e7a9ea

0 моделей