/ Модель

Характеристики

Контекст
32 768 токенов
Параметры
464 млн
Лицензия
CC BY-NC-ND 4.0
Архитектура
qwen2 · dense
Опубликована
19 мая 2024

xFinder-qwen1505

Генерация текстаТекст → текст5 профессий

Компактная дообученная модель IAAR для извлечения ключевых ответов из текстовых ответов LLM при автоматической оценке.

348скачиваний за 30 дней8лайковвеса обновлены26 мар 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

xFinder-qwen1505 — компактная языковая модель, разработанная IAAR для извлечения ключевых ответов из текстовых ответов больших языковых моделей. Она дообучена на основе Qwen-1.5-0.5B и предназначена прежде всего для оценки результатов LLM на задачах, где нужно надёжно определить ответ в свободно сформулированном тексте.

Модель помогает извлекать ответы из разнообразных формулировок, с которыми регулярные выражения справляются ненадёжно. В README сообщается об оценке на размеченных людьми тестовой и обобщающей выборках набора KAF и об улучшении точности и устойчивости извлечения по сравнению с подходами на основе регулярных выражений. Это причинная текстовая модель семейства Qwen2 с 463,9 млн параметров и контекстом до 32 768 токенов; карточка указывает английский язык.

Модель подходит для автоматизации проверки ответов LLM и подготовки результатов к последующей оценке. Карточка не приводит подробностей о качестве на других наборах данных или языках. Лицензия CC BY-NC-ND 4.0 ограничивает использование и распространение производных материалов; перед применением следует учитывать её условия.

Сценарии применения

  • извлечение итогового ответа из развёрнутого ответа LLM
  • подготовка ответов LLM к автоматической оценке
  • проверка результатов моделей на тестовых наборах
  • извлечение ответа при разных формулировках и форматах вывода

Ограничения

В README описана оценка на наборе KAF; качество на других наборах и языках не приводится. Лицензия CC BY-NC-ND 4.0 предусматривает ограничения на коммерческое использование и распространение производных материалов.

Для каких профессий подходит5

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

xFinder-qwen1505

Model Details

xFinder-qwen1505 is a model specifically designed for key answer extraction in large language models (LLMs). It is trained by fine-tuning Qwen-1.5-0.5B.

Model Sources

Uses

xFinder is primarily used to enhance the evaluation of LLMs by accurately extracting key answers from their outputs. It addresses the limitations of traditional regular expression (RegEx)-based extraction methods, which often fail to handle the diverse and complex outputs generated by LLMs. xFinder improves the reliability of model assessments across various tasks.

Training Details

xFinder-qwen1505 is fine-tuned from Qwen-1.5-0.5B. The training data consists of approximately 26.9K samples from the Key Answer Finder (KAF) dataset. This dataset is designed to enhance the accuracy and robustness of key answer extraction and includes a variety of tasks. It has been meticulously annotated by GPT-4 and human experts to ensure high-quality training and evaluation. For more details, see this paper and try it with code.

Evaluation

xFinder is evaluated on the fully human-annotated test and generalization sets of the KAF dataset. The results demonstrate significant improvements in extraction accuracy and robustness compared to traditional methods. For more details, please refer to the paper and try it out using the provided code.

Citation

@inproceedings{
    xFinder,
    title={xFinder: Large Language Models as Automated Evaluators for Reliable Evaluation},
    author={Qingchen Yu and Zifan Zheng and Shichao Song and Zhiyu li and Feiyu Xiong and Bo Tang and Ding Chen},
    booktitle={The Thirteenth International Conference on Learning Representations},
    year={2025},
    url={https://openreview.net/forum?id=7UqQJUKaLM}
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
Qwen2ForCausalLM
Ревизия весов
74710b2

0 моделей