/ Модель

Характеристики

Контекст
4 096 токенов
Параметры
6,6 млрд
Размер весов
27 ГБ
Лицензия
MIT
Архитектура
llama · dense
Опубликована
5 окт 2023

fireact_llama_2_7b

Генерация текстаТекст → текст4 профессии

Полностью дообученная Llama 2 на 7 млрд параметров для текстового ReAct-взаимодействия с внешними поисковыми инструментами.

23скачиваний за 30 дней16лайковвеса обновлены9 окт 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

FireAct Llama-2-7B — текстовая генеративная модель, разработанная System 2 Research, Cambridge LTL, Monash University и Princeton PLI. Это полное дообучение Llama 2 для выполнения ReAct: модель формирует рассуждения и текстовые действия, позволяющие взаимодействовать с внешними поисковыми инструментами.

Модель обучена на многозадачных данных HotpotQA, StrategyQA и MMLU с форматами ReAct, Chain of Thought и Reflexion. Она принимает и выдаёт только текст, построена на архитектуре LlamaForCausalLM и содержит 6,6 млрд параметров; заявленный контекст — 4096 токенов. Карточка указывает английский язык и лицензию MIT. Для базовых моделей Llama 2 README отдельно рекомендует учитывать лицензионные условия Meta.

Сценарии применения

  • Поиск ответов на вопросы с использованием внешнего поиска
  • Многошаговое исследование вопросов в стиле ReAct
  • Формирование текстовых действий для вызова поисковых инструментов

Ограничения

Для работы с поиском нужны внешние инструменты и соответствующая интеграция. Модель принимает только текст, а контекст ограничен 4096 токенами.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Website: FireAct Agent

FireAct Llama-2/CodeLlama

FireAct Llama/CodeLlama is a collection of fine-tuned generative text models for performing ReAct with external search tools. Links to other models can be found in the Index section.

Foundation Model Details

Note: As the foundation models, Llama-2 and CodeLlama, are developed by Meta, please also read the guidance and license on their website, Llama-2 and CodeLlama, before using FireAct models.

Model Developers System 2 Research, Cambridge LTL, Monash University, Princeton PLI.

Variations FireAct models including Llama-2-7B full fine-tuned models, and Llama-2-[7B,13B], CodeLlama-[7B,13B,34B] LoRA fine-tuned models. All released models are fine-tuned on multi-task (HotpotQA/StrategyQA/MMLU) and multi-type (ReAct/CoT/Reflexion) data.

Input Models input text only.

Output Models generate text only.

Index

Full Fine-tuned Model

FireAct Llama-2:

LoRA Fine-tuned Model

FireAct Llama-2:

FireAct CodeLlama:

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
12eac31

0 моделей