/ Модель

Характеристики

Контекст
4 096 токенов
Параметры
12,9 млрд
Размер весов
26 ГБ
Архитектура
llama · dense
Опубликована
8 окт 2023

agentlm-13b

Генерация текстаТекст → текст7 профессий

AgentLM-13B — дообученная на агентных траекториях и диалогах модель Llama для генерации текста и решения задач агентами.

232скачиваний за 30 дней21лайквеса обновлены20 окт 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

AgentLM-13B — языковая модель на 12,9 млрд параметров, разработанная авторами проекта AgentTuning. Это плотная модель семейства Llama с архитектурой LlamaForCausalLM, дообученная на смеси AgentInstruct и ShareGPT с использованием базовых моделей Llama 2 Chat. Она предназначена для диалоговой генерации текста и выполнения задач, связанных с работой агентами: обучение на траекториях взаимодействия помогает переносить агентные навыки на ранее не встречавшиеся задачи, сохраняя общие языковые способности.

Модель использует формат диалога Llama 2 Chat с фиксированным системным сообщением. Контекст составляет 4096 токенов. В карточке заявлена генерация текста; конкретные естественные языки отдельно не перечислены. Доступна в формате safetensors. Лицензия в предоставленных данных не указана, поэтому условия использования следует проверить в карточке репозитория.

Сценарии применения

  • создание диалогового помощника на базе Llama 2 Chat
  • выполнение инструкций в агентных сценариях
  • перенос навыков агента на новые задачи
  • генерация ответов в формате диалога Llama 2 Chat

Ограничения

Контекст ограничен 4096 токенами. Естественные языки и лицензия в предоставленных материалах не указаны; качество на отдельных задачах может отличаться.

Для каких профессий подходит7

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

AgentLM-13B

AgentTuning represents the very first attempt to instruction-tune LLMs using interaction trajectories across multiple agent tasks. Evaluation results indicate that AgentTuning enables the agent capabilities of LLMs with robust generalization on unseen agent tasks while remaining good on general language abilities. We have open-sourced the AgentInstruct dataset and AgentLM.

Models

AgentLM models are produced by mixed training on AgentInstruct dataset and ShareGPT dataset from Llama-2-chat models.

The models follow the conversation format of Llama-2-chat, with system prompt fixed as

You are a helpful, respectful and honest assistant.

7B, 13B, and 70B models are available on Huggingface model hub.

ModelHuggingface Repo
AgentLM-7B🤗Huggingface Repo
AgentLM-13B🤗Huggingface Repo
AgentLM-70B🤗Huggingface Repo

Citation

If you find our work useful, please consider citing AgentTuning:

@misc{zeng2023agenttuning,
      title={AgentTuning: Enabling Generalized Agent Abilities for LLMs}, 
      author={Aohan Zeng and Mingdao Liu and Rui Lu and Bowen Wang and Xiao Liu and Yuxiao Dong and Jie Tang},
      year={2023},
      eprint={2310.12823},
      archivePrefix={arXiv},
      primaryClass={cs.CL}
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
9b909f3

0 моделей