/ Модель

Характеристики

Контекст
4 096 токенов
Параметры
68,7 млрд
Размер весов
138 ГБ
Архитектура
llama · dense
Опубликована
8 окт 2023

agentlm-70b

Генерация текстаТекст → текст8 профессий

AgentLM-70B — дообученная на агентных траекториях и диалогах модель Llama 2 Chat для генерации текста и выполнения инструкций.

219скачиваний за 30 дней83лайкавеса обновлены20 окт 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

AgentLM-70B — языковая модель команды Z.ai, дообученная на траекториях взаимодействия с агентами и диалогах. Она предназначена для генерации текста в формате беседы и выполнения инструкций, включая задачи агентного взаимодействия. Модель основана на Llama 2 Chat и обучена на смеси AgentInstruct и ShareGPT; использует плотную архитектуру LlamaForCausalLM и содержит 68,7 млрд параметров. Контекст составляет 4096 токенов.

Модель ориентирована на обобщение на незнакомые агентные задачи при сохранении общих языковых возможностей. Она принимает текст и генерирует текст, следуя формату диалога Llama 2 Chat с фиксированным системным промптом. В карточке приведён формат весов safetensors. Сведения о лицензии в доступных данных отсутствуют.

Сценарии применения

  • выполнение инструкций в диалоговом ассистенте
  • планирование последовательности действий для агентной задачи
  • обобщение на незнакомые задачи взаимодействия с агентами
  • ответы на общие вопросы в формате чата

Ограничения

Контекст ограничен 4096 токенами. Лицензия и подробные результаты оценки в предоставленных данных не указаны.

Для каких профессий подходит8

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

AgentLM-70B

AgentTuning represents the very first attempt to instruction-tune LLMs using interaction trajectories across multiple agent tasks. Evaluation results indicate that AgentTuning enables the agent capabilities of LLMs with robust generalization on unseen agent tasks while remaining good on general language abilities. We have open-sourced the AgentInstruct dataset and AgentLM.

Models

AgentLM models are produced by mixed training on AgentInstruct dataset and ShareGPT dataset from Llama-2-chat models.

The models follow the conversation format of Llama-2-chat, with system prompt fixed as

You are a helpful, respectful and honest assistant.

7B, 13B, and 70B models are available on Huggingface model hub.

ModelHuggingface Repo
AgentLM-7B🤗Huggingface Repo
AgentLM-13B🤗Huggingface Repo
AgentLM-70B🤗Huggingface Repo

Citation

If you find our work useful, please consider citing AgentTuning:

@misc{zeng2023agenttuning,
      title={AgentTuning: Enabling Generalized Agent Abilities for LLMs}, 
      author={Aohan Zeng and Mingdao Liu and Rui Lu and Bowen Wang and Xiao Liu and Yuxiao Dong and Jie Tang},
      year={2023},
      eprint={2310.12823},
      archivePrefix={arXiv},
      primaryClass={cs.CL}
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

vLLM

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
6f6ea28

0 моделей