Характеристики

Контекст: 4 096 токенов
Параметры: 5,8 млрд
Размер весов: 12,1 ГБ
Лицензия: Своя лицензия
Архитектура: llama · dense
Библиотека: transformers
Опубликована: 21 янв 2024

Ссылки

Yi-Agent-6B

Генерация текстаТекст → текст11 профессий

Двуязычная модель Llama на 5,8 млрд параметров для диалогов по инструкциям и вызова функций на английском и китайском языках.

25скачиваний за 30 дней9лайковвеса обновлены21 янв 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Yi-Agent-6B — двуязычная текстовая модель с генеративной архитектурой Llama, разработанная hiyouga и дообученная с помощью LLaMA-Factory. Модель содержит 5,8 млрд параметров и поддерживает контекст до 4096 токенов. Для обучения использовались наборы Alpaca, OpenAssistant и Glaive Function Calling.

Модель предназначена для следования инструкциям и вызова функций в диалоговых сценариях на английском и китайском языках. Её можно запускать через REST API средствами LLaMA-Factory. В метаданных указана лицензия other; конкретные условия использования следует сверить с лицензией репозитория.

Сценарии применения

ответы на инструкции и вопросы на английском
ответы на инструкции и вопросы на китайском
вызов функций в диалоговых приложениях
создание REST API для текстового ассистента

Ограничения

Контекст ограничен 4096 токенами. README не сообщает результаты оценки качества; условия лицензии с обозначением other требуют проверки в репозитории.

Для каких профессий подходит11

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.14Универсальные способностиАвтоматизация процессов и AI-агентыAI помогает выполнять многошаговые цифровые процессы и координировать действия между системами.20 задач26 022модели II.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

A bilingual model with function calling abilities.

Fine-tuned from: https://huggingface.co/01-ai/Yi-6B
Instruction-following datasets used: alpaca, open assistant, glaive function calling
Training framework: LLaMA-Factory

Usage:

Launch a RESTFul API by using the script in LLaMA-Factory

python src/api_demo.py --template default --model_name_or_path hiyouga/Yi-Agent-6B

Test with:

https://github.com/hiyouga/LLaMA-Factory/blob/main/tests/test_toolcall.py

You can reproduce our results with the step-by-step (Chinese) guide:

https://zhuanlan.zhihu.com/p/678989191

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры: LlamaForCausalLM
Ревизия весов: ecb6495