VinaLLaMA - State-of-the-art Vietnamese LLMs
Read our Paper
Prompt Format (ChatML):
<|im_start|>system
Bạn là một trợ lí AI hữu ích. Hãy trả lời người dùng một cách chính xác.
<|im_end|>
<|im_start|>user
Hello world!<|im_end|>
<|im_start|>assistant
Характеристики
- Контекст
- 4 096 токенов
- Параметры
- 6,7 млрд
- Размер весов
- 27,4 ГБ
- Лицензия
- Llama 2
- Архитектура
- llama · dense
- Опубликована
- 12 дек 2023
Ссылки
vinallama-7b-chat
Чат-модель VinaLLaMA на 6,7 млрд параметров для генерации диалоговых ответов на вьетнамском языке.
294скачиваний за 30 дней34лайкавеса обновлены7 июн 2024
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Тесты пользователейпока нет
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
VinaLLaMA-7B-Chat — чат-модель на архитектуре Llama, разработанная VinaLLaMA для общения на вьетнамском языке. Она предназначена для генерации ответов в диалоге и запускается как причинная языковая модель с общим числом параметров 6,7 млрд и контекстом до 4096 токенов.
Для общения используется формат сообщений ChatML с ролями system, user и assistant. Модель распространяется в форматах PyTorch и Safetensors; заявлена лицензия Llama 2. Карточка не уточняет детали обучения и его датасеты, поэтому качество и поведение в отдельных предметных областях по ней оценить нельзя.
Сценарии применения
- ответы на вопросы на вьетнамском языке
- чат-бот для общения на вьетнамском языке
- генерация диалоговых ответов по системной инструкции
Ограничения
Контекст ограничен 4096 токенами; карточка не приводит оценок качества и сведений о поведении модели за пределами вьетнамского языка.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделейIII.4Корпоративные функцииКлиентская поддержка и customer successAI помогает быстрее решать обращения и предупреждать проблемы клиентов.20 задач9 831модельI.7Универсальные способностиРечь, диалоги и встречиAI помогает понимать разговорную речь, поддерживать диалог и превращать встречи в структурированные результаты.17 задач26 923модели
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Подбираем GPU…
- Класс архитектуры
- LlamaForCausalLM
- Ревизия весов
- 9ed2afd