/ Модель
Каталог

Характеристики

Контекст
2 048 токенов
Параметры
6,6 млрд
Размер весов
13,5 ГБ
Лицензия
Apache 2.0
Архитектура
llama · dense
Библиотека
transformers
Опубликована
4 авг 2023

Ссылки

Hugging Face

openthaigpt-1.0.0-alpha-7b-chat-ckpt-hf

openthaigpt
Генерация текстаТекст → текст5 профессий

Тайская чат-модель на базе LLaMA 2 Chat для генерации текста и ответов на инструкции и вопросы.

62скачиваний за 30 дней5лайковвеса обновлены6 янв 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

OpenThaiGPT 1.0.0-alpha — чат-модель для генерации текста, разработанная командой OpenThaiGPT при участии тайских исследователей и организаций. Это дообученная для следования инструкциям версия LLaMA 2 Chat с плотной архитектурой LlamaForCausalLM и примерно 6,6 млрд параметров. Модель рассчитана прежде всего на общение и ответы на вопросы на тайском языке; также заявлена поддержка английского. В обучении использовались тайские наборы инструкций, вопросов и ответов, включая данные по налогам, финансам и общим знаниям.

Модель подходит для чат-ботов, ответов на вопросы и генерации текстов по инструкциям. Контекст в метаданных указан как 2048 токенов; README описывает увеличение длины контекста до 4096 токенов относительно версии 0.1.0-beta, поэтому фактический предел этого чекпойнта может зависеть от конфигурации. Весы представлены в формате PyTorch и используют библиотеку Transformers. Лицензия — Apache-2.0. Авторы предупреждают, что ответы модели не гарантированы.

Сценарии применения

  • ответы на вопросы на тайском языке
  • чат-бот для общения на тайском
  • генерация текста по тайским инструкциям
  • ответы на вопросы о налогах и финансах на тайском
  • создание ассистента с поддержкой английского

Ограничения

Авторы предупреждают, что ответы модели не гарантированы. В метаданных контекст указан как 2048 токенов, а README сообщает о 4096 токенах относительно предыдущей версии; предел следует сверять с конфигурацией чекпойнта.

Для каких профессий подходит5

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии
I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделейI.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модельIII.4Корпоративные функцииКлиентская поддержка и customer successAI помогает быстрее решать обращения и предупреждать проблемы клиентов.20 задач9 831модельI.6Универсальные способностиПеревод и языковая адаптацияAI помогает переносить смысл между языками, форматами и культурными контекстами.16 задач16 710моделей

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

🇹🇭 OpenThaiGPT 1.0.0-alpha

OpenThaiGPT Version 1.0.0-alpha is the first Thai implementation of a 7B-parameter LLaMA v2 Chat model finetuned to follow Thai translated instructions below and makes use of the Huggingface LLaMA implementation.

---- Full Huggingface Checkpoint Model ----

Upgrade from OpenThaiGPT 0.1.0-beta

  • Using Facebook LLama v2 model 7b chat as a base model which is pretrained on over 2 trillion token.
  • Context Length is upgrade from 2048 token to 4096 token
  • Allow research and commerical use.a

Pretrain Model

Support

License

Source Code: License Apache Software License 2.0. Weight: Research and Commercial uses.

Code and Weight

Colab Demo: https://colab.research.google.com/drive/1kDQidCtY9lDpk49i7P3JjLAcJM04lawu?usp=sharing Finetune Code: https://github.com/OpenThaiGPT/openthaigpt-finetune-010beta Inference Code: https://github.com/OpenThaiGPT/openthaigpt Weight (Lora Adapter): https://huggingface.co/openthaigpt/openthaigpt-1.0.0-alpha-7b-chat Weight (Huggingface Checkpoint): https://huggingface.co/openthaigpt/openthaigpt-1.0.0-alpha-7b-chat-ckpt-hf Weight (GGML): https://huggingface.co/openthaigpt/openthaigpt-1.0.0-alpha-7b-chat-ggml Weight (Quantized 4bit GGML): https://huggingface.co/openthaigpt/openthaigpt-1.0.0-alpha-7b-chat-ggml-q4

Sponsors

Pantip.com, ThaiSC

Powered by

OpenThaiGPT Volunteers, Artificial Intelligence Entrepreneur Association of Thailand (AIEAT), and Artificial Intelligence Association of Thailand (AIAT)

Authors

Disclaimer: Provided responses are not guaranteed.

Open LLM Leaderboard Evaluation Results

Detailed results can be found here

MetricValue
Avg.42.05
ARC (25-shot)50.85
HellaSwag (10-shot)74.89
MMLU (5-shot)40.02
TruthfulQA (0-shot)47.23
Winogrande (5-shot)69.06
GSM8K (5-shot)3.87
DROP (3-shot)8.42

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
9e07fd0

0 моделей

    Создать бенчмарк