/ Модель

Характеристики

Контекст
4 096 токенов
Параметры
12,9 млрд
Лицензия
Apache 2.0
Архитектура
llama · dense
Библиотека
transformers
Опубликована
3 мая 2024

Kiddee-qatable1

Генерация текстаТекст → текст3 профессии

Модель на основе OpenThaiGPT для ответов на вопросы по таблицам и генерации ответов в RAG-системах.

20скачиваний за 30 дней1лайквеса обновлены3 мая 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

AIAT/Kiddee-qatable1 — модель на архитектуре LLaMA, созданная на основе openthaigpt/openthaigpt-1.0.0-13b-chat и предназначенная для ответов на вопросы по таблицам. Карточка описывает её применение в системе вопросно-ответного поиска с генерацией ответов, использующей подход RAG.

Модель содержит 12,9 млрд параметров, работает с текстом и поддерживает тайский и английский языки. Указанная длина контекста — 4096 токенов. В карточке приведены метрики: accuracy 0,53 и время ответа 2,440; условия измерения не описаны. Репозиторий содержит веса Safetensors, библиотека метаданных — Transformers. Лицензия — Apache-2.0.

Сценарии применения

  • ответы на вопросы по табличным данным
  • поиск значений и фактов в таблицах
  • генерация ответов на вопросы на тайском языке
  • генерация ответов на вопросы на английском языке
  • использование в RAG-системе вопросно-ответного поиска

Ограничения

В карточке указана точность 0,53, но не описаны набор оценки и условия измерения; время ответа приведено без единицы измерения. Контекст ограничен 4096 токенами.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

license: apache-2.0

KIDDEE

Tag

  • openthaigpt/openthaigpt-1.0.0-13b-chat

Datasets:

language:

  • th
  • en

metrics:

  • accuracy 0.53
  • response time 2.440

pipeline_tag:

  • table-question-answering

tags:

  • OpenthaiGPT-13b
  • LLMModel

This repository contains code and resources for building a Question Answering (QA) system using the Retrieval-Augmented Generation (RAG) approach with the Language Learning Model (LLM).

Introduction

RAG-QA combines the power of retrieval-based models with generative models to provide accurate and diverse answers to a given question. LLM, a state-of-the-art language model, is used for generation within the RAG framework.

sponser

image/png

library_name: adapter-transformers

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
fbf7944

0 моделей