/ Модель

Характеристики

Контекст
4 096 токенов
Параметры
10,6 млрд
Размер весов
21,5 ГБ
Архитектура
llama · dense
Библиотека
transformers
Опубликована
23 мая 2024

T3Q-LLM2-sft1.1

Генерация текстаТекст → текст4 профессии

Разговорная языковая модель семейства Llama с 10,6 млрд параметров для генерации текста и ответов в диалоге.

17скачиваний за 30 дней0лайковвеса обновлены23 мая 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

T3Q-LLM2-sft1.1 — разговорная языковая модель семейства Llama, опубликованная в формате Transformers. По метаданным, она имеет плотную архитектуру LlamaForCausalLM, содержит 10,6 млрд параметров и рассчитана на контекст до 4096 токенов. В карточке README разработчик, базовая модель, лицензия и языки не указаны.

Модель предназначена для генерации текста в диалоговом формате. Её можно использовать для ответов на вопросы, ведения беседы и других сценариев генерации текста. В README приведены результаты отдельных тестов корейского понимания языка, включая KoBEST BoolQ и COPA; они не дают полной оценки качества модели для других языков и задач.

Сценарии применения

  • ответы на вопросы в диалоговом интерфейсе
  • ведение текстового диалога
  • генерация продолжений текста
  • экспериментальная оценка понимания корейского языка

Ограничения

README не сообщает лицензию, языки обучения или базовую модель. Приведённые тесты охватывают лишь отдельные задания на корейском языке и не позволяют судить о качестве в других сценариях.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Model Card for Model ID

Model Details

Model Description

This is the model card of a 🤗 transformers model that has been pushed on the Hub. This model card has been automatically generated.

  • Developed by: [More Information Needed]
  • Funded by [optional]: [More Information Needed]
  • Shared by [optional]: [More Information Needed]
  • Model type: [More Information Needed]
  • Language(s) (NLP): [More Information Needed]
  • License: [More Information Needed]
  • Finetuned from model [optional]: [More Information Needed]

Model Sources [optional]

  • Repository: [More Information Needed]
  • Paper [optional]: [More Information Needed]
  • Demo [optional]: [More Information Needed]

Uses

Direct Use

[More Information Needed]

Downstream Use [optional]

[More Information Needed]

Evaluation

hf-causal-experimental (pretrained=T3Q-LLM/T3Q-LLM2-sft1.1,use_accelerate=true,trust_remote_code=true), limit: None, provide_description: False, num_fewshot: 0, batch_size: 8

TaskVersionMetricValueStderr
kobest_boolq0acc0.9402±0.0063
macro_f10.9401±0.0063
kobest_copa0acc0.7770±0.0132
macro_f10.7766±0.0132
kobest_hellaswag0acc0.5040±0.0224
acc_norm0.5580±0.0222
macro_f10.5019±0.0223
kobest_sentineg0acc0.7254±0.0224
macro_f10.7076±0.0236

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
1c0355f

0 моделей