/ Модель

Характеристики

Контекст
4 096 токенов
Параметры
10,6 млрд
Размер весов
21,5 ГБ
Архитектура
llama · dense
Библиотека
transformers
Опубликована
21 мая 2024

T3Q-LLM2-sft1.0-dpo1.0

Генерация текстаТекст → текст5 профессий

Разговорная модель семейства Llama с 10,6 млрд параметров для генерации текста и ответов на запросы.

23скачиваний за 30 дней0лайковвеса обновлены23 мая 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

T3Q-LLM2-sft1.0-dpo1.0 — разговорная языковая модель семейства Llama, разработанная T3Q-LLM. Модель содержит 10,6 млрд параметров, использует архитектуру LlamaForCausalLM и распространяется в формате safetensors для Transformers. Метаданные указывают на контекст длиной до 4096 токенов.

Модель предназначена для диалоговой генерации текста и ответов на запросы. В карточке приведены результаты оценки на корейских задачах понимания текста KoBEST BoolQ и COPA; это указывает на проверку модели на корейском языке, но карточка не сообщает полный список поддерживаемых языков. README автоматически сгенерирован и не содержит сведений о разработчике, лицензии или базовой модели, поэтому условия использования и происхождение дообучения установить нельзя.

Сценарии применения

  • ответы на вопросы в диалоге
  • генерация ответов на текстовые запросы
  • проверка понимания корейских текстов
  • решение задач на причинно-следственные связи

Ограничения

Карточка не сообщает лицензию и базовую модель. Контекст ограничен 4096 токенами; приведённые оценки охватывают только отдельные корейские тесты.

Для каких профессий подходит5

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Model Card for Model ID

Model Details

Model Description

This is the model card of a 🤗 transformers model that has been pushed on the Hub. This model card has been automatically generated.

  • Developed by: [More Information Needed]
  • Funded by [optional]: [More Information Needed]
  • Shared by [optional]: [More Information Needed]
  • Model type: [More Information Needed]
  • Language(s) (NLP): [More Information Needed]
  • License: [More Information Needed]
  • Finetuned from model [optional]: [More Information Needed]

Model Sources [optional]

  • Repository: [More Information Needed]
  • Paper [optional]: [More Information Needed]
  • Demo [optional]: [More Information Needed]

Uses

Evaluation

hf-causal-experimental (pretrained=T3Q-LLM/T3Q-LLM2-sft1.0-dpo1.0,use_accelerate=true,trust_remote_code=true), limit: None, provide_description: False, num_fewshot: 0, batch_size: 8

TaskVersionMetricValueStderr
kobest_boolq0acc0.9274±0.0069
macro_f10.9272±0.0069
kobest_copa0acc0.7690±0.0133
macro_f10.7684±0.0134
kobest_hellaswag0acc0.5280±0.0223
acc_norm0.5600±0.0222
macro_f10.5263±0.0222
kobest_sentineg0acc0.6474±0.0240
macro_f10.6072±0.0254

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
17e1aef

0 моделей