/ Модель
Каталог

Характеристики

Контекст
4 096 токенов
Параметры
10,6 млрд
Размер весов
21,6 ГБ
Лицензия
Apache 2.0
Архитектура
llama · dense
Библиотека
transformers
Опубликована
16 апр 2024

Ссылки

Hugging Face

T3Q-LLM-solar10.8-sft-v1.0

T3Q-LLM
Генерация текстаТекст → текст3 профессии

Корейская разговорная Llama-модель на 10,6 млрд параметров для генерации текста и ответов в диалоге.

29скачиваний за 30 дней0лайковвеса обновлены17 апр 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

T3Q-LLM-solar10.8-sft-v1.0 — разговорная языковая модель, разработанная Chihoon Lee и T3Q. Это плотная авторегрессионная модель семейства Llama с 10,6 млрд параметров, предназначенная для генерации текста и диалогов. В карточке приведены результаты оценки на корейских задачах KoBEST, включая BoolQ и COPA; данные указывают на ориентацию модели на корейский язык.

Модель принимает текст и генерирует текст. Она опубликована в формате safetensors для Transformers, поддерживает контекст до 4096 токенов и распространяется по лицензии Apache-2.0. README сообщает результаты тестирования, но не описывает подробные ограничения или рекомендуемые сценарии применения.

Сценарии применения

  • ответы на вопросы на корейском языке
  • диалоговый помощник на корейском языке
  • генерация корейского текста
  • решение задач на понимание корейского текста
  • оценка причинно-следственных связей в корейских текстах

Ограничения

В README приведены результаты лишь по части тестов KoBEST, поэтому они не характеризуют качество модели во всех задачах и сценариях. Максимальная длина контекста составляет 4096 токенов.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии
I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделейI.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модельIII.4Корпоративные функцииКлиентская поддержка и customer successAI помогает быстрее решать обращения и предупреждать проблемы клиентов.20 задач9 831модель

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

image/png

T3Q-LLM-solar10.8-sft-v1.0

This model is a version of yanolja/EEVE-Korean-Instruct-10.8B-v1.0 that has been fine-tuned with SFT.

Model Developers Chihoon Lee(chihoonlee10), T3Q

hf (pretrained=T3Q-LLM/T3Q-LLM-solar10.8-sft-v1.0), limit: None, provide_description: False, num_fewshot: 0, batch_size: None

TaskVersionMetricValueStderr
kobest_boolq0acc0.9288±0.0069
macro_f10.9286±0.0069
kobest_copa0acc0.7440±0.0138
macro_f10.7434±0.0138
kobest_hellaswag0acc0.4880±0.0224
acc_norm0.5600±0.0222
macro_f10.4854±0.0224
kobest_sentineg0acc0.8589±0.0175
macro_f10.8589±0.0175

hf (pretrained=yanolja/EEVE-Korean-Instruct-10.8B-v1.0), limit: None, provide_description: False, num_fewshot: 0, batch_size: None

TaskVersionMetricValueStderr
kobest_boolq0acc0.9188±0.0073
macro_f10.9185±0.0073
kobest_copa0acc0.7520±0.0137
macro_f10.7516±0.0136
kobest_hellaswag0acc0.4840±0.0224
acc_norm0.5580±0.0222
macro_f10.4804±0.0223
kobest_sentineg0acc0.8514±0.0179
macro_f10.8508±0.0180

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
e9ad89a

0 моделей

    Создать бенчмарк