/ Модель

Характеристики

Контекст
131 072 токена
Параметры
7,1 млрд
Размер весов
30,5 ГБ
Лицензия
Apache 2.0
Архитектура
qwen2 · dense
Базовая модель
Sejong-Qwen-v1
Опубликована
2 ноя 2024

Sejong-Qwen-v3

Генерация текстаТекст → текст6 профессий

Дообученная модель Qwen2 на 7,1 млрд параметров для генерации текста, в том числе на корейском и английском языках.

24скачиваний за 30 дней2лайкавеса обновлены4 ноя 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

SejongKRX/Sejong-Qwen-v3 — языковая модель, разработанная SejongKRX и дообученная на базе SejongKRX/Sejong-Qwen-v1. Это плотная авторегрессионная модель семейства Qwen2 с 7,1 млрд параметров, предназначенная для генерации текста. Для обучения использовались Unsloth и Hugging Face TRL; длина контекста составляет 131 072 токена. В набор данных вошли материалы Wikipedia, публичные данные Банка Кореи и mlabonne/open-perfectblend.

Модель можно применять для диалогов, ответов на вопросы и создания текстов на корейском и английском языках. Репозиторий содержит веса в форматах PyTorch и Safetensors. Лицензия модели — Apache 2.0; условия лицензирования отдельных источников данных различаются.

Сценарии применения

  • генерация ответов на вопросы на корейском языке
  • составление и продолжение текстов на корейском
  • генерация текста на английском языке
  • диалоговое взаимодействие с языковой моделью

Ограничения

README не приводит результатов оценки качества и конкретных ограничений модели. Данные обучения включают источники с разными условиями использования, поэтому при их дальнейшем использовании следует учитывать соответствующие лицензии и правила.

Для каких профессий подходит6

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Uploaded model

  • Developed by: SejongKRX
  • License: apache-2.0
  • Finetuned from model : SejongKRX/Sejong-Qwen-v1

This qwen2 model was trained 2x faster with Unsloth and Huggingface's TRL library.

Usage:

Sejong-Qwen-v3_inference.ipynb: Open In Colab

!pip install transformers einops accelerate
!pip install qwen
!pip install unsloth

from transformers import AutoTokenizer, AutoModelForCausalLM

# 토크나이저와 모델 로드
tokenizer = AutoTokenizer.from_pretrained(
    "SejongKRX/Sejong-Qwen-3",
    trust_remote_code=True,
    use_fast=False
)
model = AutoModelForCausalLM.from_pretrained(
    "SejongKRX/Sejong-Qwen-3",
    trust_remote_code=True
)

# 입력 텍스트
input_text =  """
다음 중 화폐의 시간가치에 관한 설명으로 옳지 않은 것은 무엇인가?

A. 월 복리의 경우, 매월 적용되는 이자율은 연간 명목 이자율을 1/12로 나누어 산출한다.
B. 투자 원금 및 기타 조건이 동일할 경우, 단리 방식보다 복리 방식에서 발생하는 이자가 더 크다.
C. 일시불로 지급될 금액의 현재 가치는 미래 가치를 일정 기간 동안 할인율을 적용해 산출할 수 있다.
D. 1,000,000원을 연 5% 복리로 2년 동안 예치했을 경우, 만기에 받을 세전 이자는 100,000원이다.

### 정답:
"""

inputs = tokenizer(input_text, return_tensors="pt")

# 모델을 사용하여 텍스트 생성
output = model.generate(**inputs, max_new_tokens=1500)

# 결과 디코딩
generated_text = tokenizer.decode(output[0], skip_special_tokens=True)
print(generated_text)

output:

다음 중 화폐의 시간가치에 관한 설명으로 옳지 않은 것은 무엇인가?

A. 월 복리의 경우, 매월 적용되는 이자율은 연간 명목 이자율을 1/12로 나누어 산출한다.
B. 투자 원금 및 기타 조건이 동일할 경우, 단리 방식보다 복리 방식에서 발생하는 이자가 더 크다.
C. 일시불로 지급될 금액의 현재 가치는 미래 가치를 일정 기간 동안 할인율을 적용해 산출할 수 있다.
D. 1,000,000원을 연 5% 복리로 2년 동안 예치했을 경우, 만기에 받을 세전 이자는 100,000원이다.

### 정답:
D

Dataset

본 모델은 다양한 출처의 데이터(mlabonne/open-perfectblend, Wikipedia, 한국은행의 공공 데이터 등)를 활용하여 학습되었으며, 모든 데이터는 저작권 및 사용 정책에 따라 적절히 사용되었습니다.

  • Wikipedia 데이터는 CC BY-SA 4.0 라이선스를 따릅니다. 자세한 정보는 여기에서 확인할 수 있습니다.
  • 한국은행의 데이터는 한국은행의 저작권 보호방침에 따라 사용되었습니다.
  • mlabonne/open-perfectblend 데이터는 Apache 2.0 라이선스를 따릅니다. 라이선스에 대한 자세한 내용은 Apache 2.0 라이선스에서 확인할 수 있습니다.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
Qwen2ForCausalLM
Ревизия весов
afafeb1

0 моделей