/ Модель

Характеристики

Контекст
131 072 токена
Параметры
7,5 млрд
Размер весов
16,1 ГБ
Лицензия
Apache 2.0
Архитектура
llama · dense
Базовая модель
Hermes-3-Llama-3.1-8B
Библиотека
transformers
Опубликована
17 сен 2024

Linkbricks-Horizon-AI-Nous-Hermes-3-Llama3.1-Korean-cpt-8b

Генерация текстаТекст → текст6 профессий

Корейская языковая модель Linkbricks на базе Hermes 3 и Llama 3.1 для генерации текста, диалогов и последующей адаптации под прикладные задачи.

33скачиваний за 30 дней1лайквеса обновлены5 дек 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель Linkbricks-Horizon-AI-Nous-Hermes-3-Llama3.1-Korean-cpt-8b разработана Саксоном (Джи Юнсон), специалистом по данным компании Linkbricks. Это корейская языковая модель на архитектуре Llama, полученная продолжением предварительного обучения базовой NousResearch/Hermes-3-Llama-3.1-8B на корейских корпусах, включая около 50 миллионов новостных материалов; примерно 25% параметров были перенастроены. Модель содержит 7,5 млрд параметров и поддерживает контекст до 131 072 токенов.

Модель предназначена как базовая корейская модель для дальнейшей адаптации с помощью SFT и DPO. Её можно использовать для генерации текста и диалога на корейском, а также для перевода, суммаризации, ответов на вопросы и вызова инструментов. Карточка указывает на поддержку корейского function calling и tool calling. Токенизатор унаследован от базовой модели без расширения словаря.

Модель распространяется в формате safetensors по лицензии Apache-2.0. Как базовый CPT-чекпойнт, она может требовать дополнительной настройки под конкретный сценарий; README не приводит количественных оценок качества или подробных результатов бенчмарков.

Сценарии применения

  • генерация и продолжение текста на корейском языке
  • создание корейского чат-бота с дополнительной настройкой
  • суммаризация корейских новостных материалов
  • ответы на вопросы на корейском языке
  • перевод между корейским, английским, японским и китайским
  • вызов инструментов из корейского диалога

Ограничения

Чекпойнт описан как базовая модель, которую следует адаптировать с помощью SFT и DPO под конкретное применение. README не приводит количественных оценок качества или результатов бенчмарков.

Для каких профессий подходит6

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Model Card for Model ID

AI 와 빅데이터 분석 전문 기업인 Linkbricks의 데이터사이언티스트인 지윤성(Saxo) 이사가 NousResearch/Hermes-3-Llama-3.1-8B 베이스모델을 사용해서 H100-80G 8개를 통해 CPT(Continued Pre Trainig) 한 한글 언어 모델 5천만건의 한글 뉴스 포함 다양한 한글 코퍼스를 기준으로 전체 파라미터중 약 25%를 재 튜닝한 한글 기본 모델로 SFT, DPO 를 통해 용도에 맞게 튜닝하면 됩니다. -토크나이저는 확장 없이 베이스 모델을 그대로 사용 -128k-Context Window -한글 Function Call 및 Tool Calling 지원 -Deepspeed Stage=3, rslora 및 BAdam Layer Mode 사용

Dr. Yunsung Ji (Saxo), a data scientist at Linkbricks, a company specializing in AI and big data analytics Korean language model CPT (Continued Pre Trainig) with 8 H100-80Gs using NousResearch/Hermes-3-Llama-3.1-8B base model A basic Korean language model with about 25% of the total parameters re-tuned based on various Korean corpus including 50 million Korean news, which need to be customized through SFT and DPO. -Tokenizer uses the base model without word expansion -128k-Context Window -Support for Korean Functioncall and Tool Calling -Deepspeed Stage=3, use rslora and BAdam Layer Mode

www.linkbricks.com, www.linkbricks.vc

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
8dc819e

0 моделей