Характеристики

Контекст: 4 096 токенов
Параметры: 10,6 млрд
Размер весов: 21,5 ГБ
Архитектура: llama · dense
Опубликована: 5 янв 2024

Ссылки

sft-solar-10.7b-v1.1

Генерация текстаТекст → текст5 профессий

Дообученная на корейских инструкциях текстовая модель SOLAR для диалогов, ответов на вопросы и англо-корейского перевода.

19скачиваний за 30 дней0лайковвеса обновлены17 янв 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

ifuseok/sft-solar-10.7b-v1.1 — текстовая генеративная модель, созданная дообучением upstage/SOLAR-10.7B-Instruct-v1.0. Она предназначена для диалогов, следования инструкциям, ответов на вопросы и англо-корейского перевода. Модель использует плотную архитектуру LlamaForCausalLM, содержит около 10,6 млрд параметров и принимает только текст, генерируя текст; нативная длина контекста — 4096 токенов.

Для обучения использовались корейские наборы инструкций и вопросов, включая Korean OpenOrca, Korean BoolQ и переведённый на корейский набор Dolly, а также часть данных AIhub для перевода с английского на корейский. Это указывает на основной акцент на корейском языке, хотя переводные данные также поддерживают сценарии с английским. Репозиторий распространяет веса в формате safetensors и предназначен для загрузки через Transformers. Лицензия в предоставленных сведениях не указана.

Сценарии применения

диалоговый помощник на корейском языке
ответы на вопросы на корейском языке
выполнение инструкций на корейском языке
перевод текста с английского на корейский

Ограничения

Контекст ограничен 4096 токенами; модель обучалась преимущественно на корейских данных, поэтому качество для других языков не установлено. Лицензия не указана в предоставленных сведениях.

Для каких профессий подходит5

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.6Универсальные способностиПеревод и языковая адаптацияAI помогает переносить смысл между языками, форматами и культурными контекстами.16 задач16 710моделей I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей III.4Корпоративные функцииКлиентская поддержка и customer successAI помогает быстрее решать обращения и предупреждать проблемы клиентов.20 задач9 831модель I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель

Также подходит для

III.2Исследование рынка и маркетинг

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Input Models input text only.

Output Models generate text only.

Base Model upstage/SOLAR-10.7B-Instruct-v1.0

Training Dataset

Implementation Code

from transformers import AutoModelForCausalLM, AutoTokenizer
import torch
repo = "ifuseok/sft-solar-10.7b-v1.1"
OpenOrca = AutoModelForCausalLM.from_pretrained(
        repo,
        return_dict=True,
        torch_dtype=torch.float16,
        device_map='auto'
)
OpenOrca_tokenizer = AutoTokenizer.from_pretrained(repo)

Prompt Example

### System:
시스템 메시지 입니다. 
### User:
유저  입니다.
### Assistant
어시스턴트 입니다.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры: LlamaForCausalLM
Ревизия весов: 2e761c6