Дообученная на инструкциях корейская разговорная модель Llama с 10,6 млрд параметров для генерации ответов и текста.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
KoSoLAR-10.7B-v0.2_1.4_dedup_1 — разговорная языковая модель на архитектуре Llama, опубликованная jingyeom. Это версия KoSOLAR-10.7B-v0.2, дообученная методом instruction tuning на собранных из открытых источников данных; при подготовке данных применялся алгоритм дедупликации, а набор инструкций обозначен как версия 1.4.
Модель предназначена для генерации текста в ответ на инструкции и диалоговые запросы. Она содержит 10,6 млрд параметров, использует плотную архитектуру Llama и поддерживает контекст до 4096 токенов. Для загрузки доступны веса в формате safetensors, работать с моделью можно через Transformers.
Карточка не описывает подробно качество на конкретных задачах, языковой охват и ограничения. Модель выпущена под лицензией Apache-2.0.
В карточке нет результатов оценки качества и подробного описания ограничений; указанный контекст составляет 4096 токенов.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
공개 데이터 수집
from transformers import AutoModelForCausalLM, AutoTokenizer
import torch
model_name = "jjingyeom/freeze_KoSoLAR-10.7B-v0.2_1.4_dedup_1"
model = AutoModelForCausalLM.from_pretrained(
model_name,
)
tokenizer = AutoTokenizer.from_pretrained(model_name)
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Подбираем GPU…