Дообученная на данных в стиле Open Orca корейская языковая модель на 5,9 млрд параметров для генерации текста.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
AIFT-Yi-Ko-6B-v1.11 — языковая модель для генерации текста, созданная на основе beomi/Yi-Ko-6B. Модель имеет плотную архитектуру семейства LLaMA с 5,9 млрд параметров и контекстом 2048 токенов; веса опубликованы в формате safetensors.
Модель прошла полное дообучение в течение трёх эпох на примерно 48 тысячах примеров собственного набора данных в стиле Open Orca, после удаления дубликатов и настройки распределения данных. Она предназначена для генерации текста и может применяться к корейским языковым задачам; README приводит результаты оценки на KoBEST BoolQ, COPA, HellaSwag и PAWS-X.
Лицензия — CC BY-NC 4.0, которая ограничивает коммерческое использование. Приведённые результаты относятся к оценке с 5 примерами и сами по себе не подтверждают качество на других задачах или в производственных сценариях.
Контекст модели ограничен 2048 токенами. Результаты оценки приведены только для четырёх корейских бенчмарков с настройкой 5-shot и не характеризуют качество на всех сценариях.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
베이스 모델 : beomi/Yi-Ko-6B
학습 데이터 : 자체 제작한 Open Orca 스타일 데이터셋 약 48,000건 (중복 제거 및 데이터 분포 조정)
학습 방법 : Full finetuning
epoch : 3
| kobest_boolq | kobest_copa | kobest_hellaswag | pawsx_ko |
|---|---|---|---|
| 0.52065527065527 | 0.721 | 0.466 | 0.5475 |
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Подбираем GPU…