Дообученная на инструкциях модель Llama с 6,7 млрд параметров для генерации текста и перевода между корейским и английским языками.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
jb723/cross_lingual_epoch2 — языковая модель на архитектуре Llama, разработанная автором репозитория на основе начальных параметров meta-llama/Llama-2-7b-hf. Модель обучена с использованием Kullm v2, наборов инструкций Alpaca и Dolly, данных ShareGPT и корейско-английского параллельного корпуса AIHub; параллельные данные преобразовали в инструкции на перевод, после чего провели дообучение. Используется токенизатор Llama 2 от Beomi.
Модель предназначена для генерации текста по инструкциям, в том числе для перевода между корейским и английским языками. Она содержит 6,7 млрд параметров, построена как плотная авторегрессионная модель Llama и имеет контекст длиной 2048 токенов. Репозиторий распространяет веса в формате PyTorch по лицензии MIT. Карточка не приводит оценок качества или подробных результатов тестирования.
Контекст ограничен 2048 токенами. В карточке не приведены оценки качества и результаты тестирования перевода.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
학습 데이터 Kullmv2 dataset, alpaca instruction dataset, dolly 데이터셋, share GPT 데이터셋 , AIhub 한국어-영어 병렬 데이터셋 을 활용하여 사용 한국어 영어 병렬 데이터의 경우 번역을 해달라는 지시문의 형태로 변환후 instruction tuning
tokenizer의 경우 beomi님의 llama2 tokenizer를 사용하여 학습을 진행하였으며, 모델의 초기 parameter의 경우 meta의 llama2-7b-hf를 사용하여 학습을 진행
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Подбираем GPU…