/ Модель

Характеристики

Контекст
32 768 токенов
Параметры
7,1 млрд
Размер весов
51,5 ГБ
Лицензия
CC BY-NC-SA 4.0
Архитектура
mixtral · MoE
Опубликована
16 янв 2024

Ko-Mixtral-MoE-7Bx2

Генерация текстаТекст → текст3 профессии

Генеративная MoE-модель Mixtral на 7,1 млрд параметров для продолжения текста и выполнения инструкций на корейском и английском языках.

21скачиваний за 30 дней4лайкавеса обновлены20 янв 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

DopeorNope/Ko-Mixtral-MoE-7Bx2 — генеративная языковая модель на архитектуре Mixtral с разреженной смесью экспертов (MoE), содержащая 7,1 млрд параметров. Она предназначена для продолжения текста и выполнения инструкций. В карточке описана подготовка обучающих данных из сырого корпуса с помощью самообучения и текстового майнинга; среди примеров задач — предсказание пропущенных слов и дополнение текста.

Модель ориентирована на корейский и английский языки и поддерживает контекст длиной до 32 768 токенов. В репозитории указаны веса в формате safetensors. Лицензия CC BY-NC-SA 4.0 требует указания авторства и распространяет производные работы на тех же условиях, а также запрещает коммерческое использование. Карточка не приводит сравнительных оценок качества или подробного описания ограничений применения.

Сценарии применения

  • дополнение корейских текстов
  • предсказание пропущенных слов в тексте
  • генерация текста по инструкции на корейском языке
  • генерация и продолжение текста на английском языке

Ограничения

В карточке нет сравнительных оценок качества и подробных сведений о типичных ошибках модели. Лицензия запрещает коммерческое использование.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

The license is cc-by-nc-sa-4.0.

  • Commercializing is not allowed.

ASAP will upload it.

Not based on Synatra model, we pre-train and full-finetuning Mixtralx2 to enhance Korean abilities.

DATASET.

  • Using a Self-supervised learning manner, we converted raw corpus to instruct tuned data.

  • We used text-mining techniques to create the train data.

  • Here is some examples...

  • Mask prediction Task


#Mask prediction

text='지능(智能) 또는 인텔리전스(intelligence)는 인간의 <MASK> 능력을 말한다.'

response='지적'

complete_text='지능(智能) 또는 인텔리전스(intelligence)는 인간의 지적 능력을 말한다.'

  • Text allign Task

#Text-allign Task

text_list=['복수명령-복수자료(MIMD,Multiple Instruction, Multiple Data)은 전산에서 병렬화의 한 기법이다.',
           '분산 메모리의 예는 MPP(massively parallel processors)와 COW (Clusters of Workstations)이다.',
           'MIMD기계는 공유 메모리이거나 분산 메모리이며 이러한 분류는 MIMD가 어떻게 메모리를 이용하느냐에 따라 나뉜다.']



response='복수명령-복수자료(MIMD,Multiple Instruction, Multiple Data)은 전산에서 병렬화의 한 기법이다. \
          MIMD기계는 공유 메모리이거나 분산 메모리이며 이러한 분류는 MIMD가 어떻게 메모리를 이용하느냐에 따라 나뉜다. \
          분산 메모리의 예는 MPP(massively parallel processors)와 COW (Clusters of Workstations)이다.'

  • Text completion Task

#Text Completion

text= '그린브라우저(GreenBrowser)는 인터넷 익스플로러에서 사용하는 트라이던트 레이아웃 엔진을 바탕으로 하며 중국에 기반을 둔 소프트웨어 회사인 모어퀵(morequick)에서 만든 무료 웹 브라우저다. 간체자 중국어가 웹 브라우저에 내장되어 있다.
      맥스톤 웹 브라우저와 비슷하여 MyIE와 밀접하게 관련되어 있다. 맥스톤용의 일부 플러그인이 그린브라우저에서도 작동할 것이다.'



response= '자동 스크롤, 자동 리프레시, 자동 저장, 자동 폼 채우기와 같은 많은 자동화 기능이 있다.'

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
MixtralForCausalLM
Ревизия весов
af30206

0 моделей