/ Модель
Каталог

Характеристики

Контекст
131 072 токена
Параметры
7,5 млрд
Размер весов
16,1 ГБ
Архитектура
llama · dense
Базовая модель
Meta-Llama-3.1-8B-Instruct-abliterated
Библиотека
transformers
Опубликована
23 ноя 2024

Ссылки

Hugging Face

Multilingual-SaigaSuzume-8B

Khetterman
Генерация текстаТекст → текст

Многоязычная чат-модель на основе слияния моделей Llama для генерации ответов на инструкции на 11 языках.

20скачиваний за 30 дней2лайкавеса обновлены23 ноя 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Multilingual-SaigaSuzume-8B — многоязычная чат-модель, созданная автором Khetterman как компонент для расширения языковых возможностей других моделей. Это слияние семи моделей семейства Llama, выполненное с помощью mergekit; среди компонентов — русскоязычная Saiga, многоязычные Suzume и Meta-Llama-3.1-8B-Instruct-abliterated. Модель содержит 7,5 млрд параметров и поддерживает контекст до 131 072 токенов.

Модель предназначена для диалогов и генерации ответов на инструкции на немецком, английском, испанском, французском, хинди, итальянском, японском, португальском, русском, тайском и китайском языках. Автор позиционирует её как основу для других моделей; в метаданных также отмечен интерфейс вызова инструментов. Автор предупреждает, что в модели сохраняется некоторая цензура. Весы опубликованы в формате safetensors; лицензия в предоставленных данных не указана.

Сценарии применения

  • многоязычные диалоги с пользователями
  • ответы на инструкции на русском языке
  • генерация ответов на вопросы на разных языках
  • создание основы для доработки многоязычных чат-моделей
  • вызов инструментов в диалоговом сценарии

Ограничения

Автор отмечает, что в модели сохраняется некоторая цензура. Лицензия в предоставленных данных не указана.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Multilingual-SaigaSuzume-8B

Your words are like rain falling from heaven on a tower in a sinful land; can anyone in Babylon understand them?

Multilingual-SaigaSuzume-8B-Logo256.png

This model was created as the basis of multilingual abilities for other models. I think it will be very useful as an integral part of your model. There is some censorship, keep this in mind.

Merge Details

Method

This is a simple, but usefull merge of 7 cool models, created using mergekit.

Models

The following models were included in the merge:

Configuration

The following YAML configurations was used to produce this model:

# Multilingual-SaigaSuzume-8B-BFH
models:
  - model: lightblue/suzume-llama-3-8B-multilingual-orpo-borda-full
  - model: IlyaGusev/saiga_llama3_8b
  - model: lightblue/suzume-llama-3-8B-multilingual-orpo-borda-half
merge_method: model_stock
base_model: huihui-ai/Meta-Llama-3.1-8B-Instruct-abliterated
dtype: bfloat16

# Multilingual-SaigaSuzume-8B-BTP
models:
  - model: lightblue/suzume-llama-3-8B-multilingual-orpo-borda-top75
  - model: IlyaGusev/saiga_llama3_8b
  - model: lightblue/suzume-llama-3-8B-multilingual-orpo-borda-top25
merge_method: model_stock
base_model: huihui-ai/Meta-Llama-3.1-8B-Instruct-abliterated
dtype: bfloat16

# Multilingual-SaigaSuzume-8B-Classic
models:
  - model: IlyaGusev/saiga_llama3_8b
  - model: lightblue/suzume-llama-3-8B-multilingual
merge_method: model_stock
base_model: huihui-ai/Meta-Llama-3.1-8B-Instruct-abliterated
dtype: bfloat16

# Multilingual-SaigaSuzume-8B
models:
  - model: Multilingual-SaigaSuzume-8B-BFH
  - model: Multilingual-SaigaSuzume-8B-BTP
merge_method: model_stock
base_model: Multilingual-SaigaSuzume-8B-Classic
dtype: bfloat16

My thanks to the authors of the original models, your work is incredible. Have a good time 🖤

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
3bbaa8a

0 моделей

    Создать бенчмарк