Nixtral 500M ja
This model is developed by neodyland from scratch.
Please note that the training data contains wikipedia articles, and thats why this model is cc-by-sa-4.0
Credits
https://mikn.dev/ for RTX4090
Характеристики
- Контекст
- 131 072 токена
- Параметры
- 133 млн
- Лицензия
- CC BY-SA 4.0
- Архитектура
- mixtral · MoE
- Библиотека
- transformers
- Опубликована
- 10 июл 2024
Ссылки
nixtral-500m-ja
Nixtral 500M ja — компактная японская Mixtral-модель для генерации текста и диалогов.
89скачиваний за 30 дней1лайквеса обновлены17 июл 2024
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Тесты пользователейпока нет
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
Nixtral 500M ja — японская модель генерации текста, разработанная neodyland с нуля. Она предназначена для генерации японского текста в диалоговом формате.
Модель использует архитектуру Mixtral с разреженной экспертной структурой (MoE), содержит 133,4 млн параметров и поддерживает контекст до 131 072 токенов. В репозитории доступны веса в форматах SafeTensors и GGUF. Обучающие данные включают статьи Википедии.
Модель распространяется по лицензии CC BY-SA 4.0. Карточка не приводит оценок качества и подробных ограничений применения.
Сценарии применения
- генерация японского текста
- создание ответов в японском чат-боте
- продолжение японских текстовых фрагментов
Ограничения
В карточке нет оценок качества или подробного описания ограничений. Обучающие данные включают статьи Википедии.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделейI.7Универсальные способностиРечь, диалоги и встречиAI помогает понимать разговорную речь, поддерживать диалог и превращать встречи в структурированные результаты.17 задач26 923моделиIII.4Корпоративные функцииКлиентская поддержка и customer successAI помогает быстрее решать обращения и предупреждать проблемы клиентов.20 задач9 831модель
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers
Подбираем GPU…
- Класс архитектуры
- MixtralForCausalLM
- Ревизия весов
- f5d054f