Uploaded model
- Developed by: Sakalti
- License: mit
- Finetuned from model : HuggingfaceH4/zephyr-7b-beta
This mistral model was trained 2x faster with Unsloth and Huggingface's TRL library.
Характеристики
- Контекст
- 32 768 токенов
- Параметры
- 7,1 млрд
- Размер весов
- 14,5 ГБ
- Лицензия
- MIT
- Архитектура
- mistral · dense
- Базовая модель
- zephyr-7b-beta
- Библиотека
- transformers
- Опубликована
- 11 дек 2024
Ссылки
magro-7B
Диалоговая модель Sakalti на базе Zephyr-7B для генерации текстовых ответов.
37скачиваний за 30 дней1лайквеса обновлены12 дек 2024
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Тесты пользователейпока нет
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Публичные оценки6
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
MMLU-PRO
MMLU-PRO Raw · выше — лучше
Результат0,2765
Open LLM v2 · архивПубличная таблицадругая ревизия
MATH Lvl 5
MATH Lvl 5 Raw · выше — лучше
Результат0,0204
Open LLM v2 · архивПубличная таблицадругая ревизия
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
Magro-7B — диалоговая языковая модель Sakalti, дообученная на базе HuggingfaceH4/zephyr-7b-beta. Она предназначена для генерации текста в формате беседы и может использоваться в чат-ботах и других приложениях, которым нужны текстовые ответы. Модель построена на архитектуре Mistral с плотной авторегрессионной сетью и содержит 7,1 млрд параметров; заявленная длина контекста — 32 768 токенов. Для обучения использовались Unsloth и TRL. Модель распространяется по лицензии MIT.
Сценарии применения
- создание чат-бота с ответами на текстовые запросы
- ведение текстового диалога на английском
- ведение текстового диалога на японском
Ограничения
Карточка не описывает специализированные навыки модели или результаты оценок качества; фактическое качество ответов зависит от сценария применения.
Для каких профессий подходит7
Разделы каталога профессий, в задачах которых используется эта модель
I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделейIII.4Корпоративные функцииКлиентская поддержка и customer successAI помогает быстрее решать обращения и предупреждать проблемы клиентов.20 задач9 831модельII.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделейIII.2Корпоративные функцииИсследование рынка и маркетингAI помогает понимать рынок, создавать коммуникации и улучшать эффективность маркетинга.22 задачи8 594модели
Также подходит для
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers
Подбираем GPU…
- Класс архитектуры
- MistralForCausalLM
- Ревизия весов
- 84117c8