/ Модель

Характеристики

Контекст
32 768 токенов
Параметры
7,1 млрд
Лицензия
Apache 2.0
Архитектура
mistral · dense
Базовая модель
kellemar-DPO-Orca-Distilled-7B-SLERP
Опубликована
19 янв 2024

Macaroni-7b-Tied

Генерация текстаТекст → текст8 профессий

Объединённая методом TIES модель семейства Mistral на 7,1 млрд параметров для генерации англоязычного текста с контекстом до 32 768 токенов.

61скачиваний за 30 дней1лайквеса обновлены22 мар 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Macaroni-7b-Tied — языковая модель для генерации текста, созданная объединением нескольких моделей семейства Mistral методом TIES. В качестве базовой использована mistralai/Mistral-7B-v0.1; в слияние также вошли decruz07/kellemar-DPO-Orca-Distilled-7B-SLERP, mlabonne/NeuralMarcoro14-7B, fblgit/UNA-TheBeagle-7b-v1 и SanjiWatsuki/Lelantos-DPO-7B.

Модель построена на плотной архитектуре MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Она предназначена для генерации англоязычного текста и может использоваться для диалога, ответов на вопросы и рассуждений в текстовом формате. Репозиторий содержит веса Safetensors; лицензия — Apache-2.0.

Как и другие языковые модели, она может выдавать фактические ошибки, галлюцинации и предвзятые либо неподходящие ответы. Результаты следует проверять, особенно в критичных сценариях; разработчик предоставляет модель без гарантий пригодности для конкретной задачи.

Сценарии применения

  • генерация англоязычных текстов
  • ответы на вопросы в диалоге
  • объяснение понятий и подготовка черновиков
  • решение текстовых задач на рассуждение

Ограничения

Модель может галлюцинировать, допускать фактические ошибки, воспроизводить предвзятость и генерировать неподходящий контент. Ответы требуют проверки, а модель предоставляется без гарантий пригодности для конкретных задач.

Для каких профессий подходит8

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Macaroni 7b Tied

Merge Details

Merge Method

This model was merged using the TIES merge method using mistralai/Mistral-7B-v0.1 as a base.

Models Merged

The following models were included in the merge:

Disclaimer

The users of this model (hereinafter referred to as "the Model") should be aware of the following points prior to using the Model:

  • Factual Inaccuracy: The Model has been trained on a diverse set of data sources. However, it may occasionally generate outputs that contain factual inaccuracies. Users are advised to verify the factual correctness of the information provided by the Model, especially when using it for critical applications.

  • Potential Biases: Despite efforts to ensure fairness and neutrality, the Model may still exhibit biases inherent in the training data. These biases do not reflect the views or intentions of the developers. Users should be cautious of these potential biases, especially when using the Model in contexts where fairness and impartiality are crucial.

  • Hallucination: The Model might generate content that is not grounded in reality, commonly referred to as "hallucinations." This is a known limitation of language models and should be considered when interpreting the Model's outputs.

  • Inappropriate Content: While measures have been taken to minimize the risk, the Model might still generate content that could be deemed offensive, inappropriate, or not suitable for all audiences. We advise users to exercise discretion and consider the context of use.

  • Use at Your Own Risk: The Model is provided "as is," and the developers make no representations or warranties of any kind concerning the Model's performance or suitability for any particular purpose. The user assumes full responsibility and risk of loss resulting from using the Model.

By using the Model, users acknowledge and agree to the terms stated in this disclaimer. This disclaimer is subject to change without notice, and the latest version can be found on the Model's Hugging Face page.

Open LLM Leaderboard Evaluation Results

Detailed results can be found here

MetricValue
Avg.74.96
AI2 Reasoning Challenge (25-Shot)72.87
HellaSwag (10-Shot)88.14
MMLU (5-Shot)64.73
TruthfulQA (0-shot)70.54
Winogrande (5-shot)81.93
GSM8k (5-shot)71.57

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
MistralForCausalLM
Ревизия весов
9842eb5

0 моделей