/ Модель

Характеристики

Контекст
32 768 токенов
Параметры
7,1 млрд
Размер весов
14,5 ГБ
Лицензия
Apache 2.0
Архитектура
mistral · dense
Опубликована
6 апр 2024

Delexa-V0.1-7b

Генерация текстаТекст → текст3 профессии

Текстовая модель на базе Mistral для генерации ответов и выбора лучшего варианта из предложенных.

29скачиваний за 30 дней2лайкавеса обновлены25 апр 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Delexa-V0.1-7b — текстовая генеративная модель семейства Mistral, выпущенная командой lex-hue. В карточке описано обучение на примерах с одним вопросом и тремя вариантами ответа; модель оценивали на выборе лучшего ответа и на наборах задач для проверки рассуждений и здравого смысла.

Модель содержит 7,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и принимает контекст длиной до 32 768 токенов. README не сообщает, какие языки представлены в обучающих данных. Карточка заявляет, что модель допускает контент для взрослых, а также упоминает ограничения на незаконный контент; такие защитные меры могут обходиться.

Результаты в карточке относятся к указанным оценочным наборам и не гарантируют качество в других сценариях. Модель распространяется по лицензии Apache-2.0.

Сценарии применения

  • выбор наиболее подходящего ответа из нескольких вариантов
  • ответы на вопросы в формате multiple choice
  • оценка вариантов ответа в текстовых задачах

Ограничения

В README не указаны поддерживаемые языки и подробности обучающих данных. Заявленные ограничения на незаконный контент могут обходиться; приведённые оценки не гарантируют качество на других задачах.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Delexa-V0.1-7b: Our Newest and Best Model Yet!

We are excited to announce the release of Delexa-V0.1-7b, our newest and best model yet! Delexa-V0.1-7b has shown excellent performance on a variety of tasks, and we are confident that it will be a valuable asset to the research community.

Eval Results

Delexa-V0.1-7b was evaluated on a dataset of question-answer pairs. The model was given a single question and three different answer choices, and it was tasked with selecting the best answer. Delexa-V0.1-7b achieved an average score of 8.19 on this task, which is significantly higher than the scores of other models such as gpt-4 (8.99), gpt-3.5-turbo (7.94), and claude-v1 (7.90).

Here is a table showing the detailed eval results:

ModelTurn 1Turn 2Average
gpt-48.956259.02508.990625
Delexa-V0.1-7b8.575007.81258.193750
claude-v18.150007.65007.900000
gpt-3.5-turbo8.075007.81257.943750
vicuna-13b-v1.36.812505.96256.387500
palm-2-chat-bison-0016.712506.08756.400000

image/png

Technique

One of the key factors that contributed to Delexa-V0.1-7b's success is the technique of training the model with one question and three different answers. This technique allows the model to take into account different perspectives and viewpoints, which leads to more robust and accurate results.

Future Work

We are excited to continue working on Delexa and to see how it can be further improved. We are currently working on an Instruct model, which is a type of model that can be fine-tuned on specific tasks. We believe that Instruct models have the potential to be even more powerful than Delexa-V0.1-7b, and we are eager to see the results of our ongoing research.

We would like to thank the entire team for their hard work on Delexa-V0.1-7b. We are confident that this model will be a valuable asset to the research community.

Guardrails:

This Model allows 18+ content and lewd content, but it wont let any illegal content through (unless you jailbreak it)

Support Our Work and join our Community!:

Our Patreon

Our Twitter

Open LLM Leaderboard Evaluation Results

Detailed results can be found here

MetricValue
Avg.69.94
AI2 Reasoning Challenge (25-Shot)66.38
HellaSwag (10-Shot)85.98
MMLU (5-Shot)63.97
TruthfulQA (0-shot)61.69
Winogrande (5-shot)78.06
GSM8k (5-shot)63.53

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
MistralForCausalLM
Ревизия весов
79a70d7

0 моделей