/ Модель

Характеристики

Контекст
32 768 токенов
Параметры
33,9 млрд
Размер весов
138 ГБ
Лицензия
Своя лицензия
Архитектура
llama · dense
Базовая модель
bagel-34b-v0.2
Опубликована
17 фев 2024

Luminex-34B-v0.2

Генерация текстаТекст → текст14 профессий

Диалоговая Llama-модель ConvexAI на 33,9 млрд параметров для генерации текста и ответов на запросы.

8 548скачиваний за 30 дней10лайковвеса обновлены4 мар 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

ConvexAI/Luminex-34B-v0.2 — разговорная языковая модель ConvexAI на архитектуре Llama с 33,9 млрд параметров и контекстом до 32 768 токенов. По карточке, это SimpleSmaug-34b с применённым методом LaserRMT; в метаданных базовой моделью указана jondurbin/bagel-34b-v0.2, от которой модель является дообучением.

Модель предназначена для генерации текста и диалогового взаимодействия. В README приведены результаты Open LLM Leaderboard: среднее значение 77,19, включая 74,49 в AI2 Reasoning Challenge и 86,76 в HellaSwag; другие результаты заявлены, но таблица неполная. Модель опубликована в форматах PyTorch и Safetensors. Лицензия обозначена как other, поэтому условия использования следует сверить с лицензией репозитория.

Сценарии применения

  • ведение диалога с пользователем
  • генерация текстовых ответов на запросы
  • решение задач на рассуждение
  • ответы на вопросы общего характера

Ограничения

В README часть оценочных результатов обозначена как ожидающая публикации, а приведённая таблица неполная. Лицензия указана как other, поэтому условия использования требуют проверки в репозитории.

Для каких профессий подходит14

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

image/png

ConvexAI/Luminex-34B-v0.2

This model is SimpleSmaug-34b with LaserRMT applied.

Join our Discord!

Evaluation Results

Coming Soon

Contamination Results

Coming Soon

Open LLM Leaderboard Evaluation Results

Detailed results can be found here

MetricValue
Avg.77.19
AI2 Reasoning Challenge (25-Shot)74.49
HellaSwag (10-Shot)86.76
MMLU (5-Shot)76.55
TruthfulQA (0-shot)70.21
Winogrande (5-shot)83.27
GSM8k (5-shot)71.87

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
7dd541d

0 моделей