/ Модель

Характеристики

Контекст
2 048 токенов
Параметры
3,3 млрд
Лицензия
Apache 2.0
Архитектура
llama · dense
Библиотека
transformers
Опубликована
22 авг 2023

Marx-3B-V2

Генерация текстаТекст → текст6 профессий

Дообученная на диалоговых данных модель Llama с 3,3 млрд параметров для генерации текста и ответов на английском языке.

132скачиваний за 30 дней24лайкавеса обновлены3 фев 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Marx-3B-V2 — языковая модель acrastt, созданная дообучением OpenLLaMA 3B V2 на датасете EverythingLM Data V2 в формате ShareGPT в течение двух эпох. Это плотная Llama-модель с 3,3 млрд параметров, предназначенная для генерации текста и диалоговых ответов по шаблону HUMAN/RESPONSE. Метаданные указывают на библиотеку Transformers и веса PyTorch в формате Safetensors; карточка также упоминает доступность вариантов квантования q4_1 в форматах GGML и GGUF.

Модель подходит для диалоговых прототипов, генерации текста и ответов на запросы на английском языке. В карточке приведены результаты отдельных тестов рассуждения и commonsense: AI2 Reasoning Challenge — 44,03, HellaSwag — 72,92; эти показатели не описывают качество во всех сценариях. Контекст составляет 2048 токенов. Лицензия — Apache-2.0.

Сценарии применения

  • создание диалогового чат-бота
  • генерация ответов на текстовые запросы
  • подготовка черновиков и продолжение текста
  • эксперименты с компактной языковой моделью

Ограничения

Контекст ограничен 2048 токенами. Приведены результаты только двух бенчмарков, поэтому они не подтверждают качество на других задачах.

Для каких профессий подходит6

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
9766c13

0 моделей