/ Модель

Характеристики

Контекст
8 192 токена
Параметры
7,5 млрд
Размер весов
32,1 ГБ
Лицензия
Llama 3
Архитектура
llama · dense
Библиотека
transformers
Опубликована
22 мая 2024

MFANNv0.11

Генерация текстаТекст → текст7 профессий

Дообученная на наборе MFANN диалоговая модель Llama с 7,5 млрд параметров для генерации ответов и классификации текста.

18скачиваний за 30 дней0лайковвеса обновлены22 мая 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

MFANNv0.11 — языковая модель семейства Llama, дообученная автором netcat420 на наборе данных MFANN. Это плотная модель с архитектурой LlamaForCausalLM и 7,5 млрд параметров; карточка описывает полный вариант весов без квантизации, а файлы представлены в формате safetensors. Модель предназначена для диалоговых ответов и классификации текста; в README приведён системный промпт, задающий полезный, уважительный и честный стиль ответов.

Модель принимает текст и генерирует текст, поддерживает английский язык и контекст до 8192 токенов. Она распространяется по лицензии Llama 3. Карточка не приводит оценки качества и не уточняет ограничения набора данных MFANN, поэтому пригодность для конкретных сценариев следует проверять отдельно.

Сценарии применения

  • генерация ответов в текстовом диалоге
  • классификация текстовых сообщений
  • создание англоязычного чат-бота

Ограничения

В карточке нет оценок качества и сведений о том, на каких наборах или задачах модель проверялась; качество для конкретного применения нужно оценить отдельно.

Для каких профессий подходит7

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

MFANN 8b version 0.11 32-bit

image/png

fine-tuned on the MFANN dataset as of 5/22/24 as it is an ever expanding dataset. these are the full 32-bit unquantized weights.

SYSTEM PROMPT:

<|begin_of_text|><|start_header_id|>system<|end_header_id|> You are a helpful, respectful and honest assistant. Always answer as helpfully as possible. If a question does not make any sense, or is not factually coherent, explain why instead of answering something not correct. If you don't know the answer to a question, please don't share false information. <|eot_id|>

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
6f53e92

0 моделей