/ Модель
Каталог

Характеристики

Контекст
131 072 токена
Параметры
3,2 млрд
Размер весов
6,4 ГБ
Лицензия
CC BY 4.0
Архитектура
llama · dense
Базовая модель
Llama-3.2-3B-Instruct
Библиотека
transformers
Опубликована
1 окт 2024

Ссылки

Hugging Face

VersatiLlama-Llama-3.2-3B-Instruct-Abliterated

Devarui379
Генерация текстаТекст → текст6 профессий

Дообученная англоязычная Llama 3.2 3B Instruct для диалогов и универсальной генерации текста.

116скачиваний за 30 дней6лайковвеса обновлены2 окт 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

VersatiLlama — дообученная Devarui379 модель Meta Llama 3.2 3B Instruct для генерации текста и диалогов на английском языке. Это плотная авторегрессионная трансформерная модель семейства Llama с 3,2 млрд параметров и контекстом до 131 072 токенов; опубликована в формате safetensors для библиотеки Transformers. Автор сообщает, что модель обучалась пять часов на GPU NVIDIA Tesla T4 и предназначена для универсального общения и генерации текста. Указанная лицензия — CC BY 4.0.

Модель подходит для диалоговых сценариев и генерации естественно звучащего текста; для общения в LM Studio автор рекомендует использовать системный промпт и предлагает проверить шаблон чата Jinja. Заявление автора о качестве, близком к Llama 3.1 8B Instruct, не сопровождается результатами сравнительной оценки. Доступна отдельная квантизированная версия GGUF, но текущая модель распространяется в safetensors.

Сценарии применения

  • диалоговый помощник на английском языке
  • генерация связного текста по системному промпту
  • ответы на вопросы в свободном диалоге

Ограничения

Заявленное автором качество, близкое к Llama 3.1 8B Instruct, не подкреплено опубликованными результатами оценки. README рекомендует экспериментировать с шаблоном чата; в качестве оптимального предложен Jinja.

Для каких профессий подходит6

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии
I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделейIII.4Корпоративные функцииКлиентская поддержка и customer successAI помогает быстрее решать обращения и предупреждать проблемы клиентов.20 задач9 831модельI.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модельIII.2Корпоративные функцииИсследование рынка и маркетингAI помогает понимать рынок, создавать коммуникации и улучшать эффективность маркетинга.22 задачи8 594модели

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Model Card for Model ID

VersatiLlama-Llama-3.2-3B-Instruct-Abliterated

image/webp

Model Description

Small but Smart

Fine-Tuned on Vast dataset of Conversations

Able to Generate Human like text with high performance within its size.

It is Very Versatile when compared for it's size and Parameters and offers capability almost as good as Llama 3.1 8B Instruct

Feel free to Check it out!!

Check the quantized model here: Devarui379/VersatiLlama-Llama-3.2-3B-Instruct-Abliterated-Imatrix-GGUF

[This model was trained for 5hrs on GPU T4 15gb vram]

  • Developed by: Meta AI
  • Fine-Tuned by: Devarui379
  • Model type: Transformers
  • Language(s) (NLP): English
  • License: cc-by-4.0

Model Sources [optional]

base model:meta-llama/Llama-3.2-3B-Instruct

Uses

Use desired System prompt when using in LM Studio The optimal chat template seems to be Jinja but feel free to test it out as you want!

Technical Specifications

Model Architecture and Objective

Llama 3.2

Hardware

NVIDIA TESLA T4 GPU 15GB VRAM

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
db2bf90

0 моделей

    Создать бенчмарк