/ Модель

Характеристики

Контекст
131 072 токена
Параметры
3,2 млрд
Размер весов
6,4 ГБ
Лицензия
CreativeML OpenRAIL-M
Архитектура
llama · dense
Базовая модель
Llama-3.2-3B-Instruct
Библиотека
transformers
Опубликована
21 ноя 2024

Llama-Sentient-3.2-3B-Instruct

Генерация текстаТекст → текст13 профессий

Дообученная 3,2-миллиардная модель Llama для диалогов, следования инструкциям и генерации текста.

39скачиваний за 30 дней9лайковвеса обновлены10 дек 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Llama-Sentient-3.2-3B-Instruct — дообученная PrithivMLmods модель на архитектуре Llama для генерации текста и диалогов с выполнением инструкций. Она основана на meta-llama/Llama-3.2-3B-Instruct и дообучена на наборе mlabonne/lmsys-arena-human-preference-55k-sharegpt. Модель содержит 3,2 млрд параметров, использует PyTorch и имеет контекстное окно до 131 072 токенов.

Модель предназначена для чат-ботов, виртуальных помощников, поддержки пользователей и генерации текстов, объяснений и сводок по запросу. Карточка указывает английский язык; метаданные также описывают базовую модель как мультиязычную, но явно перечисляют для этой модели только английский. Лицензия — CreativeML Open RAIL-M. Возможности и качество для конкретных задач могут отличаться; карточка не приводит результатов оценки.

Сценарии применения

  • ответы чат-бота на вопросы пользователей
  • виртуальный помощник для выполнения текстовых инструкций
  • генерация статей и других текстов по запросу
  • составление кратких сводок
  • объяснение учебных и технических тем

Ограничения

Карточка не приводит количественных оценок качества. Для этой модели явно указан английский язык; пригодность для других языков не подтверждена карточкой.

Для каких профессий подходит13

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Llama-Sentient-3.2-3B-Instruct Modelfile

The Llama-Sentient-3.2-3B-Instruct model is a fine-tuned version of the Llama-3.2-3B-Instruct model, optimized for text generation tasks, particularly where instruction-following abilities are critical. This model is trained on the mlabonne/lmsys-arena-human-preference-55k-sharegpt dataset, which enhances its performance in conversational and advisory contexts, making it suitable for a wide range of applications.

File NameSizeDescriptionUpload Status
.gitattributes1.57 kBGit attributes configuration fileUploaded
README.md42 BytesInitial commit READMEUploaded
config.json1.04 kBConfiguration fileUploaded
generation_config.json248 BytesGeneration configuration fileUploaded
pytorch_model-00001-of-00002.bin4.97 GBPyTorch model file (part 1)Uploaded (LFS)
pytorch_model-00002-of-00002.bin1.46 GBPyTorch model file (part 2)Uploaded (LFS)
pytorch_model.bin.index.json21.2 kBModel index fileUploaded
special_tokens_map.json477 BytesSpecial tokens mappingUploaded
tokenizer.json17.2 MBTokenizer JSON fileUploaded (LFS)
tokenizer_config.json57.4 kBTokenizer configuration fileUploaded
Model TypeSizeContext LengthLink
GGUF3B-🤗 Llama-Sentient-3.2-3B-Instruct-GGUF

Key Use Cases:

  1. Conversational AI: Engage in intelligent dialogue, offering coherent responses and following instructions, useful for customer support and virtual assistants.
  2. Text Generation: Generate high-quality, contextually appropriate content such as articles, summaries, explanations, and other forms of written communication based on user prompts.
  3. Instruction Following: Follow specific instructions with accuracy, making it ideal for tasks that require structured guidance, such as technical troubleshooting or educational assistance.

The model uses a PyTorch-based architecture and includes a range of necessary files such as configuration files, tokenizer files, and model weight files for deployment.

Intended Applications:

  • Chatbots for virtual assistance, customer support, or as personal digital assistants.
  • Content Creation Tools, aiding in the generation of written materials, blog posts, or automated responses based on user inputs.
  • Educational and Training Systems, providing explanations and guided learning experiences in various domains.
  • Human-AI Interaction platforms, where the model can follow user instructions to provide personalized assistance or perform specific tasks.

With its strong foundation in instruction-following and conversational contexts, the Llama-Sentient-3.2-3B-Instruct model offers versatile applications for both general and specialized domains.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
a36874f

0 моделей