/ Модель

Характеристики

Контекст
128 токенов
Параметры
90,8 млн
Лицензия
Llama 3
Архитектура
llama · dense
Базовая модель
Meta-Llama-3-8B
Библиотека
transformers
Опубликована
25 сен 2024

LLaMA3-Reasoning

Генерация текстаТекст → текст3 профессии

Дообученная на базе Meta Llama 3 8B модель для генерации английского текста и диалоговых ответов.

63скачиваний за 30 дней0лайковвеса обновлены1 окт 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

LLaMA3-Reasoning — дообученная Nirajan Dhakal модель для генерации текста на базе Meta Llama 3 8B. Она предназначена для диалогов и генерации ответов на английском языке; название указывает на рассуждения, но карточка не приводит примеров или оценок, подтверждающих специальные возможности в этой области. Модель реализована как плотная авторегрессионная архитектура LlamaForCausalLM и распространяется в формате safetensors для библиотеки Transformers.

В метаданных указан контекст 128 токенов и размер 90,8 млн параметров; последний расходится с указанной базовой моделью на 8 млрд параметров, поэтому размер следует считать сомнительным. Лицензия — LLaMA 3 Community License. Карточка не описывает качество, ограничения применения или дополнительные гарантии.

Сценарии применения

  • генерация ответов в англоязычном чате
  • подготовка англоязычных текстовых продолжений
  • создание прототипа диалогового ассистента

Ограничения

Заявление о рассуждениях не подкреплено примерами или оценками в карточке. Указанные 90,8 млн параметров и контекст 128 токенов расходятся с характеристиками базовой модели на 8 млрд параметров, поэтому эти метаданные могут быть ненадёжными.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Model Card for Model ID

Model Details

Model Description

This is the model card of a 🤗 transformers model that has been pushed on the Hub. This model card has been automatically generated.

  • Developed by: Nirajan Dhakal
  • Model type: Text Generation
  • Language(s) (NLP): English
  • License: LLaMA 3 Community License

Running Inference:

# Load model directly
from transformers import AutoTokenizer, AutoModelForCausalLM, pipeline

tokenizer = AutoTokenizer.from_pretrained("nirajandhakal/LLaMA3-Reasoning")
model = AutoModelForCausalLM.from_pretrained("nirajandhakal/LLaMA3-Reasoning")


pipe = pipeline("text-generation", model="nirajandhakal/LLaMA3-Reasoning", truncation=True)

# Define a prompt for the model
prompt = "What are the benefits of using artificial intelligence in healthcare?"

# Generate text based on the prompt
generated_text = pipe(prompt, max_length=200)

# Print the generated text
print(generated_text[0]['generated_text'])

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
380a1ba

0 моделей