/ Модель

Характеристики

Контекст
131 072 токена
Параметры
7,5 млрд
Размер весов
16,1 ГБ
Лицензия
Apache 2.0
Архитектура
llama · dense
Базовая модель
Llama-3.1-8B-Instruct
Библиотека
transformers
Опубликована
13 фев 2025

LlamaThink-8B-instruct

Генерация текстаТекст → текст10 профессий

Инструкционно дообученная модель на базе Llama 3.1 для диалогов и генерации структурированных текстовых ответов.

31скачиваний за 30 дней10лайковвеса обновлены14 фев 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

LlamaThink-8B-instruct — инструкционно дообученная языковая модель David Browne на архитектуре Llama 3.1. Она предназначена для диалогов и генерации структурированных ответов в формате из двух разделов; для соблюдения формата карточка рекомендует задавать соответствующую системную инструкцию.

Модель содержит около 7,5 млрд параметров, принимает текст и выдаёт текст. В метаданных указан контекст до 131 072 токенов, а поддерживаемые сценарии включают чат и интерфейс вызова инструментов. Модель основана на meta-llama/Llama-3.1-8B-Instruct и распространяется под лицензией Apache 2.0.

Карточка не приводит количественной оценки качества или подробностей обучения. Формат ответа зависит от системной инструкции; для использования интерфейса вызова инструментов требуется совместимая интеграция.

Сценарии применения

  • ответы на пользовательские инструкции в формате из двух разделов
  • ведение диалогов с пользователями
  • генерация структурированных текстовых ответов
  • подготовка ответов с интеграцией вызова инструментов

Ограничения

Для получения ожидаемого формата из двух разделов требуется соответствующая системная инструкция. Карточка не содержит результатов оценки качества или подробных сведений об обучающих данных.

Для каких профессий подходит10

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

LlamaThink-8b-instruct

LlamaThink Logo

LlamaThink-8b-instruct is an instruction-tuned language model built on the LLaMA-3 architecture. It is optimized for generating thoughtful, structured responses using a unique dual-section output format.

GGUF Files

LlamaThink-8b-instruct-GGUF.

Model Details

  • Architecture: LLaMA-3
  • Size: 8 billion parameters
  • License: Apache 2.0

Usage

System Prompt

To ensure the model generates responses in the intended format, use the following system prompt:

Respond in the following format:
<thinking>
...
</thinking>
<answer>
...
</answer>

Example Input

What are the benefits of using LlamaThink-8b-instruct for AI research?

Example Output

<thinking>
LlamaThink-8b-instruct is built on the robust LLaMA-3 architecture, which offers enhanced performance and scalability. Its instruction-tuning ensures it understands complex prompts and provides structured responses. This makes it ideal for research applications where clarity and precision are essential.
</thinking>
<answer>
Using LlamaThink-8b-instruct for AI research provides benefits such as improved contextual understanding, consistent response formatting, and adaptability to various domains. Its open-source Apache 2.0 license also encourages innovation and collaboration.
</answer>

Installation

You can load the model directly from Hugging Face:

from transformers import AutoModelForCausalLM, AutoTokenizer

model_name = "DavidBrowne17/LlamaThink-8B-instruct"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(model_name)

Citation

If you use LlamaThink-8b-instruct in your research or applications, please cite it as follows:

@misc{llamathink2025,
  author = {David Browne},
  title = {LlamaThink-8b-instruct},
  year = {2025},
  publisher = {Hugging Face},
  howpublished = {\url{https://huggingface.co/DavidBrowne17/LlamaThink-8B-instruct}},
  license = {Apache 2.0}
}

License

LlamaThink-8b-instruct is released under the Apache License 2.0.

Contact

For questions or contributions, reach out via Hugging Face or GitHub.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
b3cc58c

0 моделей