/ Модель

Характеристики

Контекст
131 072 токена
Параметры
1,2 млрд
Размер весов
2,5 ГБ
Архитектура
llama · dense
Базовая модель
Llama-3.2-1B-Instruct
Библиотека
transformers
Опубликована
14 дек 2024

Llama-3.2-1B-Instruct-RP

Генерация текстаТекст → текст3 профессии

Объединённая модель Llama 3.2 на 1,2 млрд параметров для диалоговой и творческой генерации текста.

20скачиваний за 30 дней0лайковвеса обновлены14 дек 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

bunnycore/Llama-3.2-1B-Instruct-RP — объединённая mergekit-модель на основе unsloth/Llama-3.2-1B-Instruct и bunnycore/Llama-3.2-1B-Creative-Lora. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM и примерно 1,2 млрд параметров; она рассчитана на генерацию текста в диалоговом формате. Пасстру-соединение выполнено в формате bfloat16, репозиторий содержит веса safetensors и использует библиотеку Transformers.

Модель подходит для диалогов, творческого письма и ответов на запросы. Указанный для архитектуры контекст составляет до 131 072 токенов. Метаданные также отмечают интерфейс вызова инструментов, но README не описывает его поведение и качество. Карточка не сообщает отдельных результатов оценки или специальных языковых возможностей сверх характеристик базовой Llama 3.2.

Лицензия в предоставленных данных не указана. Как у компактной модели на 1,2 млрд параметров, качество и надёжность ответов могут зависеть от задачи; подтверждённых сведений о тестировании или гарантиях нет.

Сценарии применения

  • ведение диалогов с инструктивными запросами
  • создание черновиков рассказов и творческих текстов
  • генерация ответов на вопросы
  • прототипирование чат-ботов с вызовом инструментов

Ограничения

В предоставленных данных нет результатов оценки качества; надёжность ответов для конкретных задач не подтверждена. Лицензия модели в этих данных не указана.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

merge

This is a merge of pre-trained language models created using mergekit.

Merge Details

Merge Method

This model was merged using the passthrough merge method using unsloth/Llama-3.2-1B-Instruct + bunnycore/Llama-3.2-1B-Creative-Lora as a base.

Models Merged

The following models were included in the merge:

Configuration

The following YAML configuration was used to produce this model:


base_model: unsloth/Llama-3.2-1B-Instruct+bunnycore/Llama-3.2-1B-Creative-Lora
dtype: bfloat16
merge_method: passthrough
models:
  - model: unsloth/Llama-3.2-1B-Instruct+bunnycore/Llama-3.2-1B-Creative-Lora

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
6f581bd

0 моделей