Описание составлено по карточке модели и метаданным Hugging Face
llama3.1-cc-8B — плотная текстовая модель семейства Llama 3.1 с 7,5 млрд параметров, созданная nbeerbower дообучением mlabonne/Meta-Llama-3.1-8B-Instruct-abliterated на наборе flammenai/casual-conversation-DPO. Модель предназначена для диалогов и генерации ответов; данные для дообучения форматировались последовательно с использованием шаблона Llama 3. В README работа названа экспериментальным дообучением, выполненным за три эпохи на A100 в Google Colab.
Модель принимает текст и генерирует текст, поддерживает контекст длиной до 131072 токенов. Ослабленные ограничения базовой модели могут позволять ей отвечать на запросы, которые обычно блокируются. В README приведены результаты оценки на Open LLM Leaderboard: среднее значение 20,13, IFEval — 50,68, BBH — 26,48; этих показателей недостаточно для вывода о качестве в конкретном сценарии. Лицензия — Llama 3 Community License (llama3).
Сценарии применения
ведение диалогов с пользователем
генерация ответов на текстовые запросы
создание разговорных ответов в приложениях на базе Llama
эксперименты с дообучением диалоговых языковых моделей
Ограничения
README называет модель экспериментальным дообучением; приведённые результаты бенчмарков не характеризуют её надёжность в конкретных приложениях. У модели ослаблены ограничения на ответы, поэтому она может выдавать нежелательный или небезопасный контент.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель