Дообученная на части Airoboros 3.2 модель Llama 3.1 8B Instruct для генерации текста и диалогов.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
llama3.1-airoboros3.2-QDT-8B — плотная авторегрессионная языковая модель семейства Llama 3.1, созданная дообучением Meta Llama 3.1 8B Instruct на наборе jondurbin/airoboros-3.2. Модель содержит 7,5 млрд параметров, использует формат чата Llama 3 Instruct и рассчитана на генерацию текста в диалоговом режиме; заявленная длина контекста — 131 072 токена.
Модель может применяться для ответов на запросы и ведения диалога. Она обучалась один цикл на 25% данных набора из-за ограниченных ресурсов, поэтому качество может быть нестабильным. Распространяется по лицензии llama3.
Для обучения использовано только 25% данных набора в течение одного цикла, поэтому качество может быть ограничено. Возможность вызова инструментов обозначена в метаданных как интерфейсная функция; фактическое качество работы с инструментами не описано.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
meta-llama/Meta-Llama-3.1-8B-Instruct finetuned on jondurbin/airoboros-3.2.
Llama 3 Instruct was used as the chat template.
Finetuned using a Google Colab A100 for 1 epoch. Only 25% of the data was used for training due to limited resources, hence QDT (Quarter Data Test).
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers
Подбираем GPU…