Чат-модель на базе Llama с 7,5 млрд параметров, дообученная методом ORPO для генерации текста.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Orpo-GutenLlama-3-8B-v2 — чат-модель генерации текста на архитектуре Llama, содержащая около 7,5 млрд параметров и рассчитанная на контекст до 8192 токенов. Автор дообучил её методом ORPO на небольшой выборке из 1800 примеров, используя наборы mlabonne/orpo-dpo-mix-40k и jondurbin/gutenberg-dpo-v0.1. Модель предназначена для диалога и генерации текста; название указывает на настройку для литературного стиля, однако карточка не описывает конкретные результаты или сценарии применения.
Обучение длилось три эпохи; автор сообщает о четырёх часах обучения на одной NVIDIA RTX 4090. Модель использует Transformers и опубликована в формате Safetensors. Лицензия в предоставленных данных не указана.
Дообучение выполнено на небольшой выборке из 1800 примеров, поэтому качество и устойчивость модели для широкого круга задач могут быть ограничены. Лицензия и результаты оценки в предоставленных данных не описаны.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
Training time: 4 hours on 1x4090. This is a small 1800 sample fine tune to get comfortable with ORPO fine tuning before scaling up.
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers
Подбираем GPU…