Плотная модель Llama на 10,3 млрд параметров для генерации текста, полученная слиянием моделей и обучением на датасете Iambe.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
athirdpath/Llama-3.1-11b-pretrained — плотная авторегрессионная языковая модель семейства Llama, созданная на основе слияния частей двух моделей athirdpath и последующего обучения в течение одной эпохи на датасете Iambe. В README указаны источники слоёв: Llama-3.1-Instruct_NSFW-pretrained_e1-plus_reddit и Llama-3.1-Techne-RP-8b-v1; метод слияния — passthrough. Метаданные указывают 10,3 млрд параметров, контекст до 131 072 токенов и формат safetensors.
Модель предназначена для генерации текста и диалоговых сценариев; README описывает её как предварительно обученную версию, а не как инструкционную модель. Данные не уточняют поддерживаемые естественные языки и конкретные прикладные области. Лицензия — Llama 3.1; использование регулируется её условиями.
README не приводит оценок качества или описания проверенных сценариев применения. Следует учитывать лицензионные условия Llama 3.1.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
slices:
sources:
sources:
merge_method: passthrough
dtype: float16
tokenizer_source: athirdpath/Llama-3.1-Techne-RP-8b-v1
Then pretrained for 1 epoch on the Iambe dataset as an 11b model
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Подбираем GPU…