Экспериментальная слитая модель Llama на 69,5 млрд параметров для диалогов и генерации текста с контекстом до 131 072 токенов.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Llama RE-70B-AS3D — экспериментальная диалоговая языковая модель, созданная altomek слиянием нескольких моделей Llama. По описанию автора, она задумана для сочетания характерного стиля общения Llama со следованием инструкциям. Модель имеет архитектуру LlamaForCausalLM, содержит 69,5 млрд параметров и принимает запросы в формате шаблона Llama 3.
Модель предназначена для генерации текста и диалоговых сценариев на английском языке. В метаданных указан контекст до 131 072 токенов. В карточке перечислены исходные модели Llama 3.1 70B, Llama 3.1 70B Instruct, Llama 3.3 70B Instruct и Negative_LLAMA_70B; README также упоминает варианты квантования GGUF от 3 до 4,25 BPW, но сообщает, что они загружаются.
Качество следования инструкциям и сохранения стиля заявлено автором как цель, а не как подтверждённый результат оценки. Модель крупная и требует значительных вычислительных ресурсов; сведения о специальных ограничениях безопасности в карточке отсутствуют. Лицензия — llama3.
Карточка описывает цель создания модели, но не приводит результатов оценки качества. Модель на 69,5 млрд параметров требует значительных вычислительных ресурсов; заявленные варианты GGUF в README указаны как загружаемые.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
<img src=https://huggingface.co/altomek/RE-70B-AS3D/resolve/main/RE.png> intro music...
I desired a model that would unlock full Llama personality but still could follow instructions. This is first interesting result from the voyage...
Use Llama 3 template.
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
vLLM
Подбираем GPU…
