Экспериментальная 8-миллиардная модель семейства Llama для диалоговой генерации текста с контекстом до 128K токенов и менее частыми отказами на допустимые запросы.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
NaniDAO выпустила экспериментальную абляционную версию Meta-Llama-3.1-8B-Instruct с контекстом до 128K токенов. Модель предназначена для диалогов и генерации текста; по заявлению разработчика, она реже отказывает в допустимых запросах, чем предыдущая версия v0.
Модель использует плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и распространяется в формате safetensors через библиотеку Transformers. Метаданные указывают интерфейс для чата и вызова инструментов. Карточка не сообщает о специальной предметной области или поддерживаемых языках.
Лицензия в предоставленных данных не указана. Разработчик рекомендует использовать модель ответственно; заявленное снижение отказов само по себе не подтверждает качество или безопасность ответов.
Карточка не приводит результатов независимой оценки качества и не перечисляет поддерживаемые языки. Лицензия в предоставленных данных не указана; сниженная частота отказов может требовать дополнительных мер контроля ответов.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
Llama 3.1 instruct 8b 128k context with ablation.
This means it will refuse less of your valid requests for an uncensored UX. This version is an improvement on the v0. Use this 8b for best results.
Use responsibly and at your own discretion. We do not take any responsibility for how you apply this intelligence, just as we do not for how you apply your own.
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers
Подбираем GPU…