/ Модель

Характеристики

Контекст
131 072 токена
Параметры
69,5 млрд
Размер весов
141 ГБ
Лицензия
Llama 3
Архитектура
llama · dense
Базовая модель
Llama-3.3-70B-Instruct
Библиотека
transformers
Опубликована
20 дек 2024

Llama-3.3-70B-Instruct-ablated

Генерация текстаТекст → текст13 профессий

Дообученная с помощью абляции модель Llama 3.3 на 70 млрд параметров для диалогов и генерации ответов с меньшим числом отказов на допустимые запросы.

36скачиваний за 30 дней21лайквеса обновлены20 дек 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

NaniDAO/Llama-3.3-70B-Instruct-ablated — диалоговая модель NaniDAO на архитектуре Llama 3.3, полученная дообучением Meta-Llama-3.3-70B-Instruct с применением техники абляции. Модель предназначена для следования инструкциям и генерации ответов в чате; авторы заявляют, что она реже отказывает на допустимые запросы и рассчитана на более свободное взаимодействие.

Модель содержит 69,5 млрд параметров, принимает и генерирует текст, работает с контекстом до 131 072 токенов. В метаданных заявлена поддержка английского, французского, итальянского, португальского, хинди, испанского, тайского и немецкого языков. Доступна в формате safetensors для библиотеки Transformers; лицензия — llama3. Она подходит для диалоговых ассистентов и генерации текста, но заявленное снижение числа отказов требует ответственного применения и не гарантирует точность или безопасность ответов.

Сценарии применения

  • создание диалогового ассистента
  • ответы на инструкции и вопросы
  • генерация текста в длинном контексте
  • ведение многоязычного диалога

Ограничения

Снижение числа отказов заявлено авторами, но не подтверждено в README количественными оценками. Ответы требуют проверки: модель может ошибаться, а авторы рекомендуют ответственное применение.

Для каких профессий подходит13

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

nani llama 3.3

Llama 3.3 instruct 70B 128k context with ablation technique applied for a more helpful (and based) assistant.

This means it will refuse less of your valid requests for an uncensored UX. Use responsibly and use common sense.

We do not take any responsibility for how you apply this intelligence, just as we do not for how you apply your own.

Join the nani discord to discuss and improve applications of this model together. Follow for more updates on X: @nani__ooo.

image/png

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

vLLM

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
1fa068b

0 моделей