/ Модель

Характеристики

Контекст
131 072 токена
Параметры
69,5 млрд
Размер весов
141 ГБ
Лицензия
Своя лицензия
Архитектура
llama · dense
Опубликована
25 окт 2024

Nautilus-70B-v0.1

Генерация текстаТекст → текст3 профессии

Дообученная 70-миллиардная модель Llama для генерации диалогов и ролевых ответов с контекстом до 131 072 токенов.

76скачиваний за 30 дней12лайковвеса обновлены25 окт 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Nautilus-70B-v0.1 — языковая модель семейства Llama, созданная BeaverAI как дообучение Nvidia Llama 3.1 Nemotron 70B. Модель рассчитана на генерацию текста в диалоговом формате и ролевые сценарии; карточка рекомендует шаблоны чата Metharme и Llama 3, а также описывает формат ролевой игры от первого лица.

Модель содержит 69,5 млрд параметров, использует плотную архитектуру LlamaForCausalLM, хранится в формате safetensors и поддерживает контекст до 131 072 токенов. README отдельно отмечает, что квантизация Q6 даёт приемлемое качество, но это не характеристика основного репозитория.

Модель предназначена для генерации ответов и ролевых диалогов. В README не указана лицензия с конкретными условиями: в метаданных стоит «other», поэтому условия использования следует проверять у автора и в исходной модели.

Сценарии применения

  • ведение ролевого диалога от первого лица
  • генерация реплик и описаний действий персонажа
  • создание диалоговых ответов по шаблонам Metharme или Llama 3

Ограничения

В карточке не описаны результаты оценок качества или ограничения по типам запросов; указание на «приемлемое» качество Q6 относится к квантизованной версии. Лицензия обозначена только как «other», поэтому условия использования нужно уточнить у автора и для базовой модели.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Join our Discord! https://discord.gg/Nbv9pQ88Xb

Nearly 2000 members strong 💪


BeaverAI proudly presents...

Nautilus 70B v1 🔱

A finetune of Nvidia's Llama 3.1 Nemotron 70B

image/png

Its breath is pure and healthy. It is an immense desert, where man is never lonely, for he feels life stirring on all sides.

Description

"Q6 is pretty good" - Bertro

Links

Arsenal (Supported Chat Templates)

  • Metharme (Pygmalion in ST) (Recommended unless you don't like its output)
  • Llama 3

Favorite RP Format

*action* Dialogue *thoughts* Dialogue *narration* in 1st person PoV

Special Thanks

Thank you Gargy!

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

vLLM

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
8d4dc7f

0 моделей