/ Модель

Характеристики

Контекст
131 072 токена
Параметры
69,5 млрд
Размер весов
141 ГБ
Лицензия
Своя лицензия
Архитектура
llama · dense
Опубликована
10 дек 2024

Anubis-70B-v1

Генерация текстаТекст → текст5 профессий

Диалоговая дообученная модель Llama на 69,5 млрд параметров для творческого письма, естественных бесед и ролевых сценариев.

292скачиваний за 30 дней72лайкавеса обновлены22 дек 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Anubis-70B-v1 — диалоговая дообученная модель семейства Llama, опубликованная TheDrummer; в README проект представлен BeaverAI. Модель содержит 69,5 млрд параметров, использует плотную архитектуру LlamaForCausalLM и рассчитана на контекст до 131 072 токенов. Карточка описывает её как сбалансированную и творческую модель, следующую инструкциям и подходящую для естественного диалога, написания прозы и ролевых сценариев. Поддерживается шаблон чата Llama 3 с ролями system, user и assistant; метаданные также отмечают интерфейс вызова инструментов.

Модель принимает текст и генерирует текст. В репозитории указаны веса safetensors, а README ссылается на отдельную рекомендацию по формату iMatrix. Лицензия обозначена как other, поэтому условия использования следует проверить в файлах репозитория. Отзывы о качестве и творческих способностях в карточке субъективны и не являются результатами опубликованной оценки.

Сценарии применения

  • ведение естественного диалога по инструкциям
  • создание ролевых сценариев и персонажей
  • написание художественной прозы и диалогов
  • придумывание творческих сюжетов
  • сочинение текста в заданном стиле

Ограничения

Лицензия указана как other, поэтому условия использования нужно уточнить в репозитории. Оценки качества в README основаны на субъективных отзывах; независимые результаты тестирования не приведены.

Для каких профессий подходит5

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Join our Discord! https://discord.gg/Nbv9pQ88Xb

2500+ members strong 💪 Now with more channels! A hub for users and makers alike!


BeaverAI proudly presents...

Anubis 70B v1 🐩

image/webp

Special Thanks

  • Thank you to each and everyone who donated and subscribed in Ko-Fi to make our venture a little bit easier.

Supported Chat Template (IMPORTANT)

  • Llama 3 Chat (system, user, assistant)

Description

I would say, all in all, Anubis is my preferred L3.3 finetune so far. It managed to pull me away from Behemoth, and that's extremely impressive for a model almost half the size.

It's a very balanced model between the L3.3 tunes. It's very creative, able to come up with new and interesting scenarios on your own that will thoroughly surprise you in ways that remind me of a 123B model. It has some of the most natural sounding dialogue and prose can come out of any model I've tried with the right swipe, in a way that truly brings your characters and RP to life that makes you feel like you're talking to a human writer instead of an AI - a quality that reminds me of Character AI in its prime. This model loves a great prompt and thrives off instructions.

It punches well above its weight and is now my preferred model. The prose, natural flow, adherence, speed and of course creativity is a five star meal, cooked by the Chef himself.

It bats higher than its 70b baseline; more in the 120b range.

It's like I was talking to a real girl!

Links

Favorite RP Format

*action* Dialogue *thoughts* Dialogue *narration* in 1st person PoV

Favorite Card

image/png Audrey by thecooler

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

vLLM

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
e50d699

0 моделей