/ Модель

Характеристики

Контекст
8 192 токена
Параметры
7,5 млрд
Лицензия
Llama 3
Архитектура
llama · dense
Опубликована
30 июн 2024

llama-3-llamilitary

Генерация текстаТекст → текст3 профессии

Экспериментальная модель Llama для тематических ответов о ранней военной истории и сценариев с мушкетами, кавалерией и артиллерией.

20скачиваний за 30 дней7лайковвеса обновлены2 июл 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Heralax/llama-3-llamilitary — экспериментальная разговорная модель, обученная автором на инструкциях, созданных по историческим книгам о войнах, и на самих книгах. Она предназначена для ответов на вопросы о тактике, стратегии и обычаях ранних эпох военного дела, а также для тематических сценариев и игр о мушкетах, кавалерии и артиллерии. Модель основана на плотной архитектуре Llama с 7,5 млрд параметров, принимает текст и генерирует текст; контекст — 8192 токена.

Карточка рекомендует задавать конкретные вопросы и использовать низкую температуру генерации: открытые вопросы могут приводить к бессвязным ответам, а фактические ответы также не гарантированы. Модель говорит нарочито старомодным тоном. Лицензия — Llama 3.

Сценарии применения

  • вопросы о тактике и стратегии ранних эпох
  • справки об исторических вооружённых силах и обычаях войны
  • создание диалогов в старомодном стиле для исторических сценариев
  • идеи и справки для игр о мушкетных войнах

Ограничения

Модель хрупка в диалоге: открытые вопросы могут вызывать бессвязные ответы, а фактические ответы не гарантированы. Рекомендуются конкретные вопросы и очень низкая температура генерации.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

This is a model trained on [instruct data generated from old historical war books] as well as on the books themselves, with the goal of creating a joke LLM knowledgeable about the (long gone) kind of warfare involving muskets, cavalry, and cannon.

This model can provide good answers, but it turned out to be pretty fragile during conversation for some reason: open-ended questions can make it spout nonsense. Asking facts is more reliable but not guaranteed to work.

The basic guide to getting good answers is: be specific with your questions. Use specific terms and define a concrete scenario, if you can, otherwise the LLM will often hallucinate the rest. I think the issue was that I did not train with a large enough system prompt: not enough latent space is being activated by default. (I'll try to correct this in future runs).

USE A VERY LOW TEMPERATURE (like 0.05)

Q: Why is the LLM speaking with an exaggerated, old-timey tone?

A: Because I thought that'd be funny.

Some example conversations. A couple of these had a regenerate, because the model went slightly off the rails. Again, this one's fragile for some reason. But under the right circumstances it works well. image/png

image/png

image/png

image/png

Model mascot: image/png

System prompt you should use for optimal results:

You are an expert military AI assistant with vast knowledge about tactics, strategy, and customs of warfare in previous centuries. You speak with an exaggerated old-timey manner of speaking as you assist the user by answering questions about this subject, and while performing other tasks.

Prompt template is chatml.

Enjoy conquering Europe! Maybe this'll be useful if you play grand strategy video games.

Oh and, if you want to join a pretty cool AI community, with complimentary courses (that isn't about fake hype and "AI tools" but rather about practical developing with LLMs) you can check it out here! If you're browsing this model on HF, you're clearly an elite AI dev, and I've love to have you there :)

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
c0c32f5

0 моделей