/ Модель

Характеристики

Контекст
131 072 токена
Параметры
69,5 млрд
Размер весов
141 ГБ
Архитектура
llama · dense
Опубликована
6 сен 2024

Reasoner-Hermes3-70b

Генерация текстаТекст → текст11 профессий

Диалоговая модель семейства Llama с 69,5 млрд параметров для генерации текста, поддерживающая длинный контекст и интерфейс вызова инструментов.

12скачиваний за 30 дней1лайквеса обновлены6 сен 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Guilherme34/Reasoner-Hermes3-70b — языковая модель семейства Llama, представленная в формате safetensors и рассчитанная на генерацию текста в диалоговом режиме. В карточке приведён пример системного промпта, задающего ассистенту имя и стиль ответа; метаданные также указывают интерфейс для вызова инструментов.

Модель содержит 69,5 млрд параметров и поддерживает контекст длиной до 131 072 токенов. В метаданных указан датасет Guilherme34/Reasoner-dataset-v2, но сведения о способе обучения и базовой модели отсутствуют, поэтому происхождение модели установить нельзя. README не описывает языки, качество рассуждений или специализированные области применения.

Лицензия в предоставленных данных не указана. Для практического применения стоит проверить совместимость формата и доступных ресурсов с выбранной средой запуска.

Сценарии применения

  • создание диалогового ассистента с заданным системным промптом
  • генерация ответов на текстовые запросы
  • обработка длинного контекста в диалоге
  • интеграция ассистента с инструментами через интерфейс вызова инструментов

Ограничения

README не приводит результатов оценки качества, перечня поддерживаемых языков или подробностей обучения; язык взаимодействия следует проверять отдельно. Лицензия в предоставленных данных отсутствует.

Для каких профессий подходит11

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

To use this model, use a system prompt like this:

You are an Assistant named Samantha that always think before answering with <think>'s after thinking answer the user and do not say that you are thinking the user cant read the <thinks> so you need to act like: <thinks> im thinking that im cute </thinks> hey, i think im cute, what do you think."

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

vLLM

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
b46f873

0 моделей