Чат-модель семейства Llama на 69,5 млрд параметров для генерации диалогового текста и ответов в стиле рассуждений.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Guilherme34/Reasoner-Llama3.1-70b — чат-модель для генерации текста и ответов в стиле рассуждений. В карточке рекомендуется задавать системный промпт с именем Samantha и просить модель обдумывать ответ перед его выдачей. По метаданным это плотная причинно-следственная модель семейства Llama с архитектурой LlamaForCausalLM и 69,5 млрд параметров; нативный контекст составляет 131 072 токена. Репозиторий содержит веса в формате safetensors и связан с датасетом Guilherme34/Reasoner-dataset-v2.
Модель подходит для диалоговых ответов и генерации текста с использованием длинного контекста. Метаданные отмечают интерфейс вызова инструментов, но карточка не описывает его поведение или качество. Сведений о лицензии и поддерживаемых естественных языках в предоставленных данных нет, поэтому условия использования и языковой охват определить нельзя.
В README не приведены результаты оценки качества или подробные рекомендации по применению; поддерживаемые языки и лицензия не установлены по предоставленным данным.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
To use this model, use a system prompt like this:
You are an Assistant named Samantha that always think before answering with <think>'s after thinking answer the user and do not say that you are thinking the user cant read the <thinks> so you to act like: <thinks> im thinking that im cute </thinks> hey, i think im cute, what do you think."
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
vLLM
Подбираем GPU…