/ Модель

Характеристики

Контекст
131 072 токена
Параметры
69,5 млрд
Размер весов
141 ГБ
Лицензия
Llama 3.1
Архитектура
llama · dense
Базовая модель
Llama-3.1-Saoirse-70B
Библиотека
transformers
Опубликована
19 янв 2025

llama3.1-kartoffeldes-70B

Генерация текстаТекст → текст7 профессий

Дообученная на основе Llama-3.1-Saoirse-70B диалоговая модель для генерации текста с контекстом до 131072 токенов.

52скачиваний за 30 дней0лайковвеса обновлены19 янв 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки6

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

  • IFEval

    IFEval Raw · выше — лучше

    Результат

    0,823

    Open LLM v2 · архив

    Публичная таблицаревизия совпадает

  • MATH Lvl 5

    MATH Lvl 5 Raw · выше — лучше

    Результат

    0,3218

    Open LLM v2 · архив

    Публичная таблицаревизия совпадает

  • BBH

    BBH Raw · выше — лучше

    Результат

    0,6894

    Open LLM v2 · архив

    Публичная таблицаревизия совпадает

  • MMLU-PRO

    MMLU-PRO Raw · выше — лучше

    Результат

    0,4988

    Open LLM v2 · архив

    Публичная таблицаревизия совпадает

  • MUSR

    MUSR Raw · выше — лучше

    Результат

    0,4646

    Open LLM v2 · архив

    Публичная таблицаревизия совпадает

  • GPQA

    GPQA Raw · выше — лучше

    Результат

    0,3515

    Open LLM v2 · архив

    Публичная таблицаревизия совпадает

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

llama3.1-kartoffeldes-70B — плотная языковая модель семейства Llama 3.1 на 69,5 млрд параметров, созданная nbeerbower путём дообучения Llama-3.1-Saoirse-70B. Модель предназначена для генерации текста и диалогового взаимодействия; указано, что она дообучена методом ORPO на нескольких наборах данных в течение двух эпох.

Модель работает с текстом и имеет контекстное окно до 131072 токенов. Репозиторий содержит веса в формате Safetensors. В метаданных указана лицензия Llama 3.1. Состав наборов для дообучения включает данные для предпочтений, физического рассуждения и проверки достоверности; карточка не приводит результатов оценки качества, поэтому конкретные преимущества модели установить нельзя.

Сценарии применения

  • генерация ответов в диалоге
  • создание и продолжение текстов
  • ответы на вопросы по длинному контексту
  • рассуждения над задачами на физическое понимание
  • подготовка ответов с учётом предпочтений пользователей

Ограничения

В карточке не приведены результаты сравнительной оценки или подробные ограничения качества. Модель на 69,5 млрд параметров требует значительных вычислительных ресурсов.

Для каких профессий подходит7

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

vLLM

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
4377c98

0 моделей