Характеристики

Контекст: 32 768 токенов
Параметры: 123 млрд
Размер весов: 249 ГБ
Лицензия: Apache 2.0
Архитектура: llama · dense
Базовая модель: Rhea-72b-v0.5
Библиотека: transformers
Опубликована: 9 мая 2024

Ссылки

Rhea-125-v0.5

Генерация текстаТекст → текст

Плотная модель Llama на 123,4 млрд параметров для генерации англоязычного текста и ответов на запросы, полученная объединением весов базовой модели Rhea.

14скачиваний за 30 дней1лайквеса обновлены9 мая 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

burak/Rhea-125-v0.5 — плотная языковая модель семейства Llama, созданная объединением весов через mergekit на основе davidkim205/Rhea-72b-v0.5. Она предназначена для генерации текста и ответов на запросы; базовая модель дообучена на инструкциях и предпочтениях и рассчитана на англоязычные сценарии. Модель содержит 123,4 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов.

Репозиторий распространяется в формате safetensors по лицензии Apache-2.0. Карточка не приводит результатов оценки качества или конкретных ограничений; возможности модели зависят от базовой модели и сценария применения.

Сценарии применения

генерация ответов на текстовые запросы
составление англоязычных текстов
диалог с языковой моделью
продолжение заданного текста

Ограничения

В карточке не приведены результаты оценки качества и подробные ограничения; пригодность для конкретных сценариев следует проверять отдельно.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

merge

This is a merge of pre-trained language models created using mergekit.

Merge Details

Merge Method

This model was merged using the passthrough merge method.

Models Merged

The following models were included in the merge:

davidkim205/Rhea-72b-v0.5

Configuration

The following YAML configuration was used to produce this model:

slices:
- sources:
  - layer_range: [0, 20]
    model: davidkim205/Rhea-72b-v0.5
- sources:
  - layer_range: [10, 30]
    model: davidkim205/Rhea-72b-v0.5
- sources:
  - layer_range: [20, 40]
    model: davidkim205/Rhea-72b-v0.5
- sources:
  - layer_range: [30, 50]
    model: davidkim205/Rhea-72b-v0.5
- sources:
  - layer_range: [40, 60]
    model: davidkim205/Rhea-72b-v0.5
- sources:
  - layer_range: [50, 70]
    model: davidkim205/Rhea-72b-v0.5
- sources:
  - layer_range: [60, 80]
    model: davidkim205/Rhea-72b-v0.5
merge_method: passthrough
dtype: bfloat16

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

vLLM

Можно запустить

Подбираем GPU…

Класс архитектуры: LlamaForCausalLM
Ревизия весов: 4a518ba