/ Модель
Каталог

Характеристики

Контекст
2 048 токенов
Параметры
3,5 млрд
Лицензия
Apache 2.0
Архитектура
phi · dense
Опубликована
11 мар 2024

Ссылки

Hugging Face

Liph.42-slerp

MSL7
Генерация текстаТекст → текст3 профессии

Плотная языковая модель Phi на 3,5 млрд параметров, полученная слиянием двух моделей и предназначенная для генерации текста.

57скачиваний за 30 дней0лайковвеса обновлены11 мар 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

MSL7/Liph.42-slerp — языковая модель для генерации текста, созданная объединением моделей liminerity/merge5 и liminerity/Phigments12 с помощью mergekit. В карточке README указана версия Liph.43, поэтому связь названия модели с описанной там версией не вполне ясна.

Модель построена на архитектуре Phi с плотной структурой и содержит 3,5 млрд параметров. Она принимает текст и генерирует текст, с максимальным контекстом 2048 токенов. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0.

Карточка не приводит сведения о целевых сценариях, языках, качестве и ограничениях модели. Поэтому её применение можно описать только в общих чертах как генерацию текста; для конкретных задач и оценки пригодности потребуется дополнительная проверка.

Сценарии применения

  • генерация текста по запросу
  • продолжение заданного текста
  • создание прототипа текстового помощника

Ограничения

README указывает Liph.43, тогда как идентификатор репозитория содержит Liph.42-slerp, поэтому точное соответствие версии неясно. Языки, целевые сценарии и качество модели в предоставленных материалах не описаны.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии
I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделейII.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделейI.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Liph.43

Liph.43 is a merge of the following models using mergekit:

🧩 Configuration


slices:
  - sources:
      - model: liminerity/phigment6-slerp
        layer_range: [0, 32]
      - model: liminerity/phigment6-slerp
        layer_range: [0, 32]
merge_method: slerp
base_model: liminerity/phigment6-slerp
parameters:
  t:
    - filter: self_attn
      value: [0, 0.5, 0.3, 0.7, 1]
    - filter: mlp
      value: [1, 0.5, 0.7, 0.3, 0]
    - value: 0.5
dtype: bfloat16


slices:
  - sources:
      - model: rhysjones/phi-2-orange-v2
        layer_range: [0, 32]
      - model: liminerity/merge
        layer_range: [0, 32]
merge_method: slerp
base_model: rhysjones/phi-2-orange-v2
parameters:
  t:
    - filter: self_attn
      value: [0, 0.5, 0.3, 0.7, 1]
    - filter: mlp
      value: [1, 0.5, 0.7, 0.3, 0]
    - value: 0.5
dtype: bfloat16


slices:
  - sources:
      - model: liminerity/merge1
        layer_range: [0, 32]
      - model: liminerity/phigment6-slerp
        layer_range: [0, 32]
merge_method: slerp
base_model: liminerity/merge1
parameters:
  t:
    - filter: self_attn
      value: [0, 0.5, 0.3, 0.7, 1]
    - filter: mlp
      value: [1, 0.5, 0.7, 0.3, 0]
    - value: 0.5
dtype: bfloat16


slices:
  - sources:
      - model: liminerity/Liph.42
        layer_range: [0, 32]
      - model: liminerity/merge2
        layer_range: [0, 32]
merge_method: slerp
base_model: liminerity/Liph.42
parameters:
  t:
    - filter: self_attn
      value: [0, 0.5, 0.3, 0.7, 1]
    - filter: mlp
      value: [1, 0.5, 0.7, 0.3, 0]
    - value: 0.5
dtype: bfloat16


slices:
  - sources:
      - model: liminerity/merge3
        layer_range: [0, 32]
      - model: rhysjones/phi-2-orange-v2
        layer_range: [0, 32]
merge_method: slerp
base_model: liminerity/merge3
parameters:
  t:
    - filter: self_attn
      value: [0, 0.5, 0.3, 0.7, 1]
    - filter: mlp
      value: [1, 0.5, 0.7, 0.3, 0]
    - value: 0.5
dtype: bfloat16


slices:
  - sources:
      - model: liminerity/Phigments12
        layer_range: [0, 32]
      - model: liminerity/merge4
        layer_range: [0, 32]
merge_method: slerp
base_model: liminerity/Phigments12
parameters:
  t:
    - filter: self_attn
      value: [0, 0.5, 0.3, 0.7, 1]
    - filter: mlp
      value: [1, 0.5, 0.7, 0.3, 0]
    - value: 0.5
dtype: bfloat16


slices:
  - sources:
      - model: liminerity/merge5
        layer_range: [0, 32]
      - model: liminerity/Phigments12
        layer_range: [0, 32]
merge_method: slerp
base_model: liminerity/merge5
parameters:
  t:
    - filter: self_attn
      value: [0, 0.5, 0.3, 0.7, 1]
    - filter: mlp
      value: [1, 0.5, 0.7, 0.3, 0]
    - value: 0.5
dtype: bfloat16

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
PhiForCausalLM
Ревизия весов
12444de

0 моделей

    Создать бенчмарк