Характеристики

Контекст: 131 072 токена
Параметры: 14 млрд
Размер весов: 29,5 ГБ
Архитектура: qwen2 · dense
Библиотека: transformers
Опубликована: 25 ноя 2024

Ссылки

Hugging Face arXiv 2311.03099 arXiv 2306.01708

SeQwence-14B-EvolMergev1

Генерация текстаТекст → текст11 профессий

Слитая 14-миллиардная языковая модель семейства Qwen2 для генерации текста и диалогового общения с контекстом до 131 072 токенов.

32скачиваний за 30 дней2лайкавеса обновлены25 ноя 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки6

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

BBH
BBH Raw · выше — лучше
Результат
0,6546
Open LLM v2 · архив
Публичная таблицаревизия совпадает
MUSR
MUSR Raw · выше — лучше
Результат
0,4623
Open LLM v2 · архив
Публичная таблицаревизия совпадает
GPQA
GPQA Raw · выше — лучше
Результат
0,3767
Open LLM v2 · архив
Публичная таблицаревизия совпадает
IFEval
IFEval Raw · выше — лучше
Результат
0,5555
Open LLM v2 · архив
Публичная таблицаревизия совпадает
MMLU-PRO
MMLU-PRO Raw · выше — лучше
Результат
0,5393
Open LLM v2 · архив
Публичная таблицаревизия совпадает
MATH Lvl 5
MATH Lvl 5 Raw · выше — лучше
Результат
0,4215
Open LLM v2 · архив
Публичная таблицаревизия совпадает

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

CultriX/SeQwence-14B-EvolMergev1 — языковая модель на архитектуре Qwen2, созданная слиянием предварительно обученных моделей методом DARE TIES с помощью mergekit. В слиянии участвовали SeQwence-14Bv1, Qwen2.5-14B-Wernicke и Qwen2.5-14B-MegaMerge-pt2; размер модели — 14 млрд параметров. Репозиторий содержит веса в формате Safetensors, а для работы указана библиотека Transformers.

Модель предназначена для генерации текста и диалогового общения; метаданные также отмечают интерфейс вызова инструментов. Контекстное окно составляет 131 072 токена. Карточка не описывает языковую специализацию или результаты оценки качества, поэтому область применимости и качество ответов за пределами общих сценариев генерации текста не установлены. Лицензия в предоставленных данных не указана.

Сценарии применения

генерация текста по запросу
ведение диалога с пользователем
ответы на вопросы в текстовом чате
вызов инструментов через совместимый интерфейс

Ограничения

Карточка не приводит результатов оценки качества и не указывает языки, на которых модель проверена. Лицензия не установлена по предоставленным данным.

Для каких профессий подходит11

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей II.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель I.7Универсальные способностиРечь, диалоги и встречиAI помогает понимать разговорную речь, поддерживать диалог и превращать встречи в структурированные результаты.17 задач26 923модели

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

mergeduucsxwdd

This is a merge of pre-trained language models created using mergekit.

Merge Details

Merge Method

This model was merged using the DARE TIES merge method using /workspace/mergekit/evol_storage/input_models/SeQwence-14Bv1_904318297 as a base.

Models Merged

The following models were included in the merge:

/workspace/mergekit/evol_storage/input_models/Qwen2.5-14B-Wernicke_200578629
/workspace/mergekit/evol_storage/input_models/Qwen2.5-14B-MegaMerge-pt2_1305659297

Configuration

The following YAML configuration was used to produce this model:

base_model: /workspace/mergekit/evol_storage/input_models/SeQwence-14Bv1_904318297
dtype: bfloat16
merge_method: dare_ties
parameters:
  int8_mask: 1.0
  normalize: 1.0
slices:
- sources:
  - layer_range: [0, 8]
    model: /workspace/mergekit/evol_storage/input_models/SeQwence-14Bv1_904318297
    parameters:
      density: 0.9161252112124398
      weight: 0.42684262949748975
  - layer_range: [0, 8]
    model: /workspace/mergekit/evol_storage/input_models/Qwen2.5-14B-MegaMerge-pt2_1305659297
    parameters:
      density: 1.0
      weight: -0.07053838122379857
  - layer_range: [0, 8]
    model: /workspace/mergekit/evol_storage/input_models/Qwen2.5-14B-Wernicke_200578629
    parameters:
      density: 1.0
      weight: 0.4849672857861172
- sources:
  - layer_range: [8, 16]
    model: /workspace/mergekit/evol_storage/input_models/SeQwence-14Bv1_904318297
    parameters:
      density: 0.9761877279283722
      weight: 0.3012299838842449
  - layer_range: [8, 16]
    model: /workspace/mergekit/evol_storage/input_models/Qwen2.5-14B-MegaMerge-pt2_1305659297
    parameters:
      density: 0.7543807288499863
      weight: 0.1659536938628454
  - layer_range: [8, 16]
    model: /workspace/mergekit/evol_storage/input_models/Qwen2.5-14B-Wernicke_200578629
    parameters:
      density: 0.9492212435976857
      weight: 0.18099531810782998
- sources:
  - layer_range: [16, 24]
    model: /workspace/mergekit/evol_storage/input_models/SeQwence-14Bv1_904318297
    parameters:
      density: 1.0
      weight: 0.41688362670746804
  - layer_range: [16, 24]
    model: /workspace/mergekit/evol_storage/input_models/Qwen2.5-14B-MegaMerge-pt2_1305659297
    parameters:
      density: 1.0
      weight: 0.6151231122002006
  - layer_range: [16, 24]
    model: /workspace/mergekit/evol_storage/input_models/Qwen2.5-14B-Wernicke_200578629
    parameters:
      density: 0.8807907336263985
      weight: 0.16825198717141238
- sources:
  - layer_range: [24, 32]
    model: /workspace/mergekit/evol_storage/input_models/SeQwence-14Bv1_904318297
    parameters:
      density: 0.9156909340084007
      weight: 0.5326292576896499
  - layer_range: [24, 32]
    model: /workspace/mergekit/evol_storage/input_models/Qwen2.5-14B-MegaMerge-pt2_1305659297
    parameters:
      density: 1.0
      weight: 0.30104879006559454
  - layer_range: [24, 32]
    model: /workspace/mergekit/evol_storage/input_models/Qwen2.5-14B-Wernicke_200578629
    parameters:
      density: 0.7478687683572947
      weight: 0.24780060115002012
- sources:
  - layer_range: [32, 40]
    model: /workspace/mergekit/evol_storage/input_models/SeQwence-14Bv1_904318297
    parameters:
      density: 0.7970703509952921
      weight: 0.36719110728431165
  - layer_range: [32, 40]
    model: /workspace/mergekit/evol_storage/input_models/Qwen2.5-14B-MegaMerge-pt2_1305659297
    parameters:
      density: 0.9371578433786855
      weight: 0.3915882680301583
  - layer_range: [32, 40]
    model: /workspace/mergekit/evol_storage/input_models/Qwen2.5-14B-Wernicke_200578629
    parameters:
      density: 0.625508665655407
      weight: 0.5087374040978708
- sources:
  - layer_range: [40, 48]
    model: /workspace/mergekit/evol_storage/input_models/SeQwence-14Bv1_904318297
    parameters:
      density: 0.844183840774721
      weight: 0.5421089451732982
  - layer_range: [40, 48]
    model: /workspace/mergekit/evol_storage/input_models/Qwen2.5-14B-MegaMerge-pt2_1305659297
    parameters:
      density: 0.961154402903748
      weight: 0.30023482616059033
  - layer_range: [40, 48]
    model: /workspace/mergekit/evol_storage/input_models/Qwen2.5-14B-Wernicke_200578629
    parameters:
      density: 0.8135033850596236
      weight: 0.3232815470411797

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры: Qwen2ForCausalLM
Ревизия весов: 6cc7116