/ Модель

Характеристики

Контекст
4 096 токенов
Параметры
3,8 млрд
Размер весов
11,1 ГБ
Лицензия
MIT
Архитектура
phi4mm · dense
Базовая модель
Phi-4-multimodal-instruct
Библиотека
transformers
Опубликована
15 мая 2025

Discussion-Phi-4-multimodal-instruct-audio-dimp-reasoning

Генерация текстаТекст → текст4 профессии

Дообученная на базе Phi-4 Multimodal модель для диалоговой генерации текста и взаимодействия с инструментами.

173скачиваний за 30 дней6лайковвеса обновлены15 мая 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

TakalaWang/Discussion-Phi-4-multimodal-instruct-audio-dimp-reasoning — дообученная модель семейства Phi-4 от TakalaWang на основе microsoft/Phi-4-multimodal-instruct. Это плотная модель с 3,8 млрд параметров для генерации диалогового текста; в каталоге также отмечен интерфейс вызова инструментов. Базовая модель поддерживает анализ изображений и аудио, распознавание речи и генерацию текстовых ответов, однако README не уточняет, какие из этих возможностей сохраняются или улучшаются после дообучения.

Модель использует Transformers и формат safetensors, имеет контекст 4096 токенов и лицензию MIT. README сообщает о дообучении на неизвестном наборе данных и значении loss 16,1311 на оценочном наборе, но не раскрывает методику, поэтому качество и пригодность для конкретных сценариев по этим сведениям оценить нельзя.

Сценарии применения

  • генерация ответов в диалоговом интерфейсе
  • создание чат-бота на базе Phi-4
  • подключение вызова инструментов в диалоговом приложении

Ограничения

README не описывает обучающие данные и назначение дообучения, поэтому нельзя установить его специализацию или подтвердить сохранение мультимодальных возможностей базовой модели. Приведено значение loss 16,1311 без сведений о наборе данных и методике оценки.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Discussion-Phi-4-multimodal-instruct-audio-dimp-reasoning

This model is a fine-tuned version of microsoft/Phi-4-multimodal-instruct on an unknown dataset. It achieves the following results on the evaluation set:

  • Loss: 16.1311

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

  • learning_rate: 4e-05
  • train_batch_size: 1
  • eval_batch_size: 8
  • seed: 42
  • gradient_accumulation_steps: 16
  • total_train_batch_size: 16
  • optimizer: Use OptimizerNames.ADAMW_TORCH with betas=(0.9,0.95) and epsilon=1e-07 and optimizer_args=No additional optimizer arguments
  • lr_scheduler_type: linear
  • lr_scheduler_warmup_steps: 50
  • num_epochs: 3

Training results

Training LossEpochStepValidation Loss
199892.96880.111710775.1600
0.33770.22352018.9439
18.1270.33523015.0859
3.05350.44694017.2034
0.09270.55875017.3699
0.11830.67046016.5855
0.06340.78217017.7980
0.04720.89398017.8210
0.02221.09017.0549
0.04321.111710019.1342
0.26471.223511018.6049
0.07421.335212018.7196
0.02081.446913016.5360
0.04541.558714016.6369
0.04191.670415016.4503
0.03281.782116016.6961
0.0531.893917016.4221
0.01732.018017.6572
0.01452.111719016.6156
0.01262.223520018.8278
0.02082.335221016.4277
0.01862.446922015.9193
0.01082.558723018.5243
0.00682.670424015.9373
0.01082.782125019.0050
0.0252.893926016.1311

Framework versions

  • Transformers 4.48.2
  • Pytorch 2.4.1+cu124
  • Datasets 3.6.0
  • Tokenizers 0.21.1

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

Модели нужен код из репозитория; автор пока не в списке доверенных организаций.

Класс архитектуры
Phi4MMForCausalLM
Ревизия весов
a97f525

0 моделей