4-битная конверсия LLaVA 1.5 на 7 млрд параметров для ответов на текстовые вопросы об изображениях.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
mlx-community/llava-1.5-7b-4bit — мультимодальная модель семейства LLaVA, преобразованная сообществом mlx-community в формат MLX из llava-hf/llava-1.5-7b-hf. Она принимает изображения и текстовые запросы и генерирует текстовые ответы в диалоговом режиме, поэтому подходит для вопросов об изображениях и визуального описания. Модель основана на архитектуре LlavaForConditionalGeneration; обозначение 7b-4bit указывает на вариант с 7 млрд параметров в 4-битном представлении. Репозиторий содержит веса safetensors.
Модель предназначена для запуска с mlx-vlm на совместимых устройствах Apple и обучена с использованием набора LLaVA-Instruct-150K. Карточка направляет к описанию исходной модели за подробностями о её возможностях. Лицензия указана как llama2.
В README подробные сведения о возможностях и ограничениях делегированы карточке исходной модели; для запуска требуется совместимая среда MLX.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
This model was converted to MLX format from llava-hf/llava-1.5-7b-hf using mlx-vlm version 0.1.0.
Refer to the original model card for more details on the model.
pip install -U mlx-vlm
python -m mlx_vlm.generate --model mlx-community/llava-1.5-7b-4bit --max-tokens 100 --temp 0.0
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
MLX-модели работают только на Apple Silicon.