4-битная версия Llama 4 Maverick в формате MLX для диалогов и анализа изображений с текстовыми ответами.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Это мультимодальная instruct-модель семейства Llama 4 Maverick, подготовленная сообществом mlx-community в формате MLX с 4-битными весами. README сообщает, что модель преобразована из meta-llama/Llama-4-Maverick-17B-128E-Instruct с помощью mlx-vlm 0.1.21; в метаданных базовая модель указана как meta-llama/Llama-4-Maverick-17B-128E. Архитектура — Llama4ForConditionalGeneration; доступны диалоговый режим, интерфейс вызова инструментов и работа с изображениями.
Модель предназначена для диалогов и задач понимания изображений: описания визуального содержимого и ответов на вопросы по изображениям. Она принимает текст и изображения и генерирует текст. Метаданные указывают поддержку арабского, немецкого, английского, испанского, французского, хинди, индонезийского, итальянского, португальского, тайского и вьетнамского языков. README не приводит длину контекста или число параметров этой версии. Лицензия в метаданных обозначена как other; условия следует сверять с карточкой исходной модели Meta.
Это 4-битное преобразование для MLX; README отсылает к карточке исходной модели за дополнительными сведениями. Языки и сценарии применения перечислены в метаданных, но условия лицензии обозначены лишь как other.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
This model was converted to MLX format from meta-llama/Llama-4-Maverick-17B-128E-Instruct using mlx-vlm version 0.1.21.
Refer to the original model card for more details on the model.
pip install -U mlx-vlm
python -m mlx_vlm.generate --model mlx-community/Llama-4-Maverick-17B-128E-Instruct-4bit --max-tokens 100 --temperature 0.0 --prompt "Describe this image." --image <path_to_image>
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers
MLX-модели работают только на Apple Silicon.