Восьмибитная MLX-конверсия мультимодальной Llama 4 Scout для диалога, анализа изображений и вызова инструментов на Apple Silicon.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
MLX Community подготовила восьмибитную конверсию Llama 4 Scout 17B 16E Instruct для запуска через mlx-vlm на Apple Silicon. Это мультимодальная модель Meta семейства Llama 4 для диалога и понимания изображений; она принимает текст и изображения и генерирует текст. Модель поддерживает арабский, немецкий, английский, испанский, французский, хинди, индонезийский, итальянский, португальский, тайский, тагальский и вьетнамский языки, а также интерфейс вызова инструментов.
Модель подходит для диалоговых помощников, ответов на вопросы по изображениям и визуального анализа. В README указано, что веса преобразованы в формат MLX из meta-llama/Llama-4-Scout-17B-16E-Instruct с помощью mlx-vlm 0.1.21. Репозиторий использует лицензию «other»; условия следует сверить с карточкой исходной модели Meta.
Репозиторий содержит конверсию для MLX; способ запуска и совместимость зависят от среды MLX. В карточке указана лицензия «other», поэтому условия использования следует проверять по карточке исходной модели.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
This model was converted to MLX format from meta-llama/Llama-4-Scout-17B-16E-Instruct using mlx-vlm version 0.1.21.
Refer to the original model card for more details on the model.
pip install -U mlx-vlm
python -m mlx_vlm.generate --model mlx-community/Llama-4-Scout-17B-16E-Instruct-8bit --max-tokens 100 --temperature 0.0 --prompt "Describe this image." --image <path_to_image>
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers
MLX-модели работают только на Apple Silicon.