Четырёхбитная версия Kimi-VL-A3B-Thinking для MLX, которая отвечает на текстовые вопросы по изображениям и поддерживает диалог.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Kimi-VL-A3B-Thinking-4bit — мультимодальная модель семейства Kimi-VL, подготовленная сообществом mlx-community в 4-битном формате для MLX. Репозиторий указывает, что модель конвертирована из moonshotai/Kimi-VL-A3B-Thinking; метаданные связывают её компоненты с InternViT-300M-448px-V2_5 и Qwen2.5-0.5B. Архитектура представлена классом KimiVLForConditionalGeneration.
Модель принимает изображения и текст и формирует текстовые ответы; её можно применять для диалога с визуальным содержимым, например для вопросов об изображениях. Метаданные отмечают поддержку нескольких языков, но не называют конкретные языки. Доступна в формате safetensors; README указывает на использование через mlx-vlm.
Лицензия в метаданных обозначена как other, поэтому условия следует сверить с карточкой исходной модели moonshotai/Kimi-VL-A3B-Thinking. Карточка сообщества не приводит подробностей об оценке качества или ограничениях исходной модели.
Конкретные поддерживаемые языки и подробные результаты оценки качества в доступных материалах не приведены. Лицензия обозначена как other; условия использования следует проверить в карточке исходной модели.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
This model was converted to MLX format from moonshotai/Kimi-VL-A3B-Thinking using mlx-vlm version 0.1.23.
Refer to the original model card for more details on the model.
pip install -U mlx-vlm
python -m mlx_vlm.generate --model mlx-community/Kimi-VL-A3B-Thinking-4bit --max-tokens 100 --temperature 0.0 --prompt "Describe this image." --image <path_to_image>
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers
MLX-модели работают только на Apple Silicon.