4-битная мультимодальная чат-модель InternVL3 для ответов на вопросы по изображениям и диалога в формате MLX.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
mlx-community/InternVL3-14B-4bit — 4-битная версия InternVL3-14B, преобразованная сообществом mlx-community в формат MLX из models/InternVL3-14B с помощью mlx-vlm 0.1.25. Это мультимодальная чат-модель семейства InternVL для диалога по изображениям и задач визуального понимания; она принимает текст и изображения и формирует текстовые ответы. Метаданные классифицируют её как модель image-text-to-text и указывают поддержку диалога и интерфейс вызова инструментов, а также многоязычность.
Репозиторий распространяется по лицензии Apache-2.0. README описывает преобразование формата и квантизацию до 4 бит, однако метаданные связывают модель с OpenGVLab/InternVL3-1B-Instruct как дообученную; базовая модель требует уточнения по первичной карточке.
README отсылает к карточке исходной модели и не приводит её подробных характеристик; сведения о многоязычности в метаданных не раскрывают конкретные языки. Метаданные указывают базой InternVL3-1B-Instruct, тогда как README описывает конверсию из models/InternVL3-14B.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
This model was converted to MLX format from models/InternVL3-14B using mlx-vlm version 0.1.25.
Refer to the original model card for more details on the model.
pip install -U mlx-vlm
python -m mlx_vlm.generate --model mlx-community/InternVL3-14B-4bit --max-tokens 100 --temperature 0.0 --prompt "Describe this image." --image <path_to_image>
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers
MLX-модели работают только на Apple Silicon.