Четырёхбитная конверсия InternVL3-1B в формат MLX для локального диалога по тексту и изображениям.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
mlx-community/InternVL3-1B-4bit — конверсия модели InternVL3-1B в формат MLX с 4-битным представлением весов, подготовленная сообществом mlx-community. Это мультимодальная чат-модель для диалога по тексту и изображениям; основная задача в метаданных — image-text-to-text, также указана генерация текста. Архитектура относится к семейству InternVL Chat. Модель предназначена для локального запуска через mlx-vlm на оборудовании Apple Silicon; размер исходной модели в идентификаторе — 1B, однако точное число параметров в предоставленных данных отсутствует.
Поддержка языков обозначена как многоязычная, но конкретные языки и длина контекста не приведены. 4-битное представление снижает требования к памяти, но может уступать полной точности по качеству. README отсылает к карточке исходной модели за подробностями. Лицензия в метаданных обозначена как other.
Карточка этой конверсии не приводит конкретные языки, длину контекста и результаты оценки качества; подробности предлагается смотреть в карточке исходной модели. Четырёхбитное представление может снижать качество относительно весов полной точности.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
This model was converted to MLX format from InternVL3-1B using mlx-vlm version 0.1.22.
Refer to the original model card for more details on the model.
pip install -U mlx-vlm
python -m mlx_vlm.generate --model mlx-community/InternVL3-1B-4bit --max-tokens 100 --temperature 0.0 --prompt "Describe this image." --image <path_to_image>
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers
MLX-модели работают только на Apple Silicon.