Характеристики

Лицензия: apple-amlr
Базовая модель: FastVLM-0.5B
Опубликована: 2 сен 2025

Ссылки

Hugging Face

fastvlm-gguf

gguf-org

Генерация текстаТекст → текст3 профессии

FastVLM-GGUF — это GGUF-представление модели Apple FastVLM-0.5B, подготовленное для запуска через gguf-connector.

4 132скачиваний за 30 дней13лайковвеса обновлены9 сен 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель разработана Apple и предназначена для взаимодействия с визуально-языковыми данными: она может использоваться для описания изображений, ответов на запросы по изображениям, а также для анализа содержимого экрана и создания субтитров в реальном времени в соответствующем режиме connector f7. Режим f9 поддерживает передачу текстового запроса вместе с изображением.

В репозитории доступны варианты fastvlm-0.5b-iq4_nl.gguf, fastvlm-0.5b-q4_0.gguf и fastvlm-0.5b-q8_0.gguf, различающиеся способом квантования. Базовый размер модели — 0,5 млрд параметров. Точные архитектура, поддерживаемые языки и размер контекста в README не указаны. Для запуска требуется gguf-connector; конкретные команды и режимы работы зависят от выбранного connector и файла GGUF.

К сильным сторонам относятся компактный размер, наличие нескольких уровней квантования и сценарии работы с изображениями и экраном. Ограничениями являются необходимость специализированного connector, зависимость возможностей от выбранного режима и отсутствие в README подробных данных о производительности, языках и контекстном окне. Модель распространяется по лицензии Apple AMLR.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.15Универсальные способностиДоступность и ассистивные технологииAI помогает делать цифровую и физическую среду доступнее для людей с различными ограничениями.17 задач8 953модели I.4Универсальные способностиОбработка документов и формAI помогает оцифровывать документы, проверять их комплектность и сокращать ручной ввод данных.16 задач7 180моделей I.14Универсальные способностиАвтоматизация процессов и AI-агентыAI помогает выполнять многошаговые цифровые процессы и координировать действия между системами.20 задач26 022модели

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

fastvlm-gguf

run it with gguf-connector; simply execute the command below in console/terminal

ggc f6

GGUF file(s) available. Select which one to use:

fastvlm-0.5b-iq4_nl.gguf

fastvlm-0.5b-q4_0.gguf

fastvlm-0.5b-q8_0.gguf

Enter your choice (1 to 3): _

opt a gguf file in your current directory to interact with; nothing else

screenshot for the latest update, you should be able to customize how many tokens for output (see picture)

connector f5 (alternative 1)

ggc f5

note: f5 is different from f6 (above) and f9 (below); you don't need gguf files with f5

connector f7 (alternative 2)*

ggc f7

*real time screen describer; live captioning

connector f9 - advanced mode (alternative 3)**

ggc f9

screenshot **for advanced mode, it's available to specify your text prompt with picture input (see above)

reference

base model from apple
gguf-connector (pypi)

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.

Ревизия весов: 54f3bab