Характеристики

Лицензия: Apache 2.0
Архитектура: smolvlm · dense
Базовая модель: SmolVLM2-500M-Video-Instruct
Библиотека: transformers
Опубликована: 28 мая 2025

Ссылки

SmolVLM2-500M-Video-Instruct-GGUF

Изображение и текст → текст3 профессии

SmolVLM2-500M-Video-Instruct-GGUF — компактная мультимодальная instruct-модель семейства SmolVLM2, разработанная HuggingFaceTB и представленная в формате GGUF компанией Second State Inc.

1 325скачиваний за 30 дней0лайковвеса обновлены29 мая 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель предназначена для обработки текстовых запросов вместе с визуальными данными; в карточке указана поддержка английского языка и сценарии image-text-to-text. Название модели также указывает на работу с видео, однако подробности о поддерживаемых видеовходах в README не приведены.

Размер исходной модели составляет 500 млн параметров. Доступны варианты квантования от Q2_K до Q8_0, а также версия f16; объём файлов варьируется от 245 МБ для Q2_K до 820 МБ для f16. Для большинства сценариев рекомендуются варианты Q4_K_M, Q5_K_M или Q5_K_S как компромисс между размером и качеством. Более агрессивное квантование уменьшает требования к памяти, но приводит к заметной потере качества.

Модель рассчитана на локальный запуск через LlamaEdge версии 0.21.0 и выше с использованием llama.cpp-совместимых GGUF-файлов. Указан размер контекста 2048 токенов и специальный шаблон prompt type smol-vision; для мультимодальной обработки требуется отдельный файл mmproj в формате f16. README не содержит подробных сведений о конкретных задачах, архитектуре, точной поддержке видео и ограничениях качества, поэтому эти характеристики нельзя определить по доступным данным. Лицензия — Apache 2.0.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей I.4Универсальные способностиОбработка документов и формAI помогает оцифровывать документы, проверять их комплектность и сокращать ручной ввод данных.16 задач7 180моделей I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

SmolVLM2-500M-Video-Instruct-GGUF

Original Model

HuggingFaceTB/SmolVLM2-500M-Video-Instruct

Run with LlamaEdge

LlamaEdge version: v0.21.0 and above

Prompt template

Prompt type: smol-vision

Prompt string

<|im_start|>
User: {user_message_1}<image>
Assistant: {assistant_message_1}
User: {user_message_2}<image>
Assistant:

Context size: 2048

Run as LlamaEdge service

wasmedge --dir .:. --nn-preload default:GGML:AUTO:SmolVLM2-500M-Video-Instruct-Q5_K_M.gguf \
  llama-api-server.wasm \
  --prompt-template smol-vision \
  --llava-mmproj SmolVLM2-500M-Video-Instruct-mmproj-f16.gguf \
  --model-name SmolVLM2-500M-Video-Instruct \
  --ctx-size 2048

Quantized GGUF Models

Name	Quant method	Bits	Size	Use case
SmolVLM2-500M-Video-Instruct-Q2_K.gguf	Q2_K	2	245 MB	smallest, significant quality loss - not recommended for most purposes
SmolVLM2-500M-Video-Instruct-Q3_K_L.gguf	Q3_K_L	3	273 MB	small, substantial quality loss
SmolVLM2-500M-Video-Instruct-Q3_K_M.gguf	Q3_K_M	3	261 MB	very small, high quality loss
SmolVLM2-500M-Video-Instruct-Q3_K_S.gguf	Q3_K_S	3	245 MB	very small, high quality loss
SmolVLM2-500M-Video-Instruct-Q4_0.gguf	Q4_0	4	256 MB	legacy; small, very high quality loss - prefer using Q3_K_M
SmolVLM2-500M-Video-Instruct-Q4_K_M.gguf	Q4_K_M	4	303 MB	medium, balanced quality - recommended
SmolVLM2-500M-Video-Instruct-Q4_K_S.gguf	Q4_K_S	4	293 MB	small, greater quality loss
SmolVLM2-500M-Video-Instruct-Q5_0.gguf	Q5_0	5	301 MB	legacy; medium, balanced quality - prefer using Q4_K_M
SmolVLM2-500M-Video-Instruct-Q5_K_M.gguf	Q5_K_M	5	326 MB	large, very low quality loss - recommended
SmolVLM2-500M-Video-Instruct-Q5_K_S.gguf	Q5_K_S	5	319 MB	large, low quality loss - recommended
SmolVLM2-500M-Video-Instruct-Q6_K.gguf	Q6_K	6	418 MB	very large, extremely low quality loss
SmolVLM2-500M-Video-Instruct-Q8_0.gguf	Q8_0	8	437 MB	very large, extremely low quality loss - not recommended
SmolVLM2-500M-Video-Instruct-f16.gguf	f16	16	820 MB
SmolVLM2-500M-Video-Instruct-mmproj-f16.gguf	f16	16	199 MB

Quantized with llama.cpp b5501

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

GGUF-веса поддерживаются только для текстовых LLM (llama.cpp).

Класс архитектуры: SmolVLMForConditionalGeneration
Ревизия весов: 79dfd03