/ Модель

Характеристики

Контекст
262 144 токена
Размер весов
4,3 ГБ
Лицензия
Apache 2.0
Архитектура
qwen3_vl · dense
Базовая модель
Qwen3-VL-2B-Instruct
Библиотека
transformers
Опубликована
13 сен 2026

screen-highlighter-qwen3-vl-2b-rl-merged

Изображение и текст → текст

Мультимодальная модель на базе Qwen3-VL-2B-Instruct, которая находит и выделяет области интерфейса на снимках экрана по инструкции.

42скачиваний за 30 дней1лайквеса обновлены13 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Изображение → текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Screen Highlighter — мультимодальная модель Mustafaah на основе Qwen3-VL-2B-Instruct, дообученная на выделении элементов интерфейса и объединённая с LoRA-адаптером после SFT и RL. Она принимает снимок экрана и инструкцию, а в ответ формирует JSON с цветом и координатами прямоугольников выделения в диапазоне 0–1000. Модель рассчитана на задачи визуального взаимодействия с интерфейсами, например поиск и подсветку навигационных элементов по текстовому запросу. Архитектура — плотная Qwen3-VL с генерацией текста и анализом изображений; используется библиотека Transformers. Лицензия — Apache-2.0.

В карточке приведена проверка объединения на одном снимке: координаты шести навигационных областей различались не более чем на одну нормализованную единицу. Это проверка работоспособности, а не полноценная оценка качества. Для воспроизводимого использования README указывает Transformers 4.57.6 и системный промпт из карточки; модель не использует внешние OCR-инструменты.

Сценарии применения

  • подсветка кнопок и пунктов меню на скриншоте по запросу
  • поиск и выделение навигационных элементов интерфейса
  • разметка нужных областей экрана нормализованными координатами

Ограничения

Проверка объединённой модели ограничена одним тестовым снимком и не подтверждает качество на широком наборе интерфейсов. Для применения требуется системный промпт из карточки; слияние BF16 не гарантирует побитового совпадения токенов с адаптерной версией.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Screen Highlighter — merged final RL model

Qwen3-VL-2B-Instruct with our highlight-only SFT + RL update-200 LoRA merged in BF16. This is the trained model, not the base checkpoint. It returns one JSON highlight response for a screenshot and instruction.

Base revision: 89644892e4d85e24eaac8bacfd4f463576704203. Adapter SHA256: 10c98d1751b609c2c0a7c72cf404f07b931f2aea7220e32106078c0a4390c9ee. Adapter source: final RL adapters.

The included merge validation compares the same screenshot before/after merging: six corresponding navigation boxes, at most one normalized-coordinate unit difference. BF16 merging is not token-exact. This smoke test is not a full evaluation.

Use Transformers 4.57.6 and the system prompt included here. Input: full screenshot plus instruction; output: {"op":"highlight","targets":[["yellow",x0,y0,x1,y1],...]} in 0–1000 coordinates. Greedy decoding; max 1024 output tokens; 256–1024 image tokens. No external OCR or inspection tools.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
Qwen3VLForConditionalGeneration
Ревизия весов
19ae073

0 моделей