/ Модель

Характеристики

Контекст
262 144 токена
Размер весов
17,5 ГБ
Лицензия
Apache 2.0
Архитектура
qwen3_vl · dense
Базовая модель
Qwen3-VL-8B-Instruct
Библиотека
transformers
Опубликована
12 июл 2026

TimeLens2-8B

Компьютерное зрениеВидео, текст → текст3 профессии

Мультимодальная модель, которая находит в видео временной интервал, соответствующий текстовому запросу.

1 715скачиваний за 30 дней19лайковвеса обновлены2 окт 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Изображение → текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

TimeLens2-8B — мультимодальная языковая модель для временной локализации событий в видео, разработанная MCG-NJU на базе Qwen3-VL-8B-Instruct. На вход она принимает видео и текстовый запрос, а в ответ возвращает временной интервал, содержащий соответствующие визуальные свидетельства. Модель предназначена для поиска событий в коротких, длинных и видео от первого лица.

В карточке сообщается о среднем mIoU 48,0 на семи бенчмарках временной локализации. Модель дообучена на Qwen3-VL-8B-Instruct; репозиторий содержит веса Safetensors и использует библиотеку Transformers. Лицензия — Apache-2.0. Длина контекста и поддерживаемые естественные языки в предоставленных источниках не описаны.

Сценарии применения

  • поиск момента с заданным событием в длинном видео
  • локализация действия по текстовому описанию
  • поиск визуальных свидетельств в видео от первого лица
  • определение временных границ события в коротком ролике

Ограничения

Оценка 48,0 mIoU относится к семи бенчмаркам, указанным в карточке; результаты на других данных могут отличаться. Поддерживаемые естественные языки и длина контекста в предоставленных источниках не описаны.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

TimeLens2-8B

TimeLens2-8B is a video multimodal large language model for temporal grounding. Given a video and a text query, it returns the time interval containing the relevant visual evidence.

The model is built on Qwen3-VL-8B-Instruct and achieves 48.0 average mIoU across seven temporal grounding benchmarks.

TimeLens2-8B sets a new state of the art on this seven-benchmark suite, with strong performance across short-, long-, and egocentric-video grounding.

Paper

TimeLens2: Generalist Video Temporal Grounding with Multimodal LLMs

Benchmark Results

Temporal grounding benchmark results

Inference

pip install -U torch torchvision "transformers>=4.57.0" accelerate "qwen-vl-utils[decord]>=0.0.14"
pip install -U flash-attn --no-build-isolation
from pathlib import Path

from qwen_vl_utils import process_vision_info
from transformers import AutoModelForImageTextToText, AutoProcessor

model_id = "MCG-NJU/TimeLens2-8B"
video_path = "/path/to/video.mp4"
query = "A man opens the refrigerator."

model = AutoModelForImageTextToText.from_pretrained(
    model_id,
    torch_dtype="auto",
    device_map="auto",
    attn_implementation="flash_attention_2",
)
processor = AutoProcessor.from_pretrained(model_id)

prompt = (
    f'Given the query: "{query}", return ALL time spans (in seconds) where the query is relevant.\n'
    "Output format MUST be a JSON array of [start, end] pairs.\n"
)
messages = [
    {
        "role": "user",
        "content": [
            {
                "type": "video",
                "video": Path(video_path).resolve().as_uri(),
                "fps": 2.0,
                "min_pixels": 32 * 32,
                "max_pixels": 480 * 480,
                "total_pixels": 128000 * 32 * 32,
            },
            {"type": "text", "text": prompt},
        ],
    }
]

text = processor.apply_chat_template(
    messages,
    tokenize=False,
    add_generation_prompt=True,
)
images, videos, video_kwargs = process_vision_info(
    messages,
    image_patch_size=16,
    return_video_kwargs=True,
    return_video_metadata=True,
)

if videos is not None:
    videos, video_metadatas = zip(*videos)
    videos, video_metadatas = list(videos), list(video_metadatas)
else:
    video_metadatas = None

inputs = processor(
    text=text,
    images=images,
    videos=videos,
    video_metadata=video_metadatas,
    do_resize=False,
    return_tensors="pt",
    **video_kwargs,
).to(model.device)

output_ids = model.generate(
    **inputs,
    max_new_tokens=4096,
    temperature=0.01,
    top_p=0.001,
    top_k=1,
    repetition_penalty=1.0,
)
output_ids = [
    output[len(input_ids) :]
    for input_ids, output in zip(inputs.input_ids, output_ids)
]
response = processor.batch_decode(
    output_ids,
    skip_special_tokens=True,
    clean_up_tokenization_spaces=False,
)
print(response[0])

Citation

@article{zhu2026timelens2,
  title={TimeLens2: Generalist Video Temporal Grounding with Multimodal LLMs},
  author={Zhu, Yuhan and Ma, Changlian and Zeng, Xiangyu and Li, Xinhao and Zhang, Zhiqiu and Li, Songze and Zhang, Jun and Jiang, Tianxiang and Yang, Yuandong and Yan, Ziang and others},
  journal={arXiv preprint arXiv:2607.17423},
  year={2026}
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
Qwen3VLForConditionalGeneration
Ревизия весов
5392a2b

0 моделей