/ Модель
Каталог

Характеристики

Лицензия
Apache 2.0
Базовая модель
Qwen3-VL-4B-Instruct
Опубликована
10 окт 2026

Ссылки

Hugging Face

lunar-V1-GGUF

not1Emerald
Изображение и текст → текст

Локальная квантизованная мультимодальная модель на базе Qwen3-VL-4B-Instruct для программирования, диалога с инструментами и анализа изображений.

278скачиваний за 30 дней0лайковвеса обновлены10 окт 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

lunar-V1 — созданная not1Emerald локальная мультимодальная модель для программирования, рассуждений и работы с изображениями. Она основана на Qwen/Qwen3-VL-4B-Instruct и поставляется в формате GGUF с квантизацией Q5_K_M и матрицей важности, настроенной автором для литовского языка и кода. Для изображений и видеокадров нужен отдельный файл проектора mmproj; запуск рассчитан на llama.cpp и может выполняться офлайн.

Модель предназначена для генерации и анализа кода, диалога с инструментами, а также анализа скриншотов и видеокадров. README сообщает о проверках на HumanEval, MBPP и многоязычных задачах программирования, а также о нативном JSON-формате вызова инструментов. Указанный архитектурный контекст — 262 144 токена, но на GTX 1050 с 4 ГБ видеопамяти автор рекомендует существенно меньшие размеры контекста; производительность зависит от оборудования и настроек.

Модель распространяется по лицензии Apache-2.0. Это пользовательская сборка и квантизованный вариант базовой модели, поэтому результаты приведённых автором тестов не гарантируют качество на других задачах или конфигурациях. README также описывает шаблон чата с правилами отказов; его поведение относится к шаблону, а не обязательно к самим весам.

Сценарии применения

  • генерация и исправление кода по текстовому запросу
  • решение задач по программированию на нескольких языках
  • анализ скриншотов и изображений с кодом
  • ответы на вопросы по видеокадрам
  • локальный диалог с поддержкой вызова инструментов

Ограничения

На устройстве с 4 ГБ видеопамяти практический контекст значительно меньше заявленного архитектурного максимума и зависит от доступной оперативной памяти и скорости процессора. Приведённые в README результаты тестов сообщены автором и не являются независимой оценкой.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

lunar-V1

A local-first thinking coder with eyes — forged on a single GTX 1050 4GB through custom quantization, crowned by benchmark deathmatches, and verified task by task with everything executed for real. No cloud, no subscriptions, no telemetry: download it and it works offline.

  • Author: not1Emerald
  • Base: Qwen/Qwen3-VL-4B-Instruct (post-trained instruct, thinking + tools + 100+ languages)
  • This file: custom Q5_K_M quant with our own Lithuanian+code importance matrix
  • Context: 262,144 native architecture (serve 2–25k on 4GB VRAM)
  • License: Apache-2.0 (inherited from Qwen3)

Files

  • lunar-V1.gguf (2.7GB) — the model. Load fully on a 4GB GPU.
  • lunar-V1.mmproj.gguf (433MB) — vision projector (its eyes). Required for images/video.
  • lunar-template.jinja — server chat template: lunar-V1 identity, capability affirmation, no-refusal + no-partials rules. Use with --chat-template-file (no Modelfile needed).

Run (llama.cpp + Vulkan/CUDA, no Ollama)

llama-server -m lunar-V1.gguf --mmproj lunar-V1.mmproj.gguf \
  -c 8192 -ngl 99 --jinja --chat-template-file lunar-template.jinja \
  --temp 0.6 --top-k 20 --top-p 0.95 --presence-penalty 1.5 --port 8080

4GB cards: -c 2048–3072 fully on-GPU. For 8–25k context add --no-kv-offload (KV cache lives in system RAM at ~144KB/token — ceiling grows with your RAM: ~10GB free ≈ 60k+ tokens in theory, 8–16k practical on older CPUs).

Proven (all executed live, GTX 1050)

  • HumanEval: 120/120 (3 seeds × 40)
  • HumanEval-20: 19/20, 90/90 follow-up
  • MBPP-50: 31/50 (spec-comprehension gauntlet)
  • Multilingual (bigcode HumanEvalPack tools, executed): Rust-25 + JS-25 scoring now; earlier authored round: 12/12 (Rust 5/5, JS 3/3, SQL 4/4)
  • Tool calling: native tool_calls JSON
  • Vision: screenshots + video frames via OpenAI image_url format
  • Lithuanian + English throughout
  • Speed: ~16 tok/s decode fully on-GPU (small ctx) / ~8 tok/s at 25k ctx (GTX 1050 4GB)

Identity

lunar-V1 identifies as lunar-V1 (built from the Qwen3 family) via the bundled template. Raw file without the template answers as its Qwen3 base.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

GGUF-веса поддерживаются только для текстовых LLM (llama.cpp).

Ревизия весов
9811d8a

0 моделей

    Создать бенчмарк