Характеристики

Лицензия: MIT
Базовая модель: Ling-3.0-flash-VL
Библиотека: llama.cpp
Опубликована: 7 сен 2026

Ссылки

Ling-3.0-flash-VL-GGUF

Изображение и текст → текст3 профессии

AtomicChat/Ling-3.0-flash-VL-GGUF — экспериментальная GGUF-сборка мультимодальной модели Ling 3.0 Flash VL, разработанной InclusionAI и подготовленной Atomic Chat на основе оригинальных весов и собственной importance matrix для Ling.

2 097скачиваний за 30 дней10лайковвеса обновлены8 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель принимает текстовые и графические входные данные и предназначена для локального запуска через llama.cpp-совместимый, но специально изменённый runtime.

Доступны варианты квантования AD-Q4_K_M, AD-Q5_K_M, AD-Q6_K и AD-Q8_0; для обработки изображений требуется общий F32 vision projector размером около 1,74 ГБ. Полные размер и архитектурные характеристики, поддерживаемые языки и максимальный контекст в README не указаны. Сборки прошли проверки целостности тензоров, текстовые и базовые визуальные smoke-тесты, а некоторые варианты также тесты OCR и подсчёта объектов. При этом полноценная проверка качества зрения, видео, максимального контекста и агентских сценариев не проводилась.

Модель подходит для локальных мультимодальных экспериментов и задач анализа изображений и текста, однако README предупреждает, что это предварительная экспериментальная версия, а качество ещё полностью не подтверждено. Для запуска необходим сопутствующий приватный runtime-патч; стандартный llama.cpp и опубликованное приложение Atomic Chat не валидированы для этих артефактов. Репозиторий распространяется по лицензии MIT.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей I.4Универсальные способностиОбработка документов и формAI помогает оцифровывать документы, проверять их комплектность и сокращать ручной ввод данных.16 задач7 180моделей I.11Универсальные способностиКлассификация, ранжирование и сопоставлениеAI помогает распределять объекты по категориям, устанавливать соответствия и определять порядок обработки.15 задач26 736моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

How to Run Ling 3.0 Flash VL Locally

Prepared from the original inclusionAI checkpoint, revision 869591498e8dbb41d4d96e3e2a5b428a2f70eb1e. These are the Atomic AD layouts, made on CPU using the existing calibration iMatrix. The full nine-variant text comparison and CPU speed measurements are complete; see FINAL_REPORT.md. This repository is an experimental working preview, not a completed benchmark release.

Uploads arrive progressively. Check UPLOAD_STATUS.json before downloading a variant. Each language variant requires all six GGUF shards in the same directory; select shard 00001 when loading.

Variant	Complete language files, decimal GB
AD-Q4_K_M	79.30
AD-Q5_K_M	89.44
AD-Q6_K	107.14
AD-Q8_0	132.73

Vision requires the shared F32 mmproj, an additional 1.74 GB. File size is not a RAM requirement estimate.

Runtime requirement

Use the accompanying private runtime patch and added source files, based on AtomicBot-ai/atomic-llama-cpp-turboquant@cd560939087c95b93a1f30a95603d6b079436952. Stock llama.cpp and the released Atomic Chat app have not been validated for these artifacts. See RUNTIME.md.

Checks completed

All four variants: 917 tensor types/shapes verified, six-shard integrity checked, complete SHA-256 manifests, and all 382 protected F32 tensor payloads unchanged from BF16. Text and a spatial image passed on all four. Q4/Q6/Q8 additionally passed the OCR and object-count smoke cases. These are functional smoke checks, not a comprehensive vision benchmark.

Full text quality comparisons use the historical held-out 92 × 4096 protocol and a fresh BF16 reference from this checkpoint. Full text results are available in FINAL_REPORT.md. Video and maximum context are not validated.

The existing iMatrix comes from AtomicChat/Ling-3.0-flash-GGUF@253738fe190c15f329001f263f355fc1562bbe7c, SHA-256 7d3c0ebe9eb235cc08e0b7c91886f5c422772ea95eebbf0f53b0974a1c040991. Its 573 entries match the new language tensor dimensions. Four routed experts have no observations in that matrix; uniform importance was used for those entries.

manifest.json and SHA256SUMS describe the complete intended set. Actual upload completion is recorded separately in UPLOAD_STATUS.json.

Completed measurements

Full report · KLD chart · Metrics CSV.

The pilot results are separate from the full 92-block comparison. Completion is not a comprehensive vision or agentic quality certification.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · llama.cpp

Нельзя запустить

GGUF-веса поддерживаются только для текстовых LLM (llama.cpp).

Ревизия весов: 193cef8