turboderp/Qwen3.8-Flash-Next-exl3 — это набор EXL3-квантизаций модели Qwen3.8-Flash-Next, разработанной Qwen и переквантованной turboderp.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Модель предназначена для задач преобразования изображений и текста в текст и рассчитана на локальный запуск с использованием ExLlamaV3 версии 1.4.5 или ветки dev.
Доступны варианты с точностью 2,05, 3,05, 4,05, 5,05 и 6,05 бит на вес, что позволяет выбирать компромисс между требованиями к памяти, скоростью и сохранением качества. В README не указаны точный размер модели, архитектурные детали базовой модели, поддерживаемые языки и максимальная длина контекста. Приведены результаты самокалибровки и несколько графиков, однако подробные бенчмарки заявлены как будущие. Лицензия обозначена как qwen-community-1.0; дополнительные условия следует уточнять в файле LICENSE.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
EXL3 quants of Qwen3.8-Flash-Next
⚠️ Requires ExLlamaV3 v1.4.5 (or dev branch)
2.05 bits per weight
3.05 bits per weight
4.05 bits per weight
5.05 bits per weight
6.05 bits per weight
Self-calibrated quants and more benchmarks to follow
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Не удалось определить, чем загружать веса модели (нет library_name и architectures).