GGUF-квантование MXFP4 модели Qwen3-Coder-REAP для генерации текста и диалоговой работы, в том числе с задачами программирования.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Это GGUF-квантование модели Qwen3-Coder-REAP-246B-A35B, подготовленное автором noctrex. Исходная модель была в формате FP8; автор преобразовал её в FP32, а затем применил квантование MXFP4 для MoE-модели.
Модель предназначена для генерации текста в диалоговом режиме и может использоваться для задач программирования, характерных для семейства Qwen3-Coder. В метаданных указана задача text-generation и возможность чата. Размер, контекстное окно и поддерживаемые естественные языки в предоставленных данных не описаны.
Автор предупреждает, что квантование исходной FP8-модели не позволяет полностью восстановить потерю качества. Сведения о лицензии в предоставленных данных отсутствуют.
Автор сообщает, что потери качества из-за исходного FP8-квантования не удалось полностью устранить преобразованием через FP32 и MXFP4. Лицензия в предоставленных данных не указана.
README от автора на Hugging Face, как он его опубликовал
This is a MXFP4_MOE quantization of the model Qwen3-Coder-REAP-246B-A35B
Original model: https://huggingface.co/cerebras/Qwen3-Coder-REAP-246B-A35B-FP8
The model was originally in FP8, which limits its precision.
I attempted to apply MXFP4 quantization after converting the model to FP32, but the quality degradation from the initial FP8 quantization cannot be fully reversed.
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
llama.cpp
Подбираем GPU…