Quantized version of: mistralai/Magistral-Small-2509
'Make knowledge free for everyone'
DevQuasar/mistralai.Magistral-Small-2509-GGUF — это квантизированная версия модели Magistral-Small-2509 от Mistral AI, подготовленная сообществом или организацией DevQuasar.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Модель предназначена для генерации текста и совместима с форматом GGUF, который обычно используется для локального запуска языковых моделей, однако конкретный вариант квантования в README не указан.
Из доступных данных известно только, что модель относится к задачам text-generation. Сведения о размере, архитектуре, количестве параметров, поддерживаемых языках, длине контекста и мультимодальных возможностях отсутствуют, поэтому их нельзя достоверно описать. Вероятным преимуществом является возможность более компактного локального размещения по сравнению с полной версией, но квантизация может влиять на качество и точность генерации.
Лицензия и условия использования в README не указаны. Перед применением модели в коммерческих или публичных системах необходимо отдельно проверить лицензию исходной модели Magistral-Small-2509 и условия распространения квантизированной версии.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
Quantized version of: mistralai/Magistral-Small-2509
'Make knowledge free for everyone'
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
llama.cpp
GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.