These are quantizations of the model [mistralai / Shieldstral-1.0-3B]((https://huggingface.co/mistralai/Shieldstral-1.0-3B).
imatrix has been calculated with text_eur_large
Updated mmproj that where failing to load.
Shieldstral-1.0-3B-GGUF — набор GGUF-квантизаций модели Shieldstral-1.0-3B, разработанной Mistral AI.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
По указанной карточке модель относится к классу image-text-to-text и предназначена для сценариев, в которых требуется обрабатывать изображения вместе с текстовыми запросами и генерировать текстовый ответ.
Базовая модель имеет размер 3B параметров. Конкретные варианты квантизации, поддерживаемые языки, максимальная длина контекста и перечень модальностей в карточке не указаны. Для совместимости обновлён компонент mmproj, исправляющий проблемы загрузки в предыдущей версии; квантизации рассчитаны с использованием калибровочного набора text_eur_large.
Ключевое преимущество этой версии — возможность локального запуска в формате GGUF с различными уровнями квантизации, что может снизить требования к памяти по сравнению с полноразмерной моделью. Ограничения, точные характеристики вариантов квантизации, требования к оборудованию и результаты тестирования не приведены. Лицензия в предоставленных данных не указана.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
These are quantizations of the model [mistralai / Shieldstral-1.0-3B]((https://huggingface.co/mistralai/Shieldstral-1.0-3B).
imatrix has been calculated with text_eur_large
Updated mmproj that where failing to load.
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
GGUF-веса поддерживаются только для текстовых LLM (llama.cpp).