Квантизированная GGUF-версия мультимодальной Cogito v2 на базе Llama 109B MoE для диалога с текстом и изображениями.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
noctrex/cogito-v2-preview-llama-109B-MoE-MXFP4_MOE-GGUF — MXFP4_MOE-квантизация Cogito v2 Preview Llama 109B MoE, подготовленная noctrex на основе модели deepcogito/cogito-v2-preview-llama-109B-MoE. Репозиторий содержит GGUF-файлы в вариантах BF16, F16 и F32; метаданные указывают на диалоговый режим и поддержку изображений. Модель предназначена для диалога с текстом и изображениями в сценариях, где нужна мультимодальная модель Cogito v2.
Ключевое семейство — Llama с архитектурой Mixture of Experts и заявленным размером 109 млрд параметров базовой модели. Данных о контексте и поддерживаемых языках в предоставленных источниках нет. README описывает MXFP4_MOE-квантизацию, однако метаданные также перечисляют GGUF-варианты BF16, F16 и F32. Лицензия в предоставленных данных не указана.
Предоставленные источники не сообщают длину контекста, поддерживаемые языки и лицензию. Качество и требования к ресурсам именно этой квантизированной сборки в README не описаны.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
This is a MXFP4_MOE quantization of the model cogito-v2-preview-llama-109B-MoE
Model quantized with BF16 GGUF's from: https://huggingface.co/unsloth/cogito-v2-preview-llama-109B-MoE-GGUF
Original model: https://huggingface.co/deepcogito/cogito-v2-preview-llama-109B-MoE
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
GGUF-веса поддерживаются только для текстовых LLM (llama.cpp).