/ Модель

Характеристики

Библиотека
gguf
Опубликована
4 апр 2026

gemma-4-E4B-Gemini-3.1-Pro-Reasoning-Distill-GGUF

Генерация текстаТекст → текст11 профессий

Это GGUF-версия модели gemma-4-E4B-Gemini-3.1-Pro-Reasoning-Distill, разработанной Ayodele01.

535скачиваний за 30 дней9лайковвеса обновлены4 апр 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Репозиторий содержит скомпилированные и квантованные файлы, подготовленные с использованием llama.cpp для эффективного локального запуска на пользовательском оборудовании.

Модель предназначена для генерации текста и локального инференса. Доступны варианты квантования с разрядностью от 3 до 8 бит: Q8_0 обеспечивает качество, близкое к неквантованной версии, а Q3_K_M отличается максимальным сжатием, более высокой скоростью и сниженным качеством. Вариант Q4_K_M рекомендован как компромисс между скоростью, потреблением памяти и качеством. README не содержит сведений о точном числе параметров, архитектуре, поддерживаемых языках, длине контекста, мультимодальности, результатах тестирования или лицензии, поэтому эти характеристики нельзя определить по имеющимся данным.

Для каких профессий подходит11

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

gemma-4-E4B-Gemini-3.1-Pro-Reasoning-Distill-GGUF

This repository contains GGUF format model files for Ayodele01's gemma-4-E4B-Gemini-3.1-Pro-Reasoning-Distill.

These models were compiled and quantized via llama.cpp to enable efficient local inference on consumer hardware.

Available Quantizations

File NameDescription
gemma-4-E4B-Gemini-3.1-Pro-Reasoning-Distill-Q8_0.gguf8-bit quantization. Near unquantized performance, largest file size.
gemma-4-E4B-Gemini-3.1-Pro-Reasoning-Distill-Q6_K.gguf6-bit quantization. Very high quality, minimal degradation from original.
gemma-4-E4B-Gemini-3.1-Pro-Reasoning-Distill-Q5_K_M.gguf5-bit quantization. Higher quality, slightly larger size and slower inference.
gemma-4-E4B-Gemini-3.1-Pro-Reasoning-Distill-Q4_K_M.gguf4-bit quantization. Recommended. Excellent balance of speed, memory usage, and quality.
gemma-4-E4B-Gemini-3.1-Pro-Reasoning-Distill-Q3_K_M.gguf3-bit quantization. Very high compression, fast inference, lower quality.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.

Ревизия весов
7976551

0 моделей