gemma-3-4b-persian-v0-GGUF

Модель создана для генерации текста на персидском языке и распространяется в форматах GGUF с различными уровнями квантования, подходящими для запуска в средах, поддерживающих этот формат. Для вариантов с mmproj заявлена мультимодальная поддержка, однако подробности о поддерживаемых типах входных данных в README не приведены.

Модель основана на Gemma 3 с размером около 4 млрд параметров и дообучалась методом QLoRA на наборе данных Persian_sft. Указан персидский язык, а среди ключевых характеристик отмечены text-generation, 4-bit quantization и несколько вариантов GGUF — от Q2_K до Q8_0 и f16. Варианты Q4_K_S и Q4_K_M обозначены как быстрые и рекомендуемые, Q6_K — как обеспечивающий очень хорошее качество, а Q8_0 — как вариант с лучшим качеством среди перечисленных.

Сильной стороной модели является выбор квантизированных вариантов разного размера: заявленный объём файлов составляет примерно от 1,8 до 7,9 ГБ, что позволяет подбирать компромисс между требованиями к памяти, скоростью и качеством. Ограничения включают отсутствие в README подробных результатов оценки, описания контекстного окна, архитектурных деталей, перечня дополнительных языков и рекомендаций по конкретным сценариям применения. Лицензия — Apache-2.0.