Murasaki-4B-v0.3-GGUF

Модель предназначена прежде всего для генерации и перевода текстов, связанных с визуальными новеллами, ранобэ, galgame и аниме-субтитрами. Заявлены японский и китайский языки, а также поддержка сценариев с chain-of-thought и text generation inference.

Модель содержит около 4 миллиардов параметров и распространяется в формате GGUF, совместимом с соответствующими средствами инференса. Доступны варианты квантования от Q2_K до Q8_0, IQ4_XS и полноточный f16; размеры файлов составляют примерно от 1,9 до 8,9 ГБ. В README не указаны архитектура исходной модели, размер контекста, точный набор поддерживаемых языков и результаты бенчмарков, поэтому качество для конкретных задач заранее оценить нельзя. Квантованные варианты позволяют снизить требования к памяти, однако более агрессивное квантование может ухудшать качество.

Модель распространяется по лицензии CC BY-NC-SA 4.0, которая ограничивает коммерческое использование и требует соблюдения условий атрибуции и распространения производных работ.