QuantFactory/Gemma-2-2b-Chinese-it-GGUF — квантизированная версия Gemma-2-2b-Chinese-it, подготовленная QuantFactory с использованием llama.cpp.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Исходная модель разработана stvlynn на базе google/gemma-2-2b-it и дообучена примерно на 6,4 тыс. примеров из наборов LooksJuicy/ruozhiba и hfl/ruozhiba_gpt4.
Модель предназначена для генерации текста на китайском языке и сценариев, где требуется адаптация Gemma-2-2b-it к данным ruozhiba. Она относится к классу text-generation, имеет размер 2 млрд параметров и поставляется в формате GGUF с квантизацией, что должно упростить локальный запуск и снизить требования к памяти, хотя конкретный вариант квантизации в карточке не указан. Сведения о поддерживаемых модальностях, размере контекста, точных характеристиках архитектуры и качестве на тестах отсутствуют. Ограничениями являются небольшой объём дообучающих данных и узкая специализация; лицензия указана как GPL-3.0.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
This is quantized version of stvlynn/Gemma-2-2b-Chinese-it created using llama.cpp
Gemma-2-2b-Chinese-it used approximately 6.4k rows of ruozhiba dataset to fine-tune Gemma-2-2b-it.
Gemma-2-2b-中文使用了约6.4k弱智吧数据对Gemma-2-2b-it进行微调
see Google's doc:
If you have any questions or suggestions, feel free to contact me.
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
llama.cpp
GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.
