gemma-3-270m-it-gguf
- base model from google
- original safetensors here
- tested on gguf-connector with nightly llama-cpp-python
Gemma 3 270M IT GGUF — это компактная языковая модель для генерации текста, созданная на основе модели Google gemma-3-270m-it.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Представленная версия преобразована в формат GGUF и предназначена для использования с инструментами и библиотеками, совместимыми с этим форматом, включая gguf-connector и сборки llama-cpp-python.
Модель ориентирована на задачи текстовой генерации и может применяться в сценариях, где важны небольшой размер и локальный запуск. Известно, что она является instruction-tuned версией с 270 миллионами параметров. Сведения о поддерживаемых языках, длине контекста, точной архитектуре, модальностях, производительности и ограничениях в README не приведены.
Лицензия указана как gemma. README не содержит подробных условий лицензии, поэтому перед использованием следует ознакомиться с официальными условиями Google Gemma. Исходные веса в формате Safetensors и информация о тестировании доступны по ссылкам, указанным в карточке модели.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
llama.cpp
GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.