gemma-3-270m-gguf
- base model from google
- tested on gguf-connector with nightly llama-cpp-python
gemma-3-270m-gguf — модель для генерации текста в формате GGUF, созданная на основе Google Gemma 3 270M.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Разработчик базовой модели — Google; данный вариант предназначен для использования через инструменты и библиотеки, совместимые с GGUF, включая gguf-connector и llama-cpp-python.
Известный размер базовой модели — 270 миллионов параметров, а основная задача — text generation. В README не указаны архитектурные детали, поддерживаемые языки, модальности и размер контекстного окна, поэтому эти характеристики нельзя достоверно описать. Модель может быть удобна для локального запуска и интеграции с GGUF-совместимыми приложениями, однако её возможности и качество зависят от конкретной квантовки и среды выполнения. Лицензия указана как Gemma; дополнительные условия использования следует уточнять в лицензии Google Gemma.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
llama.cpp
GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.