Gemma-2-9b-it-4bit — языковая модель семейства Gemma 2, разработанная Google и доработанная сообществом mlx-community для формата MLX.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Модель преобразована из google/gemma-2-9b-it с использованием mlx-lm версии 0.15.0 и предназначена для запуска в экосистеме MLX.
Это instruction-tuned модель для генерации текста и диалоговых сценариев: она может использоваться для ответов на запросы, ведения беседы и других задач, связанных с обработкой и созданием текста. В карточке указано обозначение размера 9B, а также 4-битное квантование, которое снижает требования к памяти по сравнению с полноточным представлением. Поддерживаются библиотека transformers как метаданные и библиотека mlx-lm для загрузки и генерации.
README не содержит сведений о поддерживаемых языках, длине контекста, результатах тестирования, точных архитектурных характеристиках, сильных сторонах или ограничениях качества. Для доступа к исходной модели на Hugging Face требуется принять лицензию Google Gemma; конкретные условия следует проверять в тексте этой лицензии.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
The Model mlx-community/gemma-2-9b-it-4bit was converted to MLX format from google/gemma-2-9b-it using mlx-lm version 0.15.0.
pip install mlx-lm
from mlx_lm import load, generate
model, tokenizer = load("mlx-community/gemma-2-9b-it-4bit")
response = generate(model, tokenizer, prompt="hello", verbose=True)
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers
MLX-модели работают только на Apple Silicon.