Компактная модель Gemma для генерации кода и помощи в задачах программирования по текстовым запросам.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Gemma-2b-coder — модель генерации текста для задач программирования, доступная в формате MLX. Репозиторий mlx-community содержит конверсию модели MAISAAI/gemma-2b-coder; архитектура — плотная GemmaForCausalLM, размер — 2,5 млрд параметров. Модель принимает текстовые запросы и генерирует текст, в частности код. Контекст составляет до 8192 токенов.
Модель предназначена для помощи при написании и дополнении кода, а также для ответов на вопросы о программировании. В метаданных указан датасет HuggingFaceH4/CodeAlpaca_20K. Подробности о качестве, поддерживаемых языках программирования и ограничениях следует сверять с исходной карточкой MAISAAI/gemma-2b-coder. Доступна в формате safetensors; лицензия в предоставленных данных не указана.
Предоставленная карточка краткая и отсылает к исходной модели; качество и конкретный охват языков программирования здесь не описаны. Для использования требуется MLX-совместимая среда.
README от автора на Hugging Face, как он его опубликовал
This model was converted to MLX format from MAISAAI/gemma-2b-coder.
Refer to the original model card for more details on the model.
pip install mlx-lm
from mlx_lm import load, generate
model, tokenizer = load("mlx-community/gemma-2b-coder")
response = generate(model, tokenizer, prompt="hello", verbose=True)
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
MLX-модели работают только на Apple Silicon.