Конверсия Gemma на 2,5 млрд параметров в формате MLX для генерации текста с контекстом до 8192 токенов.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Arjun24420/Medical-quantized-gemma-2b — модель генерации текста на архитектуре Gemma, опубликованная как конверсия в формат MLX модели mlx-community/quantized-gemma-2b с помощью mlx-lm 0.14.3. Репозиторий содержит веса safetensors; размер модели — 2,5 млрд параметров, длина контекста — до 8192 токенов.
Название указывает на медицинскую специализацию, однако README не описывает медицинские возможности или сценарии обучения. Модель можно использовать для генерации текста в среде MLX; язык и качество медицинских ответов в карточке не подтверждены. Лицензия указана как other, без уточнения её условий в доступных данных.
Медицинская специализация заявлена только в названии и не подтверждена описанием обучения или оценками качества. Условия лицензии типа other в доступных данных не раскрыты.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
The Model Arjun24420/Medical-quantized-gemma-2b was converted to MLX format from mlx-community/quantized-gemma-2b using mlx-lm version 0.14.3.
pip install mlx-lm
from mlx_lm import load, generate
model, tokenizer = load("Arjun24420/Medical-quantized-gemma-2b")
response = generate(model, tokenizer, prompt="What is glaucoma", verbose=True,temp=0.5)
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers
MLX-модели работают только на Apple Silicon.