Компактная 4-битная MLX-версия Phi-3-mini для англоязычной генерации текста, диалогов и помощи с кодом.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Phi-3-mini-128k-instruct-4bit — 4-битная версия модели Phi-3-mini-128k-instruct, разработанной Microsoft и преобразованной сообществом mlx-community в формат MLX с помощью mlx-lm 0.10.0. Модель содержит около 3,7 млрд параметров и предназначена для генерации текста в диалоговых сценариях и задачах, связанных с кодом.
Модель ориентирована прежде всего на англоязычные запросы, генерацию ответов, продолжение текста и помощь с программным кодом. Формат MLX оптимизирован для запуска через библиотеку mlx-lm на совместимом оборудовании Apple. Метаданные указывают нативную длину контекста 4096 токенов.
К сильным сторонам относятся компактный размер, 4-битное квантование и возможность локального запуска в экосистеме MLX. Ограничениями являются преимущественная поддержка английского языка, уменьшенная точность из-за квантования и контекст до 4096 токенов, несмотря на обозначение исходной модели как 128k. Модель распространяется по лицензии MIT.
Модель преимущественно ориентирована на английский язык; 4-битное квантование может снижать точность. Нативный контекст ограничен 4096 токенами.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
This model was converted to MLX format from microsoft/Phi-3-mini-128k-instruct using mlx-lm version 0.10.0.
Model added by Prince Canuma.
Refer to the original model card for more details on the model.
pip install mlx-lm
from mlx_lm import load, generate
model, tokenizer = load("mlx-community/Phi-3-mini-128k-instruct-4bit")
response = generate(model, tokenizer, prompt="hello", verbose=True)
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
MLX-модели работают только на Apple Silicon.