Конвертированная в MLX модель Phi-3 для генерации английского текста, диалогов и кода.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
lopezhansel/phined-tuned-2 — конвертированная в формат MLX версия модели microsoft/Phi-3-mini-4k-instruct. Это плотная авторегрессионная языковая модель семейства Phi-3 с 3,7 млрд параметров, предназначенная для генерации текста в диалоговом и кодовом сценариях. Модель принимает текст и выдаёт текст; заявленный контекст — 4096 токенов. В метаданных указаны английский язык и поддержка чата и кода.
Модель опубликована в формате safetensors и подготовлена с помощью mlx-lm версии 0.15.3 для использования с MLX. Лицензия — MIT. Карточка не приводит отдельных сведений о качестве или дополнительных ограничениях.
Контекст ограничен 4096 токенами. Карточка не сообщает результатов оценки качества модели.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
The Model lopezhansel/phined-tuned-2 was converted to MLX format from microsoft/Phi-3-mini-4k-instruct using mlx-lm version 0.15.3.
pip install mlx-lm
from mlx_lm import load, generate
model, tokenizer = load("lopezhansel/phined-tuned-2")
response = generate(model, tokenizer, prompt="hello", verbose=True)
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
MLX-модели работают только на Apple Silicon.