Квантизированная модель Phi-3.5-mini-instruct для локальных диалогов и генерации кода.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Это квантизированная 4-битная версия инструктивной модели Phi-3.5-mini-instruct, опубликованная пользователем tbhrc и преобразованная в формат MLX из microsoft/Phi-3.5-mini-instruct с помощью mlx-lm 0.17.0. Модель построена на плотной архитектуре Phi-3 и содержит 3,7 млрд параметров; она предназначена для диалоговой генерации текста и помощи с кодом. Метаданные указывают на многоязычную поддержку и контекст длиной 4096 токенов.
Модель подходит для локальных диалоговых приложений и генерации кода. Репозиторий использует формат safetensors, а карточка указывает лицензию MIT. Сведения о конкретных ограничениях качества или языковых сценариях в карточке не приведены.
Контекст ограничен 4096 токенами. README не сообщает результаты оценки качества или конкретный перечень поддерживаемых языков.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
The Model mlx-community/Phi-3.5-mini-instruct-4bit was converted to MLX format from microsoft/Phi-3.5-mini-instruct using mlx-lm version 0.17.0.
pip install mlx-lm
from mlx_lm import load, generate
model, tokenizer = load("mlx-community/Phi-3.5-mini-instruct-4bit")
response = generate(model, tokenizer, prompt="hello", verbose=True)
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers
MLX-модели работают только на Apple Silicon.