Mistral-Nemo-Instruct-2407-4bit — это 4-битная версия модели Mistral-Nemo-Instruct-2407, разработанной Mistral AI и преобразованной сообществом mlx-community в формат MLX с использованием mlx-lm 0.16.0.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Модель предназначена для выполнения инструкций и генерации текста в приложениях, поддерживающих MLX и библиотеку mlx-lm.
В карточке указана поддержка английского, французского, немецкого, испанского, итальянского, португальского, русского, китайского и японского языков. Ключевая характеристика этой версии — 4-битное представление, которое уменьшает требования к памяти по сравнению с полноразмерной моделью, но может сопровождаться некоторой потерей качества. Архитектура, число параметров, модальности и размер контекста в предоставленных данных не указаны.
Для использования требуется библиотека mlx-lm; модель загружается по идентификатору mlx-community/Mistral-Nemo-Instruct-2407-4bit. Лицензия — Apache-2.0. Условия запуска и производительность зависят от совместимой с MLX среды.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
The Model mlx-community/Mistral-Nemo-Instruct-2407-4bit was converted to MLX format from mistralai/Mistral-Nemo-Instruct-2407 using mlx-lm version 0.16.0.
pip install mlx-lm
from mlx_lm import load, generate
model, tokenizer = load("mlx-community/Mistral-Nemo-Instruct-2407-4bit")
response = generate(model, tokenizer, prompt="hello", verbose=True)
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
MLX-модели работают только на Apple Silicon.