4-битная версия Hermes-2-Pro-Mistral-7B в формате MLX для диалогов, генерации текста и выполнения инструкций.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Hermes-2-Pro-Mistral-7B-4bit — 4-битная версия модели Hermes-2-Pro-Mistral-7B, преобразованная сообществом mlx-community в формат MLX для запуска на устройствах Apple с MLX. Это плотная авторегрессионная языковая модель Mistral с 7,1 млрд параметров, дообученная на основе mistralai/Mistral-7B-v0.1. Модель предназначена для диалогов и следования инструкциям; в карточке указаны поддержка английского языка и контекст длиной 32 768 токенов.
Модель подходит для генерации ответов, чат-ботов и выполнения инструкций на английском языке. Она поддерживает Apache-2.0. Карточка этой версии подтверждает конверсию в MLX, но не приводит отдельные сведения о её оценке качества или ограничениях; исходная модель Hermes-2-Pro-Mistral-7B указана как источник для подробностей.
Карточка не содержит отдельных оценок качества или развёрнутого описания ограничений этой MLX-версии. Модель рассчитана на английский язык; для иных языков качество не подтверждено.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
This model was converted to MLX format from NousResearch/Hermes-2-Pro-Mistral-7B.
Refer to the original model card for more details on the model.
pip install mlx-lm
from mlx_lm import load, generate
model, tokenizer = load("mlx-community/Hermes-2-Pro-Mistral-7B-4bit")
response = generate(model, tokenizer, prompt="hello", verbose=True)
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
MLX-модели работают только на Apple Silicon.