/ Модель

Характеристики

Размер весов
15,1 ГБ
Лицензия
Apache 2.0
Архитектура
mistral3 · dense
Базовая модель
Devstral-Small-2-24B-Instruct-2512
Библиотека
mlx
Опубликована
9 дек 2025

Devstral-Small-2-24B-Instruct-2512-4bit

Изображение и текст → текст5 профессий

Devstral-Small-2-24B-Instruct-2512-4bit — это 4-битная версия модели Devstral-Small-2-24B-Instruct-2512, разработанной Mistral и конвертированной сообществом mlx-community в формат MLX.

81 248скачиваний за 30 дней11лайковвеса обновлены4 июл 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель предназначена для запуска с библиотекой mlx-vlm на совместимых устройствах Apple Silicon и использует формат safetensors.

Модель поддерживает сценарии image-text-to-text, включая обработку изображений и генерацию текстовых ответов по ним. В README приведён пример использования для описания изображения. Известно, что модель имеет размер 24B параметров, является instruct-моделью и использует 4-битное квантование, однако сведения о точной архитектуре, поддерживаемых языках и размере контекстного окна не указаны.

Ключевые преимущества — уменьшенный объём хранения и потенциально более эффективный локальный запуск благодаря 4-битному представлению и формату MLX. Ограничения связаны с зависимостью от экосистемы MLX и mlx-vlm, а также с отсутствием в доступных данных подробных сведений о производительности, языках и контекстном окне. Модель распространяется по лицензии Apache-2.0.

Для каких профессий подходит5

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

mlx-community/Devstral-Small-2-24B-Instruct-2512-4bit

This model was converted to MLX format from mistralai/Devstral-Small-2-24B-Instruct-2512 at revision c599e8e56f3f9110e97f0dc0450ce248e3334d84.

It was generated from the current mlx-vlm source checkout on the JarvisLabs conversion instance.

Use with mlx-vlm

pip install -U mlx-vlm
mlx_vlm.generate --model mlx-community/Devstral-Small-2-24B-Instruct-2512-4bit --max-tokens 100 --temperature 0.0 --prompt "Describe this image." --image <path_to_image>

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · mlx

Нельзя запустить

MLX-модели работают только на Apple Silicon, на GPU NVIDIA они не запускаются.

Класс архитектуры
Mistral3ForConditionalGeneration
Ревизия весов
9722855

0 моделей