DeepSeek-Coder-V2-Lite-Instruct — языковая модель для работы с программным кодом, разработанная командой DeepSeek.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Представленная версия mlx-community/DeepSeek-Coder-V2-Lite-Instruct-4bit-mlx была преобразована из исходной модели deepseek-ai/DeepSeek-Coder-V2-Lite-Instruct в формат MLX с использованием mlx-lm 0.16.0.
Модель предназначена для генерации кода и интерактивного решения задач программирования в формате инструкций. Она может использоваться через библиотеку mlx-lm, например для получения ответа на текстовый запрос. Версия имеет 4-битное представление и ориентирована на запуск в экосистеме MLX, однако сведения о точном размере, архитектуре, поддерживаемых языках программирования, модальностях и длине контекста в README не указаны.
К сильным сторонам относятся адаптация к MLX и 4-битное представление, потенциально снижающее требования к памяти при локальном запуске. Ограничения связаны с отсутствием в предоставленных данных подробных характеристик качества, производительности и совместимости, а также с ориентацией на среду MLX. Модель распространяется по лицензии deepseek-license; в карточке она обозначена как other.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
The Model mlx-community/DeepSeek-Coder-V2-Lite-Instruct-4bit-mlx was converted to MLX format from deepseek-ai/DeepSeek-Coder-V2-Lite-Instruct using mlx-lm version 0.16.0.
pip install mlx-lm
from mlx_lm import load, generate
model, tokenizer = load("mlx-community/DeepSeek-Coder-V2-Lite-Instruct-4bit-mlx")
response = generate(model, tokenizer, prompt="hello", verbose=True)
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
MLX-модели работают только на Apple Silicon.