Черновая модель SK Telecom для ускорения генерации текста A.X K2 через speculative decoding в vLLM.
Подходит для: ускорение сервинга A.X K2 · снижение задержки генерации текста A.X K2 · увеличение пропускной способности при генерации кода и математических решений