RecodeX 重构消息,文章探讨了大语言模型推理中KV缓存局部性对服务成本的影响。