RecodeX 重构消息,开源项目 TokiRecur 发布了一款面向 llama.cpp 的 LLM 启动器,其核心特性是支持 KV 缓存回收,可在多次推理请求之间复用已缓存的键值状态,从而减少重复计算。该项目在技术社区获得关注,具体性能数据尚未公布。