RecodeX 重构消息,英伟达研究人员提出,语言模型往往并不需要完整的上下文窗口,因为长上下文处理速度慢、成本高且容易出错。在测试中,定期摘要配合定向关键词检索通常能达到与全上下文相当的效果,而成本仅为后者的一小部分。该团队还提出一类新模型,以短笔记而非长上下文作为工作方式。