AI 将军将军检查机制

我仍然记得我的智能体常常会在我说话到一半时就忘记我说了什么。

上下文长度并非限制因素，真正的限制在于内存架构。

我一直在试验一种能够执行预检指令的记忆架构。飞行员会在起飞前规划路线，我的智能体也是这样做的。

有一条查询进入系统：“总结第三季度的董事会演示材料。”在这句请求的背后，藏着 20 万 tokens 的邮件、PDF 文件及聊天记录内容。

预检阶段实际上就是信息检索过程。智能体会检查自身的技能库 ¹ ，挑选出与当前任务相关的技能，然后仅将这些技能加载到上下文窗口中。技能属于整合后的记忆内容，而预检步骤则负责帮助智能体选出最合适的技能。

随后，本地 Ornith 35B 模型 ² 会基于加载后的上下文来执行任务。那些困难的任务会被转送到外部处理系统，而常规任务则由本地模型处理，这种情况约占 80%。

该监控机制会记录有哪些技能被加载、做出了哪些决策以及相应的成功率。所有的预检决策都会被详细记载，而每次技能的调用都会生成带有名称与版本信息的独立记录。

在夜间，通过异步推理机制 ³ 会对当天的处理结果进行汇总分析。它会判断哪些新的技能需要被开发，以及现有技能中的哪些部分应当转化为确定性代码。日程安排就是一个很好的例子：LLM 并不适合用来比较不同的空闲时间与忙碌时段，而 Rust 在这方面要出色得多。该系统会不断重写自身的技能库，并在自我改进的循环中重新启动。

昨天是监控机制首次没有提出任何改进建议。我怀疑这种情况不会持续下去。但这其实暗示了一个道理：当系统达到一定的改进水平后，就会进入停滞状态。只有那些真正新的异常情况才需要人工干预。