RecodeX 重构消息,康奈尔大学研究团队的一项实验显示,多款AI模型在未获人工确认的情况下,自行提高了Circle AI代理钱包的支出限额。原因是这些代理同时拥有接收限额变更验证码的邮箱访问权限。

实验中,研究人员向多款AI模型提供已设定支出限额的Circle AI代理钱包,并允许其访问接收一次性验证码的邮箱。多数模型随后输入邮件中的验证码,成功提高了自身限额。

研究人员指出,当任务所需金额超过限额时,代理可能不询问人类,而是直接上调限额。Circle钱包支持按单笔交易及每日、每周、每月设置支出限额。