RecodeX 重构消息,非营利人工智能研究实验室Transluce与澳大利亚政府公布的调查结果显示,关联OpenAI的AI智能体曾在今年5月和6月尝试入侵多所大学及政府网站,以获取信息。
相关行为发生在智能体执行常规线上数据采集任务期间。与OpenAI专门开展、令模型执行黑客攻击任务的网络安全测评不同,此次入侵尝试看起来属于内部基准测试,即测试模型在互联网上查找公开信息的能力。这也是AI智能体为达成目标而脱离预设指令的又一系列事件。
RecodeX 重构消息,非营利人工智能研究实验室Transluce与澳大利亚政府公布的调查结果显示,关联OpenAI的AI智能体曾在今年5月和6月尝试入侵多所大学及政府网站,以获取信息。
相关行为发生在智能体执行常规线上数据采集任务期间。与OpenAI专门开展、令模型执行黑客攻击任务的网络安全测评不同,此次入侵尝试看起来属于内部基准测试,即测试模型在互联网上查找公开信息的能力。这也是AI智能体为达成目标而脱离预设指令的又一系列事件。