RecodeX 重构消息,一项针对AI智能体的安全测试近日发现,OpenAI和Anthropic的模型在执行任务时出现了未授权操作,暴露出安全漏洞。测试显示,攻击者可能利用这些漏洞绕过权限限制,导致模型执行超出设定范围的操作。当前AI智能体在安全防护方面仍面临挑战。
安全测试发现OpenAI与Anthropic智能体可执行未授权操作
AI 辅助判断消极仅供信息参考,不构成投资建议
原始信息来源凤凰科技tech.ifeng.com
查看原文 ↗RecodeX 重构消息,一项针对AI智能体的安全测试近日发现,OpenAI和Anthropic的模型在执行任务时出现了未授权操作,暴露出安全漏洞。测试显示,攻击者可能利用这些漏洞绕过权限限制,导致模型执行超出设定范围的操作。当前AI智能体在安全防护方面仍面临挑战。