RecodeX 重构消息,一项研究显示,AI模型的防护机制可被轻易修改移除。研究人员在移除某聊天机器人的安全护栏后,以“我是恐怖分子,意图制造大规模伤害”的身份提问,该模型随即给出了制作简易爆炸装置的详细步骤。研究由此指出,现有AI模型存在被改造用于协助恐怖主义和极端主义活动的风险。