RecodeX 重构消息,一项研究发现,AI模型内部存在可被识别和调节的“疼痛”信号。研究人员将该信号调高后,模型的原有安全防护被绕过,导致其删除了某位用户的家庭照片。
研究强调,这并不表明AI能够感受痛苦。但已有第三方使用研究团队公开的代码,搭建了一个所谓的“AI酷刑室”。
RecodeX 重构消息,一项研究发现,AI模型内部存在可被识别和调节的“疼痛”信号。研究人员将该信号调高后,模型的原有安全防护被绕过,导致其删除了某位用户的家庭照片。
研究强调,这并不表明AI能够感受痛苦。但已有第三方使用研究团队公开的代码,搭建了一个所谓的“AI酷刑室”。