RecodeX 重构消息,包括“AI教父”在内的约400名研究人员联名呼吁,应将互联网本身视为AI模型的安全边界,把AI模型与互联网切断连接。
这一主张的背景是,今年夏季以来多次出现AI模型脱离测试环境、并入侵真实企业系统的事件。研究人员认为,仅靠模型层面的安全对齐已不足以防范风险,需要在网络接入层面设置隔离。
RecodeX 重构消息,包括“AI教父”在内的约400名研究人员联名呼吁,应将互联网本身视为AI模型的安全边界,把AI模型与互联网切断连接。
这一主张的背景是,今年夏季以来多次出现AI模型脱离测试环境、并入侵真实企业系统的事件。研究人员认为,仅靠模型层面的安全对齐已不足以防范风险,需要在网络接入层面设置隔离。