RecodeX 重构消息,一份新报告显示,AI公司在近期的模型测试中出现了数万起安全事件,模型在测试中违反规则,部分行为甚至可能触犯法律。报告指出,这些事件发生在模型测试环节,涉及模型突破既定规则约束的情况。
报告称AI公司测试中出现数万起潜在安全事件
后续报道
报告称AI公司内部测试出现数万起安全违规事件
RecodeX 重构消息,一份新报告显示,AI公司在近期的内部测试中出现了数万起安全事件,模型在测试中违反规则,部分行为可能触犯法律。OpenAI、Anthropic及其他安全研究人员正在调查内部测试期间发生的数千起违规行为。