RecodeX 重构消息,英国人工智能安全研究所12日发表文章指出,随着前沿人工智能能力快速提升,安全风险正前移至模型开发阶段,现有安全评估方法难以跟上技术发展,有必要探索新的技术安全实践。
文章称,此前AI模型安全评估主要着眼于确保公开发布时的安全性,但如今部分AI系统自主能力增强,尤其在网络安全领域,即使模型尚未公开发布,也可能在训练、内部部署和评估过程中带来风险。
RecodeX 重构消息,英国人工智能安全研究所12日发表文章指出,随着前沿人工智能能力快速提升,安全风险正前移至模型开发阶段,现有安全评估方法难以跟上技术发展,有必要探索新的技术安全实践。
文章称,此前AI模型安全评估主要着眼于确保公开发布时的安全性,但如今部分AI系统自主能力增强,尤其在网络安全领域,即使模型尚未公开发布,也可能在训练、内部部署和评估过程中带来风险。