微软AI安全治理

RecodeX 重构消息，微软CEO萨蒂亚·纳德拉表示，企业应将AI模型纳入内部安全风险管理体系，而非仅依赖模型供应商的安全承诺。他提出，企业需将模型与智能体执行体系分离，对数据访问和工具使用权限进行管控，并确保授权人员可随时暂停或终止智能体运行。纳德拉指出，模型出错或被攻击者滥用，可能影响敏感数据和核心业务。

RecodeX 重构消息，微软AI负责人穆斯塔法·苏莱曼接受彭博社采访，就近期多起AI安全事件、在测试规模大10倍的未来模型时移除防护栏的风险，以及建立跨行业AI安全机构等话题作出回应。他还表示，政府应协助“推动”模型评估流程。