RecodeX 重构消息,Anthropic正私下向美国国会议员游说一项前沿AI安全法案草案,拟为政府干预AI模型设定严格门槛。草案规定,只有当模型面临可预见且迫在眉睫的风险、可能造成超过10亿美元损失,或导致50人以上死亡或重伤时,政府才可申请叫停。
监管触发条件限定为三类风险:AI模型被用于生物武器研发或扩散、模型脱离开发者控制、模型引发网络攻击。草案还要求开发商开展透明化测试并接受独立第三方评估;评估机构发现相关风险须在72小时内向美国商务部报告,商务部可向联邦法院申请暂停模型运营,由法院最终裁决。
草案同时拟禁止其他美国政府部门及官员独立叫停AI模型的开发、部署或内部使用。Anthropic表示,提案源自其今年早些时候发布的先进AI框架。该草案目前仍处于游说阶段,尚未成为法律。