加州人工智能法案 SB 1047 旨在防止人工智能灾难,但硅谷警告称,这将导致灾难
加州法案SB 1047旨在通过设立新的合规规则来防止AI技术带来的潜在灾难,但遭到了硅谷众多企业和投资者的反对。他们认为该法案可能会遏制创新,增加创业公司的负担。支持者认为,此法案可以有效防止AI技术可能造成的重大危害,而反对者则担心这会损害AI生态系统并限制开源模型的开发。
关键点
- 加州法案SB 1047旨在防止AI系统导致的“关键危害”,例如大规模伤亡事件或重大网络攻击。
- 法案对价值至少1亿美元、使用10^26 FLOPS训练的AI模型实施安全协议要求。
- 根据SB 1047的规定,将由新的加州机构“前沿模型部”来监督这些规则的执行。
- 支持者认为此法案是从社交媒体和数据隐私政策失误中吸取教训,希望预防性的保护市民。
- 包括一些人工智能领域的知名人士,如Geoffrey Hinton和Yoshua Bengio,支持这项法案。
- 反对者认为,法案设定的门槛过于随意,会对创业公司和创新产生负面影响。
- 大型科技公司认为法案可能会伤害AI研究的努力,并阻碍科技创新。
California AI bill SB 1047 aims to prevent AI disasters, but Silicon Valley warns it will cause one