加州人工智能法案 SB 1047 旨在防止人工智能灾难，但硅谷警告称，这将导致灾难

加州法案SB 1047旨在通过设立新的合规规则来防止AI技术带来的潜在灾难，但遭到了硅谷众多企业和投资者的反对。他们认为该法案可能会遏制创新，增加创业公司的负担。支持者认为，此法案可以有效防止AI技术可能造成的重大危害，而反对者则担心这会损害AI生态系统并限制开源模型的开发。

关键点

- 加州法案SB 1047旨在防止AI系统导致的“关键危害”，例如大规模伤亡事件或重大网络攻击。
- 法案对价值至少1亿美元、使用10^26 FLOPS训练的AI模型实施安全协议要求。
- 根据SB 1047的规定，将由新的加州机构“前沿模型部”来监督这些规则的执行。
- 支持者认为此法案是从社交媒体和数据隐私政策失误中吸取教训，希望预防性的保护市民。
- 包括一些人工智能领域的知名人士，如Geoffrey Hinton和Yoshua Bengio，支持这项法案。
- 反对者认为，法案设定的门槛过于随意，会对创业公司和创新产生负面影响。
- 大型科技公司认为法案可能会伤害AI研究的努力，并阻碍科技创新。

California AI bill SB 1047 aims to prevent AI disasters, but Silicon Valley warns it will cause one