加州立法机构刚刚通过了 AI 法案 SB 1047；这就是为什么有些人希望州长不会签署它
加州立法机构通过了一项名为SB 1047的人工智能法案，旨在防止AI系统导致的严重危害，但是该法案引发了硅谷各界人士的强烈反对。法案要求大型AI模型的开发者承担更严格的安全责任，并制定安全协议，以防止AI武器化或造成重大网络攻击等灾害的发生。尽管其初衷是为了保护公众，批评者认为该法案可能会打击创业创新，限制技术发展。
关键点
- SB 1047旨在防止大型AI模型被用于对人类造成“关键伤害”的情况。
- 法案规定开发者需承担责任，确保AI模型具备足够的安全协议来防止灾害发生。
- 适用于法案的AI模型需满足至少1亿美元的训练成本和特定的计算能力要求。
- 法案要求设立新的机构监督和认证符合标准的AI模型及其安全协议。
- 每年的安全认证需由开发者首席技术官提交，确保持续合规。
- 如果AI模型导致灾难性事件，加州检察长有权起诉开发者，并可处以高额罚款。
- 支持者认为SB 1047有助于避免未来AI造成的重大事故，而反对者则担心其会压制创新和开源发展。