加州立法者推动要求 AI 公司公布安全政策
旧金山民主党人、加州参议员斯科特·维纳，在 2024 年 1 月于旧金山举行的彭博新能源财经峰会期间。
摄影师：大卫·保罗·莫里斯/彭博社
核心要点
- 加州参议员斯科特·维纳提出一项法案，要求开发超过特定计算性能门槛的人工智能模型的公司必须公开其安全协议。
- 该法案还要求人工智能企业向州总检察长报告任何”重大安全事故”，包含对 AI 企业内部举报人的保护条款，并将建立一个公共云平台。
- 据维纳介绍，这项编号为 SB 53 的法案”在促进创新与建立保障信任、公平和问责的防护措施之间取得了恰当平衡”。
加州一位立法者正再次推动对该州人工智能技术的监管。去年一项要求大型企业为其技术造成损害承担责任的提案，曾被州长加文·纽森否决。
旧金山民主党籍州参议员斯科特·维纳提出新法案，要求开发超过特定算力门槛 AI 模型的企业必须公开安全协议，评估该技术对人类可能造成的灾难性风险。根据该法案，人工智能公司还需向州总检察长报告任何”重大安全事故”，例如敏感技术细节遭窃。可能受此立法影响的包括 OpenAI、Alphabet 旗下谷歌及 Anthropic 等企业。
这项全国首创的透明度要求，是维纳周二对 SB 53 法案提出的修正案内容之一。该法案包含对人工智能公司内部举报人的保护条款，并计划建立一个公共云平台，为初创企业和学术研究者提供低成本的计算资源访问。
“随着人工智能持续取得显著进展，立法者必须与顶尖 AI 专家合作制定政策，在守护这项技术巨大潜在效益的同时防范实质性风险，”维纳在修正案发布准备的声明中表示。”SB 53 法案在促进创新与建立保障机制之间取得了恰当平衡，为近年来最卓越的新技术确立了信任、公平和问责的框架。”
美国参议院近期阻止了禁止各州对快速发展的 AI 领域实施监管的尝试，在此背景下提出了这些新要求。韦纳在先前尝试失败后仍坚持推动监管 ，这表明 AI 监管持续受到立法者关注——他们声称要保护公众免受这项技术可能造成的毁灭性危害。
韦纳此前起草的 AI 监管法案 SB 1047 曾引发激烈反对，该法案要求企业对技术造成的灾难性人身伤害承担责任，遭到部分 AI 公司、科技行业领袖和硅谷风险投资人的抵制。虽然 SB 1047 在加州议会获得通过，但最终被纽森州长否决 ，理由是该法案会造成过度负担。
虽然 SB 53 法案包含透明度要求，并规定企业若未披露重大安全事故将面临处罚，但并未纳入 SB 1047 中关于责任认定的条款。
纽瑟姆在否决 SB 1047 法案后成立了前沿人工智能模型工作组。该小组由知名 AI 学者李飞飞等成员组成（李飞飞曾反对去年的立法），负责制定加州政策指导方针。维纳提出的 SB 53 法案中关于透明度要求的新条款，与该工作组近期报告中的广泛建议相呼应。但该工作组并未提出具体立法方案。
目前 Meta Platforms Inc.、谷歌、OpenAI 和 Anthropic 等公司会定期发布模型安全指南；SB 53 法案旨在将这些程序规范化和标准化。
修订后的法案预计将于本月晚些时候提交加州众议院委员会审议。维纳称这是”持续完善中的方案”，并表示未来数周将与利益相关方磋商以完善提案。
