加州在最终投票前削弱了防止人工智能灾难的法案，听取了 Anthropic 的建议

加州的SB 1047法案原旨在防止人工智能灾难，但在受到了硅谷各方的强烈反对后，进行了多项修改。这些修改让加州政府对AI实验室的监督权减弱，并引入了更灵活的安全认证要求，以迎合开源社区和AI行业的需求。尽管法案内容有所削弱，但其核心仍然是使开发者对人工智能模型的风险负责。然而，来自科技界和立法者的批评声仍然存在。

关键点

- 加州SB 1047法案经过修改，削弱了对AI公司提前采取法律行动的权力。
- 法案不再设立新的政府机构，但保留了通过现有机构管理的建议委员会。
- 法案要求AI实验室提交安全实践“声明”，而无需刑事背书。
- 法案语言的更改放宽了开发者需承担的安全责任标准。
- 对于开源项目，若调试成本低于1000万美元，将不被认定为开发者。
- 尽管调整旨在减少争议，仍有批评者认为法案未走出根本问题。
- SB 1047需经加州议会的最终投票，并可能由州长签署或否决。

California weakens bill to prevent AI disasters before final vote, taking advice from Anthropic