加州在最终投票前削弱了防止人工智能灾难的法案，听取了 Anthropic 的建议

加利福尼亚州议会对旨在防止人工智能灾害的SB 1047法案进行了修改，以回应来自硅谷各方的反对，特别是采用了AI公司Anthropic提出的建议。尽管法案仍保持其核心目的，即对造成大规模灾害或者重大网络安全事件的AI开发者负责，但对美国检察长的起诉权以及监管机制做了削弱。如此修改旨在为创新留出空间，并争取加利福尼亚州长纽森的支持，尽管这可能不足以安抚该法案的坚定批评者。

关键点
加利福尼亚SB 1047法案面临硅谷各方反对，总体目标是防止AI灾害。
修改后的法案减少了对AI实验室的法律追责力度，不再允许在灾难发生前起诉AI公司。
法案不再建立“前沿模型部门”，但将设立“前沿模型委员会”以监督安全标准。
AI实验室提交的安全测试结果不再需在伪证罪名下认证，仅需提供公开声明。
修正案放宽了安全保障的语言要求，从“合理保证”改为“合理关照”。
Open source模型开发成本低于$1000万的，不视为开发者，这减轻了小型开发者的责任。
这些修改旨在减少反对声音，并争取加州议会及州长的最终支持。

California weakens bill to prevent AI disasters before final vote, taking advice from Anthropic