“人工智能教母”称加州善意的人工智能法案将损害美国生态系统
加州的《前沿人工智能模型安全与保障创新法案》（SB-1047）虽然初衷良好，但将对美国的人工智能生态系统产生重大意想不到的负面影响。这项立法将惩罚开发人员、抑制开源社区发展并阻碍学术研究，从而未能解决其所要应对的实际问题。建议采取相反的措施，通过支持开源发展和统一合理的规则来推动人工智能的安全和有效发展。
关键点
- SB-1047将对开发者施加不当惩罚，阻碍创新，特别是小型开发者和初创公司的发展。
- 该法案要求所有超过特定阈值的模型设有“紧急停止开关”，这是对开源开发的限制，可能抑制技术进步。
- 学术界的AI研究将受到SB-1047的重大打击，因为开源开发对学术研究至关重要，而法案的限制将影响数据和模型的获取。
- 法案未能有效解决AI发展的潜在危害，如偏见和深度伪造，反而创造了新的监管障碍。
- SB-1047设定了一个任意的计算能力阈值，但这种限制会对创新产生广泛的负面影响，包括学术界。
- 针对AI的政策需要鼓励创新，而不是过于苛刻地限制开发，确保开放与合作。
- 提出的“登月心态”强调通过大规模的教育和研究推动国家的AI发展，而SB-1047则与这一目标相悖。