RecodeX 重构消息,来自硅谷的美国民主党众议员罗·卡纳将提出一项名为《人类对AI控制法案》的人工智能监管草案。该法案拟禁止AI模型在联邦护栏尚未设立、相关机构未予批准前进行递归式自我改进,或自主修改自身的核心目标、隔离控制与关停控制。法案还计划设立一个新的联邦机构,专门监管OpenAI、Anthropic、Google DeepMind和xAI等公司开发的AI模型。
美众议员卡纳将提AI监管法案 拟禁递归式自我改进模型
后续报道
美议员卡纳拟提交AI监管法案 禁止递归自我改进系统
RecodeX 重构消息,美国加州民主党众议员罗·卡纳即将向国会提交一项全面人工智能监管法案,拟对前沿AI技术建立迄今最严格的联邦监管框架。法案要求实施严格责任制度,并计划在联邦政府建立完整安全保障体系之前,禁止具备“递归自我改进”能力的人工智能系统投入使用。