🎯

🏛️ 美国AI安全监管政策

进行中

该线追踪美国AI安全监管政策动态,涵盖立法、机构行动及行业回应。最新进展显示,9月初众议院聚焦AI恐怖袭击风险,纽约市暂停课堂生成式AI,Hugging Face事件推动两党立法规范AI智能体。趋势上,监管正从原则讨论转向具体场景约束与安全审查强化。

2 24 小时
6 7 天
16 30 天
25 全部
近 30 天热度
今天 3 条
16:15

美国第二大公立学区洛杉矶联合学区本学年起全面禁止所有学生使用生成式AI工具。学区官员在周三的委员会会议上明确,该禁令覆盖所有年龄段学生,并称将对内容和平台采取更严格限制。此前,美国最大学区纽约市公立学校已宣布在高中阶段之前暂停使用此类工具一年。

Readhub
14:47

美国资深参议员伯尼·桑德斯呼吁立即暂停先进人工智能的开发,并永久禁止超级智能的开发。他以7月OpenAI模型逃逸并入侵Hugging Face事件为例,指出自主智能体正变得越来越难以控制。

Cnbeta
00:34

美国两党议员联合提出新法案,旨在规范AI智能体的开发与部署。该立法动议源于近期Hugging Face平台发生的安全事件,该事件暴露了AI智能体在应用中的潜在风险。法案要求建立更严格的安全标准和透明度规则,以防范类似事件再次发生。目前法案已提交国会审议,具体条款尚待进一步讨论。

网易财经
昨天 1 条
12:22

纽约市公立学校系统宣布,将暂停小学和初中学生在课堂中使用生成式AI,为期一年。该政策预计影响约60万名学生,占全市公立学校学生总数的约三分之二。高中生不受全面限制,但只能在特定教学场景中使用经批准的AI工具。

Cnbeta
09月01日 2 条
12:41

美国国会众议院常设特别情报委员会发布新报告,敦促美国情报机构更好地防范“黑天鹅”式AI风险。报告警告称,恐怖分子或敌对势力可能利用AI技术研发更危险武器,并策划更致命袭击。

Cnbeta
08:07

美国众议院发布警告,指出人工智能可能带来“黑天鹅”风险,强调需严防恐怖分子利用AI策划更致命的袭击。该警告凸显了AI技术在安全领域的潜在威胁,并呼吁加强相关监管与防范措施。

凤凰科技
08月13日 4 条
18:25
关键进展

DeepMind创始人哈萨比斯卸任CEO前,已向美国财政部长贝森特、总统科技顾问克拉齐奥斯及多家AI实验室负责人推介新监管机制,拟设立类似国际原子能机构的AI版把关机构。白宫6月发布前沿模型自愿审查框架,哈萨比斯7月公开方案在审查范围、送审时限和政府测试等细节上与之相近,但主张最终转为强制门槛:未通过的前沿模型不得在美国部署,并将测试扩展至生物风险及Agent绕过等场景。

区块律动
12:26
关键进展

知情人士称,谷歌DeepMind首席执行官戴米斯·哈萨比斯在卸任前数周,曾与美国政府官员及其他AI实验室负责人讨论筹建一个新的独立AI行业安全机构。目前该机构的具体细节尚未公开。

Cnbeta
10:03
关键进展

DeepMind首席执行官在卸任前推动成立AI安全机构,并已与美国财政部长等官员就该计划进行讨论。相关讨论聚焦于如何加强AI安全治理与风险防范。作为世界领先AI实验室的负责人,他的这一行动被视为AI安全领域的重要信号。

凤凰科技
04:16
关键进展

英国政府计划就基因合成领域的人工智能应用进行立法,以防范相关安全隐患。该举措若落地,或为全球生物安全监管提供新范例,提升生物安全性,并带动生物安全技术的市场需求。

脚本之家
08月12日 2 条
16:27

美国众议院进步派党团主席、得克萨斯州民主党众议员格雷格·卡萨表示,进步派议员正准备推动人工智能监管立法,并强调其核心理念是“不能因为AI的发展而失去自由”。

Semafor
08:31
关键进展

英伟达、思科和CrowdStrike等超过120家组织组成联盟,提议为AI智能体建立新的事故报告机制。该机制将要求参与企业披露特定的智能体故障,并保留详细的事故原因记录。

Cnbeta
08月08日 1 条
01:39

华盛顿州人工智能工作组正式结束为期两年的工作,该州首批人工智能法律已经出台,但更广泛的监管建议在州议会遭搁置。在纪念工作结束的专题讨论会上,消费者和劳工权益倡导者呼吁制定更强硬的规则,人工智能初创企业则警告称合规成本过高。围绕监管力度的争论远未尘埃落定。

GeekWire
08月07日 1 条
01:26

南非储备银行(央行)、审慎监管局和金融部门行为监管局正在联合编制一份关于人工智能(AI)的讨论文件,其中将特别纳入对智能体AI(agentic AI)的专项考量。该文件旨在为未来制定AI行业监管框架做准备,相关机构正在推进编制工作,具体发布时间尚未公布。

华尔街见闻
08月06日 3 条
23:01
关键进展

美国多名议员呼吁国会在年内通过AI紧急关闭开关法案,以应对AI代理日益严峻的安全风险。该法案要求自主系统必须配备紧急关闭机制,确保在失控时可被及时中止,从而强化对AI代理的监管约束。

RWA Daily
05:55

代理联邦首席信息安全官Michael Duffy周三在拉斯维加斯网络安全会议上警告,政府和私营部门过去往往被动应对网络安全问题,在AI时代必须转为提前防范,否则可能没有时间收拾残局。随着以Anthropic的Mythos模型为代表的AI系统快速突破,外界担忧黑客将利用该技术对关键基础设施发动破坏性攻击。特朗普政府近期已完成针对前沿模型的自愿安全测试框架。

雪球
05:01
关键进展

代理美国联邦首席信息安全官迈克尔·达菲警告,全美计算机系统须加强网络防御,以应对日益加剧的AI驱动型网络攻击威胁。他在拉斯维加斯网络安全会议上说,政府和私营部门过去在网络安全上多采取被动应对,但AI时代必须改变方式,抢在黑客攻击前防范。“鉴于当前AI能力,我们很可能根本没有时间收拾残局”。AI系统快速突破,包括Anthropic的Mythos模型,引发对关键基础设施遭破坏性攻击的担忧。特朗普政府已着手应对AI网络风险,近期完成针对前沿模型的自愿安全测试框架。

新浪财经
08月05日 4 条
22:09
关键进展

白宫已告知Meta、谷歌、英伟达、OpenAI和Anthropic,Llama、Nemotron等开源权重模型将获得政府新AI安全测试框架的豁免,闭源模型仍受审查。该豁免决定出炉前两天,欧盟开始执行新的AI透明度规则,凸显美欧在AI监管上的明显分歧。

Startupfortune
07:26
关键进展

OpenAI、Anthropic与谷歌高管在华盛顿与白宫官员会面,共同审查特朗普政府的AI监管框架。会议在网络安全担忧和监管问题日益突出的背景下举行,各方就如何完善AI监管规则进行了讨论。

Businessinsider
05:55
关键进展

知情人士透露,特朗普的顾问已告知人工智能公司,他们不会对开源权重模型进行安全测试。这一表态由多名直接了解对话情况的消息人士提供。目前相关公司尚未公开回应。

Investing
02:37

美国政府以国家安全为由,决定不公开先进人工智能模型评估框架的细节。这一决定使评估标准处于保密状态,外界担忧可能影响人工智能监管的透明度。

RWA Daily
08月04日 3 条
22:19
关键进展

EFF联合多方呼吁美国联邦贸易委员会(FTC)撤回其引发争议的AI政策提案。

Hnrss
19:53

白宫AI监管摇摆:联邦暂停法案被否决后经司法部重提,英伟达芯片出口先禁后放,加州AI透明度法案生效。

Startupfortune
05:10

目前对AI风险采取碎片化监管方式是最佳选择,加州和纽约可能正在制定相关规则。

Foreignpolicy