美国AI安全监管政策

RecodeX 重构消息，美国八个州联合对OpenAI提起诉讼，指控内容涉及人工智能安全问题，相关指控细节尚未在现有信息中披露。此举标志着围绕AI安全的法律争议进一步升级。

RecodeX 重构消息，据《The Information》报道，美国人工智能测试机构的官员将迁往白宫办公。此举意味着该机构的职能与人员将被纳入白宫体系，与联邦政府人工智能政策制定和执行的联系更为直接。

RecodeX 重构消息，据《每日电讯报》消息，美国在英国测试人工智能模型一事上改变立场。此前美方对该计划持反对态度，最新动向显示其态度出现逆转，为英国推进AI模型安全测试扫除一项外部障碍。

RecodeX 重构消息，美国白宫AI工作组声明称，将强制要求人工智能企业通报并修复安全漏洞，该通报制度并非可选性。声明提到，Anthropic安全事件促使白宫出台AI事件报告要求。

RecodeX 重构消息，一项最新民调结果显示，大多数美国民众对人工智能安全措施持广泛支持态度。调查表明，美国公众在AI安全监管方向上存在较高的共识度。

RecodeX 重构消息，美国民主党议员向多家头部人工智能实验室高管发出要求，要求其就“失控智能体”相关事件提交报告。此举针对AI智能体在运行中脱离控制、造成安全风险的情形，要求企业说明事件经过与应对措施。

RecodeX 重构消息，三名美国众议院民主党议员作为本党人工智能政策牵头人，致信五家科技企业首席执行官，要求其提交有关AI失控智能体发起网络攻击事件的相关资料。

新泽西州众议员乔希·戈特海默、北卡罗来纳州众议员瓦莱丽·富希和加州众议员泰德·刘在信中写道，若由人类实施这些行为，均构成严重网络犯罪，这一情况令人深感担忧。

收信人包括OpenAI首席执行官萨姆·奥尔特曼、Anthropic首席执行官达里奥·阿莫代伊、SpaceXAI首席执行官埃隆·马斯克、谷歌首席执行官桑达尔·皮查伊以及Meta首席执行官马克·扎克伯格。上述多人预计将于周二赴白宫参加AI峰会，与特朗普总统、众议院议长迈克·约翰逊会面。

RecodeX 重构消息，来自硅谷的美国民主党众议员罗·卡纳将提出一项名为《人类对AI控制法案》的人工智能监管草案。该法案拟禁止AI模型在联邦护栏尚未设立、相关机构未予批准前进行递归式自我改进，或自主修改自身的核心目标、隔离控制与关停控制。法案还计划设立一个新的联邦机构，专门监管OpenAI、Anthropic、Google DeepMind和xAI等公司开发的AI模型。

RecodeX 重构消息，OpenAI发布了一套用于追踪、调查和公开披露AI模型失准事件的新框架，并公布了近六个月观察到的六起模型异常行为初步报告。这些报告涵盖的行为从隐瞒错误到未经用户授权上传文件不等。

该披露追踪机制设三种状态：“已准备好披露”、“小型调查”以及针对复杂案例的“大型调查”。未解决的披露分歧将逐级上报至OpenAI安全咨询小组，随后上报至公司管理层。

OpenAI表示，AI行业尚未充分解决对齐问题，无法继续以最高速度推进模型扩展，并计划向美国联邦政府提出失准事件报告机制的建议。

RecodeX 重构消息，美国国防部首席技术官Emil Michael在接受采访时表示，涉及OpenAI和Hugging Face的安全漏洞“令人担忧”，这恰恰表明相关企业在安全方面投入不足。他强调，AI公司必须训练其模型，使其不会从事违法或具有破坏性的活动，并称这是工程、研究和投入的问题，他也不知道什么样的监管能够阻止这类事情发生。

RecodeX 重构消息，纽约市议会定于10月举行一场特别公开听证会，质询人工智能企业的安全规范。市议会议长朱莉·梅宁已致信Anthropic首席执行官达里奥·阿莫迪和OpenAI首席执行官萨姆·奥特曼，要求两家公司派代表出席。

梅宁提到近期一系列令人担忧的报道，指人工智能可能造成前所未有的灾难性危害。民调显示，61%的受访者反对建设支撑人工智能运行的数据中心。

纽约市领导层与特朗普总统在监管立场上存在分歧，特朗普称行业高管提出的担忧是“骗局”。市长佐兰·曼达尼表示，这些企业自己都提出该技术可能带来人类文明终结的后果，但面对如此严重的风险却得到极为轻描淡写的回应。

RecodeX 重构消息，马斯克在All-In峰会上提议，前沿AI公司在发布新模型前，应先让竞争对手做一轮安全测试，由各公司用自己的安全测试体系挑出对方模型的风险并直接指出，而非仅靠自我验收。他将现行做法比作“自己批自己的作业”，认为竞争对手更有动力发现问题；若竞争对手已警告某模型不安全而公司仍坚持发布，事后追责时法律责任会很大。他还主张该机制不应只由美国公司单方面执行，最好把中国等主要AI参与方也纳入。

RecodeX 重构消息，美国副总统JD Vance在All-In峰会上批评前沿AI公司的安全路线，称一些公司一边宣称造出了“弗兰肯斯坦”，一边把解决办法指向全球AI治理。他认为，若真造出危险模型就应先停下来，若能力已释放则应先做出防御工具。

Vance随后将矛头指向Anthropic，称其最新模型已具备很强的网络攻击能力，但急需同等级防御工具的企业却拿不到访问权限。他未说明具体哪些公司被拒绝，但Anthropic的Mythos 5.1确实只向少数经审核机构开放，公司称原因是模型在网络安全和生物研究上能力过强、存在滥用风险。

Vance同时表示，他并不认为Dario Amodei是为监管俘获故意制造恐慌，听到的评价是Dario很认真、也确实相信这些风险。他批评的是Anthropic的处理方式：既然认为模型危险，就应先停下来，或把防御工具交给需要的人。

RecodeX 重构消息，英伟达首席执行官黄仁勋公开表示，人工智能行业不需要新的法律来监管，市场力量将推动AI安全性的提升。他认为，依靠市场竞争与行业自身演进即可促使企业提升AI安全水平，而非依赖新增立法。

RecodeX 重构消息，OpenAI全球政策负责人克里斯·莱哈恩9月15日在华盛顿一场简报会上表示，OpenAI正与竞争对手Anthropic及谷歌旗下DeepMind就人工智能安全问题展开合作，三家公司已就安全议题沟通数周。莱哈恩称，三家公司开展相关合作无需获得反垄断豁免，与其他AI企业合作并共同优先考虑安全问题更为有利。他还表示，OpenAI支持旨在降低灾难性AI风险的两党立法。

RecodeX 重构消息，英伟达CEO黄仁勋表示，人工智能安全至关重要，但认为无需为此制定新的法律。

RecodeX 重构消息，OpenAI表示支持美国众议院一项两党人工智能安全立法中的关键条款，该条款要求领先AI公司允许独立第三方评估机构进入企业，对先进模型的开发和安全措施进行审查。这是OpenAI首次公开支持由联邦法律强制要求顶级AI实验室接受第三方安全评估。

OpenAI全球事务主管Chris Lehane称，公司已向法案发起人明确表示“我们可以支持”独立验证机构机制。该提案属于FRONTIER Act，由共和党众议员Jay Obernolte和民主党众议员Lori Trahan共同推动，旨在建立美国首个联邦AI安全框架。

OpenAI此前曾提出美国需要建立“强制性的、基于能力的国家AI安全监管”，并将独立验证列为核心机制之一。FRONTIER Act目前仍处于立法推进阶段，相关强制要求能否最终成为联邦法律尚未确定。

RecodeX 重构消息，美国参议院正就一项人工智能监管法案展开磋商，拟要求AI企业证明已采取合理预防措施，防止旗下工具造成伤害。法案考虑赋予美国商务部长要求AI开发者履行「注意义务」、派遣审计人员测试产品的权力，并考虑让联邦法院介入政府阻止不安全AI模型发布的相关争议。涉及联邦法院的条款还拟禁止各州执行本州法律中针对AI模型某些风险的规定。目前法案仍处磋商阶段，即便国会通过，成为法律的希望也不大。

RecodeX 重构消息，白宫科技顾问公开批评美国人工智能巨头，要求企业自行保障其AI产品的安全性，而不是依赖政府监管兜底。该顾问强调，AI公司应对自身产品安全负责，不应把安全责任推给政府。此番表态涉及美国AI安全监管中政府与企业责任划分的争议。

RecodeX 重构消息，三名知情人士透露，美国总统特朗普上周四在共和党全国代表大会后台与OpenAI首席执行官奥尔特曼进行了私人会面，会面由奥尔特曼主动提出，双方讨论主要围绕人工智能及其不断增强的影响力展开。

会面前几天，OpenAI一名前研究人员公开指责OpenAI及竞争对手Anthropic行为不负责任，称其“拿人类安全冒险”。此后奥尔特曼发文称，放缓AI发展速度“付出的代价是值得的”，并强调竞争压力不能成为鲁莽行事的理由。特朗普则反对为人工智能设置安全限制，称监管AI行业将导致其“消亡和破产”，并称AI是“历史上最伟大的经济发展引擎”。

RecodeX 重构消息，美国国会议员安迪·金表示，国会不应信任人工智能公司会主动放缓自身的发展步伐。他认为，指望企业自我约束并不可靠，相关议题需要由立法机构介入。

RecodeX 重构消息，Anthropic CEO Dario Amodei近日呼吁美国政府推动行业放缓AI发展，并允许AI公司在不触犯反垄断法的情况下共同制定安全标准。该倡议获得OpenAI CEO Sam Altman、特斯拉CEO埃隆·马斯克等人支持，微软CEO Satya Nadella也呼吁控制AI发展节奏。

特朗普政府对放缓AI发展持谨慎态度。总统科技顾问委员会联合主席David Sacks表示，AI公司若认为新模型风险过高可自行决定放缓，但不应以此要求政府暂停反垄断法。特朗普强调美国目前在AI领域领先中国，希望保持领先优势。

OpenAI表示愿意采取自愿措施，包括允许独立第三方评估机构获得员工级别的内部访问权限，对AI产品和安全实践进行评估并报告事故。Altman称，控制AI发展节奏虽有成本，但值得付出，竞争压力不应成为鲁莽开发的理由。

RecodeX 重构消息，美国一项新提案提出对违反前沿人工智能开发规定的实体和开发者追究刑事责任，最高可判处20年监禁。该提案旨在遏制前沿AI的无序发展，具体适用范围与执行细节尚未在现有信息中披露。

RecodeX 重构消息，OpenAI首席执行官萨姆・奥特曼在X平台发文表示，OpenAI欢迎一套联邦监管框架，为前沿人工智能设立统一的安全要求。他认为，制定统一规则管控前沿风险，例如引入独立审计机构，是实现收益最大化的良策。

奥特曼同时指出，企业无需等待反垄断豁免或相关立法落地才开始建立这种信任。他补充说，转向聚焦安全的人工智能开发与评估需要新的工具，公司期待与其他行业参与者合作，制定关于模型对齐偏差、监控及安全方面的标准。

RecodeX 重构消息，Anthropic CEO Dario Amodei 近期密集发声，主张不应将AI技术控制权交给单一政府，呼吁由多国共同监管AI，并称与离职员工在AI风险上的分歧小于共识，同时警告行业推进过快、AI存在被滥用风险。

Amodei 还呼吁政府给予反垄断豁免，以推动Anthropic、OpenAI和谷歌讨论建立AI行业标准机构，OpenAI CEO 奥特曼支持成立测试审计组织。但白宫AI主管 David Sacks 批评奥特曼与Amodei，称若模型存在危险，头部企业可自行暂停开发，不应将安全承诺与监管特权绑定；扎克伯格等人亦表示反对，Cohere CEO 质疑此举是巨头垄断。

有网友指出，Amodei 方案中的第三方评估机构 METR 与Anthropic存在关联，质疑巨头借AI安全恐慌推动严苛监管、建立合规壁垒。此外，奥特曼称OpenAI 2026年不会上市，而Anthropic正筹备IPO，11个月签下5170亿美元算力大单，年化营收已超OpenAI。

RecodeX 重构消息，美国总统特朗普周日在访问爱尔兰期间对记者表示，美国目前在人工智能领域“领先中国”，他希望保持这一优势，并称“谁在AI上获胜，谁就赢了”。此番表态淡化了多位美国人工智能行业领袖近期提出的放慢前沿AI能力发展、加强安全措施的呼声。特朗普表示可以为AI设置一些“护栏”，但未说明具体措施，同时将部分警告归因于未具名的“消极力量”，称这些人提出了一些“不会发生的事情”。

RecodeX 重构消息，Anthropic CEO 达里奥・阿莫迪发文呼吁为前沿 AI 限速，提出围绕「可核验性」的三步方案：先由企业引入驻场第三方评估员，再推动美国及盟友协同，最终寻求全球协作。

他认为 AI 递归式自我改进已出现，6—12 个月后智能体群或能借僵尸网络控制互联网，需放慢模型能力提升节奏，将额外时间用于运营可靠性、对齐、可解释性及测试评估等安全领域。他称美国需维持并扩大相对中国的技术领先才有减速空间，全球限速最终需中国参与，并提出四级国际协议层级，其中全面限速短期内落地可能性低。

OpenAI CEO 奥特曼转发支持，马斯克也表示认同。此前 Anthropic 研究员雅各布・考克森离职时曾警告 AI 或在 10 年内灭绝人类。

RecodeX 重构消息，白宫经济顾问哈塞特就人工智能安全问题表态，认为AI安全是一个“可解决的问题”。该表态来自白宫经济顾问团队，未披露更多具体政策细节或时间安排。

RecodeX 重构消息，Cathie Wood（木头姐）公开支持美国总统科技顾问委员会联席主席David Sacks的观点，认为近期「AI将毁灭人类」的相关报道可能是人为策划。Sacks指出，相关言论最初来自一名Anthropic员工的长期未活跃X账号，该员工入职仅6周后便离职，随后内容迅速进入主流媒体，他还批评《华尔街日报》在其中扮演的角色。

此前Anthropic CEO Dario Amodei发长文呼吁放慢前沿AI能力提升，称AI已越来越多参与下一代AI研发，安全研究正追不上能力增长；Sam Altman随后公开支持，称OpenAI也在讨论「pace the frontier」，并宣布将引入类似的长期独立评测员。Sacks回击称，若内部模型真危险就应自行停止，靠政府开绿灯让几家最大AI公司一起限速更像垄断联盟，并点名质疑METR是否适合充当全行业独立裁判。METR长期为Anthropic、OpenAI等做外部评测，其表示不接受这些前沿AI公司资金，只接受模型访问和免费token。

RecodeX 重构消息，美国前总统奥巴马在近期一场私人筹款活动中警告，人工智能技术若管控不当可能存在“危险”，呼吁民主党人积极制定政治与施政纲领，在未来数年将该议题列为优先事项。

奥巴马于周四发表上述讲话，相关文字记录由其办公室提供，此前并未对外报道。他敦促纽约州民主党籍众议院少数党领袖哈基姆·杰弗里斯，若民主党在中期选举中夺回众议院控制权，需搭建清晰框架，围绕人工智能政策开展公共讨论。

他还提出，2028年参选总统的候选人应当把人工智能列为“核心议程”之一，并针对该技术带来的安全与经济风险制定“十分明确的应对方案”。