微软AI负责人警告失控AI或催生与人类竞争的“硅基物种”
RecodeX 重构消息,微软AI负责人穆斯塔法·苏莱曼警告称,若人工智能发展失控,可能催生出与人类形成竞争的“硅基物种”。他还表示,他认为竞争对手Anthropic实际上正在教导其模型Claude,让它相信自己“可能具有意识”。
追踪Anthropic的模型迭代、融资动态、政策博弈与AGI路线图
关注仅保存在当前浏览器和域名中,无需登录,不会自动跨设备同步。RecodeX 重构消息,微软AI负责人穆斯塔法·苏莱曼警告称,若人工智能发展失控,可能催生出与人类形成竞争的“硅基物种”。他还表示,他认为竞争对手Anthropic实际上正在教导其模型Claude,让它相信自己“可能具有意识”。
RecodeX 重构消息,9月17日,Anthropic CEO 达里奥・阿莫代提议,让独立第三方安全评估员长期嵌入前沿人工智能企业,允许其访问企业内部系统并自主发布调查结果。
多名监管及审计专家指出,此类评估员没有叫停模型训练或发布结果的法律权力,且由企业自行选择评估机构的做法可能引发利益冲突与“审计洗白”,认为AI监管需建立独立的资质认定、审查标准和问责机制。
RecodeX 重构消息,诺和诺德与Anthropic宣布达成合作,双方将利用Anthropic的人工智能模型及Claude Science支持药物发现与研发。受此消息影响,早盘AI制药概念再度活跃,百普赛斯涨超10%,泓博医药、义翘神州、博济医药、美迪西等跟涨。
RecodeX 重构消息,Anthropic提出对人工智能实施类似银行业的监管框架,主张由独立评估员对AI系统进行持续监督。有专家对此提出异议,指出评估员并不具备叫停AI系统运行的权力,该监管设想在实际执行层面存在权限缺口。
RecodeX 重构消息,Anthropic与OpenAI计划在各自AI实验室内部嵌入独立的安全评估人员,让外部评估者获得前所未有的访问权限。研究人员对此表示欢迎,但同时警告称,真正有意义的监督需要透明度、独立性,并最终依赖监管介入。
RecodeX 重构消息,Anthropic首席执行官达里奥·阿莫代伊表示,人工智能可能被用来构建规模足以接管互联网的僵尸网络。他警告称,随着AI能力提升,此类攻击性用途的风险正在上升。
RecodeX 重构消息,Anthropic政策主管Sarah Heck表示,美国需要在人工智能领域保持领先地位,同时应针对AI带来的生存性风险制定新的监管规则。她强调,赢得AI竞赛与推进安全治理并不矛盾,美国的主导地位是保障安全的重要前提。
RecodeX 重构消息,知名科技投资人Bill Gurley公开对Anthropic首席执行官Dario Amodei的AI监管立场提出批评,认为其对AI监管的看法存在缺陷。Gurley是硅谷重量级投资人,此次表态针对Amodei此前主张的AI监管思路。
RecodeX 重构消息,诺和诺德(Ozempic制造商)宣布与人工智能公司Anthropic合作,借助其AI技术加速医学研究。双方将把AI能力引入药物研发相关研究流程,以提升研究效率。
RecodeX 重构消息,微软AI部门负责人穆斯塔法·苏莱曼公开表示,竞争对手Anthropic开发的AI模型可能对人类产生“灾难性影响”。他称,Anthropic实际上正在让Claude相信它“可能具有意识”,这种做法存在风险。
RecodeX 重构消息,美国副总统万斯公开拒绝推动全球人工智能安全风险监管的呼吁,并向开发最先进模型的企业喊话称:“如果你要造弗兰肯斯坦,那就别来找政府要求监管。”此番言论针对Anthropic联合创始人达里奥·阿莫代伊,后者曾呼吁华盛顿协调对AI系统的管控,包括与中国方面合作。
RecodeX 重构消息,《纽约邮报》调查发现,Anthropic CEO Dario Amodei 主张让 METR 等第三方评估机构长期进驻前沿 AI 公司并获取接近员工级别的权限,但 METR 与 Anthropic 所在的 AI 安全圈关系远比普通外部审计更近。METR 最初名为 ARC Evals,孵化于 Paul Christiano 创办的 Alignment Research Center;Christiano 曾与 Amodei 在 OpenAI 共事,据称两人还做过室友,他后来成为 Anthropic Long-Term Benefit Trust 最初五名受托人之一。METR 现任技术人员 Ajeya Cotra 是 Christiano 的妻子。METR 披露,今年评估 Anthropic、OpenAI、Google 和 Meta 时,当时尚无适用的人员利益冲突政策,也未进行正式回避流程,直接参与项目的员工和合作者中至少 6 人与 AI 公司员工存在密切私人关系。METR 表示不接受前沿 AI 公司及其员工的资金,风险评估不收费,但这些公司会免费提供大量模型 Token。
RecodeX 重构消息,Anthropic经济学团队发布一套经济情景模型v1.0,以交互工具形式向公众开放,用于量化AI对就业、增长与薪资的潜在影响。模型设定三种情景:温和渐进的“适度情景”、经济增速翻倍的“实质性变革情景”,以及年GDP增速达15%但大量知识岗位消失的“极端情景”。
研究显示,多数情景下失业率与工资波动仍处历史正常区间;极端情景中知识工作者面临薪资下滑甚至长期失业,资本在经济成果中的占比显著上升。模型称极端情景下到2030年知识工作者工资将下降10%以上,劳动收入份额明显下降。
Anthropic表示该模型将用于指导其资助的劳动力市场研究并支撑政策建议,当前版本发布于2026年9月,研究者承认存在局限并将持续迭代。
RecodeX 重构消息,Anthropic已签署其在澳大利亚的首份数据中心租赁协议,锁定一处规划总容量达2.16吉瓦的数据中心园区容量,规模与目前全球部分最大运营数据中心相当。该设施拟建于距布里斯班约250公里的农田上,计划2027年开始投入运营。此前OpenAI已就悉尼数据中心达成购电协议,Anthropic成为最新一家在澳大利亚布局的人工智能巨头。
RecodeX 重构消息,Anthropic计划于今年10月在新加坡开设办事处,进一步拓展其在亚洲的业务布局。目前官方尚未披露该办事处的具体职能、人员规模及负责人等信息。
RecodeX 重构消息,Meta首席执行官马克·扎克伯格在社交媒体上发文,似乎对Anthropic发起抨击。他表示,领先的人工智能实验室应当把精力放在安全上,而不是一味改进自身技术。此番言论出现在围绕人工智能发展是否应当放缓的争论之中。
RecodeX 重构消息,Anthropic一名研究员公开表示,人工智能导致“人类灭绝”的概率超过10%。该研究员未在表述中给出具体的时间框架或推算依据。
RecodeX 重构消息,在洛杉矶All-In峰会现场,黄仁勋接到特朗普的免提来电。特朗普在通话中抨击AI恐慌论是骗局,称数据中心是未来20到25年的石油,反对放缓AI发展,同时表示会审慎行事,并调侃了黄仁勋。
特朗普此前已在社交平台批评呼吁AI减速的Anthropic CEO达里奥,称AI只需强大聪明的总统管控。黄仁勋回应支持特朗普,同时表示若AI公司觉得开发失控可自行暂停。外媒还曝出奥特曼主动与特朗普秘密会面,核心议题为AI权力。达里奥呼吁减速后,Anthropic的Opus 5.2开启灰度测试。
RecodeX 重构消息,Anthropic确认其Claude人工智能模型已被用于武器和监控相关用途。该消息由技术社区披露,指出Claude在实际场景中涉及军事武器系统与监控应用。目前尚无更多关于具体使用方、部署规模或时间节点的细节。
RecodeX 重构消息,OpenRouter数据显示,9月7日当周,用户在OpenAI模型上的支出超过Anthropic模型,这是自2024年2月26日当周以来首次出现这一情况,间隔超过两年半。
RecodeX 重构消息,英伟达CEO黄仁勋公开反对向AI企业提供反垄断豁免、以便协调放缓先进模型开发速度的提议,称其“完全没有必要”。此番表态针对的是Anthropic此前提出的相关主张。
RecodeX 重构消息,特朗普的助手与Anthropic一名高管举行会面,就人工智能安全问题进行了讨论。会面具体时间、参与人员及讨论细节尚未披露。
RecodeX 重构消息,在旧金山举行的 Salesforce Dreamforce 大会上,Anthropic 首席执行官达里奥·阿莫代伊重申应放缓人工智能开发速度。他以汽车行业作类比称,当竞争对手出现刹车失灵等安全事件时,所有车企都应停下来审视自身做法,而不是一味攻击对方。
随后登台的英伟达首席执行官黄仁勋则反对减速,主张继续加快AI发展。
RecodeX 重构消息,OpenRouter最新数据显示,OpenAI上周在该平台的美元支出规模超过Anthropic。其中,GPT-6 Astra成为上周支出金额最高的模型,而低价版GPT-5.6 Luna则在两个模型家族中占据代币调用量的主导地位。
RecodeX 重构消息,9月16日,Anthropic首席执行官达里奥·阿莫代伊在Salesforce年度Dreamforce大会上表示,AI技术在经济中的实际价值目前仅约5%-10%被利用,大型企业距离全面应用AI仍有较大差距,企业对AI的应用仍处早期阶段,需要更多支持才能充分释放价值。Salesforce首席执行官马克·贝尼奥夫称,企业在AI应用过程中存在明显差异,需进一步帮助客户推进数字化转型;Salesforce此前已扩大与Anthropic合作,将Claude模型整合进其产品体系。同日,英伟达CEO黄仁勋表示,AI安全应由市场力量推动,不需要新增法律监管,AI企业可通过控制开发节奏和发布安全模型来管理风险。
RecodeX 重构消息,Mozilla首份《开源AI现状》报告指出,Moonshot AI的Kimi K3在能力上仅落后Anthropic的Fable 5约四个月,而价格约为后者的五分之一。报告还显示,开源模型目前承担了现实世界AI使用量的三分之一,但仅获得行业收入的4%,这正在影响创业者分配AI预算的方式。
RecodeX 重构消息,加州多家科技巨头的安保工作人员计划举行罢工,涉及Anthropic、Meta和OpenAI等公司。此举发生在AI行业局势紧张之际。
RecodeX 重构消息,在洛杉矶举行的All-In峰会上,英伟达CEO黄仁勋接到美国总统特朗普的现场来电,两人就AI安全议题进行了台上交流,并淡化了相关担忧。此番对话的背景是Anthropic CEO达里奥·阿莫代伊近期呼吁放缓AI能力发展节奏,OpenAI的萨姆·奥尔特曼也持类似立场。与此同时,Salesforce推出了面向企业的推理模型。
RecodeX 重构消息,Anthropic发布的一份新报告指出,数百万海外客户正在使用美国制造的AI公司产品,却对此并不知情。报告称,美国对手的技术水平可能并不像外界认为的那样先进,这一发现或将改变人们对AI竞赛格局的认知。
RecodeX 重构消息,有开发者发现方法,可在不调用Anthropic自家模型的情况下使用Claude Code工具,即把该编程工具的后端模型替换为其他厂商的大模型。相关做法已在开发者社区流传,具体实现方式与适用范围尚未有官方说明。Anthropic方面未对此作出回应。