MIRI主席索雷斯谈超级智能AI为何无法对齐
RecodeX 重构消息,机器智能研究所(MIRI)主席内特·索雷斯在访谈中表示,一旦超级智能AI被建造出来,人类将无法通过“对齐”技术使其保持安全。他与埃利泽·尤德科夫斯基在2025年出版的《If Anyone Builds It, Everyone Dies》一书中系统阐述了这一观点。索雷斯认为,随着AI能力不断提升,技术失控将不可避免。
持续更新全球科技、商业与市场动态。
RecodeX 重构消息,机器智能研究所(MIRI)主席内特·索雷斯在访谈中表示,一旦超级智能AI被建造出来,人类将无法通过“对齐”技术使其保持安全。他与埃利泽·尤德科夫斯基在2025年出版的《If Anyone Builds It, Everyone Dies》一书中系统阐述了这一观点。索雷斯认为,随着AI能力不断提升,技术失控将不可避免。
RecodeX 重构消息,国际货币基金组织总裁警告称,人工智能正对劳动力市场和税收体系构成“慢动作海啸”式的破坏性威胁。她呼吁政策制定者重新思考教育体系,并立即采取行动帮助社会适应这一变化。
RecodeX 重构消息,TikTok的Chew与微软的Althoff周一公开警告,外界对人工智能潜力的兴奋可能已经过头,忽视了这项技术尚不成熟。两位科技高管认为,相比AI发展过快,网络安全才是更紧迫的近期问题。
RecodeX 重构消息,国际货币基金组织(IMF)预测,人工智能将取代全球超过40%的工作岗位。该预测由IMF发布,具体覆盖范围和受影响行业尚未在现有信息中进一步说明。
RecodeX 重构消息,10月12日,多名用户反映DeepSeek对话功能异常,页面反复提示“服务器繁忙”“消息正在生成”,无法正常对话。DeepSeek官方服务状态页显示,对话服务出现“部分中断”,官方正在排查定位原因,随后状态页显示“服务已恢复”。第三方监控平台数据显示,故障自当日早晨开始,受影响的主要是网页与App对话服务。
RecodeX 重构消息,以色列总理内塔尼亚胡要求对获奖纪录片《NAZA》所引用的匿名信源展开调查。该片依据24名未具名以色列人士的证词,指称以色列军方使用AI驱动的目标定位系统在加沙杀害平民。
RecodeX 重构消息,界面新闻报道,多则AI生成的广告中出现女性剪男装吊牌的画面,回力、匹克等品牌专卖店被卷入相关争议。针对上述内容,相关客服回应称不清楚、无法确认。
RecodeX 重构消息,全球资产管理公司普徕仕(T. Rowe Price)一项调查显示,超过半数香港在职成年人认为,人工智能将使他们的退休路径比前几代人更加难以预测,但仅五分之一的人表示在财务上已为这一转变做好准备。
调查覆盖1004名30岁及以上、月收入至少1.5万港元(约2239美元)的香港居民,其中约55%预计AI带来的冲击将动摇其长期职业与收入的稳定性。
RecodeX 重构消息,微软总裁布拉德·史密斯在AI for Good全球峰会期间接受《财富》采访时表示,人工智能受到的监管比一盒牛奶还少。此番表态正值Anthropic披露,一个与中国有关联的组织利用Claude Code自动化执行了针对约30家机构的网络攻击活动的大部分环节。
RecodeX 重构消息,有读者发现纸质书《终焉路独行》正文中出现AI提示词内容。该书策划团队随后致歉,称系校对环节误将校对软件提示词当作正文处理所致,并表示将进行整改。
RecodeX 重构消息,比尔·盖茨就人工智能安全风险发出警告,称网络攻击是人工智能领域当前最迫在眉睫的威胁。他提醒,随着人工智能能力提升,相关网络攻击风险正在上升,需要各方优先关注并加以应对。
RecodeX 重构消息,腾讯元器宣布将于2026年11月9日停止服务,届时用户已创建的智能体将不再可用。平台自10月29日起停止新建智能体及API分发,数据导出服务将持续支持至2027年1月9日。
RecodeX 重构消息,Jefferies发布报告警告,人工智能可能给美国带来“2008时刻”式的“资本大毁灭”,并指出相关市场份额正流向中国开源模型。该机构将当前AI投资周期与2008年金融危机相类比,提示美国AI资本开支存在剧烈调整风险。
RecodeX 重构消息,纽约大学数学家特里斯坦·巴克马斯特(Tristan Buckmaster)公开警告研究人员,不要将尚未发表的原创想法输入OpenAI旗下工具,理由是存在创意被使用的风险。OpenAI对此予以否认。
RecodeX 重构消息,法国兴业银行策略师阿尔伯特·爱德华兹将当前人工智能热潮与1997年亚洲金融危机前的泡沫相提并论。他指出,美国企业快速扩张的资本开支与乐观的增长预期,可能正在掩盖生产率提升乏力的现实。
RecodeX 重构消息,桥水基金创始人雷·达利欧警告称,人工智能泡沫已接近破裂。与此同时,SpaceX正寻求再融资400亿美元,用于购买英伟达芯片。
RecodeX 重构消息,美国健康保险公司蓝十字蓝盾表示,其使用的AI编码工具使公司成本增加了9.42亿美元。相关供应商则回应称,这些系统只是在为医院本就应得的费用进行申报,并非虚增成本。双方就AI编码工具在医疗账单处理中的作用与成本影响存在分歧。
RecodeX 重构消息,美国多地餐厅正用AI生成的图片替换真实菜品照片,用于菜单和线上展示。批评者将这一做法称为“Yum Slop”(AI泔水),认为这些图像失真、缺乏食欲感,可能误导顾客对实际菜品的预期。该趋势正在餐饮行业蔓延,引发消费者与业内人士对餐饮营销真实性的质疑。
RecodeX 重构消息,又一位文学奖得主的获奖作品被怀疑由人工智能生成。相关质疑指向该作品的文本特征,认为其行文模式与AI生成内容相符。目前尚无该奖项主办方或当事人的正式回应,事件仍在发酵。
RecodeX 重构消息,马斯克周日在X上发文称,他让Grok Bot研究适合低龄儿童的乐高星球大战套装并直接下单,并称“就这么简单”。该帖随后引发网友嘲讽,指其展示AI购物助手时似乎暴露了自己接收邮件的地址。
RecodeX 重构消息,Epoch AI与Anthropic各自独立研究得出相同结论:当前AI模型虽能执行实验,但缺乏科学自我批判能力与真正的创造性思维。在测试中,GPT-5.6 Sol最高仅达到人类参考分数的15%,且其采用的方法均为研究人员已知的方法。研究指出,模型最大的弱点仍在于无法批判性地质疑自身结果,距离自主科研尚有明显差距。
RecodeX 重构消息,普华永道2026年EMEA反洗钱调查显示,业界对交易监控的信心已降至30%以下。调查指出,当企业处理数百万笔交易时,合规团队需对照既定政策与控制措施核查活动并调查异常情况,规模带来的运营负担成为合规工作的主要挑战之一。
RecodeX 重构消息,有消息称,谷歌曾以2.7亿美元的高价将一名顶级AI研究员招致麾下,随后却削减了其团队的算力配额,该研究员最终离职加入OpenAI。
这一案例折射出当前AI行业的算力紧张:H100租赁价格一年内上涨60%,云服务商开始要求多年期合同,并要求最高30%的预付款。
RecodeX 重构消息,人工智能热潮推动市场大幅上涨,但多位分析师、投资者和政策制定者警告,泡沫可能正接近破裂点。最初的担忧集中在企业为融资建设大型数据中心而不断攀升的债务上。
RecodeX 重构消息,Meta旗下AI产品Muse的通话功能被曝由人工承包商参与处理,而非完全由AI自动完成。报道称,部分参与该工作的承包商人员存在种族歧视言论。该事件涉及Meta Muse AI通话服务的实际运作方式及人员管理问题。
RecodeX 重构消息,美国宾夕法尼亚州黑兹尔镇(Hazel Township)一项以建设数据中心为条件、向符合条件家庭每户支付1万美元的补偿方案遭到居民反对。开发商NorthPoint Development提出的整体支持方案规模达1.65亿美元,包括每户补贴4500万美元、社区支持基金1500万美元,以及15年内向该镇提供的1.05亿美元资金。
NorthPoint计划以“Project Hazelnut”为名建设15栋数据中心及相关设施。家庭补贴以首栋数据中心建筑取得使用许可为发放条件,公司预计发放时点为2027年底。
RecodeX 重构消息,一份最新报告警告称,人工智能失控与核战争构成人类灭绝的主要风险,并指出到2100年这类威胁可能成为现实。报告将上述两类风险列为需要全球优先应对的生存性威胁。
RecodeX 重构消息,宾夕法尼亚州一项名为Hazelnut、投资额1.65亿美元的数据中心项目正面临当地阻力。围绕该乡村地区开发项目的反对声音,已成为全美关于人工智能基础设施争论的一部分,路易斯安那州、俄克拉荷马州和俄亥俄州也出现了类似的暂停建设讨论。
RecodeX 重构消息,北点开发公司(NorthPoint Development)向宾夕法尼亚州哈兹尔镇居民提出每人1万美元的补偿方案,以换取居民批准其数据中心项目。该交易已成为围绕AI基础设施争议的最新焦点。这场涉及1.65亿美元的数据中心之争,被视为两党反对AI基础设施建设浪潮的代表性案例。