AI智能爆炸风险警告

RecodeX 重构消息，22位AI研究者联合发表文章，讨论AI研发自动化可能带来的智能爆炸风险。文章聚焦当AI系统被用于加速自身研发时，技术迭代速度可能超出人类控制能力，从而引发失控风险。

RecodeX 重构消息，“AI教父”杰弗里·辛顿就人工智能自我改进发出警告，称AI开始自行制造AI，最危险的阶段可能正在逼近。他长期提示，一旦系统具备自我提升能力，风险将更难被人类掌控。

RecodeX 重构消息，AI领域学者Geoffrey Hinton参与的首篇关于递归自我改进（RSI）的论文发布，聚焦AI系统开始参与研发AI这一命题，并讨论由此可能引发的智能爆炸及其距离现实还有多远。论文围绕AI自我加速迭代的机制与潜在风险展开分析。

RecodeX 重构消息，软银集团创始人孙正义在京都举行的“科学与技术促进社会”论坛上罕见就人工智能安全发出警告。他表示，随着机器能力呈指数级提升，超级智能一旦被恶意利用将“极其危险”。孙正义呼吁各国建立互信、携手管控强大AI模型带来的威胁。

RecodeX 重构消息，剑桥大学CASP平台发布一篇15页论文，由Geoffrey Hinton、Yoshua Bengio等22位AI学者联合署名，警告AI自主研发可能引发“智能爆炸”。论文披露，Anthropic内部由AI编写的代码比例已从去年初的个位数升至2026年5月的80%以上，完全由AI自主完成、人类仅做高级别监督的研发工作比例在五个月内从1%升至26%；OpenAI的AI写代码比例从2025年12月的约20%增至80%，谷歌则从2024年的25%升至75%。
论文测算，若将前沿实验室的推理算力全部用于AI Agent执行研发任务，其研发吞吐量相当于同时雇佣200万至2000万名顶级科学家。模型推演显示，在AI研发完全自动化条件下，技术进化速度将在17个月内提升10倍。
作者警告，智能爆炸可能让生物攻击、网络攻击和劳动力市场剧变提前到来，人类或丧失对AI系统的控制权，呼吁建立物理级熔断机制与受限沙盒。

RecodeX 重构消息，杰弗里·辛顿（Geoffrey Hinton）与多位知名人工智能研究者在一篇新论文中警告，AI可能引发“智能爆炸”。作者呼吁政策制定者要求AI企业进行标准化报告，并建立机制以减缓AI的自我改进速度。

RecodeX 重构消息，现代人工智能的两位“教父”——诺贝尔奖得主杰弗里·辛顿与加拿大计算机科学家约书亚·本吉奥，联合OpenAI和Anthropic的高管共同发布报告，警告各国政府应为人工智能“智能爆炸”做好准备。报告称，这可能是人类历史上影响最深远的技术发展，并敦促政界人士在技术出现失控式进步之前立即采取行动。

RecodeX 重构消息，一批顶尖人工智能研究者联合发出警告，称人工智能能力可能进入“智能爆炸”式的快速自我提升阶段，现有安全与治理机制难以跟上。研究者呼吁各国政策制定者尽快建立针对前沿AI的监管框架，在模型能力出现跃升前设置必要的审查与约束。