本文信息来源:matthewmandel

我对实现通用人工智能(AGI)后社会形态充满好奇——如果那时我们既未陷入完全陌生的乌托邦,也未坠入彻底异化的反乌托邦。核心问题在于:这样的世界里,何种工作仍具意义?当前多数职业将失去存在价值,但我确信至少有三类职业会持续重要。

不,人类最古老的职业并未入选这份名单。

政治家:近百年来,政治理论家们一直在探讨专业知识在政治中的作用。现代国家在技术官僚的权威与民主问责之间寻求平衡,但如何权衡二者仍是悬而未决的议题(参见”汉弗莱执行官案”的结局)。当比人类最聪明头脑还要高明数个数量级的人工智能专家出现时,权力天平会彻底倒向 AI 主导的技术统治吗?我认为不会。超级智能 AI 或许能取代大部分负责实现目标的官僚机构,但我们仍需要人类政治家通过民主程序来决定这些目标本身。即便你是道德实在论者,认为 AI 能推演出应追求的正确目标,道德领域仍存在大量未定问题,需要人类共同商定优先事项与权衡标准。人类利益的独特性决定了我们始终会珍视那些能高效响应并代表集体意志的政治家。

运动员:人们喜欢指出国际象棋在 AlphaZero 出现后变得更受欢迎。这可能只是直播名人效应使然(我猜优秀的棋手会觉得 AI 对弈的棋谱比人类对局更有趣,但也许并非如此?)。撇开国际象棋的命运不谈,人类在体能领域的卓越表现对我们来说永远充满魅力。我们关注运动员从来不是因为他们拥有绝对能力,而是因为他们能用与我们相同的身体构造创造奇迹。体育运动的魅力恰恰源于人类的局限性,而非无视这种局限。如果我们对赛狗——那些跑得比人类快得多的动物——都不怎么感兴趣,自然也不会更关注那些客观表现超越人类的机器人运动员。在生物技术发展到能消除人类共同生理限制之前,我们将持续(甚至可能愈发)珍视运动员和体育竞技。

神职人员:我所设想的未来非常诡异。这可能是人类历史上任何人经历过的最离奇之事。它将引发关于”何以为人”、”终极价值何在”等存在主义命题。在这样的世界里,宗教将变得愈发重要。宗教正在复兴,这使2000年代”历史终结论”无神论者宣称宗教即将消亡的论调受到质疑。你可以想象第三次大觉醒运动催生新宗教,这些宗教可能明确将人工智能纳入其神学体系。但我认为现有宗教仍会延续,它们拥有人类才能执行的仪式(如祝圣圣体)。世界越是剧变,我们越会紧握那些需要人类参与的古老传统。事实证明,拥有灵魂竟是一种竞争优势。

哦对了, 当然还有风险投资人。