尽管AI风险专家曾获得社会的广泛关注和讨论，但随着时间推移，这股热度逐渐减退，相关专家的影响力也受到挑战。

关键点
– 在2016年，AI安全领域仅有约50人，随着技术进步，关注AI风险的专家人数猛增至数百或数千人。
– ChatGPT的发布让AI风险专家的声音获得了更大的公众关注，但这种关注在一年后迅速减退。
– AI风险专家Eliezer Yudkowsky强调，文明正在逼近与超级智能AI的对抗，而这将是人类无法生存的冲突。
– 尽管AI实验室的创始人们早期承诺将安全放在首位，但许多公司在实际面临监管时选择了忽视这些承诺。
– Yudkowsky和同事们对科技公司决策过程中的灰色地带表示失望，这些公司在面对监管和财务压力时未能贯彻安全优先的治理结构。
– AI技术的进展虽被视为“停滞”，但一些研究者认为技术进步仍在继续，只是因为缺乏展示而显得不明显。
– AI风险社区意识到，初创企业的庄严承诺不能抵挡追逐金融利益的动力，这一教训源自OpenAI的董事会风波。

https://www.theatlantic.com/technology/archive/2024/08/helen-toner-interview-doomers/679624/