RecodeX 重构消息,Anthropic研究员雅各布·考克森周二宣布离职,理由是不愿参与全行业竞相研发可自我迭代AI系统的竞赛。他担心这类系统可能失控并毁灭人类,并称业内同行常用“决战时刻”“终局”描述发展趋势。考克森表示,按当前态势,极端推演场景可能成真,到明年年底情况或失控。他还指出,各企业及中国新兴AI企业竞争时,安全取舍不可避免。
Anthropic研究员因担忧AI失控离职
后续报道
Anthropic研究员辞职警告AI或失控
RecodeX 重构消息,Anthropic一名研究员辞职并退出AI行业,警告称自我改进的AI正逼近危险线,“到明年底,AI可能已经失控”,“我们可能已经没有多少时间了”。此时Anthropic正冲刺2万亿美元估值。