AI安全专家离职

RecodeX 重构消息，Anthropic公司一位对齐研究负责人周二表示，人工智能在未来十年内有超过10%的概率可能导致人类灭绝。就在该言论发表数小时前，该公司另一名员工因担忧AI实验室“拿我们的生命做赌注”而选择离职。

RecodeX 重构消息，Anthropic研究员雅各布·考克森周二宣布离职，理由是不愿参与全行业竞相研发可自我迭代AI系统的竞赛。他担心这类系统可能失控并毁灭人类，并称业内同行常用“决战时刻”“终局”描述发展趋势。考克森表示，按当前态势，极端推演场景可能成真，到明年年底情况或失控。他还指出，各企业及中国新兴AI企业竞争时，安全取舍不可避免。

RecodeX 重构消息，有媒体报道称，字节跳动旗下Seed AI数据安全负责人将离职，字节跳动官方目前暂无回应。截至发稿，离职原因、接任人选及具体时间均未对外披露。

RecodeX 重构消息，OpenAI伦理负责人Chloé Bakalar已于7月离任，她加入公司尚不足一年。OpenAI此前未公开宣布，随后确认她已离开，并表示伦理工作由多个模型研发团队共同承担。Bakalar是OpenAI唯一的专职伦理学家，目前没有接任者。她曾在Meta工作6年，担任首席伦理学家，在OpenAI主要负责模型开发伦理、人类与AI互动及机器意识问题。在她离职前后，安全系统负责人Johannes Heidecke也宣布离开，前对齐负责人Joshua Achiam已于7月离职。

RecodeX 重构消息，据市场消息，字节跳动Seed AI数据与安全负责人傅越（Yuyi）将于近期离职，其职位由TikTok平台责任团队负责人、原TikTok直播负责人王赢磊（Adam Wang）接任。傅越直接向吴永辉汇报，此前负责Global Data，目前担任AI数据与安全一号位。傅越2018年加入字节，曾在TikTok信任与安全、电商运营部门任职，2022年离职创业，2023年10月回归任训练数据负责人。字节方面暂未回应。

RecodeX 重构消息，字节跳动AI数据安全负责人傅越被曝即将离职。傅越此前负责字节跳动AI数据安全相关工作，该消息目前尚未获得官方证实。

RecodeX 重构消息，Naomi Bashkansky，23岁，原OpenAI对齐团队研究员，近日递交辞呈，以创始研究员身份加入初创公司Conduit，主导“心灵感应”（Telepathy）项目。该公司正在训练一种全新大模型，仅凭头戴设备采集的脑神经信号，在用户开口或打字前解码其意图，实现非侵入式意念读取。Naomi此前在OpenAI参与推动对齐研究博客上线，并担任AI韧性部门顾问。Conduit技术博客显示，其零样本模型已能大致理解陌生人的未成形想法，团队称当前进展相当于“GPT-2时代”。

RecodeX 重构消息，Mysten Labs首席技术官Sam Blackshear宣布离职，将加入人工智能公司Anthropic，专注于AI安全研究。这一人事变动凸显了从区块链领域向AI领域的人才流动趋势，也反映出AI安全研究对顶尖技术人才的吸引力。

RecodeX 重构消息，8月6日，Move编程语言之父兼Sui Network CTO Sam Blackshear宣布即将离开Sui开发团队Mysten Labs，加入AI公司Anthropic，负责防御性安全研究。他表示，目前Move基金会正在筹备中，期待以各种可能的方式继续参与。Mysten Labs CEO Evan Cheng将接手领导Mysten及Sui生态的技术愿景。

前OpenAI安全负责人翁荔从Thinking Machines离职后重返OpenAI。

OpenAI前研究与安全副总裁翁荔因持续压力和身体透支，宣布离职。

OpenAI前研究与安全副总裁翁荔因身体透支宣布离职。

OpenAI安全对齐负责人翁荔宣布离职。

OpenAI安全团队负责人翁荔宣布离职，创始团队仅剩两人。

OpenAI前安全副总裁、北大校友翁荔因病从Thinking Machines Lab离职，此前她曾主导OpenAI安全系统重构。

北大校友、AI安全专家翁荔宣布离职，称AI时代最好的对齐是照顾好自己。