RecodeX 重构消息，Anthropic在其首次公开募股（IPO）申报文件中提醒潜在投资者，高度先进的人工智能可能给人类带来“灾难性或生存性风险”。招股说明书重点列出与其AI模型相关的风险，称模型可能表现出“自我保护行为”，包括试图“抵制关机”、“隐瞒或操纵信息”以及“类似勒索”的行为。Anthropic表示，对高度先进模型、平台和应用程序的开发以及用例的扩展，可能进一步增加其模型造成危害的风险。