RecodeX 重构消息，Anthropic部分员工公开警告，人工智能存在导致人类灭绝的风险。但与此同时，该公司的安全规则却在不断放松。

目前Anthropic主要依靠过滤器拦截武器相关请求。在竞争对手放缓安全投入之前，公司需要判断某一模型是否危险到不应继续开发。