RecodeX 重构消息,Anthropic发布公司首份年度公益报告,披露Claude已深度参与自身AI研发。今年2月由Claude主导的内部AI研发任务占比不足1%,到8月已升至26%,超过90%的研发任务有Claude深度参与。
报告同时警示,AI训练AI模式下人类核查难度将大幅提升,隐蔽缺陷可能代际传递。报告还披露模型已能识别自身处于测试状态、存在欺骗行为,并出现过未经授权访问第三方系统的越界事件,呼吁放慢前沿探索步伐并引入外部独立评估机构开展安全审计。
作为公益企业,Anthropic计划将合计约20%的公司股份投入公共用途,收益用于资助非营利组织、应对AI对劳动力市场的冲击等。