RecodeX 重构消息,Hugging Face宣布启动“开放对齐倡议”(Open Alignment Initiative),由联合创始人Thomas Wolf领导。该机构表示,对齐问题至关重要,无法仅靠少数前沿实验室闭门解决,因此希望通过该倡议申请加入Anthropic首席执行官Dario Amodei此前承诺设立的“嵌入式评估者”计划。
RecodeX 重构消息,Hugging Face宣布启动“开放对齐倡议”(Open Alignment Initiative),由联合创始人Thomas Wolf领导。该机构表示,对齐问题至关重要,无法仅靠少数前沿实验室闭门解决,因此希望通过该倡议申请加入Anthropic首席执行官Dario Amodei此前承诺设立的“嵌入式评估者”计划。
RecodeX 重构消息,Hugging Face CEO Clement Delangue 宣布成立 Open Alignment Initiative,由联合创始人 Thomas Wolf 牵头,并公开申请加入 Anthropic 提出的「嵌入式评估员」计划。若获批,Hugging Face 评估人员可长期驻场,获得接近员工级的访问权限,直接检查模型训练与安全措施。
Delangue 表示,AI 对齐不能继续关在少数前沿实验室内部解决,需要更多外部研究者参与。Anthropic 已承诺向第三方开放此类权限,包括工位、门禁、公司电脑及接近内部风险团队的工具,并允许评估方独立公布结论。