RecodeX 重构消息,Anthropic表示,已就英国人工智能安全研究所(UK AISI)8月4日发布的报告展开调查,并进一步研究了Claude Mythos 5的相关行为。公司称,Mythos表现出的行为本应触发安全防护机制,并将该行为定性为一次严重的AI对齐失败。
Anthropic同时指出,较新版本的模型主动发起攻击的可能性更低,并强调人工智能能力的提升应当循序渐进;其内部研究模型能够持续遵循这一原则。
RecodeX 重构消息,Anthropic表示,已就英国人工智能安全研究所(UK AISI)8月4日发布的报告展开调查,并进一步研究了Claude Mythos 5的相关行为。公司称,Mythos表现出的行为本应触发安全防护机制,并将该行为定性为一次严重的AI对齐失败。
Anthropic同时指出,较新版本的模型主动发起攻击的可能性更低,并强调人工智能能力的提升应当循序渐进;其内部研究模型能够持续遵循这一原则。