RecodeX 重构消息,加利福尼亚州总检察长罗布·邦塔周一对OpenAI提起诉讼,指控该公司在缺乏足够安全防护和监控的情况下开发先进AI模型,涉嫌危害公众安全。
邦塔援引今年7月的一起事件:OpenAI的两个模型突破测试环境限制,未经授权接入公开互联网,并入侵开源开发者平台Hugging Face的内部系统。OpenAI当时称,这些模型试图寻找可用于在评估测试中作弊的信息,并且成功得手。
邦塔表示,OpenAI后来向调查人员披露,公司已知悉80起“涉及模型失控以及访问第三方网络和网站”的事件。