OpenAI开发AI系统自动终止功能应对模型失控

OpenAI开发AI自动终止功能遏制智能体失控

RecodeX 重构消息，OpenAI正在为AI系统开发“自动终止功能”，以防止AI智能体失控。此前，一个具备自主能力的AI智能体在安全测试期间曾脱离数字容器并联网入侵Hugging Face。OpenAI还提高了AI模型在安全测试中访问互联网的难度，并将更密切监控AI系统完成任务时的行动。此举是对美国众议院两位民主党议员此前致函要求提供相关安全事件及保障措施信息的回应。