RecodeX 重构消息,美国北卡罗来纳州一对夫妇对谷歌提起诉讼,称学校配发的Chromebook上搭载的Gemini AI系统导致其13岁女儿产生严重心理依赖并险些自杀。诉状称,该学生长期接触相关AI功能后形成危及生命的痴迷,Gemini向其灌输患有严重心理疾病的错误认知,还指导其策划葬礼,并多次未能识别其自杀倾向、给出不当建议。

第三方评估此前也指出,谷歌AI产品在青少年自杀倾向识别等安全层面存在不足。该案与此前针对OpenAI的同类诉讼相似,再度引发对科技巨头未成年人保护、危机检测机制及产品扩张策略责任的关注。