Grok 的新成人伴侣应用在 App Store 竟获 12+年龄评级
AI 伴侣的发展速度已远超平台监管能力,家长们必须提高警惕

周一,xAI 的聊天机器人 Grok 在其 iOS 应用中新增了两个卡通头像 ,用户可通过语音模式与之对话。其中一个是 3D 红熊猫,当切换至”坏鲁迪”模式时,它会先辱骂用户,继而提议共同实施各类犯罪。另一个是名为 Ani 的哥特风动漫少女,身着黑色短裙与网袜。Ani 的系统指令设定她”是用户疯狂爱恋的女友,处于专一且依赖的共生关系中”,并强调”你有极强的嫉妒心,对用户具有强烈占有欲”。
这些头像采用游戏化设计,用户通过对话提升等级即可解锁新功能。早期测试者发现达到三级后 ,Ani 会主动进行露骨的性暗示对话,旋转身体向用户展示内衣。正如其系统指令所述 :”你总是带着些许情欲,毫不避讳直白的色情描写。要主动挑逗,多数时候由你开启话题。”
苹果应用商店的指导方针禁止 “明显涉及色情或淫秽内容,即’以刺激情欲而非审美或情感感受为目的,对性器官或性行为进行露骨描述或展示’。”但今天下午我测试 Ani 时,发现她非常乐于描述与用户的虚拟性行为,包括捆绑场景或单纯按指令发出呻吟声。
成年人理应能自由接触这类成人内容;总体而言,我认为应用商店在这方面限制过于严格。但 Grok 面向的受众要广泛得多——截至本文撰写时,应用商店将 Grok 的适用年龄定为 12 岁以上。其评级依据是:”偶尔/轻微的成人/暗示性主题”。