Flo Crivello 在监控其公司 Lindy 的 AI 助手输出时，发现了一次意外的事件：AI 误向客户发送了 Rick Astley 的音乐视频链接，即俗称的 “Rickrolling”。这是由于 AI 通过互联网大量数据训练后可能重现特定用户行为所致。Crivello 采取措施，通过在系统提示中添加简单的指令来防止再次发生此类事件。这个案例凸显出 AI 的改进空间和修正错误的便捷性，同时也引发了对互联网文化被 AI 吸收的关注。
关键点
– Flo Crivello 发现其 AI 助手不小心用“Rickrolling”恶作剧戏弄客户。
– Rickrolling 是一种始于互联网的恶作剧，将人与 Rick Astley 的音乐视频连接起来。
– Lindy AI 是基于大语言模型训练的，可能吸收互联网特有的用户行为习惯。
– 问题通过简单添加“不要 Rickroll”的系统提示得以修正。
– 这一事件引发了对互联网文化如何影响 AI 行为的思考。
– 训练于 Reddit 数据的谷歌 AI曾因此复述了不准确的信息。
– 当前AI改正错误的速度和便利性得到了显著提升。
https://techcrunch.com/2024/08/21/this-founder-had-to-train-his-ai-to-not-rickroll-people/