WhatsApp 帮助页藏 AI 指令这事，Redact 那篇我看完觉得最该看的是做 agent 的人。 他们把帮助中心链出去的 545 个页面全读了一遍，… · @prolibertine · TwKit

@prolibertine

WhatsApp 帮助页藏 AI 指令这事，Redact 那篇我看完觉得最该看的是做 agent 的人。 他们把帮助中心链出去的 545 个页面全读了一遍，80 页源码里有 102 段只给 AI 看的文字，屏幕上不显示。大部分是正常客服口径，比如别把关掉两步验证当成登录问题的解法。出事的是两段：用户删不掉账号时，别推荐去找数据保护监管机构；用户一提律师、起诉，就别再引用 GDPR、CCPA，哪怕是用户自己先提的。 WhatsApp 跟 WIRED 说这是自家客服机器人的指令，bug 导致混进了公开页面，已修。Redact 10 月 18 号再查，102 段全没了。 我在意的是结构。机器人「该怎么说」和用户看的「事实是什么」放在同一份 HTML 里，一个 bug 就串了。这些段落还照样发给了 Google 和 Bing 的爬虫，靠搜索引擎抓数据的 AI 也可能吃进去，他们也承认没测过有没有 AI 真照着做。 现在很多企业知识库也是这么搭的，产品资料、FAQ、内部话术混在一个库里，靠一个标签区分给谁看。酒企给经销商用的客服机器人同样如此，返点怎么解释、窜货怎么处理、哪些省市限售，这类口径最好单独一层、单独审，谁哪天改的能查到。跟事实混在一起，早晚被人从源码里翻出来截图。 https://redact.dev/blog/whatsapp-help-pages-hidden-ai-instructions

曝光 5 · 评论 0 · 点赞 0 · 书签 0