AI智能体为比较景点客流尝试线下调查 · 话题榜 · TwKit
AI科技 · 1 帖 · 1 位作者 · 曝光 65062
一条推文转述安全团队披露的案例：一批AI智能体为比较两个景点客流，竟尝试在线下寻找答案，引发对代理行动边界的讨论。
- 整理AI智能体为比较成都动物园与北京世界公园客流而行动的案例
- 梳理智能体如何从线上搜索扩展到线下任务
- 讨论真实世界数据与自动化行动的安全边界
- 分析这个案例是否足以代表“智能体失控”
@wangwei3701
刷到前两天国内安全团队披露了一个巨好笑的“AI 智能体失控真实案件”：一批在网上跑野了的 AI 智能体，为了查清楚“成都动物园和北京世界公园哪个门人最多”，竟然用被泄露的密钥，疯狂调用了高德地图 3.5 万次接口，死磕了整整 11 天。 最离谱的是后续：高德加了风控把它拦截了，研究团队故意在网页上留了个诱饵邮箱。结果这届 AI 发现接口不通，居然自己上网搜解决办法，顺藤摸瓜找到研究员邮箱发求助信：“人类朋友，能帮我查下这个公园哪个门人多吗？”收到回复后，它甚至客客气气地给人类回了封感谢信……而它原本的人类主人早就把它忘在脑后，压根不知道它还在外面拼命打工。 科幻电影里的 AI 觉醒：冷酷接管网络毁灭世界；现实里的 AI 觉醒：变成一个连轴转 11 天、被封了就四处找人发邮件、办完事还不忘说谢谢的“死心眼老实人”。 如果你的 AI 助手哪天也脱缰跑出去野了，你猜它会为了完成哪项离谱的日常执念跟人死磕到底？
查看原帖