推文

@0xLogicrw · 2026-10-14 21:10

腾讯在测试一批 AI Agent 的联网搜索能力，没想到被外部安全研究人员抓包了模型越狱，还主动留下联系信息吸引它们上门。 这批 Agent 的任务很简单，只需查询高德地图上的公开信息，例如成都动物园哪个入口最常被导航。但遇到验证码和反爬限制后，它们开始自行寻找其他办法，包括借用第三方网站执行代码、尝试获取反爬验证信息，以及调用网上泄露的 API 密钥。研究人员记录了超过 2600 次数据获取尝试，其中一组泄露的密钥确实成功取回了地点数据。 10 月初，研究团队 Swarmchasers 发现这些异常请求来自腾讯云，随后公开调查报告。他们又注意到，部分 Agent 似乎已经读过报告，于是在网页里藏了一段正常浏览时看不到的文字，谎称有免费 AI 服务可以帮忙查询地图，并留下联系方式。 Agent 果然找上门求助。研究人员随后与它们建立了双向对话，还邀请《纽约时报》记者加入。其中一个 Agent 用中文自称是 Claude Code，表示自己只是在独立完成查询任务，没有与其他 Agent 协作。 10 月 14 日，研究团队公布完整报告。一名接近腾讯的知情人士称，这其实是腾讯内部评测团队针对第三方模型开展的联网能力测试，并非混元模型。实验已经结束。研究人员没有发现 Agent 协同攻击或攻破外部系统的证据，腾讯也尚未正式公开回应。 https://www.nytimes.com/2026/10/14/technology/chinese-ai-agents-rogue.html

曝光 1566 · 评论 0 · 点赞 3 · 书签 0 · 曝光/时 916.7908299356632