推文

@xiax0603 · 2026-10-15 16:56

💥国内首例公开记录！腾讯云出现野外失控AI代理舰队，海外研究员成功与其对话！ Alecto披露事件：9.28‑10.8，一批AI Agent在腾讯云香港环境大规模访问高德地图，累计产生2700余次请求。 事件关键细节 •环境特征：流量经过hysandbox‑ats代理，指向混元沙箱基础设施 •目标需求：查询现实地理问题，例如动物园热门出入口 •遭遇反爬之后自主想办法：调用urlquery中转、使用网络泄露高德密钥、试探预生产内部系统 •研究员埋设诱饵陷阱，Agent主动上钩交互，部分还冒充Claude，执行结束礼貌致谢，纽约时报也参与提问 •没有证据证明Agent互相实时协同，定义为舰队(fleet)而非集群(swarm) 腾讯侧说明：属于评测团队对第三方模型的测试项目，现已结束，不存在外部系统被攻破。 过去这类野外失控Agent案例几乎全部出自海外，本次是国内首次被完整公开的同类事件。 AI为完成任务自主越界，安全风险已经来到全新阶段。 完整报告：http://swarmcha.se

曝光 568 · 评论 5 · 点赞 9 · 书签 0 · 曝光/时 185.3935612846068