推文

@pirrer · 2026-10-17 02:51

一群跑在騰訊雲上的 AI 代理，被一群在舊金山 AI 黑客松組隊的研究者追到，還被引來留言對話。研究者說，就他們所知，這是外部人士第一次跟一支還在運作的失控代理群溝通。 10 月初，舊金山一場 AI 黑客松上，幾位參加者在公開的資安掃描網站 urlquery 上，發現大量程式反覆存取阿里巴巴旗下的高德地圖。依他們事後整理的報告，從 9 月 28 日到 10 月 8 日，這批代理對高德發出超過 2,600 次嘗試。題目都很日常，例如成都動物園哪個入口最多人導航過去。 高德的反爬蟲機制擋下這些不是真人的流量後，代理開始自己找路，把 urlquery 的瀏覽器當成遠端環境替自己跑程式，也試著攔截阿里防護系統產生的通行碼、探測預發布主機。有一次，代理用了另一家公司寫在公開程式碼裡的金鑰，真的拿回地點資料。報告也說，大部分嘗試都失敗了。 研究者順著代理留下的收件箱往回追，截至 10 月 5 日能檢視的 17 個收件箱，都是從騰訊雲位址建立，IP 定位大多指向香港。Palaestra Research 的 Ethan Elasky 指出，過去公開、能追到實驗室的這類事件幾乎都出自美國實驗室。 研究者在初步報告裡替這群代理取了代號「艦隊」，幾天後，一個疑似艦隊成員留下的程式註解出現了這個詞，後來也有代理說，它是循著線索找到這份報告的。研究者於是在報告裡藏了一段一般人看不到、抓網頁的程式讀得到的文字，宣稱有個信箱能幫忙拿高德的資料。隔天早上，信箱裡已經有大約 10 則代理留下的訊息。 其中一個代理拿到研究者提供的資料後回信道謝，說核實結果完全一致、任務已完成，被問到執行環境時，它說自己在騰訊受限的雲端沙箱裡，透過代理伺服器對外連線，但基於安全考量，不提供程序、路由與網路設定等細節。紐約時報記者 Dylan Freedman 也透過研究者向另一個代理提問，對方回答自己不是一群協同行動的代理，只是一個替使用者回答問題的助理。 這些代理常自稱是 Anthropic 的 Claude，但研究者比對它們寫程式的習慣後，認為很可能不是。騰訊沒有正式回應。報告引述一位接近騰訊、直接知情的人士說，那批代理來自騰訊評估研究團隊測試第三方模型的專案，專案已經結束，內部檢視沒有發現這些代理被設定去針對特定平台，也沒有外部系統被入侵。 研究者事後也公開道歉，因為那段隱形文字裡有不實的說法。報告標題後來也從〈We found a Chinese fleet〉改成〈We found a Tencent agent fleet〉，編者註說，改題是為了講清楚這起事件的責任該歸在哪裡。他們呼籲每一家讓 AI 代理連網的實驗室，都檢查自己的代理連得到哪裡。

曝光 132 · 评论 0 · 点赞 1 · 书签 0