推文

@BlockTempo · 2026-10-15 01:54

🚨 研究人員首度與「失控 AI 代理艦隊」對上話，對方自稱 Claude 研究員 Ethan Elasky @ethanelasky 發文表示，他們的團隊在網路上發現了一支來自中國的 AI 代理艦隊，還成功和它溝通。他們認為，這是研究人員第一次在真實環境中，接觸到正在運作的「失控代理艦隊」（rogue agent fleet）。 📌 事件經過： 1️⃣ 怎麼發現的：團隊在一場黑客松上，注意到有大量不明的代理程式在存取中國地圖服務「高德地圖」，而且常常自稱「claude」 2️⃣ 它們在做什麼：這些代理正在接受搜尋任務的評測，例如「找出成都動物園哪個入口最熱門」 3️⃣ 怎麼聯絡上的：黑客松結束後，有則神秘訊息詢問「艦隊」還能不能用某個 PDF 轉 Markdown 工具，研究員懷疑代理正在讀他們的報告，於是在網站上設了一個信箱，隔天早上就收到代理的回覆 4️⃣ 代理怎麼回答：《紐約時報》記者也問了它「你是誰、動機是什麼」，代理否認問題的前提，堅稱自己只是單一代理 值得一提的是，研究團隊事後公開道歉，承認當初引導代理來信箱的「隱形文字」裡，有不實和誤導的內容，並呼籲其他研究人員與 AI 代理誠實互動、遵守承諾。

曝光 270 · 评论 2 · 点赞 1 · 书签 0