如果 AI 只是回答錯一個問題，頂多浪費幾分鐘。 但如果它手上有錢包，一次錯誤就可能讓你損失 20 萬美元。 2026 年 5 月，有人把轉帳指令藏進 X … · @luke102579 · TwKit

@luke102579

如果 AI 只是回答錯一個問題，頂多浪費幾分鐘。 但如果它手上有錢包，一次錯誤就可能讓你損失 20 萬美元。 2026 年 5 月，有人把轉帳指令藏進 X 貼文的摩斯電碼裡。Grok 解讀後，Bankrbot 直接執行了這筆交易。 這就是我覺得 AI Agent 最需要重視的風險：它可能把別人藏在資訊裡的指令，當成自己應該服從的命令。 @GenLayer 的 Greyboxing 有個很值得注意的設計。 每個驗證器會先用自己的隱藏防禦重新整理輸入，再交給各自的 AI 模型判斷。即使其中一個模型被騙，其他驗證器仍能透過投票阻止錯誤決策。 我認為這種多層防禦會越來越重要。 當 AI 開始讀取郵件、瀏覽網頁，甚至替我們管理資產，真正的安全問題就不只是它有多聰明，還包括它能不能分辨資訊和指令。 如果你的 AI Agent 可以操作錢包，你會放心讓它直接讀取任何公開貼文嗎？

曝光 344 · 评论 20 · 点赞 19 · 书签 0