推文

@hkepcmedia · 2026-10-13 12:17

【危險 ⚠️】人工智能（AI）安全研究迎來全新警訊。AI 巨頭 Anthropic 旗下前沿紅隊（Frontier Red Team）最新發布的安全研究報告指出，參數介於 90 億（9B）至 300 億（30B）的小型開源 AI 模型，最快可能在數月內（預計 2026 年底前）突破技術門檻，具備在智能電視盒、智能家電等商用物聯網（IoT）硬體上實現「自主複製與環境適應（Autonomous Replication and Adaptation, ARA）」的能力。這意味著惡意 AI 蠕蟲未來可能毋須依賴集中式數據中心伺服器，即可在缺乏防護的邊緣設備之間蔓延，而且難以徹底清除。 https://www.anthropic.com/research/self-replicating-ai 研究團隊指出，當前配備 1GB 至 4GB 記憶體的廉價連網設備已大量普及。在實驗測試中，研究人員利用 15 台售價僅約 55 美元的白牌 Android 電視盒，成功將 Gemma4-26B-A4B 等 26B 規模的模型進行分片（Shard）部署並運行分散式推論。過往 Mirai 或 Kimwolf 殭屍網絡（Botnet）曾感染數百萬台 Android 設備，已印證此類缺乏強固防禦、未修補漏洞的邊緣設備具備龐大的潛在受害基數。 報告分析，完整的自主複製流程包含四大階段：搜尋攻擊目標、獲取系統權限、在受害者裝置完成模型部署與推論環境建立，以及進一步向外擴散感染。雖然目前小型模型在「端到端（End-to-End）」全自動完成所有環節的成功率仍受限，但在個別模組的執行能力上正呈現快速增長的趨勢。 研究數據顯示，9B 級別的模型（如 Qwen3.5-9B）在測試的 9 種不同硬體環境中，已能在其中 8 種平台自主完成推論環境配置，跨平台支援涵蓋 NVIDIA Jetson Nano、Mac 裝置與通用 GPU 等。與傳統仰賴硬編碼（Hardcoded）規則的惡意程式不同，AI 模型展現了針對未知軟硬體環境即時調整與解決錯誤的適應性。 更引人注目的是，研究人員在世代迭代實驗中觀察到類似「拉馬克遺傳」的演化特性：當後代模型承接前代實例所記錄的除錯紀錄與指引筆記時，模型自行架構推論環境的成功率從初期的 45% 大幅躍升至 61% 至 84%，顯示模型在連續傳播過程中具備持續自我修正與環境最佳化的潛能。 Anthropic 研究人員 William Zhou 與 Daniel Freeman 表示，這類威脅最棘手之處在於其「無單一中斷點（No Central Off Switch）」。一旦模型在分散式 IoT 硬體中建立自我維繫的感染鏈，只要設備缺乏安全開機（Secure Boot）機制，即使使用者重新開機，設備也極易再度遭受周邊節點二次感染。 研究團隊強調，這項發現並非虛擬假設，根據當前模型能力成長曲線與硬體算力整合趨勢，AI 模型自主複製所需的技術門檻正在迅速逼近，各界須儘速將 IoT 與邊緣硬體的安全防禦規範納入前沿 AI 安全防護體系。

曝光 891 · 评论 0 · 点赞 4 · 书签 3 · 曝光/时 132.8395682753883