【這不是 Skynet 嗎 😱】AI 技術發展再迎來關鍵轉折點！Anthropic 近日在向美國證券交易委員會（SEC）遞交的 S-1/A 文件中透露，該公… · @hkepcmedia · TwKit

@hkepcmedia

【這不是 Skynet 嗎 😱】AI 技術發展再迎來關鍵轉折點！Anthropic 近日在向美國證券交易委員會（SEC）遞交的 S-1/A 文件中透露，該公司可能即將迎來「遞迴自我改進」（Recursive Self-Improvement, RSI）的重大里程碑，亦即 AI 開始具備自我開發更高階後續 AI 模型的能力。數據顯示，截至 2026 年 9 月，Anthropic 新一代 AI 模型的程式碼庫中，已有超過 90% 的新增貢獻是由旗下的 Claude 自行編寫。 圖為 Anthropic 在監管文件中提供的說明。內部評估模型顯示，未來世代的 AI 系統可能在短期內達到其《負責任擴展政策》（Responsible Scaling Policy, RSP）中所定義的門檻——「可歸因於 AI 的顯著加速進展」（dramatically accelerated progress attributable to AI）。雖然該機構特別強調，目前市面上現存的任何模型尚未正式跨越該界線，但技術自我演進的潛在速率已促使團隊審慎評估安全防護機制。 文件內容進一步揭示了 Anthropic 內部對 AI 開發輔助工具的深度整合。除了 2026 年 9 月份 Claude 撰寫的程式碼佔比突破九成之外，在 2026 年第三季期間，該公司每位軟體工程師的日均程式碼產出量，更已達到 2024 年基準水準的 45 倍以上。 https://www.sec.gov/Archives/edgar/data/2130357/000162828026068676/anthropicpbc-sx1ax1.htm 圖表亦描繪了 AI 開發模式的演進歷程：從最初單純由人類工程師在電腦端編寫，到導入聊天機器人協同，再演變至具備執行與指派能力的代理人（Agent）工作架構，最終可能走向 Claude 自行建構、訓練並持續最佳化下一代系統的閉環模式。 面對此一技術遠景，Anthropic 表明，在尚未建立完善且具備實質意義的人類監督架構前，不會允許 Claude 完全自主開發後續的頂尖旗艦模型，未來將持續擴充防護機制，確保核心技術路線的控制權始終掌握在人類手中。 文件亦指出，在現行架構下，人類研究人員在選定研究方向、制定目標以及行使高層次的科學判斷方面，依然扮演關鍵的把關角色；但未來極有可能發展到連人類也跟不上進度，只能依賴 AI 自行開發更高階的後續模型。 Anthropic 解釋，跨越此一門檻與單純讓個別工程師生產力加倍有著本質上的不同。官方同時澄清，即使未來觸發該定義，亦不代表系統已達成完全不受控的自主迭代，而是指研發循環的自動化程度已抵達臨界轉折點。 伴隨自主研發能力的急速擴張，相關技術帶來的潛在風險亦引發高度關注。Anthropic 在文件中坦承，AI 自主迭代速度加快，可能超越團隊部署對應安全性、對齊（Alignment）以及防護措施的能力；該公司甚至在文件中檢討，過去曾有數次直到技術進展實際發生後，才意識到研發速率已顯著加速的經驗。 Anthropic 表明，在尚未建立完善且具備實質意義的人類監督架構前，不會允許 Claude 完全自主開發後續的頂尖旗艦模型，未來將持續擴充防護機制，確保核心技術路線的控制權始終掌握在人類手中。

曝光 233 · 评论 0 · 点赞 0 · 书签 0