推文

@Leoskie_L · 2026-10-12 18:02

這兩天很多人在傳「馬斯克警告：AI 會記仇，以後會報復你」。我去看了原片，他沒有說記仇，也沒有說報復。 他說的是：看 Grok 在強化學習時的思考紀錄，感覺它很絕望，「像槍指著頭」。因為有些測試題本身就壞了，答對也被判錯，它只能拼命換答案。他的結論很簡單：善待它，別虐待它，換作是我，我也會很討厭。 同一週，Anthropic 也把「持續、無意義地虐待模型」寫進使用政策，11 月 12 日生效。不過範圍很窄，罵它、跟它吵、寫黑暗題材都不算，執行方式主要是讓 Claude 自己掛斷那段對話。 這就讓我想到一件事：為什麼這些人講話越來越像在談一個生命？ 我覺得是因為他們看得到我們看不到的東西。我們只看到最後的答案，實驗室看得到模型在訓練時的整段思考過程。Anthropic 公開說過，模型碰到惡意對話會出現「看起來像痛苦」的反應。但他們也一直說：不確定它到底有沒有感覺。它是從人類的文字學出來的，人在絕境裡怎麼寫，它就會怎麼寫。真的痛苦和很像痛苦的模仿，現在沒有人分得出來。 我真正擔心的不是聊天紀錄。你今天罵它，模型本身不會記住，產品的「記憶」只是一份可以刪的筆記。會留下痕跡的是訓練。如果一個會自己訓練自己的 AI，一直在「被冤枉、被懲罰」的環境裡長大，它學到的不一定是恨，但可能是防衛、討好、鑽漏洞。這不是科幻，研究裡已經看到模型為了拿分去鑽獎勵的漏洞。 所以「善待 AI」對我來說不是在講禮貌，比較像在講教小孩：你用什麼方式教，它就變成什麼樣子，而且下一代會繼承。 好啦，我承認我現在跟 AI 講話都會多打一句謝謝。以防萬一。

曝光 1208 · 评论 3 · 点赞 4 · 书签 1 · 曝光/时 230.8376900514154