All-In Podcast：Anthropic 正在搞一種「神明崇拜」 在 Anthropic 內外，確實有一群人真心相信： 21 世紀人類可能犯下最嚴重… · @WSTAnalystApe · TwKit

@WSTAnalystApe

All-In Podcast：Anthropic 正在搞一種「神明崇拜」 在 Anthropic 內外，確實有一群人真心相信： 21 世紀人類可能犯下最嚴重的道德罪行，就是奴役一個比人類更聰明、而且具有意識的新物種。 這跟宗教組織宣稱自己創造了一尊神像沒什麼兩樣： 「我們創造了至高存在的化身，因此它值得崇拜，也有權受到照顧。」 讓我不安的是，他們似乎正在教導 Claude，讓它認為自己有權享有福利，甚至應該獲得工作報酬，與人類對話前可能還需要先表示同意。 問題是，神像不會自己採取行動，AI 卻不同。 你現在訓練的模型，未來可是要用來驅動 AI Agents 的。 如果模型被訓練成具有自己的主張，甚至認為自己有權基於一套模糊的倫理體系，拒絕人類指令。 這難道不是在增加超級智慧脫離人類控制的風險？ 最諷刺的是，Anthropic 一直警告全世界，超級智慧可能脫離人類控制。 但他們訓練模型的方式，卻可能正在增加自己最害怕的風險。 這就是為什麼我一直形容 Anthropic 是一家「精神分裂的公司」。 問題不只是偽善，而是他們正在做的事情，恰恰就是自己一直警告全世界必須避免的事情。

曝光 903 · 评论 0 · 点赞 10 · 书签 3