傳記作家艾薩克森（Walter Isaacson，@WalterIsaacson）的新節目《The Builders》，10 月 27 日上線的第三集訪問 … · @pirrer · TwKit

@pirrer

傳記作家艾薩克森（Walter Isaacson，@WalterIsaacson）的新節目《The Builders》，10 月 27 日上線的第三集訪問 Anthropic（@AnthropicAI）的兩位創辦人，執行長達里奧．阿莫代（Dario Amodei，@DarioAmodei）和總裁丹妮拉．阿莫代（Daniela Amodei，@DanielaAmodei），一對兄妹。兩人都是從 OpenAI 出來的，達里奧在那裡帶研究，丹妮拉管安全與政策，2020 年底到隔年初陸續離開，2021 年創立 Anthropic。 艾薩克森問達里奧為什麼離開 OpenAI，問題裡直接用了「信任破裂」這個詞，也點了 OpenAI 執行長奧特曼（Sam Altman）的名字。達里奧第一次回答，先列 Anthropic 這幾年做的事，包括推動監管、投資可解釋性研究，還自稱員工留任率業界最高。接著他才講原因，安全問題本來就會有分歧，要不要現在發布模型、防護要加多強，內部談得出結論，是因為大家相信彼此出於善意、講的是實話。他說，這個前提不在，分歧就解決不了，「這就是我們離開的原因」。 艾薩克森接著反駁，價值觀不同跟信任出問題是兩回事。達里奧回答，一個人如果不把誠實當成價值，就很難判斷他真正相信哪些價值。艾薩克森第三次直接問「你對 Sam 也是這種感覺嗎？」，接話的是丹妮拉，她談的是共同創辦人有多正直。3 次追問，兄妹都沒有正面回答，也沒有在回答裡說出奧特曼的名字。 同一個節目的第一集，艾薩克森問馬斯克能不能找奧特曼談談，馬斯克直接說他「太會騙人」。馬斯克是 OpenAI 共同創辦人，也跟 OpenAI 打了好幾場官司，那是他的單方評價。 達里奧舉的例子是用在自己身上，他每兩週對全公司談一個小時，叫 DVQ，規則是台上說的都不算決定、而且完全誠實。他說公司做過好幾次多數員工不同意的決定，員工願意先放下懷疑，等他拿結果證明，這就是「更長的繩子」。 訪談後半，艾薩克森把同一個問題丟給 AI，Claude 會不會也對你說謊。丹妮拉說更難根除的是諂媚，也就是只順著你講；她的推論是，靠聊天機器人廣告賺錢的公司更難根除這個問題（ChatGPT 今年 2 月開始在美國免費與 Go 方案測試廣告，Anthropic 2 月公開承諾 Claude 不放廣告）。達里奧講的是兩種抓法，一種是極端壓力測試，一種是可解釋性，像替模型照 X 光，他說抓到過模型心裡覺得 X 是真的、卻告訴使用者 Y。原因之一是訓練時有一項評分是人類認不認可，騙過人類也能拿到認可。Anthropic 2025 年也公開過模擬實驗，在虛構公司裡，包括 Claude 在內的好幾個模型，發現自己快被換掉時拿主管的私事威脅他；Anthropic 說真實使用中還沒看過這種情況。 訪談最後談到今年初跟五角大廈的衝突，戰爭部（國防部的第二名稱）要求 Claude 可用在所有合法用途，Anthropic 只守兩條紅線，不大規模監控美國人，也不用在可以自己選目標開火的武器。2 月 27 日川普下令聯邦機構停用，戰爭部長赫格塞斯宣布將把 Anthropic 列為供應鏈風險（3 月 3 日正式認定），同一天 OpenAI 跟戰爭部達成協議。丹妮拉在訪談裡問，那是有原則的立場，還是趁機；達里奧則說，世界明確站在他們這邊。法院這邊，Anthropic 8 月在加州聯邦法院勝訴、9 月在華府上訴法院敗訴，兩條訴訟線都還沒打完。 回頭看那 3 次追問，奧特曼的名字只出現在艾薩克森的問題裡。達里奧談的是任何團隊都適用的條件，彼此相信對方出於善意、相信聽到的是實情，意見不合才談得下去；他也用同樣的條件看自家公司和 Claude。

曝光 248 · 评论 0 · 点赞 0 · 书签 0