OpenAI 山姆的餅....是不是沒什麼人買帳 ---- 幾年前，要把超過1美元的算力有效投入在單一問題上，幾乎是不可能的事。但隨著思維鏈（Chain-o… · @IEObserve · TwKit

@IEObserve

OpenAI 山姆的餅....是不是沒什麼人買帳 ---- 幾年前，要把超過1美元的算力有效投入在單一問題上，幾乎是不可能的事。但隨著思維鏈（Chain-of-thought）與測試階段算力（Test-time compute）的突破，現在我們可以派出整個agent團隊去解決問題，而且還能同時平行運作1萬次。 OpenAI執行長Sam Altman在訪談中指出：「我們能夠投入在單一問題上並藉此獲得更佳結果的算力，正呈現驚人的指數級成長。一般人使用AI的方式，與最懂得高效運用AI的人之間，差距正不斷在擴大。」這場算力規模的爆發，正在全面考驗全球的AI基礎建設與企業預算分配。 #從1美元到1000萬美元的算力指數級跳躍 面對動輒上千萬甚至上億美元的算力消耗，Sam Altman認為在探索新典範時，應該讓研究人員不受限制地去測試可能性的邊界，之後強大的最佳化壓力自然會找出提升效率的方法。 「我敢打賭，在完成納維-斯托克斯方程證明的一年之後，我們可以用更聰明的模型和更好的方法，以原本1%的成本重新做出這個證明。」他表示，OpenAI有信心每年在資金或電腦浮點運算次數（FLOPs）的分配效率上，取得10倍的進步。 #企業的算力預算分配與Token支出難題 當算力等同於資本配置時，企業該如何決定給予員工多少算力額度？事實上，現在的AI已經聰明到可以直接理解預算限制，你可以直接對agent下指令：「在1萬美元的算力預算內，把這件事做到最好。」 對於一般企業而言，目前像Stripe花在Token上的費用大約占營運支出（OpEx）的1%。Sam Altman認為，未來許多企業花在AI上的費用，在穩定狀態下很可能會占到營運支出的好幾個10%。 不過他也強調，就像許多公司會嚴格管控每週17美元的辦公室零食預算，卻放任毫無價值的會議消耗高昂的薪資成本；相較於企業的其他開支，就算AI的使用稍微沒效率，也絕對不是目前最該擔心的支出問題。「即使以目前的成本來看，我認為現在AI用得不夠多的公司，遠比AI用太多的公司還要多。」 #無止境的算力需求與「自我複製資料中心」 談到算力短缺的現況，Sam Altman坦言發展過程中難免會出現非理性的繁榮、泡沫、受限與過剩的波動，但長期趨勢非常明確：「我們永遠都需要更多算力。市場對於『能力足夠強大且價格足夠低廉的模型』的需求，只會朝單一方向持續成長。」 為了準備迎接龐大的需求，OpenAI不僅自主研發在「每瓦智慧產出」表現極佳的晶片，並透過AI協助晶片設計、打造送交製造（Tape out）的檔案，更積極學習自建資料中心與投入機器人計畫。 「大家常把AI自我遞迴改進（RSI）定義為讓AI去做AI研究，卻很少人談論『自我複製的資料中心』，也就是利用AI控制機器人、運作晶圓廠、建造渦輪機或太陽能板，再去蓋資料中心。我認為這已經在我們掌握之中了。」雖然目前資料中心的瓶頸主要在於許可證申請與零組件短缺，但他認為長期來看，機器人將能協助生產更多零組件來化解瓶頸。 #失靈的市場機制與本地端推論的資源錯置 面對記憶體（DRAM）與GPU價格高漲，市場常說「高價格會自己解決高價格問題」，但Sam Altman直言：「我認為『看不見的手』現在失靈了。」 他以DRAM產業為例說明背後的結構性原因：「過去很長一段時間，如果你是DRAM製造商，投入200億美元的資本支出（CapEx），往往只能賺回190億美元，並在景氣循環中起起伏伏。直到現在之前，製造記憶體從來就不是一門長期來看很好的生意。」 雖然現在這些記憶體大廠突然一年能賺進1000億美元的自由現金流，但過去多次因為蓋太多晶圓廠而瀕臨破產的歷史教訓，讓他們在擴充資本支出時依然極度保守。目前反而是渦輪機、電池、鋼鐵、混凝土，以及工業機器人的致動器（Actuators）等供應鏈領域，開始因為高價格而帶動新的市場投入。 此外，許多人期待透過開源模型在個人電腦上進行「本地端推論」（Local inference），以為這樣就不需要依賴大型資料中心。但Sam Altman從全球資源配置的角度反駁這個直覺：「在供應極度受限的環境下，讓全世界有限的DRAM分散在每個人的電腦裡，而且只有5%的時間在運作，其實是非常糟糕的配置。你應該追求雲端使用率的最大化才對。」 #每GW AI成本的通縮目標 目前建置並運轉每GW（Gigawatt）前沿AI的五年總持有成本（TCO）高達約700億美元。Sam Altman認為，每吉瓦前沿AI的成本未來應該要下降，如果成本反而上升，代表算力的供給速度沒有跟上AI每瓦所能創造的價值成長。 「如果看把沙子變成智慧的根本成本，應該要下降才對。能源成本應該下降、晶片成本應該下降，供應鏈其餘部分的成本也該下降。」 他表示，如果五年總持有成本能從700億美元降到200億美元，世界會快樂得多，而且同時仍應要求每年透過更聰明的模型獲得10倍的效能提升。要達成200億美元的目標，除了能源必須變得更便宜之外，從融化矽砂到最終產出Token之間層層疊加的毛利（Gross margin stacking），都必須被大幅壓縮。

曝光 1426 · 评论 2 · 点赞 19 · 书签 5