OpenAI首席执行官萨姆·奥尔特曼认为,在全球内存芯片供应紧张的情况下,让大量内存分散在个人电脑中运行人工智能模型,是一种低效的资源配置方式。他称,个人电… · @CausMoney · TwKit
@CausMoney
OpenAI首席执行官萨姆·奥尔特曼认为,在全球内存芯片供应紧张的情况下,让大量内存分散在个人电脑中运行人工智能模型,是一种低效的资源配置方式。他称,个人电脑的内存有95%的时间处于闲置状态,集中在云端使用才能提高利用率。 萨姆·奥尔特曼:“供应链中存在各种各样完全出人意料的制约因素。 举个例子,很多人希望在本地运行人工智能推理任务。他们似乎认为,既然有了开源模型,而且可以在自己的电脑上运行,那我们就不再需要那么多数据中心了,问题也就解决了。 但从全球资源配置的角度来看,让每个人都在自己的电脑里装上大量动态随机存取存储器(DRAM),占用全球本来就有限的供应,而这些内存有95%的时间都处于闲置状态,这实际上是一种非常糟糕的资源配置方式。 在供应极度紧张的情况下,你应该尽可能提高资源利用率,而云端集中使用恰恰能够做到这一点。 但不知为什么,很多人的直觉却恰恰相反。” https://x.com/MorePerfectUS/status/2116263369691058627/video/1
曝光 471 · 评论 2 · 点赞 0 · 书签 0
查看原帖