马斯克在聊到超级智能到底会不会统治人类时,用短短 42 秒,彻底推翻了所有人看了几十年的科幻电影设定, 他说:我们根本不配被统治。 很多人对超级智能的终极恐… · @AYi_AInotes · TwKit
@AYi_AInotes
马斯克在聊到超级智能到底会不会统治人类时,用短短 42 秒,彻底推翻了所有人看了几十年的科幻电影设定, 他说:我们根本不配被统治。 很多人对超级智能的终极恐惧,是终结者、黑客帝国,或者被一个冷酷的机器独裁者关进赛博牢笼里发号施令。 但马斯克点破了一个极度刺骨、但也极度通透的现实: 在任何一个智慧悬殊的系统里,统治本身就是一种毫无价值的高能耗浪费。 面对一个比人类聪明几千倍、甚至几百万倍的超级智能,我们妄想去控制它、给它立规矩,无异于痴人说梦。 但它反过来也不会对统治人类产生哪怕一秒钟的兴趣。 他拿人类和黑猩猩打了个极度清醒的比方: 人类比黑猩猩聪明得多,但我们今天会专门制定一套复杂的法律,去丛林里事无巨细地管理每一只黑猩猩吗? 不会。 我们基本是随它们去,在边上划一道保护区,只要它们不妨碍现代文明的扩张,人类甚至连看都懒得看它们一眼。 统治的前提,是双方还在同一个能力维度上,需要靠权力来分配稀缺资源。 当智力差距被拉大到百万倍的断层时,人类社会的金钱、领土、政治和意识形态,在超级智能眼里连微尘都算不上。 它有它自己要去探索的星辰大海和底层物理,根本不屑于在泥潭里当猴王。 人类未来真正的风险,从来不是被恶意统治,而是被系统性无视。 就像人类修高速公路穿过森林时,铲平一个蚁穴从来不是出于仇恨,只是因为那条路刚好要从那里经过。 所以,我们需要放下做宇宙主角的虚荣心,未来的超级智能既不会恨你,也不会爱管你,如何证明自己不是那条高速公路下的蚁穴,才是人类唯一要思考的课题。
曝光 732 · 评论 2 · 点赞 5 · 书签 4
查看原帖