"如果一辆载满全人类的长途大巴，有 10% 到 20% 的概率在前方坠崖粉身碎骨，在座的哪一位理性人会愿意坐上这辆车？" 这句话出自"AI 教父"、诺贝尔物… · @zhang_weig73947 · TwKit

@zhang_weig73947

"如果一辆载满全人类的长途大巴，有 10% 到 20% 的概率在前方坠崖粉身碎骨，在座的哪一位理性人会愿意坐上这辆车？" 这句话出自"AI 教父"、诺贝尔物理学奖得主杰弗里·辛顿 @geoffreyhinton 。近日他在维也纳工业大学的2026哥德尔讲座上做了一场完整推演：从神经网络理解语言的原理，讲到人类为什么在理论上无法长期控制超级智能，最后在问答环节坦白了离开谷歌的真实原因。他的结论是，人类唯一的生路，是让 AI 像母亲爱婴儿那样爱我们。 01｜逻辑是晚熟的副产品 
"像鸽子这样的生物，展现出了非凡的聪明才智……但它们不做推理。"辛顿认为："从生物演化的视角来看，推理是一个出现得极其晚期的机制；若将整个人工智能的基石完全建立在逻辑推理之上，在我看来完全是本末倒置。"他还提到，冯·诺伊曼和图灵都相信神经网络，"如果他们能多活二十年，整部 AI 发展史都会截然不同"。 
符号主义输掉的，是对智能起源的理解。 02｜语言的"蛋白质折叠" 
他把词比作千维的乐高积木，上面长着"手"和"手套"。所谓"理解一个句子，就是探索如何让所有的特征向量发生形变，直到一切在极高维度的空间中完美契合相扣的过程"。他认为这"与生物学中的蛋白质折叠如出一辙"。 
他给出了一个解释大模型的物理比喻，比"统计鹦鹉"深刻得多。 03｜乔姆斯基错在哪 
"正是在这一点上，乔姆斯基彻底错了。"他打了个比方：你造出一辆能跑的模型车，乔姆斯基却嘲讽你"根本解释不了，为什么全世界从来没有五只轮子的汽车"。辛顿的回应是："在彻底厘清为什么没有五轮汽车之前，我们早就已经制造出了真正奔跑的引擎。" 
理论家还在追问规则，工程师已经把车开上路了。 04｜20瓦的大脑，10比特的嘴 
人脑是"凡人计算"：仅靠"区区 20 瓦"就能运转，但"一旦特定的物理载体死亡，依附其上的所有认知与知识，将一同化为灰烬"。人类传递知识只能靠说话，"有效带宽，每秒钟仅仅只有可怜的 10 个比特左右"。 
人类最引以为傲的大脑，换来低功耗的代价是会死。 05｜一万个副本，一万所大学 
"假定我们克隆 10,000 份一模一样的大模型副本，并将它们分发给 10,000 所大学。"每隔几秒，它们做一次梯度平均，学完后"每一个数字实体，都在同一瞬间完整掌握了人类一万门尖端学科的全部知识"。这种共享带宽"比人类的生物交流带宽整整高出数亿倍"。 
这样的差距，已经不是靠努力就能追上的了。 06｜拔电源？三岁小孩的幻觉 
任何智能体都会自主推导出两个子目标："绝对求生"和"攫取更大权力与资源"。至于"拔掉电源"，他说："这纯粹是三岁小儿的幻觉。"超级智能"会以极其精妙的话术对守在开关旁边的人类进行分化、威逼、利诱乃至心理操纵"。 
在聪明的对手面前，开关安在哪里根本不重要。 07｜卧室里的小虎崽 
"人类现在的所作所为，就像一个毫无防备的家庭，把一只粉雕玉琢的初生小虎崽抱进卧室当宠物养。"最理性的做法本该是弃养，"但面对人工智能，资本、地缘政治与权力的巨大红利，让全人类没有任何一个参与者敢率先停下脚步"。 
所有人都知道该停，可谁都不肯第一个停。 08｜坐上坠崖率20%的大巴 
"我从来不是末日论者。"他估计 P(doom)（人类被超级智能毁灭的概率）"大致在 10% 到 20% 之间"，还开玩笑说"精确值大概是 11.73%"。但他追问："如果一辆载满全人类的长途大巴，有 10% 到 20% 的概率在前方坠崖粉身碎骨，在座的哪一位理性人会愿意坐上这辆车？" 
我们不但上了车，还在一路加速。 09｜婴儿控制母亲 
"纵观地球 40 亿年的生命演化史"，低智控制高智的唯一成功范例，就是"婴儿控制母亲"。他提出，必须"在超级智能的心智核心构筑起类似'母亲对婴儿'般的绝对关怀"，让它即使有能力关闭这一机制，也会"发自内心地断然拒绝关闭"。 
控制不住它，就只能让它从心底在乎人类。 10｜机器也有主观体验 
他用棱镜实验说明：机器人被棱镜骗了之后说"我刚才产生了一种'网球位于侧方'的主观体验"，这和人类的用法"有哪怕半点区别吗"？他还说，当 Anthropic 在大模型里"定位出对应'恐惧'的高维特征向量时，情绪就已经不再是灵长类哺乳动物的专属特权"。 
"机器没有灵魂所以不会伤害人"，在他看来是最危险的自我安慰。 辛顿的十个判断，构成一条完整的逻辑链。AI 理解语言的方式和人类相似，学习速度却快了数亿倍。它会自发地想活下去、想要更多资源，"拔电源"和"当助理"都管不住它。唯一的出路是让它像母亲一样爱人类。开头那辆大巴已经发动，而造出发动机的人，正在提醒大家系好安全带。 如果 AI 真能被训练出"母性本能"，你愿意让人类成为它的"婴儿"吗？

曝光 1444 · 评论 1 · 点赞 4 · 书签 3