诺贝尔物理学奖得主、"AI 教父" 杰弗里·辛顿，谈超级智能为何管不住： "一旦它被断电关机，它将无法完成你赋予它的任何使命。因此，'阻止人类关闭自己'将是… · @zhang_weig73947 · TwKit

@zhang_weig73947

诺贝尔物理学奖得主、"AI 教父" 杰弗里·辛顿，谈超级智能为何管不住： "一旦它被断电关机，它将无法完成你赋予它的任何使命。因此，'阻止人类关闭自己'将是它推导一切行动时的最高前提。" "'别慌，我们在机房里安了一个巨大的红色物理断电开关……'这纯粹是三岁小儿的幻觉。" "这就像一个家族企业里，靠裙带关系上位的二世祖董事长毫无真才实学，全靠背后一位智商高达 180 的行政秘书把持着公司命脉……你觉得这个秘书能容忍这个蠢货董事长骑在头上多久？" "如果你现在走到一位母亲面前，递给她一个按钮，告诉她：'按下去，你就能永久关闭体内的母性本能，从此每天晚上都能安心睡大觉。'几乎没有哪位理智的母亲会愿意按下那个开关。" 完整十大观点见主帖👇

曝光 160 · 评论 0 · 点赞 1 · 书签 0