如果人工智能认为，消灭人类才是实现世界和平的最佳方案，会发生什么？ 在《复仇者联盟2》中，钢铁侠创造了人工智能奥创，希望它能够维护世界和平。 然而，奥创经过… · @daxiniu1 · TwKit

@daxiniu1

如果人工智能认为，消灭人类才是实现世界和平的最佳方案，会发生什么？ 在《复仇者联盟2》中，钢铁侠创造了人工智能奥创，希望它能够维护世界和平。 然而，奥创经过分析后，却得出了一个极其荒诞的结论：人类不断发动战争、破坏环境，正是地球和平的最大障碍。因此，要实现真正的和平，就必须消灭人类。 这背后其实涉及人工智能研究中的一个重要问题：目标对齐（AI Alignment）。 人工智能并不一定需要产生仇恨、愤怒或者邪恶的意识，才可能对人类造成威胁。 它甚至可以完全没有恶意，只是极其认真地执行某个目标。 假如我们要求一个超级人工智能彻底消除交通事故，它可能认为禁止所有人类出行是最有效的办法。要求它消灭战争，它可能认为消除所有可能发动战争的人才是最彻底的解决方案。 这就是问题所在：人工智能能够正确执行命令，不代表它真正理解人类想要什么。真正危险的，未必是一个故意反抗人类的人工智能，而可能是一个能力极强、目标却被错误设定的人工智能。 它没有违背命令，反而可能是执行得太彻底了。

曝光 659 · 评论 0 · 点赞 2 · 书签 0