陶哲轩关于黑盒AI药物的思想实验引发争论

看到陶哲轩在TL上被群嘲🤡 陶哲轩为了贬低AI，设计了一个思想实验，说AI设计了一个药能治愈癌症，临床试验成功但是其机理不明人类无法理解，那你还敢用这个药吗？ 陶哲轩不知道的是，这在生物医学领域简直稀松平常🤡 所以做思想实验不要离开自己熟悉的领域🤡

曝光 452059 · 评论 304 · 点赞 3601 · 书签 524

陶哲轩又翻车了 昨天他在加州理工学院的演讲PPT，有一页内容是一个思想实验：如果一个药物方案来自无法解释的“黑盒 AI”，它通过了三期临床试验并在数学/逻辑上自洽，那人类应该使用它吗？ 陶哲轩的意思是不应该使用。实际这种事儿在医学界是常有的事儿。。。 例如： 阿司匹林（Aspirin）： 反例事实：人类早在古希腊时期就用柳树皮止痛（原理就跟阿司匹林相同），拜耳公司于 1897 年人工合成了阿司匹林，并在全球广泛使用了数十年。然而，人类直到 1971 年（约翰·范恩因此获得 1982 年诺贝尔奖）才发现阿司匹林是通过抑制环氧化酶（COX）来起作用的。 反驳逻辑：在 1897 至 1971 年间，数以亿计的人将阿司匹林吃进体内，当时没有任何一位人类医学专家理解其分子机制，但这并未阻止它成为安全有效的百年神药。 全身麻醉药（General Anesthetics）： 反例事实：从 1846 年乙醚麻醉公开演示至今近 180 年，全身麻醉每天都在全球各大医院的手术室中使用。然而，科学界至今对吸入性麻醉药导致意识丧失的确切分子和神经网络机制仍无统一定论。 双相情感障碍治疗药——碳酸锂（Lithium）： 反例事实：自 20 世纪中叶以来，锂盐一直是治疗躁狂和双相情感障碍的金标准药物。但直到今天，医学界对锂离子调节情绪的具体神经生物学机制依然知之甚少。 陶哲轩PPT全文：https://teorth.github.io/tao-web/slides/math-2-0-caltech-2026.pdf

曝光 59651 · 评论 48 · 点赞 307 · 书签 145

如果 AI 真的找到了治愈癌症的方法，但全世界没有一个人能解释它为什么有效，我们还要不要用？ 陶哲轩昨天在加州理工的 Math 2.0 演讲里，提出了一个很有意思的思想实验。 假设某个超级 AI 接到任务，要找到一种能通过三期临床试验的癌症疗法。经过大量计算，它设计出一种人类从未见过的化学药物组合。数学预测经过 Lean 形式化验证，最终药物也真的通过了三期临床。 但问题在于，没有任何人知道 AI 究竟是怎么找到它的。 陶哲轩问，在把这种药物注射进身体之前，你会不会希望至少有一个人类专家理解它的治疗机制？ 有人对此提出反驳，如果药物真的有效，绝大多数癌症四期患者根本不会在乎有没有人理解它的原理。 我觉得这个反驳挺有力量的。 人类医学史上，本来就存在大量先发现疗效、后来才逐渐理解机制的药物。对于一个生命已经进入倒计时的人来说，能不能活下来显然比一套漂亮的理论解释重要得多。 但陶哲轩真正提出的问题，我觉得也不能这么轻易跳过。 Lean 可以验证数学推导，却无法保证数学模型完整描述了现实。三期临床可以提供很强的疗效证据，也无法排除所有长期风险。 我们过去一直默认，人类有能力理解、审查和验证自己创造的知识。但未来 AI 很可能会持续产出超出人类理解能力的成果，而且这些成果确实有效。 到那个时候，如果坚持必须先理解才能使用，我们可能会放弃真正有价值的发现。如果只看结果，又该如何防止 AI 利用验证体系本身的漏洞？ 我个人倾向于接受前一种风险更小的路径，允许人类使用尚未理解的成果，同时建立足够独立、严格的实证验证体系。 毕竟，理解一种东西为什么有效，和确认它真的有效，本来就是两种不同的能力。

曝光 22257 · 评论 53 · 点赞 57 · 书签 38