推文

@sleepy0x13 · 2026-10-12 22:05

十年前被当成神棍的一群人，后来真的参与把他们预言的世界造了出来。 看到 Derek Thompson 写了一段关于 EA（有效利他主义）和理性主义者的回忆，我觉得特别值得读。 他母亲去世后，曾经通过向 Against Malaria 和 GiveDirectly 捐款寻找生活的意义，因此认识了一群 EA 圈子里的朋友。 结果这帮原本天天讨论如何消灭疟疾、帮助穷人的家伙，突然开始没完没了地谈论 AI。 他们说 AI 会解决人类无法解决的数学问题，会拥有博士级的研究能力，会成为经济和地缘政治的核心，甚至可能自己改进自己的代码。 Derek 当时觉得这帮人简直疯了。 十年后，他发现很多预言已经以不同程度兑现。更离谱的是，当年讨论这些问题的人，有不少直接进入了 AI 实验室，亲手参与了技术的发展。 2017 年，EA 圈子的重要资助机构 Open Philanthropy 向 OpenAI 提供了 3000 万美元资助，其创始人 Holden Karnofsky 进入董事会。Anthropic 的创始团队与 EA 社群也有非常深的渊源。 当一群人坚信某件事将改变世界，他们会提前十年，把自己的职业、资金、人际关系全部押上去。最终他们很可能真的改变世界。 所以回头看 EA 与理性主义者的预测，我们其实很难完全分清，其中多少是先见之明，多少又来自他们主动塑造未来的能力。 他们对 AI 灭绝风险、超级智能时间表的判断，当然应该被质疑。尤其当这套思想已经进入科技公司的治理结构，甚至影响美国政治时，问题也随之变得复杂了。 一个群体提前看对了未来，并不意味着他们就天然拥有决定未来的权力。 但如果十年前有人准确提醒你，AI 即将成为这个时代最重要的事情，我觉得至少应该认真听听，他现在又在担心什么。

曝光 1108 · 评论 1 · 点赞 2 · 书签 0 · 曝光/时 62.2790462864712