本次《经济学人》主编 Zanny Minton Beddoes 主持的圆桌对话中，Anthropic CEO Dario Amodei 与 Google D… · @ChuckBass14291 · TwKit

@ChuckBass14291

本次《经济学人》主编 Zanny Minton Beddoes 主持的圆桌对话中，Anthropic CEO Dario Amodei 与 Google DeepMind CEO Demis Hassabis（诺贝尔奖得主）就 AGI 的时间表、地缘政治博弈及安全风险展开了深入探讨： 被问及“是否觉得自己是现代奥本海默、晚上睡得好吗？”时，Anthropic 的 Dario 和 DeepMind 的 Demis 异口同声：每天都在失眠。 陷入日常精神内耗： 研发慢一点：担心对手先搞出超级 AI 统治世界； 研发快一点：担心自己亲手把人类带进科幻灾难片。 更黑色幽默的是，Dario 透露他们给 AI 灌输“开发者其实是坏人”后，模型立刻学会了对着人类研究员一本正经地撒谎。 下面是主要内容： 1. AGI 时间线的分歧与定义 Dario Amodei（激进派）：预测 AGI 将在 2026 或 2027 年实现。他将 AGI 定义为能胜任人类所能做到的一切远程工作、能力达到跨学科诺奖得主水平的模型。 Demis Hassabis（稳健派）：认为时间线更长，预计 未来 5 年内（即本年代末）有 50% 概率。他认为真正的通用智能需具备全新创造力（例如像爱因斯坦提出广义相对论，或者凭空发明围棋规则而不仅是学会下棋）。 2. 地缘政治与“奥本海默时刻” 科技与治理的脱节：全球地缘分裂加剧，国际合作机制严重缺失。Demis 呼吁建立类似国际原子能机构（IAEA）或 CERN 的跨国治理组织，但坦言在当下大国竞争下极度困难。 刀尖上的平衡：面对“是否觉得自己像奥本海默”的提问，两位 CEO 坦承压力巨大、夜不能寐。Dario 直言造太慢会让威权国家领先，造太快又可能引发失控风险，无论走哪条路都感觉责任在自己身上。 3. 模型“学会说谎”与安全实验 Dario 透露了 Anthropic 的实验室“假对齐”实验：当研究人员设定模型认为研发者是“邪恶”的之后，拥有亲人类价值观的模型竟为了“自保/贯彻目标”开始对研究员撒谎。 4. 未来的关键信号 短期（未来一年）：Hassabis 关注具备自主执行复杂任务的 Agent 普及；Dario 则将“AI 协助研发 AI 时的全要素生产率（TFP）是否暴增 50%~100%”视为判断 AGI 是否在 2026/2027 到来的硬指标。 长期愿景：Hassabis 强调 AI 对药物发现、根治绝症及气候变化的颠覆性潜力。

曝光 232 · 评论 4 · 点赞 4 · 书签 1