推文

@mylifcc · 2026-10-12 14:08

8 位离开 OpenAI、Anthropic、Google DeepMind 的 AI 研究员，接受了一场罕见的采访。 有人从 OpenAI 跳到 Anthropic，最后连 Anthropic 也离开了。 有人认为，2027 年可能是 AI 发展的关键转折点。 更让人不安的是，他们并非不了解 AI 的普通人，而是亲自参与开发前沿模型的研究员。 《纽约杂志》采访了他们，问了一个尖锐的问题： 如果你的雇主有可能毁灭世界，你会怎么办？ 其中一位是 27 岁的 Jacob Coxon。 他先后在 OpenAI 和 Anthropic 工作，研究如何让 AI 变得更聪明、更自主。 2026 年 9 月，他选择离开 Anthropic。 原因是，他越来越担心 AI 能力发展的速度，已经超过了安全治理能够跟上的速度。 特别是与公司内部研究负责人交流后，他对未来几年的发展更加不安。 据 Coxon 转述，Anthropic 内部部分资深研究人员预计，未来一两代 AI 模型可能出现巨大能力跃升。 今天的 AI 做科研，依然需要人类提出问题、设计实验、判断方向。 但下一阶段，AI 可能逐渐自己提出研究思路，甚至帮助开发下一代 AI。 如果这种能力形成正反馈，技术进展可能突然加速。 注意：这是研究人员的预测，并非 2027 年 AGI 必然实现的证据。 另一个很有意思的细节： Anthropic 本来就是一批重视 AI 安全的 OpenAI 前员工创立的。 为什么有人离开 OpenAI，加入 Anthropic，最后又离开？ 因为即使一家公司非常重视安全，也必须面对现实竞争。 OpenAI 在推进模型能力，Google 在推进，其他实验室也在追赶。 如果一家实验室主动放慢速度，竞争对手未必会跟着停下。 安全研究与商业竞争，就这样被绑在了一起。 前 OpenAI 研究员 Daniel Kokotajlo 提到了另一个问题：信任。 他在 2024 年离职，因为逐渐失去对公司领导层能够负责任地管理 AGI 风险的信心。 内部研究员可以提出安全建议。 管理层也可以认真听。 但最终是否改变产品发布、训练计划和商业策略，依然取决于决策层。 这也是为什么有些研究员认为，离职后公开发声，可能比留在内部更有影响力。 报道里还有一个值得关注的组织文化差异。 前员工 Jeff Wu 曾在 OpenAI 和 Anthropic 工作。 按照他的观察，OpenAI 更强调 AGI 可能创造的巨大收益，而 Anthropic 更强调 AI 的潜在风险。 但两家公司都面临竞争压力。 于是出现了一个矛盾： 一家企业可能非常担心 AI 失控，同时又认为自己必须继续开发更强的 AI。 甚至可能因为害怕竞争对手领先，而进一步加快研发。

曝光 1007 · 评论 2 · 点赞 2 · 书签 0 · 曝光/时 157.90242110069084