推文

@sleepy0x13 · 2026-10-14 22:58

《Obsolete》的作者 Garrison Lovely 和 Mario Nawfal 的访谈，他提出了一个我觉得非常值得思考的可能性，AI 完全服从人类的指令，企业用它替代员工，政府用它监控社会，军队用它控制自主武器。整个过程中没有任何机器叛乱，甚至每一步都可以被解释成提高效率。 我觉得这个问题比 AI 有没有意识、会不会毁灭人类更现实，也更残酷。 回头看人类争取权利的历史，普通人之所以能和资本、权力讨价还价，很大程度上是因为他们还有被需要的价值。企业需要雇佣工人，政府需要维持就业，劳动者至少还能通过罢工让生产停下来。 但如果有一天，资本真的可以不再依赖人类劳动，普通人还能拿什么去谈判？ 这是我认为硅谷目前的 AI 安全讨论里，一个被严重低估的问题。 大家都在研究怎么让 AI 听话，怎么保证它始终服从人类的意志。可问题是，「人类的意志」究竟是谁的意志？掌握模型、算力和资本的人，凭什么天然代表其他几十亿人？ 更让我担心的是，一旦 AI 让少数人获得了足够强大的生产能力、监控能力乃至暴力工具，社会可能连重新分配权力的机会都会变少。 技术进步当然可以创造巨大的财富，但财富增长从来不会自动带来权力的平等。

曝光 573 · 评论 3 · 点赞 5 · 书签 3 · 曝光/时 263.7743688050849