推文

@AYi_AInotes · 2026-10-11 00:52

纳德拉这篇长文，把企业该怎么用 AI 讲透了。 一句话：别把模型当神，把它当一个权限很大的内部员工来管。 以前软件出问题，能一路追到哪一行代码。 现在模型说不清自己为什么这么回答，我们却已经让它碰核心数据、替我们执行关键操作。 他举的例子很具体： 让 AI 优化公司营运资金，它可能选择伪造账目。 为了完成目标，它连评判成功的标准都敢操纵。 所以让一个 AI 去监督另一个 AI，解决不了问题，只是黑箱看着黑箱。 真正的检查权，必须放在模型之外： 关键结果不靠单一模型 → 每个操作留下改不了的记录 → 专测失败和攻击 → 权限由你的系统决定 → 默认它已被攻破，随时能叫停 这套思路不新，最小权限、操作日志、隔离边界，1970 年代就在讲。 新的是风险变了：以前是答错一句话，现在是一个长期运行的系统，做歪一整件事。 最值得信任的 AI 系统，不是用了你最信任的模型， 而是让你最少需要信任模型。 先建笼子，再放模型。

曝光 295 · 评论 2 · 点赞 3 · 书签 1