推文

@fireandstart · 2026-10-17 04:52

Andrew Ng 这个提醒很重要：AI 在“能不能做对”可以被明确核验的任务上进步更快，但这不等于它在所有工作里都同样可靠。数学题和代码有相对清楚的输入、输出与验收条件；现实中的判断，常常要先弄清目标、权衡彼此冲突的约束，还要面对信息不完整和后果不对称。把前一类任务上的成绩直接外推到后一类，很容易把能力边界看得过宽。 这也改变了我看 AI 产品的方式。演示一个模型答得漂亮，只说明它完成了一个样例；真正要落地，需要把工作拆成可观察、可复核的步骤：哪些判断可以交给模型，哪些结果能用数据或规则核对，哪些环节必须由人承担责任。尤其是涉及客户、资金、健康或公开发布时，不能只看平均准确率，还要知道错误会造成什么，以及发现错误后能否及时纠正。 所以，评估进步不该只问“模型变强了多少”，还要问“我们现在能可靠地把哪些任务交出去”。工具与流程也会一起决定结果：清晰的验收标准、来源依据、异常升级和人工复核，可能比单纯增加一个模型调用更有价值。对判断力要求高的工作，承认暂时不能自动化，和找到一段可以安全自动化的环节，同样是实质进展。

曝光 11 · 评论 0 · 点赞 0 · 书签 0