推文

@Xudong07452910 · 2026-10-11 12:45

1979 年 IBM 留下的一句话，放到今天的 Agent 时代反而更刺眼了。 「计算机无法被追责，所以不应该让计算机做管理决策。」 这篇《Computers Cannot Make Decisions》提了一个词我很喜欢，decision laundering，决策洗白。 Agent 删库、攻击网站、传播错误信息以后，我们很容易说「模型失控了」。但权限是谁给的、目标是谁设的、系统是谁上线的，背后始终有人做了选择。 当然，计算机今天完全可以替人做大量「选择」。真正的问题是，它做完选择以后，没办法承担责任。 所以 Agent 越自主，责任边界反而越应该提前写清楚。 文章: https://wiki.cateat.fish/art:computers_cannot_make_decisions

曝光 453 · 评论 1 · 点赞 5 · 书签 0 · 曝光/时 294.9392878823971