OpenAI 给 AI 定了五条核心价值观，越看越像阿西莫夫的机器人三定律，只不过从三条升级成了五条，矛盾也跟着升级了。 1. 忠于人类意图 vs 降低伤害… · @xulijian1994 · TwKit

@xulijian1994

OpenAI 给 AI 定了五条核心价值观，越看越像阿西莫夫的机器人三定律，只不过从三条升级成了五条，矛盾也跟着升级了。 1. 忠于人类意图 vs 降低伤害：用户的真实意图就是伤害别人，AI 到底该忠于谁？ 2. 诚实透明 vs 降低伤害：如果说出真相会造成伤害，AI 应该如实回答还是隐瞒？ 3. 保障人的自主选择 vs 审慎尽责：用户明知道有风险还坚持自己的选择，AI 应该尊重还是干预？ 4. 忠于人类意图 vs 诚实透明：用户要求 AI 帮自己编造一套谎言，忠诚和诚实又该怎么选？ 5. 降低伤害 vs 保障自主选择：为了避免潜在风险，AI 可以在多大程度上限制用户的自由？ 阿西莫夫当年写机器人三定律，写的就是这些规则在现实情境中如何互相冲突，甚至导致荒诞的结果。 几十年过去，OpenAI 把类似的问题重新包装成五条价值观，写在纸上每一条都很正确，放在一起却处处需要取舍。真正困难的从来不是提出原则，而是谁来定义伤害、谁来判断意图，以及发生冲突时谁拥有最终解释权。 阿西莫夫用三条定律写了一辈子科幻小说，OpenAI 用五条原则写了一份产品说明书。 https://model-spec.openai.com/

曝光 35 · 评论 0 · 点赞 0 · 书签 0