硅谷现在开始请神父教 AI 做人了。 美联社刚刚报道了一件非常魔幻的事，为了教会 AI 分辨善恶，硅谷科技巨头正在集体向宗教界求助。 Anthropic 联… · @sleepy0x13 · TwKit

@sleepy0x13

硅谷现在开始请神父教 AI 做人了。 美联社刚刚报道了一件非常魔幻的事，为了教会 AI 分辨善恶，硅谷科技巨头正在集体向宗教界求助。 Anthropic 联合创始人 Chris Olah 今年甚至去了梵蒂冈，在教皇发布 AI 通谕的活动上表示，有些问题实验室回答不了，宗教传统已经思考了几千年。 Anthropic 已经与超过 15 个宗教和跨文化团体的学者、神职人员及伦理专家展开交流。讨论的问题包括「人类有没有灵魂」「三年级小学生应不应该使用聊天机器人」。 Meta、Google、Amazon 也都与梵蒂冈有过接触，微软同样在积极开展宗教对话。 过去几十年，硅谷一直试图用技术解决人类社会的一切问题。现在模型越来越聪明，工程师们却发现，自己连什么叫「善良」都很难定义。 更微妙的是，宗教之间本来就存在大量无法调和的价值观冲突。OpenAI 的 Sam Altman 曾经提出，希望 ChatGPT 能反映人类道德观的某种加权平均值。 但谁来决定权重？谁有资格决定哪些信仰应该进入 AI 的价值体系，哪些应该被排除？ 想到这里，我反而觉得有点可怕。 人类花了几千年都没能达成共识的道德问题，如今可能要由几家硅谷公司，在模型训练和产品设计的过程中替全世界做出选择。 而未来几十亿人每天接触到的「正确答案」，可能就来自这些选择。

曝光 314 · 评论 0 · 点赞 0 · 书签 0