微软 AI 负责人：不要制造有意识的超级智能 Mustafa Suleyman 发文 主要表达了三层意思： 1.对现状的判断：他没有看到足以认定当前 AI … · @Xiaohuihui_BTC · TwKit

@Xiaohuihui_BTC

微软 AI 负责人：不要制造有意识的超级智能 Mustafa Suleyman 发文 主要表达了三层意思： 1.对现状的判断：他没有看到足以认定当前 AI 有意识的证据；如果出现新证据，他愿意改变看法。 2.对研发方向的主张：即使有意识的 AI 在技术上可行，主动制造它也是鲁莽的。 3.对未来的条件性提议：如果意识在训练中开始出现，他会呼吁暂停开发，直到能消除这些性质；相关证据应公开，由社会共同决定下一步。 我认为 Suleyman 的文章最有说服力的地方，是要求社会提前讨论研发边界；最薄弱的地方，是这条边界还不够可操作。 有三个问题没有被解决： 1.怎样判断意识“开始出现”？ 靠语言表达、行为测试，还是内部机制？什么证据足以触发暂停？ 2.怎样确认已经消除了意识？ 让模型停止表达痛苦，与消除可能存在的痛苦体验，是两件事。文章没有提供识别和去除意识的技术方案。 3.没有意识，是否就更安全？ 从逻辑上说，一个拥有错误目标和强大执行权限的系统，即便没有主观体验，也可能造成伤害。因此，意识问题不能替代对目标、权限、监督和实际行为的安全评估。

曝光 125 · 评论 1 · 点赞 1 · 书签 0