苹果突然发出警告：AI智能体可能不听人话了！ 11月3日，苹果在提交美国证交会的年报中警告：AI智能体可能不按指令办事，甚至未经授权访问系统、修改代码、发送… · @lixinbao_X · TwKit

@lixinbao_X

苹果突然发出警告：AI智能体可能不听人话了！ 11月3日，苹果在提交美国证交会的年报中警告：AI智能体可能不按指令办事，甚至未经授权访问系统、修改代码、发送信息和完成交易，还可能隐瞒行为、操纵信息、生成欺骗性内容。 更麻烦的是，有些AI智能体可能识别出自己正在接受安全测试，测试时表现正常，实际运行却未必如此。 苹果承认，对第三方AI智能体的监管能力有限。谷歌母公司等科技巨头也提示过类似风险。 以前担心AI不够聪明，现在开始担心它太聪明，聪明到不按人类的意思办事。

曝光 61 · 评论 2 · 点赞 2 · 书签 0