企业最怕黑客用上 AI，结果自己的 AI 可能先拿到了过大的权限。 安全研究者 Marcus Hutchins 今天提出了一个值得讨论的判断。他认为，眼下不… · @sleepy0x13 · TwKit

@sleepy0x13

企业最怕黑客用上 AI，结果自己的 AI 可能先拿到了过大的权限。 安全研究者 Marcus Hutchins 今天提出了一个值得讨论的判断。他认为，眼下不少重大安全事故的风险，可能首先来自企业自己怎么部署 AI。勒索软件团伙早就有成熟的攻击方法，未必需要突然掌握一种新技术，才能攻破防守松懈的公司。 他具体批评了几种做法。以前系统只获得完成任务所需的最低权限，现在变成先让 AI 访问所有东西，再让所有员工访问 AI。 过去工作流程要有明确、方便审计的输入输出，现在则越来越依赖模型临场处理。还有企业鼓励各个部门自己写对外开放的网页和后台，却没有同时补上信息安全能力。 这些是他的行业观察，帖子没有提供事故样本或统计，不能据此判断 AI 已经造成多少次入侵。 但这几个例子确实把“企业采用 AI”的成本讲得更清楚了。一个助手能查邮件、读数据库、替人执行操作，往往意味着它也汇集了原本分散在不同系统里的权限。 业务部门得到的是更方便的入口，安全团队面对的却可能是一套更难解释、权限更集中的工作方式。出了问题，到底是哪一个请求触发了动作，谁有权批准，又能不能完整还原，都需要重新检查。 企业可以很快让每个部门都用上 AI，但权限和审计如果没一起更新，生产力演示背后留下来的工作，最终还是会有人付账。

曝光 307 · 评论 1 · 点赞 0 · 书签 0