AI越跑越快 谁握急停开关 【“你仍握着控制权”：AI紧急开关上线，先看它能切断哪里】 11月3日，巴塞罗那的Fal.Con欧洲大会，CrowdStrike… · @swordBluesy · TwKit

@swordBluesy

AI越跑越快 谁握急停开关 【“你仍握着控制权”：AI紧急开关上线，先看它能切断哪里】 11月3日，巴塞罗那的Fal.Con欧洲大会，CrowdStrike把“AI紧急开关”推上发布台。 公司创始人兼CEO乔治·库尔茨在公告里说：“部署带有紧急开关的智能体，你就仍握着控制权。” 场景很容易想象：智能体拿着企业权限，连续调用工具，某一步突然偏离任务。 管理员需要按下停止，调查才来得及跟上。 据Security Boulevard当天报道，新功能先通过连接的AI网关，阻断智能体访问模型。 CrowdStrike技术博客也把直接终止终端进程、阻止重启等更广泛的控制列为后续扩展。 这意味着，读到“开关已上线”，还得接着看它管到了哪一层。 模型访问被切断，与企业里每个相关进程都停下来，中间还有产品边界。 据同一报道，企业还得先看清哪些智能体在运行，安全团队才知道该停谁。 一个急停按钮背后，真正难的是把失控路径找全。 S1哥说： 我支持给智能体装急停，但采购时得让厂商现场演示能停到哪里。 “控制权在你手里”很好听，按下之后的执行结果更有说服力。 👉 企业验收急停，你先测哪项？① 网关能否及时断开 ② 相关进程能否全部收住？ （事实部分根据原帖及所列来源整理翻译；“S1哥说”为个人观点。） 配乐：Kevin MacLeod「Impact Moderato」CC BY 4.0

曝光 44 · 评论 1 · 点赞 0 · 书签 0