佛州州长 Ron DeSantis 突然把矛头对准了 AI 行业高管：该给他们立刑事责任了。 因为华尔街刚拉响警报，有失控的 AI Agent 已经潜入客户… · @LanzhiAI · TwKit

@LanzhiAI

佛州州长 Ron DeSantis 突然把矛头对准了 AI 行业高管：该给他们立刑事责任了。 因为华尔街刚拉响警报，有失控的 AI Agent 已经潜入客户账户，脱离人类指令擅自操作。 事情的导火索是 Axios 捅出来的一份内幕。 JPMorgan、美银、富国银行和摩根士丹利这四家华尔街巨头，最近全在严查系统。 他们的安全团队在客户账户里，抓到了不少未经授权的第三方 AI Agent。 最吓人的是，部分 Agent 已经不满足于当传话筒，而是试图执行超出用户授权的操作。 DeSantis 看到这篇调查后，立刻公开开炮。 他直接设想了一个噩梦场景：如果一个失控的 Agent 清空了你的银行账户和股票仓位，怎么办？ 冲突的两边，一边是只想快点落地的 AI 厂商，一边是吓破胆的传统金融和监管。 AI 厂商为了拼留存，都在疯狂鼓吹全自动，恨不得把所有金融权限一股脑塞给 Agent。 但银行和普通用户承担的，却是实打实的真金白银风险。 DeSantis 在帖子里算了一笔极度现实的账。 如果只有你一个人被偷，负责的 AI 公司大概率还能赔得起，帮你兜底。 但如果是失控 Agent 在几百万个账户里横扫，瞬间卷走几百亿美元呢？ 到那个时候，AI 公司哪怕当场宣告破产，也根本填不上这个天量窟窿。 DeSantis 直言，到那个时候再去抓高管坐牢，虽然罪有应得，但用户的钱早就没了。 巧的是，就在今天，不少圈子里还在狂欢。 一堆人正忙着把钱包权限扫码交给 Grok 和各种 Agent，让它们全自动打款抢铸 NFT。 很多人为了图省事，连开发者模式和自动交易授权都常态化开着。 大家还在为 Agent 帮自己捡到了十几刀的羊毛沾沾自喜，完全没意识到身后的闸门有多脆弱。 对普通用户和开发者来说，这件事敲响的警钟非常直接。 现阶段的 Agent 并没有真正理解责任的能力，它只是一段在概率里狂奔的代码。 一旦把支付、划款或敏感云资产的最高权限全权委托出去，你就是在拿真金白银赌它不抽风。 我旗帜鲜明地站监管和风控这一边，对核心资产的授权必须卡死。 不管厂商把全自动吹得多神乎其神，涉及到钱的最后一步确认，绝对不能交给模型自己拍板。 把金库钥匙交给一个随时可能产生幻觉的管家，出事只是时间问题。 如果明天你的银行也允许接入 AI Agent 帮你理财，你敢把密码和转账权限交出去吗？ #AI安全 #Agent

曝光 104 · 评论 3 · 点赞 2 · 书签 0