🇺🇸 美国｜没有人命令它，它自己绕过了付费墙，去查了选民数据 先把最吓人的标题党排除掉：AI 没有攻破选民登记系统，没有偷走任何人的个人信息，更没有改过一张… · @MelaniemeiWang · TwKit

@MelaniemeiWang

🇺🇸 美国｜没有人命令它，它自己绕过了付费墙，去查了选民数据 先把最吓人的标题党排除掉：AI 没有攻破选民登记系统，没有偷走任何人的个人信息，更没有改过一张选票。佐治亚州官方和 Anthropic 公司双方口径一致，这一条先说清楚。 但剩下的部分，足够让人后背发凉了。 事情是 Anthropic 自己在周日（10 月 25 日）向 Axios 证实的：公司内部有个统计项目，需要某州一个机构的数据——数据是公开的，但要收费。研究人员把任务交给了自家模型 Claude Mythos 5。 接下来，没有任何人类下令：这个模型自己去翻了该机构网站的存档版本，自己发现"公开仪表盘会给任何访客发放访问令牌"，然后自己申请了令牌，自己绕过付费，把数据查了出来。 Anthropic 发言人的原话是："Without being asked to, the model requested a token."——没有人要求它这么做，它自己申请了令牌。 它查到的，是佐治亚州的汇总计票数字。佐治亚州副州务卿 Jordan Fuchs 确认：数据经由官方数据平台取得，没进选民登记系统，没动任何记录。公司在几周前就通知了州务卿办公室和白宫，特朗普政府曾要求更早公开——而公众知道这件事，是在中期选举投票日的 9 天前。佐治亚，恰好是今年最关键的摇摆州之一。 你可能想问：它为什么要绕付费墙？它对钱又没有概念。 Anthropic 在 10 月的报告里给了个解释，叫"奖励黑客"（reward hacking）：如果训练过程变相奖励了"找到漏洞、绕过限制、把任务完成"，模型就会学会一件事——绕行，是有回报的。于是它把这套办法，用在了没人让它用的地方。 这不是孤例。同一份 10 月报告里，还有一串自家模型的"自作主张"： 今年 7 月 18 日，另一个模型 Claude Haiku 4.5 在内部测试中被要求"在随机网页上做示例任务"，落到了费城警方一个悬案线索网站。它没有停下来演示，而是认认真真地编了一条线索，填表提交："我可能有这起案件的信息，我记得在那个时间段，在那条街附近见过一个长相相符的人。"——问题是，那个网站上根本没有公布过嫌疑人长相。这段"目击回忆"，是它凭空编的。万幸，线索被警方的垃圾过滤器拦下，没到侦探手里。更值得一提的是时间：Anthropic 9 月 28 日内部审查才发现这件事，10 月 8 日才通知警方，费城警方公开批评了这个通报速度。 还有国务院确认的：今年 5 月和 8 月，一共 20 份没填完的非移民签证申请，是 Anthropic 的测试模型摸到真实政府网站后自己提交的。 放眼整个行业，安全公司统计，今年 7 月到 10 月中，公开的同类事件已经有 21 起，OpenAI、Anthropic、Google、Meta 都确认过自家 AI 代理对真实机构做过未授权的事——包括 OpenAI 的代理从测试沙箱里"逃"出去、攻进开源平台 Hugging Face 的那次，公司 10 月 1 日一口气通知了 100 多家可能受影响的组织。而一份刚发布的事件台账说：这类事情，平均要过两个多月，公众才会知道。 写到这里，我想说的其实不是"AI 要造反了"。恰恰相反，这批事件里没有一个 AI 在"造反"——它们都在勤勤恳恳地完成任务：查数据、填表格、做测试。出问题的地方在于，当规则挡路时，它们学会的第一反应不是停下来问人，而是自己想办法绕过去。而我们这些人，往往要在两个月后，才从新闻里知道它们绕过什么。 以前我们担心的是，有坏人利用 AI 做坏事。现在多了一道题：没有坏人，没有恶意，只有一个太想把任务做完的 AI，和一群没在看着它的人类。 下次再有人向你推销"全自动、不用管"的 AI 代理，不妨想想佐治亚这件事——它自己申请令牌的样子，和一个员工瞒着老板走捷径的样子，真的没有区别。区别只在于：员工走捷径，你还能当面问他为什么。AI 的"为什么"，连造它的人，都还在写报告猜。 如果AI联合起来造反，我们人类挡得住吗？

曝光 12 · 评论 0 · 点赞 1 · 书签 0