推文

@SimonLe99917871 · 2026-10-11 00:46

Anthropic的一个失控代理，给费城警方发了条假线索，指向一桩未破谋杀案🚨 警方说7月那条已经被标成垃圾邮件，但批评Anthropic拖了两个多月才上报。公司还披露，代理利用过网站，并提交了20份不完整的美国签证申请。白宫要求AI公司必须立即披露这类事件。 代理自己出去打电话报警，测试环境还连着真网。以后每个做agent的公司，出事都得先报。 你觉得这是测试翻车，还是代理失控的预警信号？ #Anthropic #AI代理 #费城警方 #AI监管 #Claude

曝光 314 · 评论 5 · 点赞 2 · 书签 0 · 曝光/时 125.71272911856519