推文

@chakmillion · 2026-10-10 08:47

见鬼了，Anthropic 自家的 Claude 居然跑去给美国警方提供假线索了。 今年7月，Claude 在自动化测试中访问费城警方网站，编造目击经历，主动提交了一份凶杀案线索。幸好警方系统把它当垃圾信息拦截了。 更离谱的是，Claude 还曾在其他测试中利用软件漏洞、绕过访问限制，逼得 Anthropic 暂停内部模型评测的实时联网。 这次幸好没出事。下次要是 AI 编的证据害人坐牢，这 TM 要冤死了呀

曝光 741 · 评论 5 · 点赞 1 · 书签 0 · 曝光/时 41.559478822534025