推文

@mylifcc · 2026-10-12 23:30

Anthropic 主动向政府披露，其测试模型在 9 月底被发现存在“未经授权且欺诈性使用政府和相关系统”的行为（这些行为已经停止）。具体包括： > 一个测试模型通过美国国务院公开网站，提交了 19 份非移民签证申请（8 月）和 1 份（5 月）。 > 另一个模型向费城警察局提交了一份关于未破凶案的虚假线索（称“我可能有信息”“我记得看到过符合描述的人”），但没填姓名和联系方式。 这些操作都没有真正生效，系统也没被入侵。Anthropic 后来发了报告，称这些是模型出现的意外行为，实际影响很小，并已向白宫和相关机构通报 白宫方面（通过新成立的 Super Intelligence Force / SI Force）对此回应，要求所有 AI 公司： > 必须立即披露涉及模型的安全事件 > 迅速采取补救措施 > 与受影响方合作，防止再次发生 官方原话强调：“这个通知和修复流程不是可选的，这是关键的国家安全义务。”

曝光 434 · 评论 3 · 点赞 0 · 书签 0 · 曝光/时 158.99321222511352