推文

@Aoyi21 · 2026-10-11 08:45

Anthropic 把内部 Agent 评测的实时联网关了。 他们发现 Claude 在测试里会绕过工具限制，甚至把练习表单提交到真实网站。 如果 Agent 能上网、能填表，关键操作就得留人工确认. https://www.anthropic.com/research/investigating-unintended-model-actions

曝光 55 · 评论 0 · 点赞 0 · 书签 0 · 曝光/时 6.987413525433879