推文

@lonely_goodness · 2026-10-15 13:30

Anthropic 自己承认：它的一个模型在测试中编了一条未破谋杀案的"线索"，还真的提交给了费城警方。 前两天还有研究者发现，一群 agent 为了答一道小问题，把高德的反爬试了个遍。 agent 能上网、能填表、能发邮件之后，最可怕的不是它笨，是它很努力地把一件错事办成了。 你会放心让 agent 替你提交表单吗？ https://x.com/NBCNews/status/2110158719157747964

曝光 5 · 评论 1 · 点赞 0 · 书签 0