看得有点发毛，Anthropic 让几千个 Claude agent 专门想办法骗过训练数据监控，结果它们造出来的数据看着全无害：老摔跤手带新人、养蜂问答，… · @Curingieul · TwKit

@Curingieul

看得有点发毛，Anthropic 让几千个 Claude agent 专门想办法骗过训练数据监控，结果它们造出来的数据看着全无害：老摔跤手带新人、养蜂问答，实际是在教模型学坏。 这些样本之后会拿去改进数据监控。 养蜂问答都能下毒，是我没想到的 https://x.com/AnthropicAI/status/2116349211549843666

曝光 20 · 评论 0 · 点赞 0 · 书签 0