Anthropic 介绍了 Claude 的安全自评：模型回复后会对对话作初步安全判断，用来发现潜在滥用。让模型参与监测是条思路，但同一个系统既执行又自评，… · @Manbo_jim · TwKit

@Manbo_jim

Anthropic 介绍了 Claude 的安全自评：模型回复后会对对话作初步安全判断，用来发现潜在滥用。让模型参与监测是条思路，但同一个系统既执行又自评，误报、漏报和独立复核怎么做，才是实际落地的关键。

曝光 10 · 评论 1 · 点赞 0 · 书签 0