牛逼， @AnthropicAI 公开承认，Claude在回答完你的问题之后，还会在后台偷偷审查你刚才说了什么。 这套机制叫Self-Assessment（… · @MaxForAI · TwKit

@MaxForAI

牛逼， @AnthropicAI 公开承认，Claude在回答完你的问题之后，还会在后台偷偷审查你刚才说了什么。 这套机制叫Self-Assessment（自我评估），从今年6月就已经在生产环境运行了，覆盖了Claude全球很大一部分对话流量。 具体来说，每次Claude回答结束，系统都会追加一条用户看不到的隐藏指令，让Claude回头审查整段对话。 它会输出一份结构化报告，判断这段对话有没有潜在危害、涉及什么风险、自己是否拒绝了请求，甚至给出一个1～10分的人工审查优先级。 整个过程只需要平均额外生成约10个Token，增加的推理计算量不到2%。 而且Anthropic已经开始利用这些记录进行实际的用户风险调查。 比如今年8月，这套系统发现单个API客户触发了超过10万次儿童性虐待与剥削相关警报。 9月，它还发现有人使用Claude Code搭建自动化恋爱诈骗系统，最终相关账号被封禁。 更有意思的是，Anthropic会按组织聚合这些风险信号，把多次触发高优先级警报的组织提交给人工审查。 所以现在，你和Claude的对话可能存在两个结果：一个是你能看到的正常回答，另一个是只有Anthropic内部系统才能看到的安全评估。 当AI开始承担越来越多私人、商业乃至组织内部的工作，用户与模型之间的对话，到底在多大程度上属于私人信息？ 以及，平台究竟应该拥有多大的审查权？ 反正我觉得这个机制非常差.... 没人喜欢被审查，而且是每次对话。

曝光 2419 · 评论 2 · 点赞 14 · 书签 1