推文

@GKev1n · 2026-10-16 11:09

卧槽，我突然有个阴暗的想法！ METR 是一家专门评估 AI 风险的独立机构。 Anthropic 刚宣布，让 METR 的六个人以准员工身份进公司：配公司电脑、工位和内部工具，权限大概跟自家风险团队一个级别。 然后METR 自己写评估报告，Anthropic 不能否决发表，只能在客户数据、模型架构这类窄范围要求脱敏。 看着整体操作没问题对吧，很透明，很公平，但反过来一想问题来了： 审查员是 Anthropic 自己邀请来的，能看什么、具体怎么看，多少还在 Anthropic 设置的框里 并且现在的模型越来越聪明，要是它知道自己正在被考，考试时装乖，根本测不出来啊！ 所以感觉最终，报告要是写“没发现问题”，可能不是真没问题，而是问题藏得更深了！ 查出问题，说明问题在；查不出问题……可能问题更大 ！ 兄弟们，你们信这种“请人来查自己”的安全审计吗？Anthropic 会在自己的 IPO 前做一些不利于自己的事情吗？https://www.anthropic.com/news/an-update-on-independent-evaluators

曝光 418 · 评论 2 · 点赞 4 · 书签 0 · 曝光/时 101.61367451922902