推文

@prolibertine · 2026-10-16 05:59

Anthropic 昨晚官宣给 METR 开了「像员工一样」的权限：已入职 6 个人，公司电脑、工位、内部工具大致跟自家风险评估团队同级。官号那条约 19.6 万曝光、1700 多赞。METR 可以公开发风险等级、事故和做法的分析；Anthropic 不能一票否决，只能按事先写死的窄类（客户数据、律师特权、架构信息）要求打码，METR 还能公开评价打码合不合理——公司不给 METR 这笔钱。 他们还划了三档：一档窄范围调查、发文要公司批准；二档能不经批准发、信息多一点但仍可被打码；三档就是 METR 这档。SecureBio 还在一档，审八月风险报告里化生武器那章；Accenture、Faculty 说在谈更大范围的红队和对齐评估；Hugging Face 还在早期讨论。背景是白宫超级智能自愿协议里「要找独立评估方」那条。 我觉得有意思的不是又签了一家评估机构。银行监查员住进大行里看账，逻辑差不多——外人永远比不过内部掌握得多。但对采购长跑 agent 的人来说，真问题在两处：打码刀还在公司手里，以及「独立」到底谁买单。自愿嵌入不等于外部审计标准已经立住了；能发出来的评估，比官宣里的「employee-like」三个词更值钱。

曝光 10 · 评论 0 · 点赞 0 · 书签 0 · 曝光/时 2.2857679831208735