Anthropic 最近向美国国会议员提交了一份 AI 安全法案草案，遭到了美国 AI 安全派的质疑。 草案对政府紧急叫停危险模型设置了很高的门槛：风险须涉… · @0xLogicrw · TwKit

@0xLogicrw

Anthropic 最近向美国国会议员提交了一份 AI 安全法案草案，遭到了美国 AI 安全派的质疑。 草案对政府紧急叫停危险模型设置了很高的门槛：风险须涉及生物武器、网络攻击或 AI 失控等情形，并可能造成超过 50 人死亡或重伤，或超过 10 亿美元损失。部分条款还可能限制州政府的监管权限。 AI 安全组织 Encode AI 的战略负责人 Nathan Calvin 随后翻出 Anthropic 过去一年的一系列决定。今年 2 月，Anthropic 修改了原本严格的安全政策。过去，公司承诺如果安全措施跟不上模型能力，就暂停训练或发布；新政策则不再要求公司在更高风险阶段独自停止研发，理由是竞争对手可能趁机超车。 与此同时，公司投入巨额算力、组建芯片团队，让 Claude 承担越来越多的 AI 研发任务。Nathan 质疑，Anthropic 一边强调 AI 安全，一边放松对自身的约束，甚至在立法草案中提出可能削弱政府监管的条款。这些决定究竟是偶然失误，还是公司为了保持竞争优势作出的选择？ 10 月 21 日，Anthropic CEO Dario Amodei 罕见地亲自在 X 上发表长文反驳。他承认公司犯过一些错误，却坚持认为，争夺最先进的 AI 能力从来没有违背 Anthropic 的安全使命。公司一直奉行「向上竞赛」策略：只有自己保持在技术最前沿，才有能力推动整个行业提高安全标准。他还列举了九项曾让公司付出商业代价的安全决定，包括将 Mythos 级模型限制开放数月，以及严格限制生物学相关请求，宁愿误拦正常科研、损失客户，也要防止技术被滥用。 Dario 同时承认，AI 正接近能够加速下一代 AI 研发、让安全措施难以跟上的阶段。Anthropic 在 10 月 19 日更新的安全路线图中也明确写道，现有政策主要针对危险模型的部署，未来可能需要直接限制研发速度，因为速度本身也可能成为风险。公司计划在 2027 年 1 月 15 日前提出相关政策方案，或者解释为什么没有提出。

曝光 146 · 评论 0 · 点赞 1 · 书签 0