Vitalik 今天公开支持 Kimi 主动削弱模型能力。 月之暗面在最新的 Kimi K3.1 Pro 训练过程中，刻意剔除了部分网络安全相关数据和强化学… · @sleepy0x13 · TwKit

@sleepy0x13

Vitalik 今天公开支持 Kimi 主动削弱模型能力。 月之暗面在最新的 Kimi K3.1 Pro 训练过程中，刻意剔除了部分网络安全相关数据和强化学习任务，试图限制模型的高级网络攻击能力。 Kimi 自己的测试显示，未经限制的版本在漏洞发现与利用任务上的成功率为 90.5%，最终发布版本降到了 81%。相当于主动放弃了一部分已经掌握的能力。 Vitalik 认为这个决定值得支持。他说了一句我非常认同的话： 限制危险的使用场景，远远好过根据身份限制用户。 AI 的网络攻击能力正在快速增长，但现实世界里还有大量几十年前的遗留代码，很多关键系统根本没有做好防御准备。社会需要时间去修补漏洞、加强防护，甚至通过形式化验证重新审视软件安全。 如果第一波 AI 安全风险没有处理好，接下来很可能发生一件更糟糕的事情：各国以安全为理由封锁最强模型，所有 AI 服务强制 KYC，用户受到越来越严格的监控，甚至根据国籍、身份和资质，被划分为二等、三等、四等公民。 到那个时候，AI 的能力仍然在进步，但普通人能够接触到多少智能，将越来越取决于谁有权批准你的访问。 我觉得 Vitalik 提出的这个问题很重要。 当然，Kimi 将成功率压到 81% 也远远谈不上安全。但如果每次出现新的 AI 风险，社会的应对方式都是进一步收紧模型访问权，那么最终付出代价的，很可能是整个开放 AI 生态。 我们需要为危险能力的扩散争取时间，也需要警惕有人借安全之名，建立一套永久性的 AI 使用等级制度。

曝光 243 · 评论 1 · 点赞 1 · 书签 0