形式化验证离普通开发者没那么近，但这次 Anthropic 的工作流值得提前看懂。 他们没有让模型凭空决定“软件应该做什么”，而是从项目已有的 fuzz t… · @sekurimrs · TwKit

@sekurimrs

形式化验证离普通开发者没那么近，但这次 Anthropic 的工作流值得提前看懂。 他们没有让模型凭空决定“软件应该做什么”，而是从项目已有的 fuzz test 入手。开发者原本就用这些入口不断喂随机输入，寻找会导致崩溃的情况；研究团队把“这个测试对所有输入都不崩”转成形式化规格，再让 Claude 写证明，最后交给 Rocq 检查。 如果以后这类工具进入日常开发，比较合理的顺序可能是：先把测试入口和安全性质写清楚，再让 AI 生成证明；证明失败时，把失败路径当作找 bug 的线索；修复后重新证明，而不是把模型生成的一句“看起来安全”当结论。 边界也很重要。证明只能覆盖写进规格里的性质，运行架构、操作系统模型、多线程和动态依赖都可能改变范围。形式化证明很强，但它证明的是一句精确的话，不是笼统的“这个软件绝对安全”。

曝光 17 · 评论 0 · 点赞 0 · 书签 0