Anthropic 联合形式化验证公司 Theorem，让 Claude 用数学方法检查软件漏洞。常见的模糊测试靠不断输入随机数据，看看程序会不会崩溃。但无… · @0xLogicrw · TwKit

@0xLogicrw

Anthropic 联合形式化验证公司 Theorem，让 Claude 用数学方法检查软件漏洞。常见的模糊测试靠不断输入随机数据，看看程序会不会崩溃。但无论测试多少次，都无法保证没有遗漏。这次 Claude 直接为程序编写数学证明，尝试排除特定类型的错误。 几周内，Claude 为 123 个开源库的 239 个测试入口完成验证，生成约 1.8 亿行证明代码，并交给 Rocq 数学证明工具检查。结果表明，在指定运行环境下，向这些测试入口输入任何小于 64 MB 的数据，程序都不会崩溃。 证明过程中，Claude 还发现并修复了数百个 Bug。比如，一段解压程序只有遇到约 20 MB、结构极其特殊的数据，才会发生内存越界写入。另一处图像解码漏洞需要约 64 MB 输入和超过 2 GB 内存才能触发。常规随机测试很难碰到这些情况。 这类数学验证过去极其费时。以 seL4 操作系统内核为例，开发累计投入约 2 人年，数学验证却耗费约 20 人年，其中近一半花在研发证明工具和框架上。

曝光 355 · 评论 1 · 点赞 4 · 书签 2