Anthropic 前沿红队与 Theorem Labs 联合发布报告：利用 Claude 在 RISC-V 汇编层面对开源代码进行形式化验证，数周内写下约 1.8 亿行证明，成功验证 123 个开源代码库中的 239 个测试入口——其中多个 Bug 是人工上万次测试都没能发现的。
一、什么是形式化验证
不同于"跑测试用例"，形式化验证是用数学方法证明代码在所有可能输入下都满足特定性质。它此前门槛极高：写证明需要专业工程师花费数周甚至数月。AI 把这个成本压低了几个数量级。
二、为什么重要
- 安全关键场景（密码学、内核、固件）从此可以用 AI 大规模做穷举级验证；
- "测试驱动"正在被"证明驱动"补充，AI 不只是写代码，还在给代码做数学担保；
- 对依赖开源依赖链的团队，供应链漏洞的排查效率将数量级提升。
三、对普通开发者的启示
日常业务不必上形式化验证，但两个习惯值得借鉴：一是把 AI 当"审查者"而不只是"生成者"，让它在合并前主动找漏洞；二是给 AI 编程工具配一个稳定、低延迟的 API 通道，长上下文审查对稳定性要求很高，可参考Claude Code 中转站使用指南与AI 编程成本优化实战。
当模型报错或不稳定时，先排查通道再怀疑模型，常见错误的处理思路见API 常见报错排查。