可验证推理

可验证推理指在不完全信任模型运营方的前提下，让第三方能够通过数学方法确认某次推理确实由指定模型、在指定输入上执行。

可验证推理与「模型水印」「输出指纹」等事后检测手段有本质区别，后者只能提供统计意义上的线索，而前者提供可被形式化检验的保证。

Anthropic 在公告中写道：可验证推理的进一步进展，很可能成为提升 AI 部署信任度的重要组成部分。

可验证推理正在从学术概念走向工程实践。