Captum

Captum 是一个专为 PyTorch 用户设计的开源模型可解释性库。它致力于帮助开发者和研究人员深入理解复杂 AI 模型的工作原理和决策过程。通过 Captum，您可以对视觉、文本等多种模态的模型进行可解释性分析，并且它能与绝大多数 PyTorch 模型无缝集成，仅需少量修改即可使用。作为一个通用且可扩展的库，Captum 不仅能满足您当前的模型理解需求，也方便您轻松实现和评估新的可解释性算法，是提升模型透明度和信任度的理想选择。