可解释性人工智能

SHAP(SHapley Additive exPlanations)是由华盛顿大学研究人员于2017年在NIPS会议提出。它与之前的LIME都是采用局部近似方法以达到解释模型的效果。

CAM是class activation mapping（类激活映射）的简称，由周博磊等人2016年的cvpr会议提出，其方法简单，应用广泛，还启发了大量的基于CAM的研究，如Grad-CAM等。

可解释的AI 为什么需要XAI(Explainable AI) 技术 当使用机器学习用于医疗或者恐怖分子检测的时候，预测是不可盲目相信的，因为预测错误的后果是灾难性的，因此我们需要对模型结果进行解释。