使用 Shapley 值的特征归因

SageMaker Clarify 基于 Shapley 值概念提供特征归因。您可以使用 Shapley 值来确定每项特征对模型预测的贡献。可以为特定的预测提供这些归因，也可以在全局层面为整个模型提供这些归因。例如，如果您在大学录取场景中使用一个机器学习模型，那么解释有助于确定对模型预测最有帮助的特征是 GPA 还是 SAT 分数，然后您就可以确定在做出某个学生的录取决定时每项特征所起的作用。

SageMaker Clarify 采用了博弈论中的 Shapley 值概念，并将其应用于机器学习环境中。Shapley 值提供了一种量化每个玩家对游戏的贡献的方法，从而提供了一种根据玩家的贡献将游戏产生的总收益分配给玩家的方法。在这种机器学习环境中，SageMaker Clarify 将模型对给定实例的预测视为游戏，将模型中包含的特征视为玩家。对于第一近似值，您可能想通过量化从模型中删除 该特征或从模型中删除 所有其他特征的结果，来确定每项特征的边际贡献或效果。然而，这种方法没有考虑到模型中包含的特征往往不是相互独立的。例如，如果两项特征高度相关，删除其中任一特征可能都不会对模型预测产生重大影响。

为了处理这些潜在的依赖关系，Shapley 值要求必须考虑每种可能的特征组合（或联合）的结果，以确定每项特征的重要性。给定 d 项特征，就有 2^d 种这样的可能特征组合，每种组合对应一个潜在模型。要确定给定特征 f 的归因，请考虑在所有不包含 f 的特征组合（和关联模型）中包含 f 的边际贡献，然后取平均值。可以看出，Shapley 值是分配满足某些理想属性的每项特征的贡献或重要性的唯一方式。具体而言，每项特征的 Shapley 值之和对应于模型预测值和无特征虚拟模型预测值之差。然而，即使对于合理的 d 值（比如 50 项特征），要训练 2^d 个可能的模型，在计算上也是非常困难和不切实际的。因此，SageMaker Clarify 需要利用多种近似技术。为此，SageMaker Clarify 使用了 Shapley Additive exPlanations (SHAP)，其中包含此类近似技术，并通过额外的优化设计出了一种可扩展且高效的 Kernel SHAP 算法实施。

有关 Shapley 值的更多信息，请参阅 A Unified Approach to Interpreting Model Predictions（解释模型预测的统一方法）。