使用 SageMaker Clarify 可解释性与 SageMaker Autopilot - Amazon SageMaker
Amazon Web Services 文档中描述的 Amazon Web Services 服务或功能可能因区域而异。要查看适用于中国区域的差异,请参阅 中国的 Amazon Web Services 服务入门 (PDF)

使用 SageMaker Clarify 可解释性与 SageMaker Autopilot

Autopilot 使用 Amazon SageMaker Clarify 提供的工具来帮助深入了解机器学习 (ML) 模型如何进行预测。这些工具可以帮助机器学习工程师、产品经理和其他内部利益相关者了解模型特征。消费者和监管机构都依赖机器学习的透明度来信任和解释根据模型预测做出的决策。

Autopilot 解释功能使用与模型无关的特征归因方法。这种方法确定各项特征或输入对模型输出的贡献,从而深入了解不同特征的相关性。您可以利用它来了解模型在训练后做出预测的原因,或在推理过程中按实例提供解释。该实现包括基于合作博弈论中 Shapley 值概念的 SHAP (Shapley Additive exPlanations) 的可扩展实施,该实施为每项特征分配一个特定预测的重要性值。

您可以将这些解释用于审计目的和满足监管要求,在模型中建立信任,支持人工决策,或用于调试和提高模型性能。

有关 Shapely 值和基准的更多信息,请参阅 SHAP 可解释性基准

有关 Amazon SageMaker Clarify 文档的指南,请参阅 SageMaker Clarify 文档指南