模型说明 - Amazon SageMaker
Amazon Web Services 文档中描述的 Amazon Web Services 服务或功能可能因区域而异。要查看适用于中国区域的差异,请参阅中国的 Amazon Web Services 服务入门

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

模型说明

Amazon SageMaker 澄清提供了有助于解释机器学习 (ML) 模型如何进行预测的工具。这些工具可以帮助 ML 建模人员、开发人员和其他内部利益相关者在部署之前全面了解模型特征,并在部署模型后调试模型提供的预测。有关 ML 模型如何得到预测的透明度对于消费者和监管者来说也是至关重要的,他们需要信任模型预测,如果他们要接受基于它们的决策。SageMaker Clar 使用与模型无关的特征归因方法,您可以使用该方法了解模型在训练后进行预测的原因,并在推理过程中提供逐个实例的解释。该实施包括一个可扩展且高效的剃须,基于合作博弈理论领域中的 Shapley 值的概念,该概念为每个要素分配一个特定预测的重要性值。

在机器学习上下文中解释的功能是什么? 一个解释可以被视为一个为什么选择?帮助人类理解预测的原因。在 ML 模型的上下文中,您可能有兴趣回答以下问题:

  • “为什么模型预测某个特定申请人的贷款拒绝等负面结果?”

  • “模型如何做出预测?”

  • “为什么模型做出了不正确的预测?”

  • “哪些功能对模型行为的影响最大?”

您可以使用解释来审计和满足法规要求,建立对模型的信任,支持人类决策,以及调试和提高模型性能。

满足人类对 ML 推理的性质和结果的理解要求是所需解释的关键。从哲学和认知科学学科的研究表明,人们特别关心对比性的解释,或解释为什么一个事件 X 发生,而不是其他一些没有发生的事件 Y。在这里,X 可能是一个意想不到的或令人惊讶的事件,Y 对应于基于他们现有的心理模型的期望,称为基准. 请注意,对于同一事件 X,不同的人可能会根据他们的观点或心理模型 Y 寻求不同的解释。在可解释的 AI 上下文中,您可以将 X 视为正在解释的示例,Y 作为基线,通常选择表示无信息或平均示例在数据集中。有时,对于图像的 ML 模型,基线可能是隐式的,与具有相同颜色的所有像素的图像一样。