使用 Amazon SageMaker Clarify 检测训练后数据和模型偏差

训练后偏差分析有助于揭示可能由数据中偏差或由分类和预测算法引入的偏差所引起的偏差。这些分析考虑了数据（包括标签）和模型的预测。您可以通过分析预测标签，或者针对具有不同属性的组，通过将预测值与数据中观测到的目标值进行比较，来评估性能。公平有不同的概念，每种概念都需要不同的偏差指标来衡量。

有些关于公平的法律概念可能不容易理解，因为它们难以检测到。例如，在美国，差别影响概念是指，即使所采取的方法看似公平，但某个群体（称为较不利的分面 d）仍会受到不利影响。这种偏差可能不是由机器学习模型引起，但仍可通过训练后偏差分析检测到。

Amazon SageMaker Clarify 努力确保术语的使用一致。有关术语及其定义的列表，请参阅 Amazon SageMaker Clarify 偏差和公平性术语。

有关训练后偏差指标的更多信息，请参阅了解 Amazon SageMaker Clarify 如何帮助检测偏差和金融领域机器学习的公平性衡量标准。