训练后数据和模型偏差 - Amazon SageMaker
Amazon Web Services 文档中描述的 Amazon Web Services 服务或功能可能因区域而异。要查看适用于中国区域的差异,请参阅 中国的 Amazon Web Services 服务入门 (PDF)

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

训练后数据和模型偏差

训练后偏差分析有助于揭示可能由数据中偏差或由分类和预测算法引入的偏差所引起的偏差。这些分析考虑了数据(包括标签)和模型的预测。您可以通过分析预测标签,或者针对具有不同属性的组,通过将预测值与数据中观测到的目标值进行比较,来评估性能。公平有不同的概念,每种概念都需要不同的偏差指标来衡量。

有些关于公平的法律概念可能不容易理解,因为它们难以检测到。例如,在美国,差别影响概念是指,即使所采取的方法看似公平,但某个群体(称为较不利的分面 d)仍会受到不利影响。这种偏差可能不是由机器学习模型引起,但仍可通过训练后偏差分析检测到。

Ama SageMaker zon Clarify 努力确保术语的使用一致。有关术语及其定义的列表,请参阅 Amazon SageMaker 澄清偏见和公平条款

有关训练后偏见指标的更多信息,请参阅了解 Amazon Clari SageMaker fy 如何帮助检测金融领域机器学习的偏见和公平措施。 。