本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。
模型特征归因偏移违规
特征归因偏移作业根据当前 MonitoringExecution
的分析结果评估基准配置提供的基准约束。如果检测到违规行为,则该作业会将其列在执行输出位置的 constraint_violations.json 文件中,并将执行状态标记为 解释结果。
以下是特征归因偏移违规文件的架构。
-
label
- 标签名称、作业分析配置label_headers
或占位符(如"label0"
)。 -
metric_name
- 可解释性分析方法的名称。目前仅支持shap
。 -
constraint_check_type
- 监控的违规类型。目前仅支持feature_attribution_drift_check
。 -
description
- 解释违规行为的描述性消息。
{ "version": "1.0", "violations": [{ "label": "string", "metric_name": "string", "constraint_check_type": "string", "description": "string" }] }
对于该explanations
部分中的每个标签,监控作业在基准约束文件和作业分析结果文件 (an alysis. json) 中计算其全局SHAP值的 n DCG 分“feature”
字段。以下输出提供了一个示例,介绍了几个记录的违规行为。
{ "version": "1.0", "violations": [{ "label": "label0", "metric_name": "shap", "constraint_check_type": "feature_attribution_drift_check", "description": "Feature attribution drift 0.7639720923277322 exceeds threshold 0.9" }, { "label": "label1", "metric_name": "shap", "constraint_check_type": "feature_attribution_drift_check", "description": "Feature attribution drift 0.7323763972092327 exceeds threshold 0.9" }] }