将人工循环激活条件 JSON 架构与 Amazon Rekognition 结合使用 - Amazon SageMaker
AWS 文档中描述的 AWS 服务或功能可能因区域而异。要查看适用于中国区域的差异,请参阅中国的 AWS 服务入门

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

将人工循环激活条件 JSON 架构与 Amazon Rekognition 结合使用

与 Amazon A2I 一起使用时,Amazon Rekognition DetectModerationLabels 操作支持 ConditionType 参数中的以下输入:

  • ModerationLabelConfidenceCheck – 当一个或多个指定标签的推理置信度低时,使用此条件类型创建人工循环。

  • Sampling – 使用此条件指定发送进行人工审核的所有推理的百分比。使用此条件来执行以下操作:

    • 通过对模型的所有推理随机抽样并将指定的百分比发送进行人工审核,对 ML 模型进行审计。

    • 使用 ModerationLabelConfidenceCheck 条件随机抽样满足 ModerationLabelConfidenceCheck 中指定的条件的一定百分比的推理以启动人工循环,并仅发送指定的百分比进行人工审核。

注意

如果您向 DetectModerationLabels 多次发送同一请求,则该输入的推理的 Sampling 结果不会更改。例如,如果您发出一次 DetectModerationLabels 请求,并且 Sampling 未触发 HumanLoop,则以后发送给 DetectModerationLabels 的具有相同配置的请求将不会触发人工循环。

在创建流定义时,如果您使用控制台的 Human reviewAmazon SageMaker workflows (人工审核工作流程) 部分中提供的默认工作人员任务模板,则当工作人员打开您的任务时,通过这些激活条件发送供人工审核的推理将包含在工作人员 UI 中。如果您使用自定义工作人员任务模板,则需要包含 <task.input.selectedAiServiceResponse.blocks> 自定义 HTML 元素来访问这些推理。有关使用此 HTML 元素的自定义模板示例,请参阅 Amazon Rekognition 的自定义模板示例

ModerationLabelConfidenceCheck 输入

对于 ModerationLabelConfidenceCheck ConditionType,支持以下 ConditionParameters

  • ModerationLabelName 操作检测到的 Amazon RekognitionModerationLabelDetectModerationLabels 的确切(区分大小写)名称。您可以指定包罗万象的特殊值 (*) 来表示任何审核标签。

  • ConfidenceEquals

  • ConfidenceLessThan

  • ConfidenceLessThanEquals

  • ConfidenceGreaterThan

  • ConfidenceGreaterThanEquals

当您使用 ModerationLabelConfidenceCheck ConditionType 时,Amazon A2I 为您在 ModerationLabelName 中指定的标签发送标签推理供人工审核。

采样输入

Sampling ConditionType 支持 RandomSamplingPercentage ConditionParametersRandomSamplingPercentage 参数的输入应是 0.01 到 100 之间的实数。此数字表示符合人工审核条件并将发送进行人工审核的推理百分比。如果您在不使用任何其他条件的情况下使用 Sampling 条件,则此数字表示单个 DetectModerationLabel 请求生成的所有推理中,发送供人工审核的百分比。

Examples

示例 1:将 ModerationLabelConfidenceCheck 与 And 运算符一起使用

以下 HumanLoopActivationConditions 条件示例在满足下列一个或多个条件时触发 HumanLoop:

  • Amazon Rekognition 检测置信度介于 90 到 99 之间的 Graphic Male Nudity 审核标签。

  • Amazon Rekognition 检测置信度介于 80 到 99 之间的 Graphic Female Nudity 审核标签。

请注意使用 Or 和 And 逻辑运算符对此逻辑进行建模。

虽然在 Or 运算符下的两个条件中,只需要任何一个条件的评估结果为 true,HumanLoop 即可创建人工循环,但 Amazon Augmented AI 会评估所有条件。人工审查者需要审查评估为 true 的所有条件的审核标签。

{ "Conditions": [{ "Or": [{ "And": [{ "ConditionType": "ModerationLabelConfidenceCheck", "ConditionParameters": { "ModerationLabelName": "Graphic Male Nudity", "ConfidenceLessThanEquals": 99 } }, { "ConditionType": "ModerationLabelConfidenceCheck", "ConditionParameters": { "ModerationLabelName": "Graphic Male Nudity", "ConfidenceGreaterThanEquals": 90 } } ] }, { "And": [{ "ConditionType": "ModerationLabelConfidenceCheck", "ConditionParameters": { "ModerationLabelName": "Graphic Female Nudity", "ConfidenceLessThanEquals": 99 } }, { "ConditionType": "ModerationLabelConfidenceCheck", "ConditionParameters": { "ModerationLabelName": "Graphic Female Nudity", "ConfidenceGreaterThanEquals": 80 } } ] } ] }] }

示例 2:将 ModerationLabelConfidenceCheck 与捕获全部值 (*) 结合使用

在以下示例中,如果检测到置信度大于或等于 75 的任何审核标签,则触发 HumanLoop。人工审核者需要审核置信度得分大于或等于 75 的所有审核标签。

{ "Conditions": [ { "ConditionType": "ModerationLabelConfidenceCheck", "ConditionParameters": { "ModerationLabelName": "*", "ConfidenceGreaterThanEquals": 75 } } ] }

示例 3:使用采样

在以下示例中,将 Amazon Rekognition 请求得出的 5% 的 DetectModerationLabels 推理发送给工作人员。使用 SageMaker 控制台中提供的默认工作人员任务模板时,Amazon Rekognition 返回的所有审核标签都会发送给工作人员以供审核。

{ "Conditions": [ { "ConditionType": "Sampling", "ConditionParameters": { "RandomSamplingPercentage": 5 } } ] }

示例 4:将采样和 ModerationLabelConfidenceCheck 与 And 运算符一起使用

在此示例中,将 Amazon Rekognition 审核标签的 5% Graphic Male Nudity 推理(其置信度大于 50)发送给工作人员以进行审查。使用 SageMaker 控制台中提供的默认工作人员任务模板时,仅将 Graphic Male Nudity 标签发送给工作人员以供审核。

{ "Conditions": [ { "And": [ { "ConditionType": "Sampling", "ConditionParameters": { "RandomSamplingPercentage": 5 } }, { "ConditionType": "ModerationLabelConfidenceCheck", "ConditionParameters": { "ModerationLabelName": "Graphic Male Nudity", "ConfidenceGreaterThan": 50 } } ] } ] }

示例 5:将采样和 ModerationLabelConfidenceCheck 与 And 运算符一起使用

使用此示例可以配置人工审核工作流,始终将指定标签的低置信度推理发送进行人工审核,并按指定比率抽样标签的高置信度推理。

在以下示例中,通过以下方式之一触发人工审核:

  • 对于 Graphic Male Nudity 审核标签的推理,在置信度分数小于 60 时将始终发送供人工审核。仅将 Graphic Male Nudity 标签发送给工作人员以进行审查。

  • Graphic Male Nudity 审核标签的 5% 的推理(其置信度分数大于 90)将发送以供人工审查。仅将 Graphic Male Nudity 标签发送给工作人员以进行审查。

{ "Conditions": [ { "Or": [ { "ConditionType": "ModerationLabelConfidenceCheck", "ConditionParameters": { "ModerationLabelName": "Graphic Male Nudity", "ConfidenceLessThan": 60 } }, { "And": [ { "ConditionType": "Sampling", "ConditionParameters": { "RandomSamplingPercentage": 5 } }, { "ConditionType": "ModerationLabelConfidenceCheck", "ConditionParameters": { "ModerationLabelName": "Graphic Male Nudity", "ConfidenceGreaterThan": 90 } } ] } ] } ] }

示例 6:将采样和 ModerationLabelConfidenceCheck 与 Or 运算符一起使用

在以下示例中,如果 Amazon Rekognition 推理响应包含“Graphic Male Nudity (裸体男性图)”标签且推理置信度大于 50,则会创建人工循环。此外,所有其他推理中有 5% 的推理将触发人工循环。

{ "Conditions": [ { "Or": [ { "ConditionType": "Sampling", "ConditionParameters": { "RandomSamplingPercentage": 5 } }, { "ConditionType": "ModerationLabelConfidenceCheck", "ConditionParameters": { "ModerationLabelName": "Graphic Male Nudity", "ConfidenceGreaterThan": 50 } } ] } ] }