将人工循环激活条件 JSON 架构与 Amazon Rekognition 结合使用 - 亚马逊 SageMaker AI
ModerationLabelConfidenceCheck 输入采样输入示例
Amazon Web Services 文档中描述的 Amazon Web Services 服务或功能可能因区域而异。要查看适用于中国区域的差异，请参阅 中国的 Amazon Web Services 服务入门 (PDF)。

本文属于机器翻译版本。若本译文内容与英语原文存在差异，则一律以英文原文为准。

将人工循环激活条件 JSON 架构与 Amazon Rekognition 结合使用

与 Amazon A2I 一起使用时，Amazon Rekognition DetectModerationLabels 操作支持 ConditionType 参数中的以下输入：

  • ModerationLabelConfidenceCheck – 当一个或多个指定标签的推理置信度低时，使用此条件类型创建人工循环。

  • Sampling – 使用此条件指定发送进行人工审核的所有推理的百分比。使用此条件来执行以下操作：

    • 通过对模型的所有推理随机抽样并将指定的百分比发送进行人工审核，对 ML 模型进行审计。

    • 使用 ModerationLabelConfidenceCheck 条件随机抽样满足 ModerationLabelConfidenceCheck 中指定的条件的一定百分比的推理以启动人工循环，并仅发送指定的百分比进行人工审核。

注意

如果您向 DetectModerationLabels 多次发送同一请求，则对于该输入的推理，Sampling 的结果不会更改。例如，如果您发出一次 DetectModerationLabels 请求，并且 Sampling 没有启动人工循环，则以后发送给 DetectModerationLabels 的具有相同配置的请求将不会启动人工循环。

创建流程定义时，如果您使用 Amazon A SageMaker I 控制台的人工审核工作流程部分中提供的默认工作人员任务模板，则当工作人员打开您的任务时，这些激活条件发送给人工审核的推断将包含在工作线程用户界面中。如果您使用自定义工作人员任务模板，则需要包含 <task.input.selectedAiServiceResponse.blocks> 自定义 HTML 元素来访问这些推理。有关使用此 HTML 元素的自定义模板示例，请参阅 Amazon Rekognition 的自定义模板示例。

ModerationLabelConfidenceCheck 输入

对于 ModerationLabelConfidenceCheck ConditionType，支持以下 ConditionParameters：

  • ModerationLabelName— Amazon Rekognit DetectModerationLabels ion 操作ModerationLabel检测到的的确切（区分大小写）名称。您可以指定包罗万象的特殊值 (*) 来表示任何审核标签。

  • ConfidenceEquals

  • ConfidenceLessThan

  • ConfidenceLessThanEquals

  • ConfidenceGreaterThan

  • ConfidenceGreaterThanEquals

当您使用 ModerationLabelConfidenceCheck ConditionType 时，Amazon A2I 为您在 ModerationLabelName 中指定的标签发送标签推理供人工审核。

采样输入

Sampling ConditionType 现在支持 RandomSamplingPercentage ConditionParameters。RandomSamplingPercentage 参数的输入应是 0.01 到 100 之间的实数。此数字表示符合人工审核条件并将发送进行人工审核的推理百分比。如果您在不使用任何其他条件的情况下使用 Sampling 条件，则此数字表示单个 DetectModerationLabel 请求生成的所有推理中，发送供人工审核的百分比。

示例

示例 1：使用 ModerationLabelConfidenceCheck 和 And 运算符

以下 HumanLoopActivationConditions 条件示例在满足下列一个或多个条件时启动人工审核：

  • Amazon Rekognition 对置信度介于 90 到 99 之间的 Graphic Male Nudity 审核标签进行检测。

  • Amazon Rekognition 对置信度介于 80 到 99 之间的 Graphic Female Nudity 审核标签进行检测。

请注意使用 Or 和 And 逻辑运算符对此逻辑进行建模。

虽然在 Or 运算符下的两个条件中，只需要任何一个条件的评估结果为 true 即可创建人工循环，但 Amazon Augmented AI 会评估所有条件。人工审核者需要审核所有条件评估为 true 的审核标签。

{
     "Conditions": [{
         "Or": [{
                 "And": [{
                         "ConditionType": "ModerationLabelConfidenceCheck",
                         "ConditionParameters": {
                             "ModerationLabelName": "Graphic Male Nudity",
                             "ConfidenceLessThanEquals": 99
                         }
                     },
                     {
                         "ConditionType": "ModerationLabelConfidenceCheck",
                         "ConditionParameters": {
                             "ModerationLabelName": "Graphic Male Nudity",
                             "ConfidenceGreaterThanEquals": 90
                         }
                     }
                 ]
             },
             {
                 "And": [{
                         "ConditionType": "ModerationLabelConfidenceCheck",
                         "ConditionParameters": {
                             "ModerationLabelName": "Graphic Female Nudity",
                             "ConfidenceLessThanEquals": 99
                         }
                     },
                     {
                         "ConditionType": "ModerationLabelConfidenceCheck",
                         "ConditionParameters": {
                             "ModerationLabelName": "Graphic Female Nudity",
                             "ConfidenceGreaterThanEquals": 80
                         }
                     }
                 ]
             }
         ]
     }]
}

示例 2：使用 ModerationLabelConfidenceCheck 以及 catch-all 值 (*)

在以下示例中，如果检测到置信度大于或等于 75 的任何审核标签，则启动人工循环。人工审核者需要审核置信度得分大于或等于 75 的所有审核标签。

{
    "Conditions": [
        {
            "ConditionType": "ModerationLabelConfidenceCheck",
            "ConditionParameters": {
                "ModerationLabelName": "*",
                "ConfidenceGreaterThanEquals": 75
            }
        }
    ]
}

示例 3：使用采样

在以下示例中，将 DetectModerationLabels 请求得出的 5% 的 Amazon Rekognition 推理发送给工作人员。使用 SageMaker AI 控制台中提供的默认工作人员任务模板时，Amazon Rekognition 返回的所有审核标签都将发送给工作人员进行审核。

{
  "Conditions": [
    {
      "ConditionType": "Sampling",
      "ConditionParameters": {
        "RandomSamplingPercentage": 5
      }
    }
  ]
}

示例 4：使用采样和 ModerationLabelConfidenceCheck 及 And 运算符

在此示例中，将 Graphic Male Nudity 审核标签的 5% Amazon Rekognition 推理（其置信度大于 50）发送给工作人员以进行审核。使用 SageMaker AI 控制台中提供的默认工作人员任务模板时，只有Graphic Male Nudity标签的推断才会发送给工作人员进行审查。

{
  "Conditions": [
    {
      "And": [
        {
          "ConditionType": "Sampling",
          "ConditionParameters": {
            "RandomSamplingPercentage": 5
          }
        },
        {
          "ConditionType": "ModerationLabelConfidenceCheck",
          "ConditionParameters": {
            "ModerationLabelName": "Graphic Male Nudity",
            "ConfidenceGreaterThan": 50
          }
        }
      ]
    }
  ]
}

示例 5：使用采样和 ModerationLabelConfidenceCheck 及 And 运算符

使用此示例可以配置人工审核工作流，始终发送指定标签的低置信度推理进行人工审核，并按指定比率对标签的高置信度推理采样。

在以下示例中，通过以下方式之一启动人工审核：

  • 对于 Graphic Male Nudity 审核标签的推理，在置信度分数小于 60 时将始终发送供人工审核。仅将 Graphic Male Nudity 标签发送给工作人员以进行审查。

  • Graphic Male Nudity 审核标签的所有推理（其置信度分数大于 90）的 5% 将发送以供人工审查。仅将 Graphic Male Nudity 标签发送给工作人员以进行审查。

{
  "Conditions": [
    {
      "Or": [
        {
          "ConditionType": "ModerationLabelConfidenceCheck",
          "ConditionParameters": {
            "ModerationLabelName": "Graphic Male Nudity",
            "ConfidenceLessThan": 60
          }
        },
        {
            "And": [
                {
                    "ConditionType": "Sampling",
                    "ConditionParameters": {
                        "RandomSamplingPercentage": 5
                    }
                },
                {
                    "ConditionType": "ModerationLabelConfidenceCheck",
                    "ConditionParameters": {
                        "ModerationLabelName": "Graphic Male Nudity",
                        "ConfidenceGreaterThan": 90
                    }
                }
            ]
        }
      ]
    }
  ]
}

示例 6：使用采样和 ModerationLabelConfidenceCheck 及 Or 运算符

在以下示例中，如果 Amazon Rekognition 推理响应包含“裸体男性图”标签且推理置信度大于 50，则会创建人工循环。此外，所有其他推理中有 5% 的推理将启动人工循环。

{
  "Conditions": [
    {
      "Or": [
        {
          "ConditionType": "Sampling",
          "ConditionParameters": {
            "RandomSamplingPercentage": 5
          }
        },
        {
          "ConditionType": "ModerationLabelConfidenceCheck",
          "ConditionParameters": {
            "ModerationLabelName": "Graphic Male Nudity",
            "ConfidenceGreaterThan": 50
          }
        }
      ]
    }
  ]
}