本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。
在 Amazon Rekognition 中使用人循环激活条件 JSON 架构
与亚马逊 A2I 一起使用时,Amazon RekognitionDetectModerationLabels
操作支持以下输入ConditionType
参数:
-
ModerationLabelConfidenceCheck
— 当一个或多个指定标签的推理置信度较低时,使用此条件类型创建人工循环。 -
Sampling
— 使用此条件指定要发送给人类审查的所有推论的百分比。使用此条件来执行以下操作:-
通过对模型的所有推理随机抽样并将指定的百分比发送进行人工审核,对 ML 模型进行审计。
-
使用
ModerationLabelConfidenceCheck
条件随机抽样满足ModerationLabelConfidenceCheck
中指定的条件的一定百分比的推理以启动人工循环,并仅发送指定的百分比进行人工审核。
-
注意
如果您将相同的请求发送至DetectModerationLabels
多次,结果是Sampling
不会因该输入的推断而改变。例如,如果你做一个DetectModerationLabels
请求一次,然后Sampling
不会启动人工循环,后续请求DetectModerationLabels
使用相同的配置不要启动人工循环。
在创建流程定义时,如果您使用默认的工作任务模板,该模板在人工审阅工作流程亚马逊版块 SageMaker 控制台,当工作人员打开你的任务时,通过这些激活条件发送给人工查看的推论将包含在工作器用户界面中。如果您使用自定义工作人员任务模板,则需要包含 <task.input.selectedAiServiceResponse.blocks>
自定义 HTML 元素来访问这些推理。有关使用此 HTML 元素的自定义模板示例,请参阅 Amazon Rekognition 的自定义模板示例。
ModerationLabelConfidenceCheck
输入
对于 ModerationLabelConfidenceCheck
ConditionType
,支持以下 ConditionParameters
:
-
ModerationLabelName
— 的确切名称(区分大小写)ModerationLabel被Amazon Rekognition 检测到DetectModerationLabels
操作。您可以指定包罗万象的特殊值 (*) 来表示任何审核标签。 -
ConfidenceEquals
-
ConfidenceLessThan
-
ConfidenceLessThanEquals
-
ConfidenceGreaterThan
-
ConfidenceGreaterThanEquals
当您使用以下应用程序时:ModerationLabelConfidenceCheck
ConditionType
,Amazon A2I 会针对您在中指定的标签发送标签推论ModerationLabelName
供人工审查。
采样输入
Sampling
ConditionType
现在支持 RandomSamplingPercentage
ConditionParameters
。RandomSamplingPercentage
参数的输入应是 0.01 到 100 之间的实数。此数字表示符合人工审核条件并将发送进行人工审核的推理百分比。如果您在不使用任何其他条件的情况下使用 Sampling
条件,则此数字表示单个 DetectModerationLabel
请求生成的所有推理中,发送供人工审核的百分比。
示例
示例 1:使用ModerationLabelConfidenceCheck
用And
操作者
以下示例HumanLoopActivationConditions
满足以下一个或多个条件时,条件会启动人工循环:
-
Amazon Rekognition 检测到了
Graphic Male Nudity
审核标签,置信度介于 90 到 99 之间。 -
Amazon Rekognition 检测到了
Graphic Female Nudity
审核标签,置信度介于 80 到 99 之间。
请注意使用以下应用程序的单词Or
和And
逻辑运算符来模拟这个逻辑。
虽然只有两个条件中的一个Or
操作员需要评估到true
为了创建人工循环,亚马逊Augmented AI 会评估所有条件。要求人工审阅者查看评估到的所有条件的审核标签true
.
{ "Conditions": [{ "Or": [{ "And": [{ "ConditionType": "ModerationLabelConfidenceCheck", "ConditionParameters": { "ModerationLabelName": "Graphic Male Nudity", "ConfidenceLessThanEquals": 99 } }, { "ConditionType": "ModerationLabelConfidenceCheck", "ConditionParameters": { "ModerationLabelName": "Graphic Male Nudity", "ConfidenceGreaterThanEquals": 90 } } ] }, { "And": [{ "ConditionType": "ModerationLabelConfidenceCheck", "ConditionParameters": { "ModerationLabelName": "Graphic Female Nudity", "ConfidenceLessThanEquals": 99 } }, { "ConditionType": "ModerationLabelConfidenceCheck", "ConditionParameters": { "ModerationLabelName": "Graphic Female Nudity", "ConfidenceGreaterThanEquals": 80 } } ] } ] }] }
示例 2:使用ModerationLabelConfidenceCheck
使用 catch-all 值 (*)
在以下示例中,如果检测到任何置信度大于或等于 75 的审核标签,则会启动人工循环。人工审核者需要审核置信度得分大于或等于 75 的所有审核标签。
{ "Conditions": [ { "ConditionType": "ModerationLabelConfidenceCheck", "ConditionParameters": { "ModerationLabelName": "*", "ConfidenceGreaterThanEquals": 75 } } ] }
示例 3:使用采样
在以下示例中,Amazon Rekognition 的推断有 5%DetectModerationLabels
请求被发送给人类工作者。使用中提供的默认工作任务模板时 SageMaker 控制台,Amazon Rekognition 返回的所有审核标签都将发送给工作人员进行审查。
{ "Conditions": [ { "ConditionType": "Sampling", "ConditionParameters": { "RandomSamplingPercentage": 5 } } ] }
示例 4:使用采样和ModerationLabelConfidenceCheck
用And
操作者
在这个例子中,有 5% 的Amazon Rekognition 推断出Graphic Male
Nudity
置信度大于 50 的审核标签将发送给工作人员进行审查。使用中提供的默认工作任务模板时 SageMaker控制台,只有Graphic Male Nudity
标签已发送给工作人员进行审查。
{ "Conditions": [ { "And": [ { "ConditionType": "Sampling", "ConditionParameters": { "RandomSamplingPercentage": 5 } }, { "ConditionType": "ModerationLabelConfidenceCheck", "ConditionParameters": { "ModerationLabelName": "Graphic Male Nudity", "ConfidenceGreaterThan": 50 } } ] } ] }
示例 5:使用采样和ModerationLabelConfidenceCheck
用And
操作者
使用此示例配置您的人工审阅工作流程,使其始终发送指定标签的低置信度推断以供人工审阅,并以指定速率对标签的高置信度推断进行抽样。
在以下示例中,人工审查:
-
对于
Graphic Male Nudity
审核标签的推理,在置信度分数小于 60 时将始终发送供人工审核。仅将Graphic Male Nudity
标签发送给工作人员以进行审查。 -
所有推论的 5%
Graphic Male Nudity
将置信度分数大于 90 的审核标签发送给人工审核。仅将Graphic Male Nudity
标签发送给工作人员以进行审查。
{ "Conditions": [ { "Or": [ { "ConditionType": "ModerationLabelConfidenceCheck", "ConditionParameters": { "ModerationLabelName": "Graphic Male Nudity", "ConfidenceLessThan": 60 } }, { "And": [ { "ConditionType": "Sampling", "ConditionParameters": { "RandomSamplingPercentage": 5 } }, { "ConditionType": "ModerationLabelConfidenceCheck", "ConditionParameters": { "ModerationLabelName": "Graphic Male Nudity", "ConfidenceGreaterThan": 90 } } ] } ] } ] }
示例 6:使用采样和ModerationLabelConfidenceCheck
用Or
操作者
在以下示例中,如果 Amazon Rekognition 推理响应包含 “Graphic Male Nudity” 标签,且推理置信度大于 50,则会创建人工循环。此外,所有其他推论中有5%会引发人为循环。
{ "Conditions": [ { "Or": [ { "ConditionType": "Sampling", "ConditionParameters": { "RandomSamplingPercentage": 5 } }, { "ConditionType": "ModerationLabelConfidenceCheck", "ConditionParameters": { "ModerationLabelName": "Graphic Male Nudity", "ConfidenceGreaterThan": 50 } } ] } ] }