探索 Step Functions 中的服务集成模式 - Amazon Step Functions
Amazon Web Services 文档中描述的 Amazon Web Services 服务或功能可能因区域而异。要查看适用于中国区域的差异,请参阅 中国的 Amazon Web Services 服务入门 (PDF)

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

探索 Step Functions 中的服务集成模式

Amazon Step Functions 直接与 Amazon 各州语言的服务集成。您可以使用三种服务集成模式来控制这些 Amazon 服务:

  • 调用服务,让 Step Functions 在收到HTTP响应后立即进入下一个状态。

  • 调用服务,并让 Step Functions 等待作业完成。

  • 使用任务令牌调用服务并让 Step Functions 等待,直到该令牌与有效负载一起返回。

这些服务集成模式中的每一种都由您在任务定义"Resource"字段URI中创建的方式来控制。

有关为集成服务配置 Amazon Identity and Access Management (IAM) 的信息,请参见Step Functions 如何为集成服务生成 IAM 策略

集成模式支持

标准工作流程和快速工作流程支持相同的集成,但支持的集成模式不同。

  • 标准工作流程支持请求响应 集成。某些服务支持 Run a Job (.sync)等待回调 (. waitForTask代币),在某些情况下两者兼而有之。有关详细信息,请参阅以下优化集成表。

  • 快速工作流程仅支持请求响应 集成。

为协助在两种类型之间做出选择,请参阅在 Step Functions 中选择工作流程类型

Amazon SDKStep Functions 中的集成

集成 服务 请求响应 运行任务:.sync 等待回电-. waitForTask代币
超过两百项服务 标准和快速 不支持 Standard

Step Functions 中的优化集成

集成 服务 请求响应 运行任务:.sync 等待回电-. waitForTask代币
Amazon API Gateway 标准和快速 不支持 Standard
Amazon Athena 标准和快速 Standard 不支持
Amazon Batch 标准和快速 Standard 不支持
Amazon Bedrock 标准和快速 Standard Standard
Amazon CodeBuild 标准和快速 Standard 不支持
Amazon DynamoDB 标准和快速 不支持 不支持
Amazon ECS/Fargate 标准和快速 Standard Standard
Amazon EKS 标准和快速 Standard Standard
Amazon EMR 标准和快速 Standard 不支持
Amazon EMR on EKS 标准和快速 Standard 不支持
Amazon EMR Serverless 标准和快速 Standard 不支持
Amazon EventBridge 标准和快速 不支持 Standard
Amazon Glue 标准和快速 Standard 不支持
Amazon Glue DataBrew 标准和快速 Standard 不支持
Amazon Lambda 标准和快速 不支持 Standard
AWS Elemental MediaConvert 标准和快速 Standard 不支持
Amazon SageMaker AI 标准和快速 Standard 不支持
Amazon SNS 标准和快速 不支持 Standard
Amazon SQS 标准和快速 不支持 Standard
Amazon Step Functions 标准和快速 Standard Standard

请求响应

当您在任务状态"Resource"字符串中指定服务并且提供资源时,Step Functions 将等待HTTP响应,然后进入下一个状态。Step Functions 不会等待作业完成。

以下示例显示了如何发布 Amazon SNS 主题。

"Send message to SNS": { "Type":"Task", "Resource":"arn:aws:states:::sns:publish", "Parameters": { "TopicArn":"arn:aws:sns:us-east-1:123456789012:myTopic", "Message":"Hello from Step Functions!" }, "Next":"NEXT_STATE" }

此示例引用了 Amazon API 的发布SNS。调用后,工作流程将进入下一个状态。Publish API

提示

要将使用请求响应服务集成模式的示例工作流部署到您的工作流程 Amazon Web Services 账户,请参阅模块 2- Amazon Step Functions 研讨会的请求响应

运行作业 (.sync)

对于诸如 Amazon Batch 和亚马逊之类的集成服务ECS,Step Functions 可以等待请求完成后再进入下一个状态。要让 Step Functions 等待,请在任务状态定义中指定在资源后面附加后.sync缀的"Resource"字段。URI

例如,提交 Amazon Batch 作业时,使用状态机定义中的"Resource"字段,如本示例所示。

"Manage Batch task": { "Type": "Task", "Resource": "arn:aws:states:::batch:submitJob.sync", "Parameters": { "JobDefinition": "arn:aws:batch:us-east-2:123456789012:job-definition/testJobDefinition", "JobName": "testJob", "JobQueue": "arn:aws:batch:us-east-2:123456789012:job-queue/testQueue" }, "Next": "NEXT_STATE" }

将该.sync部分附加到资源 Amazon 资源名称 (ARN) 中意味着 Step Functions 会等待任务完成。在调用 Amazon Batch submitJob 后,工作流会暂停。作业完成后,Step Functions 将进入下一状态。欲了解更多信息,请参阅 Amazon Batch 示例项目:使用管理批处理作业 Amazon Batch 以及 Amazon SNS

如果使用此 (.sync) 服务集成模式的任务中止,并且 Step Functions 无法取消该任务,则集成服务可能会向您收取额外费用。在以下情况下,任务可能被中止:

  • 状态机执行被停止。

  • 并行状态的另一个分支因未捕获的错误而失败。

  • Map 状态的一次迭代失败并出现未捕获的错误。

Step Functions 将尽力尝试取消任务。例如,如果 Step Functions states:startExecution.sync 任务中止,它将调用 Step Functions StopExecution API 操作。但是,Step Functions 可能无法取消该任务。原因包括但不限于:

  • 您的IAM执行角色无权进行相应API调用。

  • 发生临时服务中断。

当您使用 .sync 服务集成模式时,Step Functions 会使用轮询来监控任务的状态,并且会消耗分配的配额和事件。对于同一账户内的.sync调用,Step Functions 使用 EventBridge 事件并轮询您在状态中Task指定的事件。APIs对于跨账户.sync 调用,Step Functions 仅使用轮询。例如,对于states:StartExecution.sync,Step Functions 对执行轮询DescribeExecutionAPI并使用您分配的配额。

提示

要将使用 Run a Job (.sync) 服务集成模式的示例工作流部署到您的 Amazon Web Services 账户,请参阅研讨会的模块 3-运行作业 (.sync)。 Amazon Step Functions

要查看等待作业完成的集成服务支持的列表 (.sync),请参阅 将服务与 Step Functions 集成

注意

使用.sync.waitForTaskToken模式的服务集成需要额外的IAM权限。有关更多信息,请参阅 Step Functions 如何为集成服务生成 IAM 策略

在某些情况下,您可能希望 Step Functions 在任务完全完成之前继续工作流。实现的方法与等待具有任务令牌的回调服务集成模式相同。为此,请将任务令牌传递给您的作业,然后使用SendTaskSuccessSendTaskFailureAPI调用将其返回。Step Functions 会使用您在该调用中提供的数据来完成任务、停止监控作业并继续工作流。

等待具有任务令牌的回调

回调任务提供了一种暂停工作流程,直到返回任务令牌的方法。任务可能需要等待人员批准、与第三方集成或调用旧式系统。对于此类任务,您可以暂停 Step Functions,直到工作流执行达到一年的服务限额(参阅与状态限制相关的配额),然后等待外部流程或工作流完成。对于这些情况,Step Functions 允许您将任务令牌传递给 Amazon SDK服务集成以及某些优化的服务集成。任务将会暂停,直到它通过 SendTaskSuccessSendTaskFailure 调用接收到该任务令牌。

如果使用回调任务令牌的 Task 状态超时,则会生成一个新的随机令牌。您可以从 Conte xt 对象访问任务令牌。

注意

任务令牌必须包含至少 1 个字符,并且不能超过 1024 个字符。

.waitForTaskToken与 Amazon SDK集成一起使用,API您使用的必须具有用于放置任务令牌的参数字段。

注意

您必须从同一 Amazon 账户中的委托人那里传递任务代币。如果您使用其他 Amazon 账户的委托人发送代币,则代币将无法使用。

提示

要将使用回调任务令牌服务集成模式的示例工作流程部署到您 Amazon Web Services 账户,请参阅模块 4-使用 Amazon Step Functions 研讨会的任务令牌等待回调

要查看支持等待任务令牌的集成服务的列表 (.waitForTaskToken),请参阅 将服务与 Step Functions 集成

任务令牌示例

在此示例中,Step Functions 工作流需要与外部微服务集成,才能在批准工作流中执行信用检查。Step Functions 发布了一SQS条亚马逊消息,其中包含任务令牌作为消息的一部分。外部系统与 Amazon 集成SQS,并从队列中提取消息。完成后,它将返回结果和原始任务令牌。然后 Step Functions 继续其工作流。

SQS正在等待返回任务令牌的任务

引用 Amazon 的任务定义"Resource"字段SQS包含.waitForTaskToken在末尾。

"Send message to SQS": { "Type": "Task", "Resource": "arn:aws:states:::sqs:sendMessage.waitForTaskToken", "Parameters": { "QueueUrl": "https://sqs.us-east-2.amazonaws.com/123456789012/myQueue", "MessageBody": { "Message": "Hello from Step Functions!", "TaskToken.$": "$$.Task.Token" } }, "Next": "NEXT_STATE" }

这会指示 Step Functions 暂停并等待任务令牌。使用 .waitForTaskToken 指定资源时,可以使用特殊路径名称 ($$.Task.Token) 在状态定义的 "Parameters" 字段中访问任务令牌。首字母$$.表示路径访问 Conte xt 对象,并在正在运行的执行中获取当前任务的任务令牌。

完成后,外部服务会调用 SendTaskSuccessSendTaskFailure,其中包含 taskToken。只有这样,工作流程才会继续进入下一个状态。

注意

要避免在流程无法与 SendTaskSuccessSendTaskFailure 一起发送任务令牌时无限期地等待,请参阅为等待任务配置检测信号超时

从 Context 对象中获取代币

Context 对象是一个内部JSON对象,其中包含有关您的执行的信息。与状态输入一样,可以在执行期间使用来自 "Parameters" 字段的路径访问它。从任务定义中访问时,它包含有关特定执行的信息(包括任务令牌)。

{ "Execution": { "Id": "arn:aws:states:us-east-1:123456789012:execution:stateMachineName:executionName", "Input": { "key": "value" }, "Name": "executionName", "RoleArn": "arn:aws:iam::123456789012:role...", "StartTime": "2019-03-26T20:14:13.192Z" }, "State": { "EnteredTime": "2019-03-26T20:14:13.192Z", "Name": "Test", "RetryCount": 3 }, "StateMachine": { "Id": "arn:aws:states:us-east-1:123456789012:stateMachine:stateMachineName", "Name": "name" }, "Task": { "Token": "h7XRiCdLtd/83p1E0dMccoxlzFhglsdkzpK9mBVKZsp7d9yrT1W" } }

您可以使用任务定义的 "Parameters" 字段内的特殊路径来访问任务令牌。要访问输入或 Context 对象,首先要通过在参数名称后附加 a .$ 来指定参数将为路径。以下内容指定了"Parameters"规范中输入和 Context 对象中的节点。

"Parameters": { "Input.$": "$", "TaskToken.$": "$$.Task.Token" },

在这两种情况下,将 .$ 添加到参数名称会告知 Step Functions 期望一个路径。在第一种情况下,"$" 是一个路径,其中包含整个输入。在第二种情况下,$$.指定路径将访问 Context 对象,并将参数$$.Task.Token设置为正在运行的执行的 Context 对象中任务令牌的值。

在亚马逊的SQS示例.waitForTaskToken中,该"Resource"字段告诉 Step Functions 等待任务令牌返回。"TaskToken.$": "$$.Task.Token"参数将该令牌作为 Amazon SQS 消息的一部分传递。

"Send message to SQS": { "Type": "Task", "Resource": "arn:aws:states:::sqs:sendMessage.waitForTaskToken", "Parameters": { "QueueUrl": "https://sqs.us-east-2.amazonaws.com/123456789012/myQueue", "MessageBody": { "Message": "Hello from Step Functions!", "TaskToken.$": "$$.Task.Token" } }, "Next": "NEXT_STATE" }

有关 Context 对象的更多信息,请参阅在 Step Functions 中从 Context 对象访问执行数据 本指南的处理输入和输出章节中的。

为等待任务配置检测信号超时

等待任务令牌的任务将等到执行达到一年服务配额(请参阅 与状态限制相关的配额)。要避免执行卡顿,您可以在状态机定义中配置检测信号超时间隔。使用 HeartbeatSeconds 字段指定超时间隔。

{ "StartAt": "Push to SQS", "States": { "Push to SQS": { "Type": "Task", "Resource": "arn:aws:states:::sqs:sendMessage.waitForTaskToken", "HeartbeatSeconds": 600, "Parameters": { "MessageBody": { "myTaskToken.$": "$$.Task.Token" }, "QueueUrl": "https://sqs.us-east-1.amazonaws.com/123456789012/push-based-queue" }, "ResultPath": "$.SQS", "End": true } } }

在此状态机定义中,任务将消息推送到 Amazon,SQS并等待外部进程使用提供的任务令牌进行回调。"HeartbeatSeconds": 600 字段将检测信号超时间隔为 10 分钟。任务将等待任务令牌通过以下API操作之一返回:

如果等待任务在该 10 分钟内未收到有效的任务令牌,则任务失败并显示 States.Timeout 错误名称。

有关更多信息,请参阅回调任务示例项目:使用亚马逊SQS、亚马逊SNS和 Lambda 创建回调模式示例