AWS Glue 触发器 - AWS Glue
AWS 文档中描述的 AWS 服务或功能可能因区域而异。要查看适用于中国区域的差异,请参阅中国的 AWS 服务入门

如果我们为英文版本指南提供翻译,那么如果存在任何冲突,将以英文版本指南为准。在提供翻译时使用机器翻译。

AWS Glue 触发器

触发器在触发时可以启动指定的作业和爬网程序。触发器可以根据需要、基于计划或基于事件组合触发。

触发器可以处于几种状态之一。触发器可以处于 CREATEDACTIVATEDDEACTIVATED 状态。此外,还有一些过渡状态,例如 ACTIVATING。要暂停触发器的触发,您可以将其停用。之后您可以重新激活它。

有三种类型的触发器:

计划

基于 cron 的定时触发器。

您可以为一组作业或爬网程序创建基于计划的触发器。您可以指定约束条件,例如作业或爬网程序的运行频率、它们在一周中的哪几天运行,以及具体在什么时间运行。这些约束基于 cron。当您为触发器设置计划时,需要考虑 cron 的功能和限制。例如,如果您选择在每月第 31 天运行您的爬网程序,请记住,有些月份没有 31 天。有关 cron 的更多信息,请参阅用于作业和爬网程序的基于时间的计划

条件

在上一个作业或爬网程序或多个作业或爬网程序满足条件列表中的条件时触发的触发器。

创建条件触发器时,您可以指定要监控的作业列表和爬网程序列表。对于每个受监控的作业或爬网程序,您可以指定要监控的状态,例如成功、失败、超时等。当受监控的作业或爬网程序进入指定的状态时,触发器就会触发。您可以将触发器配置为在任何或所有受监控的事件发生时触发。

例如,您可以将触发器 T1 配置为在作业 J1 和作业 J2 都成功完成时启动作业 J3,并将另一个触发器 T2 配置为在作业 J1 或作业 J2 失败时启动作业 J4。

下表列出了触发器监控的作业和爬网程序完成状态(事件)。

作业完成状态 爬网程序完成状态
  • SUCCEEDED

  • STOPPED

  • FAILED

  • TIMEOUT

  • SUCCEEDED

  • FAILED

  • CANCELLED

按需

在激活时触发的触发器。按需触发器永远不会进入 ACTIVATEDDEACTIVATED 状态。它们始终处于 CREATED 状态。

因此,它们一旦存在就可以立即触发。而对于计划触发器和条件触发器,则可以设置一个标记,用于在创建时激活它们。

重要

作为其他作业或爬网程序完成的结果而运行的作业或爬网程序称为依赖项。仅当完成的作业或爬网程序由触发器启动时,才会启动依赖作业或爬网程序。 依赖链中的所有作业或爬网程序都必须是单个计划按需触发器的子代。

通过触发器传递作业参数

触发器可以将参数传递给它所启动的作业。参数包括作业参数、超时值、安全配置等。如果触发器启动多个作业,则参数会传递给每个作业。

以下是触发器传递作业参数的规则:

  • 如果键值对中的键与默认作业参数匹配,则传递的参数将覆盖默认参数。如果键与默认参数不匹配,则该参数将作为附加参数传递给作业。

  • 如果键值对中的键与不可覆盖的参数匹配,则会忽略传递的参数。

有关更多信息,请参阅 AWS Glue API 中的Triggers