使用亚马逊创建规则操作 CloudWatch 和Amazon Lambda

通过 https://console.aws.amazon.com/cloudwatch/ 打开 CloudWatch 主机。

在左侧导航窗格的 “日志” 节点下，选择 “日志组”。

在日志组列表中，执行以下操作：

打开 Amazon Lambda 控制台，地址：https://console.aws.amazon.com/lambda/。

在左侧导航窗格中，选择函数，然后选择 Create 函数，然后选择 Create 函数

在创建函数页面上，选择从头开始创作选项。

在基本信息部分中，输入函数名称（例如，debugger-rule-stop-training-job）。

对于 Runtime (运行时)，选择 Python 3.7。

对于 “权限”，展开下拉选项，然后选择 “更改默认执行角色”。

对于执行角色，选择使用现有角色，然后选择用于训练任务的 IAM 角色 SageMaker。

import sagemaker
sagemaker.get_execution_role()

在页面底部，选择创建函数。

在配置页面的函数代码部分，将以下 Python 脚本粘贴到 Lambda 代码编辑器窗格中。该lambda_handler函数监视由收集的调试器规则评估状态 CloudWatch 并触发StopTrainingJob API 操作。f SageMaker or 提供了一种高级方法stop_training_job，Amazon SDK for Python (Boto3)client用于触发StopTrainingJob API 操作。

import json
import boto3
import logging

logger = logging.getLogger()
logger.setLevel(logging.INFO)

def lambda_handler(event, context):
    training_job_name = event.get("detail").get("TrainingJobName")
    logging.info(f'Evaluating Debugger rules for training job: {training_job_name}')
    eval_statuses = event.get("detail").get("DebugRuleEvaluationStatuses", None)

    if eval_statuses is None or len(eval_statuses) == 0:
        logging.info("Couldn't find any debug rule statuses, skipping...")
        return {
            'statusCode': 200,
            'body': json.dumps('Nothing to do')
        }

    # should only attempt stopping jobs with InProgress status
    training_job_status = event.get("detail").get("TrainingJobStatus", None)
    if training_job_status != 'InProgress':
        logging.debug(f"Current Training job status({training_job_status}) is not 'InProgress'. Exiting")
        return {
            'statusCode': 200,
            'body': json.dumps('Nothing to do')
        }

    client = boto3.client('sagemaker')

    for status in eval_statuses:
        logging.info(status.get("RuleEvaluationStatus") + ', RuleEvaluationStatus=' + str(status))
        if status.get("RuleEvaluationStatus") == "IssuesFound":
            secondary_status = event.get("detail").get("SecondaryStatus", None)
            logging.info(
                f'About to stop training job, since evaluation of rule configuration {status.get("RuleConfigurationName")} resulted in "IssuesFound". ' +
                f'\ntraining job "{training_job_name}" status is "{training_job_status}", secondary status is "{secondary_status}"' +
                f'\nAttempting to stop training job "{training_job_name}"'
            )
            try:
                client.stop_training_job(
                    TrainingJobName=training_job_name
                )
            except Exception as e:
                logging.error(
                    "Encountered error while trying to "
                    "stop training job {}: {}".format(
                        training_job_name, str(e)
                    )
                )
                raise e
    return None

有关 Lambda 代码编辑器接口的更多信息，请参阅使用 LAmazon ambda 控制台编辑器创建函数。

跳过所有其他设置，然后选择配置页面顶部的保存。

通过 https://console.aws.amazon.com/cloudwatch/ 打开 CloudWatch 主机。

在左侧导航窗格中，选择 Events（事件）下方的规则，选择规则）。

选择 Create rule（创建规则）。

在 “步骤 1：创建规则” 页的 “事件源” 部分，选择 “SageMaker服务名称”，然后为 “事件类型” 选择 “SageMaker训练Job 状态更改”。事件模式预览应与以下示例 JSON 字符串类似：

{
    "source": [
        "aws.sagemaker"
    ],
    "detail-type": [
        "SageMaker Training Job State Change"
    ]
}

在目标部分中，选择添加目标*，然后选择您创建的debugger-rule-stop-training-jo b Lambda 函数。此步骤将 CloudWatch 事件规则与 Lambda 函数关联起来。

选择配置详细信息并转到步骤 2：配置规则详细信息页面。

指定 CloudWatch 规则定义名称。例如，debugger-cw-event-rule。

选择创建规则完成操作。

返回 Lambda 函数配置页面并刷新页面，然后刷新页面。确认它在 “设计器” 面板中配置正确。应将 CloudWatch 事件规则注册为 Lambda 函数的触发器。配置设计应与以下示例类似：