Amazon Web Services 文档中描述的 Amazon Web Services 服务或功能可能因区域而异。要查看适用于中国区域的差异，请参阅 中国的 Amazon Web Services 服务入门 (PDF)。

本文属于机器翻译版本。若本译文内容与英语原文存在差异，则一律以英文原文为准。

使用金丝雀流量转移

借助金丝雀流量转移，您可以在新实例集上测试部分端点流量，而旧实例集为其余流量提供服务。此测试步骤是一个安全防护机制，可在将所有流量转移到新实例集之前验证新实例集是否正常运转。您仍然可获得蓝绿部署的益处，而增加的金丝雀功能则在让新（绿色）实例集处理全部流量之前，确保该实例集可以处理推理请求。

在您的绿色实例集内，开启接收流量的部分称为金丝雀，您可以选择此金丝雀的大小。请注意，金丝雀的大小应小于或等于新实例集容量的 50%。在烘焙期结束且没有触发预先指定的 Amazon CloudWatch 警报，其余流量就会从旧的（蓝色）实例集转移到绿色实例集。金丝雀流量转移可在部署期间提供更高的安全性，因为更新后模型的任何问题都只会影响金丝雀。

下图显示了金丝雀流量转移如何管理蓝色实例集和绿色实例集之间的流量分布。

在 SageMaker AI 预调配了绿色实例集之后，SageMaker AI 会将一部分传入流量（例如 25%）路由到金丝雀。然后烘焙期开始，在此期间，您的 CloudWatch 警报将监控绿色实例集的性能。在此期间，蓝色实例集和绿色实例集均有一部分资源处于活动状态来接收流量。如果在烘焙期间触发了任何警报，则 SageMaker AI 会启动回滚，所有流量都路由到蓝色实例集。如果没有触发任何警报，那么所有的流量都会转移到绿色实例集，并且还有最后的烘焙期。如果最后的烘焙期结束且没有触发任何警报，则绿色实例集将为所有流量提供服务，SageMaker AI 将终止蓝色实例集。

先决条件

在设置带有金丝雀流量转移的部署之前，您必须创建 Amazon CloudWatch 警报以监控端点中的指标。警报在烘焙期间处于活动状态，如果触发了警报，则所有端点流量都会回滚到蓝色实例集。要了解如何在端点上设置 CloudWatch 警报，请参阅先决条件页面自动回滚配置和监控。有关 CloudWatch 警报的更多信息，请参阅《Amazon CloudWatch 用户指南》中的使用 Amazon CloudWatch 警报。

配置金丝雀流量转移

在您准备好部署并为端点设置了 Amazon CloudWatch 警报之后，您可以使用 Amazon SageMaker AI UpdateEndpoint API 或 Amazon CLI 中的 update-endpoint 命令来启动部署。

如何更新端点 (API)

以下 UpdateEndpoint API 示例展示了如何使用金丝雀流量转移来更新端点。

import boto3
client = boto3.client("sagemaker")

response = client.update_endpoint(
    EndpointName="<your-endpoint-name>",
    EndpointConfigName="<your-config-name>",
    DeploymentConfig={
        "BlueGreenUpdatePolicy": {
            "TrafficRoutingConfiguration": {
                "Type": "CANARY",
                "CanarySize": {
                    "Type": "CAPACITY_PERCENT",
                    "Value": 30
                },
                "WaitIntervalInSeconds": 600
            },
            "TerminationWaitInSeconds": 600,
            "MaximumExecutionTimeoutInSeconds": 1800
        },
        "AutoRollbackConfiguration": {
            "Alarms": [
                {
                    "AlarmName": "<your-cw-alarm>"
                }
            ]
        }
    }
)

要配置金丝雀流量转移选项，请执行以下操作：

如何使用现有的蓝绿更新政策更新端点 (API)

使用 CreateEndpoint API 创建端点时，您可以选择指定部署配置，以便在以后的端点更新中重复使用。您可以使用与之前的 UpdateEndpoint API 示例中相同的 DeploymentConfig 选项。CreateEndpoint API 的行为不会改变。指定部署配置不会自动在端点上执行蓝绿更新。

使用 UpdateEndpoint API 更新您的端点时，会出现使用以前部署配置的选项。更新端点时，您可以使用 RetainDeploymentConfig 选项，以保留创建端点时您指定的部署配置。

调用 UpdateEndpoint API 时，请将 RetainDeploymentConfig 设置为 True，以保留您的原始端点配置的 DeploymentConfig 选项。

response = client.update_endpoint(
    EndpointName="<your-endpoint-name>",
    EndpointConfigName="<your-config-name>",
    RetainDeploymentConfig=True
)

如何更新端点 (CLI)

如果您使用的是 Amazon CLI，以下示例展示了如何使用 update-endpoint 命令启动蓝绿金丝雀部署。

update-endpoint
--endpoint-name <your-endpoint-name>
--endpoint-config-name <your-config-name> 
--deployment-config '"BlueGreenUpdatePolicy": {"TrafficRoutingConfiguration": {"Type": "CANARY",
    "CanarySize": {"Type": "CAPACITY_PERCENT", "Value": 30}, "WaitIntervalInSeconds": 600},
    "TerminationWaitInSeconds": 600, "MaximumExecutionTimeoutInSeconds": 1800},
    "AutoRollbackConfiguration": {"Alarms": [{"AlarmName": "<your-alarm>"}]}'

要配置金丝雀流量转移选项，请执行以下操作：