完成影子测试 - Amazon SageMaker
Amazon Web Services 文档中描述的 Amazon Web Services 服务或功能可能因区域而异。要查看适用于中国区域的差异,请参阅 中国的 Amazon Web Services 服务入门 (PDF)

完成影子测试

您的测试将在预定持续时间结束时自动完成,您也可以提前停止正在进行的测试。测试完成后,影子测试页面上的影子测试部分中的测试状态将显示为完成。然后,您就可以查看和分析测试的最终指标。

您可以使用指标控制面板来决定是否将影子变体推广到生产环境。有关分析测试指标控制面板的更多信息,请参阅监控影子测试

有关如何在预定完成时间结束前完成测试的说明,请参阅尽早完成影子测试

有关将影子变体推广到生产环境的说明,请参阅推广影子变体

尽早完成影子测试

如果您认为影子变体的指标看起来不错,并希望将其推广到生产环境,那么您可能需要完成正在进行的影子测试。如果一个或多个变体表现不佳,您也可以决定完成测试。

要在预定结束日期前完成测试,请执行以下操作:

  1. 影子测试页面上的影子测试部分选择要标记为完成的测试。

  2. 操作下拉列表中选择完成,此时将出现完成影子测试对话框。

  3. 在该对话框中,选择以下选项之一:

    • 是,部署影子变体

    • 否,移除影子变体

  4. (可选)在注释文本框中,输入您在预定结束时间之前完成测试的原因。

    1. 如果您决定部署影子变体,请选择完成并继续部署。此时将出现部署影子变体页面。有关如何填写此页面的说明,请参阅推广影子变体

    2. 如果您决定移除影子变体,请选择确认

推广影子变体

如果您决定要用影子变体替换生产变体,则可以更新端点并推广影子变体来响应推理请求。这将从生产中删除当前的生产变体,代之以影子变体。

如果您的影子测试仍在进行中,您必须先完成测试。要在预定结束前完成影子测试,请在继续本节之前按照尽早完成影子测试中的说明进行操作。

将影子变体推广到生产环境时,您可以选择使用下面的影子变体实例计数。

  • 您可以保留生产变体中的实例计数和类型。如果选择此选项,则影子变体将以当前实例计数在生产环境中启动,确保模型能以相同的规模继续处理请求流量。

  • 您可以保留影子变体的实例计数和类型。如果要使用此选项,我们建议您使用 100% 流量采样进行影子测试,以确保影子变体能够以当前规模处理请求流量。

  • 您可以为实例计数和类型使用自定义值。如果要使用此选项,我们建议您使用 100% 流量采样进行影子测试,以确保影子变体能够以当前规模处理请求流量。

除非您要验证影子变体的实例类型或/和计数,否则我们强烈建议您在推广影子变体时保留生产变体中的实例计数和类型。

要推广您的影子变体,请执行以下操作:

  1. 如果测试已完成,请执行以下操作:

    1. 影子测试页面上的影子测试部分选择测试。

    2. 操作下拉列表中,选择查看。此时将显示控制面板。

    3. 环境部分选择部署影子变体。此时将出现部署影子变体页面。

    如果您的测试尚未完成,请参阅尽早完成影子测试以完成测试。

  2. 变体设置部分,选择以下选项之一:

    • 保留生产设置

    • 保留影子设置

    • 自定义实例设置

    如果您选择了自定义实例设置,请执行以下操作:

    1. 实例类型下拉列表中选择实例类型。

    2. 实例计数下,输入实例数量。

  3. 输入“deploy”以确认部署文本框中,输入 deploy

  4. 选择部署影子变体

SageMaker 推理端点现在使用影子变体作为生产变体,而您的生产变体已从端点中移除。