Amazon Web Services 文档中描述的 Amazon Web Services 服务或功能可能因区域而异。要查看适用于中国区域的差异，请参阅 中国的 Amazon Web Services 服务入门 (PDF)。

为一个或多个算法创建超参数优化调优作业（控制台）

本指南将介绍如何为一个或多个算法创建新的超参数优化 (HPO) 调优作业。要创建 HPO 作业，请定义调优作业的设置，并为每个要调整的算法创建训练作业定义。接下来，为调优作业配置资源并创建调优作业。以下各部分提供了有关如何完成每个步骤的详细信息。在本指南的末尾，我们将举例说明如何使用 SageMaker SDK for Python 客户端调整多种算法。

调优作业的组件

HPO 调优作业包含以下三个组件：

这些组件包含在 HPO 调优作业中的方式，取决于调优作业是包含一个还是多个训练算法。以下指南描述了每个组件，并列举了两种调优作业类型的示例。

HPO 调优作业示例

要运行超参数优化 (HPO) 训练作业，请先为每个要调整的算法创建训练作业定义。接下来，定义调优作业设置并配置调优作业的资源。最后，运行调优作业。

如果 HPO 调优作业包含单个训练算法，则 SageMaker 调优函数将直接调用 HyperparameterTuner API 并传入参数。如果 HPO 调优作业包含多个训练算法，则调优函数将调用 HyperparameterTuner API 的 create 函数。create 函数会告知 API 期望一个包含一个或多个评估程序的字典。

以下部分中的代码示例将演示如何使用 SageMaker Python SDK，调整包含单个训练算法或多个算法的作业。

创建训练作业定义

您在创建包含多个训练算法的调优作业时，调优作业配置将包括训练作业的评估程序和指标以及其他参数。因此，您需要先创建训练作业定义，然后再配置调优作业。

以下代码示例演示了如何检索包含内置算法 XGBoost 和 Linear Learner 的两个 SageMaker 容器。如果调优作业仅包含一个训练算法，则可省略其中一个容器和一个评估程序。

import sagemaker
from sagemaker import image_uris

from sagemaker.estimator import Estimator

sess = sagemaker.Session()
region = sess.boto_region_name
role = sagemaker.get_execution_role()

bucket = sess.default_bucket()
prefix = "sagemaker/multi-algo-hpo"

# Define the training containers and intialize the estimators
xgb_container = image_uris.retrieve("xgboost", region, "latest")
ll_container = image_uris.retrieve("linear-learner", region, "latest")

xgb_estimator = Estimator(
    xgb_container,
    role=role,
    instance_count=1,
    instance_type="ml.m4.xlarge",
    output_path='s3://{}/{}/xgb_output".format(bucket, prefix)',
    sagemaker_session=sess,
)

ll_estimator = Estimator(
    ll_container,
    role,
    instance_count=1,
    instance_type="ml.c4.xlarge",
    output_path="s3://{}/{}/ll_output".format(bucket, prefix),
    sagemaker_session=sess,
)

# Set static hyperparameters
ll_estimator.set_hyperparameters(predictor_type="binary_classifier")
xgb_estimator.set_hyperparameters(
    eval_metric="auc",
    objective="binary:logistic",
    num_round=100,
    rate_drop=0.3,
    tweedie_variance_power=1.4,
)

接下来，通过指定训练、验证和测试数据集来定义输入数据，如以下代码示例中所示。此示例演示了如何调整多个训练算法。

training_data = sagemaker.inputs.TrainingInput(
    s3_data="s3://{}/{}/train".format(bucket, prefix), content_type="csv"
)
validation_data = sagemaker.inputs.TrainingInput(
    s3_data="s3://{}/{}/validate".format(bucket, prefix), content_type="csv"
)
test_data = sagemaker.inputs.TrainingInput(
    s3_data="s3://{}/{}/test".format(bucket, prefix), content_type="csv"
)

train_inputs = {
    "estimator-1": {
        "train": training_data,
        "validation": validation_data,
        "test": test_data,
    },
    "estimator-2": {
        "train": training_data,
        "validation": validation_data,
        "test": test_data,
    },
}

如果调优算法仅包含一个训练算法，则 train_inputs 应仅包含一个评估程序。

您必须先将训练、验证和训练数据集的输入上传至 Amazon S3 存储桶，然后才能在 HPO 调优作业中使用这些数据。

为调优作业定义资源和设置

本部分将介绍如何初始化调优程序、定义资源以及为调优作业指定作业设置。如果调优作业包含多个训练算法，则这些设置将应用于调优作业中包含的所有算法。本部分提供了两个定义调优程序的代码示例。代码示例将演示如何优化单个训练算法，其后是如何调整多个训练算法的示例。

调整单个训练算法

以下代码示例演示了如何初始化调优程序，以及如何为单个 SageMaker 内置算法 XGBoost 设置超参数范围。

from sagemaker.tuner import HyperparameterTuner
from sagemaker.parameter import ContinuousParameter, IntegerParameter

hyperparameter_ranges = {
    "max_depth": IntegerParameter(1, 10),
    "eta": ContinuousParameter(0.1, 0.3),
}

objective_metric_name = "validation:accuracy"

tuner = HyperparameterTuner(
    xgb_estimator,
    objective_metric_name,
    hyperparameter_ranges,
    objective_type="Maximize",
    max_jobs=5,
    max_parallel_jobs=2,
)       

调整多个训练算法

每个训练作业需要不同的配置，这些配置使用字典指定。以下代码示例演示了如何初始化针对如下两个 SageMaker 内置算法进行配置的调优程序：XGBoost 和 Linear Learner。该代码示例还演示了如何设置调优策略和其他作业设置，如调优作业的计算资源。以下代码示例使用了 metric_definitions_dict，这是一个可选项。

from sagemaker.tuner import HyperparameterTuner
from sagemaker.parameter import ContinuousParameter, IntegerParameter

# Initialize your tuner
tuner = HyperparameterTuner.create(
    estimator_dict={
        "estimator-1": xgb_estimator,
        "estimator-2": ll_estimator,
    },
    objective_metric_name_dict={
        "estimator-1": "validation:auc",
        "estimator-2": "test:binary_classification_accuracy",
    },
    hyperparameter_ranges_dict={
        "estimator-1": {"eta": ContinuousParameter(0.1, 0.3)},
        "estimator-2": {"learning_rate": ContinuousParameter(0.1, 0.3)},
    },
    metric_definitions_dict={
        "estimator-1": [
            {"Name": "validation:auc", "Regex": "Overall test accuracy: (.*?);"}
        ],
        "estimator-2": [
            {
                "Name": "test:binary_classification_accuracy",
                "Regex": "Overall test accuracy: (.*?);",
            }
        ],
    },
    strategy="Bayesian",
    max_jobs=10,
    max_parallel_jobs=3,
)          

运行 HPO 调优作业

现在，您可以将训练输入传递给 HyperparameterTuner 类的 fit 函数，以运行调优作业。以下代码示例演示了如何将上个代码示例中定义的 train_inputs 参数传递给您的调优程序。

tuner.fit(inputs=train_inputs, include_cls_metadata ={}, estimator_kwargs ={})