构建您自己的处理容器（高级方案） - Amazon SageMaker
Amazon SageMaker Processing 如何运行处理容器映像Amazon SageMaker Processing 如何为处理容器配置输入和输出Amazon SageMaker Processing 如何为处理容器提供日志和指标Amazon SageMaker Processing 如何配置处理容器保存和访问有关处理作业的元数据信息使用 SageMaker Python 开发工具包运行处理容器
Amazon Web Services 文档中描述的 Amazon Web Services 服务或功能可能因区域而异。要查看适用于中国区域的差异，请参阅中国的 Amazon Web Services 服务入门。

本文属于机器翻译版本。若本译文内容与英语原文存在差异，则一律以英文原文为准。

构建您自己的处理容器（高级方案）

您可以为 Amazon SageMaker Processing 提供具有您自己的代码和依赖项的 Docker 映像，以运行数据处理、工程设计和模型评估工作负载。

下面的 Dockerfile 示例使用可作为处理作业运行的 Python 库 scikit-learn 和 pandas 来构建容器。

FROM python:3.7-slim-buster

# Install scikit-learn and pandas
RUN pip3 install pandas==0.25.3 scikit-learn==0.21.3

# Add a Python script and configure Docker to run it
ADD processing_script.py /
ENTRYPOINT ["python3", "/processing_script.py"]

构建此 Docker 映像并将其推送到 Amazon Elastic Container Registry (Amazon ECR) 存储库，并确保您的 SageMaker IAM 角色可从 Amazon ECR 中提取映像。然后，您可以在 Amazon SageMaker Processing 中运行此映像。

Amazon SageMaker Processing 如何运行处理容器映像

Amazon SageMaker Processing 采用类似于以下命令的方式运行处理容器映像。AppSpecification.ImageUri是您在中指定的 Amazon ECR 映像 URI。CreateProcessingJoboperation.

docker run [AppSpecification.ImageUri]

此命令运行在 Docker 映像中配置的 ENTRYPOINT 命令。

您还可以通过在 CreateProcessingJob 请求中使用 AppSpecification.ContainerEntrypoint 和 AppSpecification.ContainerArgument 参数来覆盖映像中的入口点命令，或者向入口点命令提供命令行参数。指定这些参数会将 Amazon SageMaker Processing 配置为以类似于以下命令的方式运行容器。

 docker run --entry-point [AppSpecification.ContainerEntrypoint] [AppSpecification.ImageUri] [AppSpecification.ContainerArguments]

例如，如果您指定ContainerEntrypoint要成为[python3, -v, /processing_script.py]在您的CreateProcessingJob 和请求ContainerArguments要成为[data-format, csv]，Amazon SageMaker 处理使用以下命令运行您的容器。

 python3 -v /processing_script.py data-format csv

构建处理容器时，请考虑以下详细信息：

  • Amazon SageMaker Processing 决定作业是完成还是失败取决于命令运行的退出代码。如果所有处理容器都成功退出且退出代码为 0，处理作业已完成；如果任何容器以非零退出代码退出，则处理作业失败。

  • Amazon SageMaker Processing 允许您像使用 Docker API 一样覆盖处理容器的入口点并设置命令行参数。Docker 映像还可以使用 ENTRYPOINT 和 CMD 指令配置入口点和命令行参数。CreateProcessingJob 的 ContainerEntrypoint 和 ContainerArgument 参数配置 Docker 映像入口点和参数的方式反映了 Docker 如何通过 Docker API 覆盖入口点和参数的方式：

    • 如果都不是ContainerEntrypoint也不ContainerArguments已提供，“处理” 使用默认值ENTRYPOINT或者图片中的 CMD。

    • 如果ContainerEntrypoint已提供但未提供ContainerArguments，Processing 将使用给定的入口点运行映像，并忽略ENTRYPOINT和图片中的 CMD。

    • 如果ContainerArguments已提供但未提供ContainerEntrypoint，“处理” 使用默认值运行图像ENTRYPOINT在图片中以及提供的参数。

    • 如果两者都ContainerEntrypoint和ContainerArgumentsProcessing 将使用给定的入口点和参数运行映像，并忽略ENTRYPOINT和图片中的 CMD。

  • 在您的 Dockerfile 中使用 ENTRYPOINT 指令的 exec 形式 (ENTRYPOINT ["executable", "param1", "param2"])，而不是 shell 形式 (ENTRYPOINT command param1 param2)。这可以让你的处理容器接收SIGINT和SIGKILLProcessing 使用信号来停止处理作业StopProcessingJobAPI。

  • /opt/mlSageMaker 将保留其所有子目录。在构建 Processing Docker 映像时，请不要将处理容器所需的任何数据放置在这些目录中。

  • 如果您计划使用 GPU 设备，请确保容器与 nvidia-docker 兼容。在容器中仅包含 CUDA 工具包。不要将 NVIDIA 驱动程序与镜像捆绑。有关 nvidia-docker 的更多信息，请参阅 NVIDIA/nvidia-docker。

Amazon SageMaker Processing 如何为处理容器配置输入和输出

使用 CreateProcessingJob 操作创建处理作业时，可以指定多个 ProcessingInput 和 ProcessingOutput 值。

您将ProcessingInput参数指定要从中下载数据的 Amazon Simple Storage Service (Amazon S3) URI，以及要将数据下载到的处理容器路径。这些区域有：ProcessingOutput参数配置从中上传数据的处理容器路径，以及在 Amazon S3 中将该数据上传到的位置。对于 ProcessingInput 和 ProcessingOutput，处理容器中的路径必须以 /opt/ml/processing/ 开头。

例如，您可以创建一个处理作业，该处理作业具有一个 ProcessingInput 参数（此参数可将数据从 s3://your-data-bucket/path/to/input/csv/data 下载到处理容器中的 /opt/ml/processing/csv）；还具有一个 ProcessingOutput 参数（此参数可将数据从 /opt/ml/processing/processed_csv 上传到 s3://your-data-bucket/path/to/output/csv/data）。您的处理作业将读取输入数据，并将输出数据写入 /opt/ml/processing/processed_csv。然后，它将写入此路径的数据上传到指定的 Amazon S3 输出位置。

重要

符号链接（符号链接）不能用于将输出数据上传到 Amazon S3。上传输出数据时不遵循符号链接。

Amazon SageMaker Processing 如何为处理容器提供日志和指标

当你的处理容器写入stdout要么stderr，Amazon SageMaker Processing 会保存每个处理容器的输出并将输出放入 Amazon CloudWatch 日志中。有关日志记录的信息，请参阅使用 Amazon CloudWatch 记录 Amazon SageMaker 事件。

Amazon SageMaker Processing 还会为运行处理容器的每个实例提供 CloudWatch 指标。有关指标的信息，请参阅使用 Amazon CloudWatch 监控 Amazon SageMaker。

Amazon SageMaker Processing 如何配置处理容器

Amazon SageMaker Processing 通过环境变量和两个 JSON 文件为处理容器提供配置信息。/opt/ml/config/processingjobconfig.json和/opt/ml/config/resourceconfig.json— 在容器中的预定义位置。

当处理作业启动时，它将使用您在 CreateProcessingJob 请求中通过 Environment 映射指定的环境变量。/opt/ml/config/processingjobconfig.json 文件包含有关处理容器的主机名的信息，并且也在 CreateProcessingJob 请求中指定。

以下示例显示了 /opt/ml/config/processingjobconfig.json 文件的格式。

{
    "ProcessingJobArn": "<processing_job_arn>",
    "ProcessingJobName": "<processing_job_name>",
    "AppSpecification": {
        "ImageUri": "<image_uri>",
        "ContainerEntrypoint": null,
        "ContainerArguments": null
    },
    "Environment": {
        "KEY": "VALUE"
    },
    "ProcessingInputs": [
        {
            "InputName": "input-1",
            "S3Input": {
                "LocalPath": "/opt/ml/processing/input/dataset",
                "S3Uri": "<s3_uri>",
                "S3DataDistributionType": "FullyReplicated",
                "S3DataType": "S3Prefix",
                "S3InputMode": "File",
                "S3CompressionType": "None",
                "S3DownloadMode": "StartOfJob"
            }
        }
    ],
    "ProcessingOutputConfig": {
        "Outputs": [
            {
                "OutputName": "output-1",
                "S3Output": {
                    "LocalPath": "/opt/ml/processing/output/dataset",
                    "S3Uri": "<s3_uri>",
                    "S3UploadMode": "EndOfJob"
                }
            }
        ],
        "KmsKeyId": null
    },
    "ProcessingResources": {
        "ClusterConfig": {
            "InstanceCount": 1,
            "InstanceType": "ml.m5.xlarge",
            "VolumeSizeInGB": 30,
            "VolumeKmsKeyId": null
        }
    },
    "RoleArn": "<IAM role>",
    "StoppingCondition": {
        "MaxRuntimeInSeconds": 86400
    }
}

/opt/ml/config/resourceconfig.json 文件包含有关处理容器的主机名的信息。使用以下命令：HostName在创建或运行分布式处理代码时。

{
  "current_host": "algo-1",
  "hosts": ["algo-1","algo-2","algo-3"]
}

请勿使用 /etc/hostname 或 /etc/hosts 中包含的有关主机名的信息，因为它可能不准确。

处理容器可能无法立即获得主机名信息。我们建议当节点在集群中可用时，在主机名解析操作上添加重试策略。

保存和访问有关处理作业的元数据信息

要在退出处理容器后保存其中的元数据，容器可以将 UTF-8 编码的文本写入 /opt/ml/output/message 文件。处理作业进入任何终端状态后（”Completed“，”Stopped“、或”Failed“)，”ExitMessage“字段中的字段DescribeProcessingJob包含此文件的前 1 KB。通过调用 DescribeProcessingJob 访问文件的初始部分，这会通过 ExitMessage 参数返回它。对于失败的处理作业，您可以使用此字段传达有关处理容器失败原因的信息。

重要

请勿将敏感数据写入 /opt/ml/output/message 文件。

如果此文件中的数据未经 UTF-8 编码，则作业将失败并返回 ClientError。如果多个容器退出且显示 ExitMessage,，则会将每个处理容器中的 ExitMessage 的内容连接起来，然后截断为 1 KB。

使用 SageMaker Python 开发工具包运行处理容器

您可以使用 SageMaker Python 开发工具包运行您自己的处理映像，Processor类。以下示例演示如何运行您自己的处理容器，该容器具有一个来自 Amazon Simple Storage Service (Amazon S3) 的输入和一个到 Amazon S3 的输出。

from sagemaker.processing import Processor, ProcessingInput, ProcessingOutput

processor = Processor(image_uri='<your_ecr_image_uri>',
                     role=role,
                     instance_count=1,
                     instance_type="ml.m5.xlarge")

processor.run(inputs=[ProcessingInput(
                        source='<s3_uri or local path>',
                        destination='/opt/ml/processing/input_data')],
                    outputs=[ProcessingOutput(
                        source='/opt/ml/processing/processed_data',
                        destination='<s3_uri>')],
                    ))

您可以向 ScriptProcessor 提供您的映像、要运行的命令以及要在该容器内运行的代码，而不是将处理代码构建到处理映像中。有关示例，请参阅 使用您自己的处理容器运行脚本。

您还可以使用 Amazon SageMaker Processing 通过提供的 scikit-learn 映像。SKLearnProcessor来运行 scikit-learn 脚本。有关示例，请参阅使用 scikit-learn 处理数据。