Amazon Web Services 文档中描述的 Amazon Web Services 服务或功能可能因区域而异。要查看适用于中国区域的差异，请参阅 中国的 Amazon Web Services 服务入门 (PDF)。

本文属于机器翻译版本。若本译文内容与英语原文存在差异，则一律以英文原文为准。

Amazon SageMaker HyperPod Inference 发行说明

本主题涵盖了跟踪 Amazon SageMaker HyperPod Inference 的更新、修复和新功能的发行说明。 SageMaker HyperPod 推理使您能够以企业级的可靠性在 HyperPod 集群上部署和扩展机器学习模型。有关 Amazon SageMaker HyperPod 平台的一般版本、更新和改进，请参阅亚马逊 SageMaker HyperPod 发行说明。

有关 SageMaker HyperPod 推理功能和部署选项的信息，请参阅在亚马逊上部署模型 SageMaker HyperPod。

SageMaker HyperPod 推理发行说明：v3.0

发布日期：2026 年 2 月 23 日

摘要

Inference Operator 3.0 引入了 EKS 插件集成，可简化生命周期管理，支持精细调度控制的 Node Affinity，并改进了资源标记。现有的基于 Helm 的安装可以使用提供的迁移脚本迁移到 EKS 附加组件。升级之前，请使用新的标记权限更新您的推理运算符执行角色。

主要特点

有关包括先决条件、升级说明和迁移指南在内的详细信息，请参阅以下部分。

先决条件

在将 Helm 版本升级到 3.0 之前，客户应为其推理运算符执行角色添加额外的标记权限。作为改善资源标记和安全性的一部分，推理运算符现在可以标记 ALB、S3 和 ACM 资源。此增强功能需要具有推理运算符执行角色的额外权限。向您的推理运算符执行角色添加以下权限：

{  
    "Sid": "CertificateTagginPermission",  
    "Effect": "Allow",  
    "Action": [  
        "acm:AddTagsToCertificate"  
    ],  
    "Resource": "arn:aws:acm:*:*:certificate/*",  
},  
{  
    "Sid": "S3PutObjectTaggingAccess",  
    "Effect": "Allow",  
    "Action": [  
        "s3:PutObjectTagging"  
    ],  
    "Resource": [  
        "arn:aws:s3:::<TLS_BUCKET>/*" # Replace * with your TLS bucket  
    ]  
}

升级到 v3.0

如果您已经通过 Helm 安装了推理运算符，请使用以下命令进行升级：

helm get values -n kube-system hyperpod-inference-operator \
> current-values.yaml

cd sagemaker-hyperpod-cli/helm_chart/HyperPodHelmChart/\
charts/inference-operator

helm upgrade hyperpod-inference-operator . -n kube-system \
  -f current-values.yaml --set image.tag=v3.0
    
# Verification
kubectl get deployment hyperpod-inference-operator-controller-manager \
  -n hyperpod-inference-system \
  -o jsonpath='{.spec.template.spec.containers[0].image}'

Helm 到 EKS 插件迁移

如果在 3.0 版本之前通过 Helm 安装推理运算符，我们建议迁移到 EKS Add-on，以便及时更新将为推理运算符发布的新功能。此脚本将 SageMaker HyperPod 推理运算符从基于 Helm 的安装迁移到 EKS 附加组件安装。

概述：该脚本将集群名称和区域作为参数，检索现有的 Helm 安装配置，然后迁移到 EKS Add-on 部署。它为推理操作员、ALB 控制器和 KEDA 操作员创建了新的 IAM 角色。

在迁移推理运算符之前，该脚本会确保存在所需的依赖关系（S3 CSI 驱动程序、 FSx CSI 驱动程序、证书管理器和指标服务器）。如果它们不存在，它会将它们部署为附加组件。

推理运算符插件迁移完成后，该脚本还会迁移 S3、和其他依赖项（ALB、KEDA FSx、cert-manager、metrics-server），前提是它们最初是通过推理运算符 Helm 图表安装的。使用 --skip-dependencies-migration S3 CSI 驱动程序、 FSx CSI 驱动程序、证书管理器和指标服务器可以跳过此步骤。请注意，ALB 和 KEDA 作为插件的一部分安装在与推理运算符相同的命名空间中，并将作为推理运算符插件的一部分进行迁移。

迁移先决条件：

获取迁移脚本：

git clone https://github.com/aws/sagemaker-hyperpod-cli.git
cd sagemaker-hyperpod-cli/helm_chart/HyperPodHelmChart/\
charts/inference-operator/migration

用法：

./helm_to_addon.sh [OPTIONS] \
  --cluster-name <cluster-name> (Required) \
  --region <region> (Required) \
  --helm-namespace kube-system (Optional) \
  --auto-approve (Optional) \
  --skip-dependencies-migration (Optional) \
  --s3-mountpoint-role-arn <s3-mountpoint-role-arn> (Optional) \
  --fsx-role-arn <fsx-role-arn> (Optional)

选项：

示例：

基本迁移（迁移依赖关系）：

./helm_to_addon.sh \
  --cluster-name my-cluster \
  --region us-east-1

无需提示即可自动批准：

./helm_to_addon.sh \
  --cluster-name my-cluster \
  --region us-east-1 \
  --auto-approve

跳过 S3 挂载点 FSx、证书管理器和指标服务器的依赖迁移：

./helm_to_addon.sh \
  --cluster-name my-cluster \
  --region us-east-1 \
  --skip-dependencies-migration

提供现有的 S3 和 FSx IAM 角色：

./helm_to_addon.sh \
  --cluster-name my-cluster \
  --region us-east-1 \
  --s3-mountpoint-role-arn arn:aws:iam::123456789012:role/s3-csi-role \
  --fsx-role-arn arn:aws:iam::123456789012:role/fsx-csi-role

Backup 位置：

备份存储在 /tmp/hyperpod-migration-backup-<timestamp>/

备份可实现安全的迁移和恢复：

回滚：

如果迁移失败，脚本会提示用户进行确认，然后再启动回滚以恢复先前的状态。

SageMaker HyperPod 推理发行说明：v2.3

新增功能

此版本在 “自定义资源定义” (CRDs) 中引入了新的可选字段，以增强部署配置的灵活性。

功能

错误修复

规范invocationEndpoint中对字段的更改现在InferenceEndpointConfig将生效：

安装头盔：

关注：https://github.com/aws/sagemaker-hyperpod-cli/tree/main/helm_chart

如果你只专注于安装推理运算符，那么在第 1 步之后，也就是说Set Up Your Helm Environment，就这样做cd HyperPodHelmChart/charts/inference-operator。由于您位于推理运算符图表目录中，因此在命令中，无论您看到helm_chart/HyperPodHelmChart什么，都要替.换为。

如果已安装，请将 Operator 升级到 v2.3：

cd sagemaker-hyperpod-cli/helm_chart/HyperPodHelmChart/\
charts/inference-operator

helm get values -n kube-system hyperpod-inference-operator \
> current-values.yaml

helm upgrade hyperpod-inference-operator . \
  -n kube-system \
  -f current-values.yaml \
  --set image.tag=v2.3