安装训练操作员

确保您的 HyperPod 集群的 IAM 执行角色具有 eks-auth: 权限。AssumeRoleForPodIdentity

设置 EKS Pod 身份代理。

将以下 IAM 策略附加到您新创建的角色。

然后在您的 EKS 集群、您的 IAM 角色和新的 IAM 角色之间创建 pod 身份关联。完成该过程后，您可以使用该 ListPodIdentityAssociations 操作来查看您创建的关联。以下是它可能是什么样子的示例响应。

aws eks list-pod-identity-associations --cluster-name my-eks-cluster
{
    "associations": [{
        "clusterName": "my-hyperpod-cluster",
        "namespace": "aws-hyperpod",
        "serviceAccount": "hp-training-operator-controller-manager",
        "associationArn": "arn:aws:eks:us-east-2:123456789012:podidentityassociation/my-hyperpod-cluster/a-1a2b3c4d5e6f7g8h9",
        "associationId": "a-1a2b3c4d5e6f7g8h9"
    }]
}

按照 Kueue 官方文档中的安装指南进行操作。当您进入配置步骤时controller_manager_config.yaml，请添加以下配置：

externalFrameworks:
- "HyperPodPytorchJob.v1.sagemaker.amazonaws.com"

按照官方安装指南中的其余步骤进行操作。安装完 Kueue 后，您可以使用命令创建一些示例队列。kubectl apply -f sample-queues.yaml使用以下 YAML 文件。

apiVersion: kueue.x-k8s.io/v1beta1
kind: ClusterQueue
metadata:
  name: cluster-queue
spec:
  namespaceSelector: {}
  preemption:
    withinClusterQueue: LowerPriority
  resourceGroups:
  - coveredResources:
    - cpu
    - nvidia.com/gpu
    - pods
    flavors:
    - name: default-flavor
      resources:
      - name: cpu
        nominalQuota: 16
      - name: nvidia.com/gpu
        nominalQuota: 16
      - name: pods
        nominalQuota: 16
---
apiVersion: kueue.x-k8s.io/v1beta1
kind: LocalQueue
metadata:
  name: user-queue
  namespace: default
spec:
  clusterQueue: cluster-queue
---
apiVersion: kueue.x-k8s.io/v1beta1
kind: ResourceFlavor
metadata:
  name: default-flavor
---
apiVersion: kueue.x-k8s.io/v1beta1
description: High priority
kind: WorkloadPriorityClass
metadata:
  name: high-priority-class
value: 1000
---
apiVersion: kueue.x-k8s.io/v1beta1
description: Low Priority
kind: WorkloadPriorityClass
metadata:
  name: low-priority-class
value: 500