GPU 作业 - Amazon Batch
Amazon Web Services 文档中描述的 Amazon Web Services 服务或功能可能因区域而异。要查看适用于中国区域的差异,请参阅中国的 Amazon Web Services 服务入门

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

GPU 作业

GPU 任务可帮助您运行使用实例 GPU 的作业。

支持以下基于 GPU 的 Amazon EC2 实例类型。有关更多信息,请参阅 Amazon EC2 G3 实例Amazon EC2 G4 实例Amazon EC2 G5 实例Amazon EC2 P2 实例Amazon EC2 P3 实例Amazon EC2 P4d 实例

实例类型

GPU

GPU 内存

vCPU

内存

网络带宽

g3s.xlarge

1

8 GiB

4

30.5 GiB

10Gbps

g3.4xlarge

1

8 GiB

16

122 GiB

最高 10 Gbps

g3.8xlarge

2

16 GiB

32

244 GiB

10Gbps

g3.16xlarge

4

32 GiB

64

488 GiB

25 Gbps

g4dn.xlarge

1

16 GiB

4

16 GiB

最高 25 Gbps

g4dn.2xlarge

1

16 GiB

8

32 GiB

最高 25 Gbps

g4dn.4xlarge

1

16 GiB

16

64 GiB

最高 25 Gbps

g4dn.8xlarge

1

16 GiB

32

128 GiB

50 Gbps

g4dn.12xlarge

4

64 GiB

48

192 GiB

50 Gbps

g4dn.16xlarge

1

16 GiB

64

256 GiB

50 Gbps

g5.xlarge

1

24 GiB

4

16 GiB

最高 10 Gbps

g5.2xlarge

1

24 GiB

8

32 GiB

最高 10 Gbps

g5.4xlarge

1

24 GiB

16

64 GiB

最高 25 Gbps

g5.8xlarge

1

24 GiB

32

128 GiB

25 Gbps

g5.16xlarge

1

24 GiB

64

256 GiB

25 Gbps

g5.12xlarge

4

96 GiB

48

192 GiB

40Gbps

g5.24xlarge

4

96 GiB

96

384 GiB

50 Gbps

g5.48xlarge

8

192 GiB

192

78 GiB

100 Gbps

p2.xlarge

1

12 GiB

4

61 GiB

p2.8xlarge

8

96 GiB

32

488 GiB

10Gbps

p2.16xlarge

16

192 GiB

64

732 GiB

20 Gbps

p3.2xlarge

1

16 GiB

8

61 GiB

最高 10 Gbps

p3.8xlarge

4

64 GiB

32

244 GiB

10Gbps

p3.16xlarge

8

128 GiB

64

488 GiB

25 Gbps

p3dn.24xlarge

8

256 GiB

96

78 GiB

100 Gbps

p4d.24xlarge

8

320GiB

96

1152 GiB

4x100 Gbps

注意

中的 GPU 任务仅支持支持 NVIDIA GPU 并使用 x86_64 架构的实例类型Amazon Batch。例如,不支持G4adG5g实例系列。

作业定义的 Resourc eRequirements 参数指定了要固定到容器的 GPU 数量。该数量的 GPU 在该作业期间不适用于在该实例上运行的任何其他作业。计算环境中运行 GPU 任务的所有实例类型都必须来自p2p3p4g3g3sg4、或g5实例系列。如果不这样做,GPU 作业可能会停留在RUNNABLE状态中。

不使用 GPU 的任务可以在 GPU 实例上运行。但是,在 GPU 实例上运行它们的成本可能高于在类似的非 GPU 实例上运行的成本。根据特定 vCPU、内存和所需时间,这些非 GPU 作业可能会阻止 GPU 作业运行。