GPU 作业 - AWS Batch
AWS 文档中描述的 AWS 服务或功能可能因区域而异。要查看适用于中国区域的差异,请参阅中国的 AWS 服务入门

如果我们为英文版本指南提供翻译,那么如果存在任何冲突,将以英文版本指南为准。在提供翻译时使用机器翻译。

GPU 作业

借助 GPU 作业,您可以运行使用实例 GPU 的作业。

支持以下基于 GPU 的 Amazon EC2 实例类型。有关更多信息,请参阅 Amazon EC2 G3 实例Amazon EC2 G4 实例Amazon EC2 P2 实例Amazon EC2 P3 实例

实例类型

GPU

GPU 内存

vCPU

内存

网络带宽

g3s.xlarge

1

8 GiB

4

30.5 GiB

10 Gbps

g3.4xlarge

1

8 GiB

16

122 GiB

最高 10 Gbps

g3.8xlarge

2

16 GiB

32

244 GiB

10 Gbps

g3.16xlarge

4

32 GiB

64

488 GiB

25 Gbps

g4dn.xlarge

1

16 GiB

4

16 GiB

最高 25 Gbps

g4dn.2xlarge

1

16 GiB

8

32 GiB

最高 25 Gbps

g4dn.4xlarge

1

16 GiB

16

64 GiB

最高 25 Gbps

g4dn.8xlarge

1

16 GiB

32

128 GiB

50 Gbps

g4dn.12xlarge

4

64 GiB

48

192 GiB

50 Gbps

g4dn.16xlarge

1

16 GiB

64

256 GiB

50 Gbps

p2.xlarge

1

12 GiB

4

61 GiB

p2.8xlarge

8

96 GiB

32

488 GiB

10 Gbps

p2.16xlarge

16

192 GiB

64

732 GiB

20 Gbps

p3.2xlarge

1

16 GiB

8

61 GiB

最高 10 Gbps

p3.8xlarge

4

64 GiB

32

244 GiB

10 Gbps

p3.16xlarge

8

128 GiB

64

488 GiB

25 Gbps

p3dn.24xlarge

8

256 GiB

96

768 GiB

100 Gbps

作业定义的resourceRequirements 参数指定要固定到容器并且在作业持续期间不可用于在实例上运行的任何其他作业的 GPU 的数量。计算环境中将运行 GPU 作业的所有实例类型都应来自 p2p3g3g3sg4 实例系列。如果不这么做,GPU 作业可能会停滞于 RUNNABLE 状态。

不使用 GPU 的作业可以在启用了 GPU 的实例上运行,但在启用了 GPU 的实例上运行的成本可能比在同样的非启用了 GPU 的实例上运行的成本要高。根据具体的 vCPU、内存和所需时间,这些非 GPU 作业可能会阻止 GPU 作业运行。