GPU 作业 - AWS Batch
AWS 文档中描述的 AWS 服务或功能可能因区域而异。要查看适用于中国区域的差异,请参阅中国的 AWS 服务入门

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

GPU 作业

GPU 作业可帮助您运行使用实例 GPU 的作业。

支持以 Amazon EC2 基于 GPU 的实例类型。有关更多信息,请参阅 。Amazon EC2 G3 实例Amazon EC2 G4 实例Amazon EC2 P2 实例, 和Amazon EC2 P3 实例

实例类型

GPU

GPU 内存

vCPU

内存

网络带宽

g3s.xlarge

1

8 GiB

4

30.5 GiB

10Gbps

g3.4xlarge

1

8 GiB

16

122 GiB

最高 10 Gbps

g3.8xlarge

2

16 GiB

32

244 GiB

10Gbps

g3.16xlarge

4

32 GiB

64

488 GiB

25 Gbps

g4dn.xlarge

1

16 GiB

4

16 GiB

最高 25 Gbps

g4dn.2xlarge

1

16 GiB

8

32 GiB

最高 25 Gbps

g4dn.4xlarge

1

16 GiB

16

64 GiB

最高 25 Gbps

g4dn.8xlarge

1

16 GiB

32

128 GiB

50 Gbps

g4dn.12xlarge

4

64 GiB

48

192 GiB

50 Gbps

g4dn.16xlarge

1

16 GiB

64

256 GiB

50 Gbps

p2.xlarge

1

12 GiB

4

61 GiB

p2.8xlarge

8

96 GiB

32

488 GiB

10Gbps

p2.16xlarge

16

192 GiB

64

732 GiB

20 Gbps

p3.2xlarge

1

16 GiB

8

61 GiB

最高 10 Gbps

p3.8xlarge

4

64 GiB

32

244 GiB

10Gbps

p3.16xlarge

8

128 GiB

64

488 GiB

25 Gbps

p3dn.24xlarge

8

256 GiB

96

768 GiB

100 Gbps

这些区域有:ResourceRelete参数指定要固定到容器的 GPU 的数量。在作业持续期间,此 GPU 数量不可用于在实例上运行的任何其他作业。计算环境中运行 GPU 作业的所有实例类型都应来自p2p3g3g3s,或者g4实例系列。如果不这么做,GPU 作业可能会停滞于RUNNABLE状态。

不使用 GPU 的作业可以在 GPU 实例上运行。但是,在 GPU 实例上运行的成本可能比在同样的非 GPU 实例上运行的成本要高。根据具体的 vCPU、内存和所需时间,这些非 GPU 作业可能会阻止 GPU 作业运行。