优化 GPU 设置 - Amazon Elastic Compute Cloud
Amazon Web Services 文档中描述的 Amazon Web Services 服务或功能可能因区域而异。要查看适用于中国区域的差异,请参阅 中国的 Amazon Web Services 服务入门 (PDF)

优化 GPU 设置

您可以执行多个 GPU 设置优化,以实现 NVIDIA GPU 实例的最佳性能。对于其中一些实例类型,NVIDIA 驱动程序使用 autoboost 功能,该功能会改变 GPU 时钟速度。通过禁用 autoboost 并将 GPU 时钟速度设置为其最大频率,您可以始终获得 GPU 实例的最大性能。下面的程序可帮助您将 GPU 设置配置为永久,在需要时禁用 autoboost 功能,并将 GPU 时钟速度设置为其最大频率。

以下步骤可用于优化 Linux 实例上的 GPU 设置。对于 Windows 实例,请参阅《适用于 Windows 实例的 Amazon EC2 用户指南》中的优化 GPU 设置

优化 GPU 设置
  1. 将 GPU 设置配置为永久。该命令可能需要几分钟才能运行完毕。

    [ec2-user ~]$ sudo nvidia-persistenced
  2. [仅限 G2、G3 和 P2 实例] 禁用实例上所有 GPU 的 autoboost 功能。

    [ec2-user ~]$ sudo nvidia-smi --auto-boost-default=0
  3. 将所有 GPU 时钟速度设置为其最大频率。使用以下命令中指定的内存和图形时钟速度。

    有些版本的 NVIDIA 驱动程序不支持设置应用程序时钟速度,并会显示错误 "Setting applications clocks is not supported for GPU...",您可以忽略该错误。

    • G3 实例:

      [ec2-user ~]$ sudo nvidia-smi -ac 2505,1177
    • G4dn 实例:

      [ec2-user ~]$ sudo nvidia-smi -ac 5001,1590
    • G5 实例:

      [ec2-user ~]$ sudo nvidia-smi -ac 6250,1710
    • P2 实例:

      [ec2-user ~]$ sudo nvidia-smi -ac 2505,875
    • P3 和 P3dn 实例:

      [ec2-user ~]$ sudo nvidia-smi -ac 877,1530
    • P4d 实例:

      [ec2-user ~]$ sudo nvidia-smi -ac 1215,1410
    • P4de 实例:

      [ec2-user ~]$ sudo nvidia-smi -ac 1593,1410
    • P5 实例:

      [ec2-user ~]$ sudo nvidia-smi -ac 2619,1980