优化 GPU 设置 - Amazon Elastic Compute Cloud
Amazon Web Services 文档中描述的 Amazon Web Services 服务或功能可能因区域而异。要查看适用于中国区域的差异,请参阅中国的 Amazon Web Services 服务入门

优化 GPU 设置

您可以执行几种 GPU 设置优化,以便在 G3、G4dn、P2、P3 P3dn 以及 P4d 实例上实现最佳性能。对于其中一些实例类型,NVIDIA 驱动程序使用 autoboost 功能,该功能会改变 GPU 时钟速度。通过禁用 autoboost 并将 GPU 时钟速度设置为其最大频率,您可以始终获得 GPU 实例的最大性能。下面的程序可帮助您将 GPU 设置配置为永久,在需要时禁用 autoboost 功能,并将 GPU 时钟速度设置为其最大频率。

优化 GPU 设置

  1. 将 GPU 设置配置为永久。该命令可能需要几分钟才能运行完毕。

    [ec2-user ~]$ sudo nvidia-persistenced
  2. G2、G3 和 P2 实例:禁用实例上所有 GPU 的 autoboost 功能。

    注意

    G4dn、P3 P3dn 以及 P4d 实例上的 GPU 不支持 autoboost。

    [ec2-user ~]$ sudo nvidia-smi --auto-boost-default=0
  3. 将所有 GPU 时钟速度设置为其最大频率。使用以下命令中指定的内存和图形时钟速度。

    有些版本的 NVIDIA 驱动程序不支持设置应用程序时钟速度,并会显示错误 "Setting applications clocks is not supported for GPU...",您可以忽略该错误。

    • G3 实例:

      [ec2-user ~]$ sudo nvidia-smi -ac 2505,1177
    • G4dn 实例:

      [ec2-user ~]$ sudo nvidia-smi -ac 5001,1590
    • P2 实例:

      [ec2-user ~]$ sudo nvidia-smi -ac 2505,875
    • P3 和 P3dn 实例:

      [ec2-user ~]$ sudo nvidia-smi -ac 877,1530
    • P4d 实例:

      [ec2-user ~]$ sudo nvidia-smi -ac 1215,1410