Amazon Elastic Compute Cloud
Linux 实例用户指南
AWS 文档中描述的 AWS 服务或功能可能因区域而异。要查看适用于中国区域的差异,请参阅 Amazon AWS 入门

优化 GPU 设置 (P2、P3 和 G3 实例)

您可以执行几种 GPU 设置优化以实现 P2、P3 和 G3 实例的最佳性能。默认情况下,NVIDIA 驱动程序使用 autoboost 功能,这会改变 GPU时钟速度。通过禁用 autoboost 功能并将 GPU 时钟速度设置为其最大频率,您可以始终实现 GPU 实例的最大性能。以下过程可帮助您将 GPU 设置配置为永久,禁用 autoboost 功能,并将 GPU 时钟速度设置为其最大频率。

优化 GPU 设置

  1. 将 GPU 设置配置为永久。该命令可能需要几分钟才能运行完毕。

    sudo nvidia-persistenced
  2. 禁用实例上所有 GPU 的 autoboost 功能。

    sudo nvidia-smi --auto-boost-default=0

    注意

    P3 实例上的 GPU 不支持 autoboost 功能。

  3. 将所有 GPU 时钟速度设置为其最大频率。使用以下命令中指定的内存和图形时钟速度。

    注意

    NVIDIA 驱动程序的某些版本不允许设置应用程序时钟速度,并且将引发 "Setting applications clocks is not supported for GPU …" 错误 (可忽略)。

    • P2 实例:

      sudo nvidia-smi -ac 2505,875
    • P3 实例:

      sudo nvidia-smi -ac 877,1530
    • G3 实例:

      sudo nvidia-smi -ac 2505,1177