Amazon深度学习 ARM64 AMI GPU PyTorch 2.4 (Ubuntu 22.04) - Amazon Deep Learning AMIs
Amazon Web Services 文档中描述的 Amazon Web Services 服务或功能可能因区域而异。要查看适用于中国区域的差异,请参阅 中国的 Amazon Web Services 服务入门 (PDF)

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

Amazon深度学习 ARM64 AMI GPU PyTorch 2.4 (Ubuntu 22.04)

有关入门帮助,请参阅 DLAMI 入门

AMI 名称格式

  • 深度学习 ARM64 AMI OSS Nvidia 驱动程序 GPU PyTorch 2.4。 $ {PATCH_VERSION} (Ubuntu 22.04) $ {YYYY-MM-DD}

支持的 EC2 实例

  • G5g

该 AMI 包含以下内容:

  • 支持的Amazon服务:Amazon EC2

  • 操作系统:Ubuntu 22.04

  • 计算架构: ARM64

  • Python:/opt/conda/envs/pytorch/bin/python

  • Python 版本:3.11

  • NVIDIA Driver

    • OSS Nvidia Driver:550.144.03

  • 英伟达 CUDA12 .1 堆栈

    • CUDA、NCCL 和 cudDN 安装路径:/-12.4/ usr/local/cuda

    • 默认 CUDA:12.4

      • 路径/ usr/local/cuda points to /usr/local/cuda -12.4/

      • 更新以下环境变量:

        • LD_LIBRARY_PATH 要有 /64 usr/local/cuda/lib:/usr/local/cuda/lib64:/usr/local/cuda:/usr/local/cuda/targets/sbsa-linux/lib:/usr/local/cuda/nvvm/lib64:/usr/local/cuda/extras/CUPTI/lib

        • 拥有路径/usr/local/cuda/bin/:/usr/local/cuda/include/

    • 编译后的系统 NCCL 版本现在/usr/local/cuda/: 2.21.5

    • PyTorch 从 c PyTorch onda 环境中编译的 NCCL 版本:2.20.5

  • Amazon CLI v2 是 aws2,v1 是 aws Amazon CLI

  • EBS 卷类型:gp3

  • 使用 SSM 参数查询 AMI-ID(示例区域为 us-east-1):

    aws ssm get-parameter --region us-east-1 \ --name /aws/service/deeplearning/ami/arm64/oss-nvidia-driver-gpu-pytorch-2.4-ubuntu-22.04/latest/ami-id \ --query "Parameter.Value" \ --output text
  • 使用以下方式查询 AMI-ID AWSCLI (示例区域为 us-east-1):

    aws ec2 describe-images --region us-east-1 \ --owners amazon \ --filters 'Name=name,Values=Deep Learning ARM64 AMI OSS Nvidia Driver GPU PyTorch 2.4.? (Ubuntu 22.04) ????????' 'Name=state,Values=available' \ --query 'reverse(sort_by(Images, &CreationDate))[:1].ImageId' \ --output text

发布日期:2025-02-17

AMI 名称:深度学习 ARM64 AMI OSS Nvidia Driver GPU PyTorch 2.4.0 (Ubuntu 22.04) 20250215

已更新
已删除

发布日期:2025-01-21

AMI 名称:深度学习 ARM64 AMI OSS Nvidia Driver GPU PyTorch 2.4.0 (Ubuntu 22.04) 20250117

已更新
  • 将Nvidia驱动程序从550.127.05版本升级到550.144.03版本,以解决2025年1月 NVIDIA GPU CVEs 显示驱动程序安全公告中提到的问题。

发布日期:2024-09-30

AMI 名称:深度学习 ARM64 AMI OSS Nvidia Driver GPU PyTorch 2.4.0 (Ubuntu 22.04) 20240927

已更新
  • Nvidia Container Toolkit 版本从 1.16.1 升级到 1.16.2,旨在解决安全漏洞 CVE-2024-0133

发布日期:2024-09-26

AMI 名称:深度学习 ARM64 AMI OSS Nvidia Driver GPU PyTorch 2.4.0 (Ubuntu 22.04) 20240926

新增了
  • 深度学习 ARM64 AMI OSS Nvidia Driver GPU PyTorch 2.4.0(Ubuntu 22.04)系列的首次发布。包括配备 NVIDIA 驱动程序 R550 的 conda 环境 pytorch,CUDA=12.4,cudnn=8.9.7,NCCL=2.20.5。 PyTorch