View a markdown version of this page

Amazon 深度学习 ARM64 AMI GPU PyTorch 2.4 (Ubuntu 22.04) - Amazon Deep Learning AMIs
Amazon Web Services 文档中描述的 Amazon Web Services 服务或功能可能因区域而异。要查看适用于中国区域的差异,请参阅 中国的 Amazon Web Services 服务入门 (PDF)。

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

Amazon 深度学习 ARM64 AMI GPU PyTorch 2.4 (Ubuntu 22.04)

有关入门帮助,请参阅 DLAMI 入门。

AMI 名称格式

  • 深度学习 ARM64 AMI OSS Nvidia 驱动程序 GPU PyTorch 2.4。$ {PATCH_VERSION} (Ubuntu 22.04) $ {} YYYY-MM-DD

支持的 EC2 实例

  • G5g

该 AMI 包含以下内容:

  • 支持的 Amazon 服务:亚马逊 EC2

  • 操作系统:Ubuntu 22.04

  • 计算架构:ARM64

  • Python:opt/conda/envs/pytorch/bin/python

  • Python 版本:3.11

  • NVIDIA Driver:

    • OSS Nvidia Driver:550.144.03

  • 英伟达 CUDA12.1 堆栈:

    • CUDA、NCCL 和 cuda-12.4/ 安装路径://cuda-12.4/ usr/local

    • 默认 CUDA:12.4

      • PATH/usr/local/cuda 指向//cuda-12.4/ usr/local

      • 更新以下环境变量:

        • LD_LIBRARY_PATH 要有//:/:/://usr/localcuda:/usr/local//sbsa-cuda/lib:/usr/local//lib cuda/lib64 64:////lib64:usr/local///cuda/targetslinux/libusr/localcuda/nvvmusr/localcuda/extrasCUPTI/lib64

        • 路径/usr/local/:cuda/bin//usr/local/cuda/include/

    • 编译系统 NCCL 版本位于/usr/local/cuda/: 2.21.5

    • PyTorch 从 c PyTorch onda 环境编译的 NCCL 版本:2.20.5

  • Amazon CLI v2 作为 aws2,v1 作为 aw Amazon CLI s

  • EBS 卷类型:gp3

  • AMI-ID 使用 SSM 参数查询(示例 Region 为 us-east-1):

    aws ssm get-parameter --region us-east-1 \ --name /aws/service/deeplearning/ami/arm64/oss-nvidia-driver-gpu-pytorch-2.4-ubuntu-22.04/latest/ami-id \ --query "Parameter.Value" \ --output text
  • AMI-ID 使用 AWSCLI 查询(示例 Region 是 us-east-1):

    aws ec2 describe-images --region us-east-1 \ --owners amazon \ --filters 'Name=name,Values=Deep Learning ARM64 AMI OSS Nvidia Driver GPU PyTorch 2.4.? (Ubuntu 22.04) ????????' 'Name=state,Values=available' \ --query 'reverse(sort_by(Images, &CreationDate))[:1].ImageId' \ --output text

发布日期:2025-02-17

AMI 名称:深度学习 ARM64 AMI OSS Nvidia 驱动程序 GPU PyTorch 2.4.0 (Ubuntu 22.04) 20250215

已更新
已删除

发布日期:2025-01-21

AMI 名称:深度学习 ARM64 AMI OSS Nvidia 驱动程序 GPU PyTorch 2.4.0 (Ubuntu 22.04) 20250117

已更新

发布日期:2024-09-30

AMI 名称:深度学习 ARM64 AMI OSS Nvidia 驱动程序 GPU PyTorch 2.4.0 (Ubuntu 22.04) 20240927

已更新
  • 将 Nvidia 容器工具包从 1.16.1 版本升级到 1.16.2,解决了安全漏洞。 CVE-2024-0133

发布日期:2024-09-26

AMI 名称:深度学习 ARM64 AMI OSS Nvidia 驱动程序 GPU PyTorch 2.4.0 (Ubuntu 22.04) 20240926

新增了
  • 深度学习 ARM64 AMI OSS Nvidia Driver GPU PyTorch 2.4.0 (Ubuntu 22.04) 系列的首次发布。包括配有 NVIDIA 驱动程序 R550 的 conda 环境 pytorch,CUDA=12.4,cuDNN=8.9.7,NCCL=2.20.5。 PyTorch