View a markdown version of this page

Amazon 深度学习 ARM64 AMI GPU PyTorch 2.4 (Ubuntu 22.04) - Amazon Deep Learning AMIs
AMI 名称格式支持的 EC2 实例AMI 内容发布日期：2025-02-17发布日期：2025-01-21发布日期：2024-09-30发布日期：2024-09-26
Amazon Web Services 文档中描述的 Amazon Web Services 服务或功能可能因区域而异。要查看适用于中国区域的差异，请参阅 中国的 Amazon Web Services 服务入门 (PDF)。

本文属于机器翻译版本。若本译文内容与英语原文存在差异，则一律以英文原文为准。

Amazon 深度学习 ARM64 AMI GPU PyTorch 2.4 (Ubuntu 22.04)

有关入门帮助，请参阅 DLAMI 入门。

AMI 名称格式

  • 深度学习 ARM64 AMI OSS Nvidia Driver GPU PyTorch 2.4。 $ {PATCH_VERSION} (Ubuntu 22.04) $ {} YYYY-MM-DD

支持的 EC2 实例

  • G5g

该 AMI 包含以下内容：

  • 支持的 Amazon 服务：亚马逊 EC2

  • 操作系统：Ubuntu 22.04

  • 计算架构：ARM64

  • Python:opt/conda//envs/pytorch/bin/python

  • Python 版本：3.11

  • NVIDIA Driver：

    • OSS Nvidia Driver：550.144.03

  • 英伟达 CUDA12.1 堆栈：

    • CUDA、NCCL 和 cudDN 安装路径：//cuda-12.4/ usr/local

    • 默认 CUDA：12.4

      • 路径 usr/local //cuda 指向//cuda-12.4/ usr/local

      • 更新以下环境变量：

        • LD_LIBRARY_PATH 要有//:/://usr/localcudacuda/lib:usr/local//sbsa-cuda/lib64:usr/local//lib64:///lib64:usr/local///cuda/targetslinux/libusr/localcuda/nvvmusr/localcuda/extrasCUPTI/lib64

        • 路径//usr/local/:cuda/bin//:usr/local/cuda/include/

    • 编译后的系统 NCCL 版本现在 //cudausr/local/: 2.21.5

    • PyTorch 从 c PyTorch onda 环境中编译的 NCCL 版本：2.20.5

  • Amazon CLI v2 是 aws2，v1 是 aws Amazon CLI

  • EBS 卷类型：gp3

  • AMI-ID 使用 SSM 参数进行查询（示例区域为 us-east-1）：

    aws ssm get-parameter --region us-east-1 \
    --name /aws/service/deeplearning/ami/arm64/oss-nvidia-driver-gpu-pytorch-2.4-ubuntu-22.04/latest/ami-id  \
    --query "Parameter.Value" \
    --output text

  • AMI-ID 使用 AWSCLI 进行查询（示例区域为 us-east-1）：

    aws ec2 describe-images --region us-east-1 \
    --owners amazon \
    --filters 'Name=name,Values=Deep Learning ARM64 AMI OSS Nvidia Driver GPU PyTorch 2.4.? (Ubuntu 22.04) ????????' 'Name=state,Values=available' \
    --query 'reverse(sort_by(Images, &CreationDate))[:1].ImageId' \
    --output text

发布日期：2025-02-17

AMI 名称：深度学习 ARM64 AMI OSS Nvidia Driver GPU PyTorch 2.4.0 (Ubuntu 22.04) 20250215

已更新
已删除

发布日期：2025-01-21

AMI 名称：深度学习 ARM64 AMI OSS Nvidia Driver GPU PyTorch 2.4.0 (Ubuntu 22.04) 20250117

已更新

发布日期：2024-09-30

AMI 名称：深度学习 ARM64 AMI OSS Nvidia Driver GPU PyTorch 2.4.0 (Ubuntu 22.04) 20240927

已更新

  • 将 Nvidia 容器工具包从版本 1.16.1 升级到 1.16.2，解决了安全漏洞。CVE-2024-0133

发布日期：2024-09-26

AMI 名称：深度学习 ARM64 AMI OSS Nvidia Driver GPU PyTorch 2.4.0 (Ubuntu 22.04) 20240926

新增了

  • 深度学习 ARM64 AMI OSS Nvidia Driver GPU PyTorch 2.4.0 (Ubuntu 22.04) 系列的首次发布。包括配备 NVIDIA 驱动程序 R550 的 conda 环境 pytorch，CUDA=12.4，cudnn=8.9.7，NCCL=2.20.5。 PyTorch