Amazon 适用于 TensorFlow 2.18 ARM64 推理的 Deep Learning Containers 在 ECS EC2 和 EKS - Amazon 深度学习容器
Amazon Web Services 文档中描述的 Amazon Web Services 服务或功能可能因区域而异。要查看适用于中国区域的差异,请参阅 中国的 Amazon Web Services 服务入门 (PDF)

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

Amazon 适用于 TensorFlow 2.18 ARM64 推理的 Deep Learning Containers 在 ECS EC2 和 EKS

Amazon 适用于亚马逊 Elastic Kubernetes Service (EKS)、亚马逊弹性计算云 () 和亚马逊弹性@@ 容器服务 EC2 (ECS) 的深度学习容器 (DLC) 现已 ARM64 适用于平台,包括支持 Service 2.18 的 Graviton 实例类型。 TensorFlow 你可以在任何 ECS EC2、EKS 服务上启动 Deep Learning Containers 的新版本。有关 Dee Amazon p Learning Containers 支持的框架和版本的完整列表,请参阅下面的发行说明。

此版本包括用于在 CPU 上进行推理的容器映像,针对性能和扩展进行了 Amazon优化。这些 Docker 镜像已在 ECS EC2、EKS 服务中进行了测试,为运行深度学习工作负载提供了优化的用户体验。 Amazon对这些映像中的所有软件组件进行安全漏洞扫描,并根据 Amazon 安全最佳实践进行更新或修补。

可用容器列表可以在我们的文档中找到。使用我们开发者指南中的入门指南和从初学者到高级级别的教程,快速开始使用 Dee Amazon p Learning Containers。有关运行时配置和性能调整,请参阅 Amazon Graviton 技术指南。您也可以订阅我们的讨论论坛以获取发布公告并发布您的问题。

发布说明

  • 支持在 ECS 和 EKS TensorFlow 服务上 EC2提供 2.18 服务。有关此版本的详细信息,请查看我们的 GitHub v1.0-tf-arm64-ec2-2.18.0-310 inf-cpu-py

  • 从 TensorFlow 2.18 开始,我们将 Graviton 的名称更改为 DLCs , ARM64 DLCs 以概括其用法。例如,ECR 存储库名称现在为 “tensorflow-inference-arm64”,而不是 “” tensorflow-inference-graviton。Graviton DLCs 和,在功能上 ARM64 DLCs 是等同的。

有关最新更新,请参阅 aws/ 存储deep-learning-containers GitHub 库

安全建议

Python 支持

已安装的深度学习框架的容器中支持 Python 3.10。

CPU 实例类型支持

这些容器支持 Graviton CPU 实例类型。

Amazon 地区支持

这些容器可在以下地区使用:

区域

代码

美国东部(俄亥俄州)

us-east-2

美国东部(弗吉尼亚州北部)

us-east-1

美国西部(俄勒冈州)

us-west-2

美国西部(加利福尼亚北部)

us-west-1

AF South(开普敦)

af-south-1

亚太地区(香港)

ap-east-1

亚太地区(海得拉巴)

ap-south-2

亚太地区(孟买)

ap-south-1

亚太地区(大阪)

ap-northeast-3

亚太地区(首尔)

ap-northeast-2

亚太地区(东京)

ap-northeast-1

亚太地区(墨尔本)

ap-southeast-4

亚太地区(雅加达)

ap-southeast-3

亚太地区(悉尼)

ap-southeast-2

亚太地区(新加坡)

ap-southeast-1

亚太地区(马来西亚)

ap-southeast-5

加拿大(中部)

ca-central-1

加拿大(卡尔加里)

ca-west-1

欧洲(苏黎世)

eu-central-2

欧洲(法兰克福)

eu-central-1

欧洲(爱尔兰)

eu-west-1

欧洲(伦敦)

eu-west-2

欧盟(巴黎)

eu-west-3

欧盟(西班牙)

eu-south-2

欧盟(米兰)

eu-south-1

欧洲(斯德哥尔摩)

eu-north-1

以色列(特拉维夫)

il-central-1

中东(巴林)

me-south-1

中东(阿联酋)

me-central-1

南非(圣保罗)

sa-east-1

中国(北京)

cn-north-1

中国(宁夏)

cn-northwest-1

构建和测试

  • 建立在:c6g.2xlarge

  • DLC 图片经过测试:c8g.4xlarge、t4g.2xlarge、r8g.2xlarge、m7g.4xlarge、m7g.4xlarge