推理 - Amazon 深度学习容器
Amazon Web Services 文档中描述的 Amazon Web Services 服务或功能可能因区域而异。要查看适用于中国区域的差异,请参阅 中国的 Amazon Web Services 服务入门 (PDF)

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

推理

使用中的步骤创建集群后亚马逊EKS设置,即可使用它来运行推理作业。为了进行推断,您可以根据集群中的节点使用CPU或GPU示例。推理仅支持单节点配置。以下主题介绍如何在使用 PyTorch、和 TensorFlow时EKS使用 Dee Amazon p Learning Containers 运行推理。