推荐的推理实例 - 深度学习 AMI
Amazon Web Services 文档中描述的 Amazon Web Services 服务或功能可能因区域而异。要查看适用于中国区域的差异,请参阅中国的 Amazon Web Services 服务入门

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

推荐的推理实例

AmazonInferentia 实例旨在为深度学习模型推理工作负载提供高性能和成本效益。具体来说,Inf1 实例类型使用Amazon推理筹码和AmazonNeuron SDK,它与常用的 TensorFlow、PyTorch 和 MXNet 等常用的机器学习框架集成。

客户可以使用 Inf1 实例以最低的云成本运行大规模机器学习推理应用程序,例如搜索、推荐引擎、计算机视觉、语音识别、自然语言处理、个性化和欺诈检测。

注意

应将模型大小作为选择实例的一个考虑因素。如果模型超出了实例的可用 RAM,请为应用程序选择其他具有足够内存的实例类型。

有关入门的更多信息Amazon推断 dLAMIS,请参阅这些区域有:Amazon带有 DLAMI 的推理芯片.

后续步骤

推荐的 Habana 实例