Amazon Web Services 文档中描述的 Amazon Web Services 服务或功能可能因区域而异。要查看适用于中国区域的差异，请参阅 中国的 Amazon Web Services 服务入门 (PDF)。

本文属于机器翻译版本。若本译文内容与英语原文存在差异，则一律以英文原文为准。

执行机器学习推理

借Amazon IoT Greengrass助，您可以使用经过云训练的模型在边缘设备上对本地生成的数据执行机器学习 (ML) 推断。您可以从运行本地推理的低延迟和成本节省中受益，且仍然可以利用云计算在训练模型和复杂处理方面的强大功能。

Amazon IoT Greengrass提高了执行推理所需的步骤的效率。您可以在任何地方训练推理模型，并将它们作为机器学习组件部署在本地。例如，您可以在亚马逊中构建和训练深度学习模型， SageMaker或者在 Amazon Lookout for Vision 中构建和训练计算机视觉模型。然后，您可以将这些模型存储在 A mazon S3 存储桶中，这样您就可以将这些模型用作组件中的构件，在核心设备上执行推理。

Amazon IoT Greengrass ML 推理的工作原理

Amazon提供机器学习组件，您可以使用这些组件创建一站式部署，以便在设备上执行机器学习推理。您还可以使用这些组件作为模板来创建自定义组件以满足您的特定要求。

您为执行机器学习推理而创建的每个部署都包含至少一个组件，用于运行您的推理应用程序、安装机器学习框架和下载您的机器学习模型。要使用Amazon提供的组件执行样本推理，您需要将推理组件部署到核心设备，该组件会自动将相应的模型和运行时组件作为依赖项包括在内。要自定义部署，您可以将示例模型组件插入或替换为自定义模型组件，也可以将Amazon提供的组件配方用作模板来创建自己的自定义推理、模型和运行时组件。

要使用自定义组件执行机器学习推理，请执行以下操作：

要开始使用Amazon提供的组件，请参阅教程：使用 TensorFlow Lite 执行样本图像分类推断。

有关创建自定义机器学习组件的信息，请参阅自定义您的机器学习组件。

Amazon IoT Greengrass版本 2 有何不同？

Amazon IoT Greengrass将机器学习的功能单元（例如模型、运行时和推理代码）整合为组件，使您能够使用一步流程安装机器学习运行库、下载经过训练的模型并在设备上执行推理。

通过使用Amazon提供的机器学习组件，您可以灵活地开始使用示例推理代码和预训练模型执行机器学习推理。您可以插入自定义模型组件，使用自己的自定义训练模型以及Amazon提供的推理和运行时组件。对于完全自定义的机器学习解决方案，您可以使用公共组件作为模板来创建自定义组件，并使用所需的任何运行时、模型或推理类型。

要求

要创建和使用机器学习组件，您必须具备以下内容：

支持的模型源

Amazon IoT Greengrass支持使用存储在 Amazon S3 中的自定义训练机器学习模型。您还可以使用 Amazon SageMaker 边缘打包任务直接为 SageMaker NEO 编译的模型创建模型组件。有关将 SageMaker Edge Manager 与一起使用的信息Amazon IoT Greengrass，请参见在 Greengrass 核心设备上使用亚马逊 SageMaker 边缘管理器。您还可以使用 Amazon Lookout for Vision 模型打包任务为 Lookout for Vision 模型创建模型组件。有关使用 Lookout for Vision 的更多信息Amazon IoT Greengrass，请参阅在 Greengrass 核心设备上使用 Amazon Lookout for Vision fo。

包含您的模型的 S3 存储桶必须满足以下要求：

支持的机器学习运行值

Amazon IoT Greengrass使您能够创建自定义组件，使用您选择的任何机器学习运行时对自定义训练的模型执行机器学习推理。有关创建自定义机器学习组件的信息，请参阅自定义您的机器学习组件。

为了提高机器学习入门过程的效率，Amazon IoT Greengrass提供了使用以下机器学习运行时的示例推理、模型和运行时组件：

Amazon-提供的机器学习组件

下表列出了Amazon提供的用于机器学习的组件。