TensorFlow 精简版运行时 - Amazon IoT Greengrass
版本类型操作系统要求依赖项配置使用量本地日志文件更改日志
Amazon Web Services 文档中描述的 Amazon Web Services 服务或功能可能因区域而异。要查看适用于中国区域的差异，请参阅 中国的 Amazon Web Services 服务入门 (PDF)。

本文属于机器翻译版本。若本译文内容与英语原文存在差异，则一律以英文原文为准。

TensorFlow 精简版运行时

TensorFlow Lite 运行时组件 (variant.TensorFlowLite) 包含一个脚本，用于在设备上的虚拟环境中安装 TensorFlow Lite 版本 2.5.0 及其依赖项。TensorFlow Lite 图像分类和 TensorFlow Lite 对象检测组件使用此运行时组件作为安装 TensorFlow Lite 的依赖项。

注意

TensorFlow 精简版运行时组件 v2.5.6 及更高版本会重新安装 TensorFlow Lite 运行时及其依赖项的现有安装。重新安装有助于确保核心设备运行兼容版本的 TensorFlow Lite 及其依赖项。

要使用不同的运行时，您可以使用此组件的配方作为模板来创建自定义机器学习组件。

版本

此组件有以下版本：

  • 2.5.x

类型

此组件是一个通用组件 (aws.greengrass.generic)。Greengrass 核心运行组件的生命周期脚本。

有关更多信息，请参阅 组件类型。

操作系统

此组件可以安装在运行以下操作系统的核心设备上：

  • Linux

  • Windows

要求

此组件具有以下要求：

  • 在运行亚马逊 Linux 2 或 Ubuntu 18.04 的 Greengrass 核心设备上，设备上安装了 GNU C 库 (glibc) 2.27 或更高版本。

  • 在 armv7L 设备上，例如 Raspberry Pi，设备上安装了 OpenCV-Python 的依赖关系。运行以下命令来安装依赖项。

    sudo apt-get install libopenjp2-7 libilmbase23 libopenexr-dev libavcodec-dev libavformat-dev libswscale-dev libv4l-dev libgtk-3-0 libwebp-dev

  • 运行 Raspberry Pi OS Bullseye 的 Raspberry Pi 设备必须满足以下要求：

    • NumPy 设备上安装了 1.22.4 或更高版本。Raspberry Pi OS Bullseye 包含的早期版本 NumPy，因此你可以运行以下命令在设备 NumPy 上升级。

      pip3 install --upgrade numpy

    • 设备上已启用旧版相机堆栈。Raspberry Pi OS Bullseye 包含一个新的相机堆栈，该堆栈默认处于启用状态且不兼容，因此您必须启用旧版相机堆栈。

      启用旧版相机堆栈

      1. 运行以下命令打开 Raspberry Pi 配置工具。

        sudo raspi-config

      2. 选择 “接口选项”。

      3. 选择 “旧版相机” 以启用旧版相机堆栈。

      4. 重启 Raspberry Pi。

端点和端口

默认情况下，此组件使用安装程序脚本使用apt、yumbrew、和pip命令安装软件包，具体取决于核心设备使用的平台。此组件必须能够对各种软件包索引和存储库执行出站请求才能运行安装程序脚本。要允许此组件的出站流量通过代理或防火墙，您必须确定软件包索引的端点以及核心设备要连接安装的存储库。

在确定此组件的安装脚本所需的端点时，请考虑以下几点：

  • 端点取决于核心设备的平台。例如，运行 Ubuntu 的核心设备使用apt而不是yum或。brew此外，使用相同软件包索引的设备可能具有不同的来源列表，因此它们可能会从不同的存储库中检索软件包。

  • 使用相同软件包索引的多台设备之间的端点可能有所不同，因为每台设备都有自己的源列表，用于定义在哪里检索软件包。

  • 端点可能会随着时间的推移而发生变化。每个包索引都提供您下载软件包的存储库的 URL，软件包的所有者可以更改软件包索引提供的网址。

有关此组件安装的依赖项以及如何禁用安装程序脚本的更多信息，请参阅UseInstaller配置参数。

有关基本操作所需的终端节点和端口的更多信息，请参阅允许设备流量通过代理或防火墙。

依赖项

部署组件时， Amazon IoT Greengrass 还会部署其依赖项的兼容版本。这意味着您必须满足组件及其所有依赖项的要求才能成功部署该组件。本节列出了此组件已发布版本的依赖关系以及定义每个依赖项的组件版本的语义版本限制。您还可以在Amazon IoT Greengrass 控制台中查看组件每个版本的依赖关系。在组件详细信息页面上，查找 “依赖关系” 列表。

2.5.14 and 2.5.15

下表列出了此组件版本 2.5.14 和 2.5.15 的依赖关系。

依赖关系 兼容版本 依赖关系类型
Greengrass 核 >=2.0.0 <2.13.0 软性
2.5.13

下表列出了此组件版本 2.5.13 的依赖关系。

依赖关系 兼容版本 依赖关系类型
Greengrass 核 >=2.0.0 <2.12.0 软性
2.5.12

下表列出了此组件版本 2.5.12 的依赖关系。

依赖关系 兼容版本 依赖关系类型
Greengrass 核 >=2.0.0 <2.11.0 软性
2.5.11

下表列出了此组件版本 2.5.11 的依赖关系。

依赖关系 兼容版本 依赖关系类型
Greengrass 核 >=2.0.0 <2.10.0 软性
2.5.10

下表列出了此组件版本 2.5.10 的依赖关系。

依赖关系 兼容版本 依赖关系类型
Greengrass 核 >=2.0.0 <2.9.0 软性
2.5.9

下表列出了此组件版本 2.5.9 的依赖关系。

依赖关系 兼容版本 依赖关系类型
Greengrass 核 >=2.0.0 <2.8.0 软性
2.5.8

下表列出了此组件版本 2.5.8 的依赖关系。

依赖关系 兼容版本 依赖关系类型
Greengrass 核 >=2.0.0 <2.7.0 软性
2.5.5 - 2.5.7

下表列出了此组件版本 2.5.5 到 2.5.7 的依赖关系。

依赖关系 兼容版本 依赖关系类型
Greengrass 核 >=2.0.0 <2.6.0 软性
2.5.3 and 2.5.4

下表列出了此组件版本 2.5.3 和 2.5.4 的依赖关系。

依赖关系 兼容版本 依赖关系类型
Greengrass 核 >=2.0.0 <2.5.0 软性
2.5.2

下表列出了此组件版本 2.5.2 的依赖关系。

依赖关系 兼容版本 依赖关系类型
Greengrass 核 >=2.0.0 <2.4.0 软性
2.5.1

下表列出了此组件版本 2.5.1 的依赖关系。

依赖关系 兼容版本 依赖关系类型
Greengrass 核 >=2.0.0 <2.3.0 软性
2.5.0

下表列出了此组件版本 2.5.0 的依赖关系。

依赖关系 兼容版本 依赖关系类型
Greengrass 核 >=2.0.0 <2.2.0 软性

有关组件依赖关系的更多信息，请参阅组件配方参考。

配置

此组件提供以下配置参数，您可以在部署该组件时对其进行自定义。

MLRootPath

（可选）Linux 核心设备上推理组件读取图像和写入推理结果的文件夹路径。您可以将此值修改为设备上运行此组件的用户具有读/写访问权限的任何位置。

默认：/greengrass/v2/work/variant.TensorFlowLite/greengrass_ml

WindowsMLRootPath

此功能在本组件的 1.6.6 及更高版本中可用。

（可选）Windows 核心设备上推理组件读取图像和写入推理结果的文件夹路径。您可以将此值修改为设备上运行此组件的用户具有读/写访问权限的任何位置。

默认：C:\greengrass\v2\\work\\variant.DLR\\greengrass_ml

UseInstaller

（可选）字符串值，用于定义是否使用此组件中的安装程序脚本来安装 TensorFlow Lite 及其依赖项。支持的值为 true 和 false。

false如果要使用自定义脚本进行 TensorFlow 精简版安装，或者想要在预构建的 Linux 映像中包含运行时依赖关系，请将此值设置为。要将此组件与 Amazon提供的 TensorFlow Lite 推理组件一起使用，请安装以下库（包括所有依赖项），并将其提供给运行 ML 组件的系统用户（例如ggc_user）。

默认：true

使用量

使用UseInstaller配置参数设置为的此组件在您的设备上安装 TensorFlow Lite 及其依赖项。true该组件在您的设备上设置了一个虚拟环境，其中包括精简版所需的 TensorFlow OpenCV和 NumPy 库。

注意

此组件中的安装程序脚本还会安装在设备上配置虚拟环境和使用已安装的机器学习框架所需的额外系统库的最新版本。这可能会升级您设备上的现有系统库。查看下表，了解此组件为每个支持的操作系统安装的库列表。如果要自定义此安装过程，请将UseInstaller配置参数设置为false，然后开发自己的安装程序脚本。

平台 设备系统上安装的库 安装在虚拟环境中的库
Armv7l build-essential, cmake, ca-certificates, git setuptools, wheel
Amazon Linux 2 mesa-libGL 无
Ubuntu wget 无

部署推理组件时，此运行时组件会首先验证您的设备是否已安装 TensorFlow Lite 及其依赖项。如果不是，则运行时组件会为您安装它们。

本地日志文件

此组件使用以下日志文件。

Linux
/greengrass/v2/logs/variant.TensorFlowLite.log
Windows
C:\greengrass\v2\logs\variant.TensorFlowLite.log
查看此组件的日志

  • 在核心设备上运行以下命令以实时查看此组件的日志文件。将/greengrass/v2或 C:\greengrass\v2 替换为 Amazon IoT Greengrass 根文件夹的路径。

    Linux
    sudo tail -f /greengrass/v2/logs/variant.TensorFlowLite.log
    Windows (PowerShell)
    Get-Content C:\greengrass\v2\logs\variant.TensorFlowLite.log -Tail 10 -Wait

更改日志

下表描述了该组件的每个版本中的更改。

版本

更改

2.5.15

Greengrass nucleus 2.12.5 版本的版本已更新。

2.5.14

 Greengrass nucleus 版本 2.12.0 版本的版本已更新。

2.5.13

 Greengrass nucleus 版本 2.11.0 版本的版本已更新。

2.5.12

 Greengrass nucleus 版本 2.10.0 版本的版本已更新。

2.5.11

 Greengrass nucleus 版本 2.9.0 版本的版本已更新。

2.5.10

 Greengrass nucleus 版本 2.8.0 版本的版本已更新。

2.5.9

Greengrass nucleus 版本 2.7.0 版本的版本已更新。

2.5.8

Greengrass nucleus 版本 2.6.0 版本的版本已更新。

2.5.7
错误修复和改进

  • 更新UseInstaller安装脚本以安装 libGL，该脚本在某些 Linux 平台上默认不可用。

  • 更新UseInstaller安装脚本，使其始终在此组件的虚拟环境中使用 Python 3.9。此更改有助于确保与其他库的兼容性。

2.5.6
错误修复和改进

  • 更新此组件以安装 TensorFlow Lite 2.5.0 (tflite-runtime-2.5.0.post1) 的最新补丁，因此您可以在 Python 3.9 中使用此组件。如果此组件无法安装该修补程序，则tflite-runtime-2.5.0改为安装该组件。

  • 更新此组件以重新安装现有的 TensorFlow Lite 及其依赖项。此更改有助于确保核心设备运行兼容版本的 TensorFlow Lite 及其依赖项。

2.5.5
新功能

  • 增加了对运行 Windows 的核心设备的支持。

  • 添加新的WindowsMLRootPath配置参数，您可以使用该参数在 Windows 核心设备上配置推理结果文件夹。

2.5.4
新功能

  • 添加新的UseInstaller配置参数，允许您禁用此组件中的安装脚本。

2.5.3

Greengrass nucleus 版本 2.4.0 版本的版本已更新。

2.5.2

Greengrass nucleus 版本 2.3.0 版本的版本已更新。

2.5.1

Greengrass nucleus 版本 2.2.0 版本的版本已更新。

2.5.0

初始版本。