排查 Ambarella 错误

SageMaker Neo 要求将模型打包到压缩的 TAR 文件 (*.tar.gz) 中。Ambarella 设备需要在压缩的 TAR 文件中包含其他文件，然后才能将其发送出去以进行编译。如果要使用 SageMaker Neo 为 Ambarella 目标编译模型，请在压缩的 TAR 文件中包含以下文件：

例如，压缩后的 TAR 文件内容应类似如下示例：

├──amba_config.json
├──calib_data
|    ├── data1
|    ├── data2
|    ├── .
|    ├── .
|    ├── .
|    └── data500
└──mobilenet_v1_1.0_0224_frozen.pb

该目录的配置如下：

有关 SageMaker Neo 支持的框架的信息，请参阅支持的框架。

设置配置文件

配置文件提供 Ambarella 工具链编译模型所需的信息。配置文件必须另存为 JSON 文件，并且文件名必须以 *config.json 结尾。下表显示配置文件的内容。

{inputs:{"data":{...},"data1":{...}}}

以下是一个示例代理配置文件：

{
    "inputs": {
        "data": {
                "shape": "1, 3, 224, 224",
                "filepath": "calib_data/",
                "colorformat": "RGB",
                "mean":[128,128,128],
                "scale":[128.0,128.0,128.0]
        }
    }
}

校准图像

通过提供校准图像来量化训练的模型。对模型进行量化可以提高 Ambarella 芯片上系统 (SoC) 上的 CVFlow 引擎的性能。Ambarella 工具链使用校准图像来确定如何量化模型中的每一层，以实现最佳性能和精度。每一层都单独量化为 INT8 或 INT16 格式。最终模型在量化后同时包含 INT8 和 INT16 层。

您应该使用多少个图像？

建议您包含 100–200 个图像，用于代表模型预期要处理的场景类型。模型编译时间与输入文件中校准图像的数量为线性关系，随后者增加而增加。

推荐的图像格式有哪些？

校准图像可以是原始二进制格式或图像格式，例如 JPG 和 PNG。

您的校准文件夹可以同时包含图像文件和二进制文件。如果校准文件夹同时包含图像文件和二进制文件，则工具链会首先将图像文件转换为二进制文件。转换完成后，它将使用新生成的二进制文件以及最初位于该文件夹中的二进制文件。

我可以先将图像转换为二进制格式吗？

需要。您可以使用 OpenCV 或 PIL 等开源软件包将图像文件转换为二进制格式。裁剪图像并调整其大小，使其符合训练模型的输入层的要求。

平均值和小数位数

您可以为 Amberalla 工具链指定平均值和缩放预处理选项。这些运算嵌入到网络中，并在推理期间应用于每个输入。如果您指定平均值或小数位数，请不要提供经过处理的数据。更具体地说，不要提供已从中减去平均值或已应用缩放的数据。

查看您的编译日志

有关查看 Ambarella 设备的编译日志的信息，请参阅 查看您的编译日志。