支持的设备、芯片架构和系统 - Amazon SageMaker
Amazon Web Services 文档中描述的 Amazon Web Services 服务或功能可能因区域而异。要查看适用于中国区域的差异,请参阅 中国的 Amazon Web Services 服务入门 (PDF)

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

支持的设备、芯片架构和系统

Amazon SageMaker Neo 支持以下设备、芯片架构和操作系统。

设备

您可以使用 Amazon SageMaker 控制台中的下拉列表或通过TargetDevice在的输出配置中指定来选择设备CreateCompilationJobAPI。

您可以选择下列边缘设备之一:

设备列表 片上系统 (SoC) 操作系统 架构 Accelerator 编译器选项示例
aisage Linux ARM64 Mali
amba_cv2 CV2 Arch Linux ARM64 cvflow
amba_cv22 CV22 Arch Linux ARM64 cvflow
amba_cv25 CV25 Arch Linux ARM64 cvflow
coreml iOS、macOS {"class_labels": "imagenet_labels_1000.txt"}
imx8qm NXPimx8 Linux ARM64
imx8mplus i.MX 8M Plus Linux ARM64 NPU
jacinto_tda4vm TDA4VM Linux ARM TDA4VM
jetson_nano Linux ARM64 NVIDIA {'gpu-code': 'sm_53', 'trt-ver': '5.0.6', 'cuda-ver': '10.0'}

适用于 TensorFlow2{'JETPACK_VERSION': '4.6', 'gpu_code': 'sm_72'}

jetson_tx1 Linux ARM64 NVIDIA {'gpu-code': 'sm_53', 'trt-ver': '6.0.1', 'cuda-ver': '10.0'}
jetson_tx2 Linux ARM64 NVIDIA {'gpu-code': 'sm_62', 'trt-ver': '6.0.1', 'cuda-ver': '10.0'}
jetson_xavier Linux ARM64 NVIDIA {'gpu-code': 'sm_72', 'trt-ver': '5.1.6', 'cuda-ver': '10.0'}
qcs605 Android ARM64 Mali {'ANDROID_PLATFORM': 27}
qcs603 Android ARM64 Mali {'ANDROID_PLATFORM': 27}
rasp3b ARMA56 Linux ARM_EABIHF {'mattr': ['+neon']}
rasp4b ARMA72
rk3288 Linux ARM_EABIHF Mali
rk3399 Linux ARM64 Mali
sbe_c Linux x86_64 {'mcpu': 'core-avx2'}
sitara_am57x AM57X Linux ARM64 EVE和/或 c66x DSP
x86_win32 Windows 10 X86_32
x86_win64 Windows 10 X86_32

有关每台目标设备的JSON键值编译器选项的更多信息,请参阅OutputConfigAPI数据类型中的CompilerOptions字段。

系统和芯片架构

以下查找表提供有关 Neo 模型编译作业的可用操作系统和架构的信息。

Linux
Accelerator X86_64 X86 ARM64 ARM_EABIHF ARM_EABI
没有加速器 (CPU) 没有
英伟达 GPU 没有 没有 没有
Intel_Graphics 没有 没有 没有 没有
ARM马里 没有 没有
Android
Accelerator X86_64 X86 ARM64 ARM_EABIHF ARM_EABI
没有加速器 (CPU) 没有
英伟达 GPU 没有 没有 没有 没有 没有
Intel_Graphics 没有 没有 没有
ARM马里 没有 没有 没有
Windows
Accelerator X86_64 X86 ARM64 ARM_EABIHF ARM_EABI
没有加速器 (CPU) 没有 没有 没有