支持的设备、芯片架构和系统 - Amazon SageMaker
Amazon Web Services 文档中描述的 Amazon Web Services 服务或功能可能因区域而异。要查看适用于中国区域的差异,请参阅中国的 Amazon Web Services 服务入门

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

支持的设备、芯片架构和系统

亚马逊 SageMaker Neo 支持以下设备、芯片架构和操作系统。

设备

您可以使用亚马逊 SageMaker 控制台或者通过指定TargetDevice在的输出配置中CreateCompilationJobAPI。

可以从以下边缘设备中选择一个:

设备列表 芯片上系统 (SoC) 操作系统 架构 Accelerator 示例编译器选项
Aisage Linux ARM64 马里
amba_cv2 CV2 Arch Linux ARM64 cvflow
amba_cv22 CV22 Arch Linux ARM64 cvflow
amba_cv25 CV25 Arch Linux ARM64 cvflow
coreml iOS、macOS {"class_labels": "imagenet_labels_1000.txt"}
深入 Intel 凌动 Linux X86_64 英特尔显卡
imx8qm 恩智浦 imx8 Linux ARM64
imx8mplus i.mx 8M Plus Linux ARM64 NPU
jacinto_tda4vm TDA4VM Linux 手臂 TDA4VM
jetson_nano Linux ARM64 NVIDIA {'gpu-code': 'sm_53', 'trt-ver': '5.0.6', 'cuda-ver': '10.0'}
jetson_tx1 Linux ARM64 NVIDIA {'gpu-code': 'sm_53', 'trt-ver': '6.0.1', 'cuda-ver': '10.0'}
jetson_tx2 Linux ARM64 NVIDIA {'gpu-code': 'sm_62', 'trt-ver': '6.0.1', 'cuda-ver': '10.0'}
jetson_xavier Linux ARM64 NVIDIA {'gpu-code': 'sm_72', 'trt-ver': '5.1.6', 'cuda-ver': '10.0'}
qcs605 Android ARM64 马里 {'ANDROID_PLATFORM': 27}
qcs603 Android ARM64 马里 {'ANDROID_PLATFORM': 27}
asp3b 手臂 A56 Linux ARM_EABIHF {'mattr': ['+neon']}
asp4 手臂 A72
rk3288 Linux ARM_EABIHF 马里
rk3399 Linux ARM64 马里
sbe_c Linux x86_64 {'mcpu': 'core-avx2'}
sitara_am57x AM57X Linux ARM64 EVE 和/或 c66x DSP
x86_win32 Windows 10 X86_32
x86_win64 Windows 10 X86_32

有关每个目标设备的 JSON 键值编译器选项的更多信息,请参阅CompilerOptions字段中的OutputConfigAPI数据类型。

系统和芯片架构

以下查询表提供了有关 Neo 模型编译作业的可用操作系统和架构的信息。

Linux
X86_64 X86 ARM64 ARM_EABIHF ARM_EABI
没有加速器(CPU) X X X X
NVIDIA GPU X X
英特尔 _ 图形 X
ARM 马里 X X X
Android
X86_64 X86 ARM64 ARM_EABIHF ARM_EABI
没有加速器(CPU) X X X X
NVIDIA GPU
英特尔 _ 图形 X X
ARM 马里 X X
Windows
X86_64 X86 ARM64 ARM_EABIHF ARM_EABI
没有加速器(CPU) X X