支持的设备、芯片架构和系统 - Amazon SageMaker
Amazon Web Services 文档中描述的 Amazon Web Services 服务或功能可能因区域而异。要查看适用于中国区域的差异,请参阅中国的 Amazon Web Services 服务入门

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

支持的设备、芯片架构和系统

Amazon SageMaker Neo 支持以下设备、芯片架构和操作系统。

Devices

您可以使用Amazon SageMaker 控制台或者通过指定TargetDevice输出配置中的CreateCompilationJobAPI。

您可以从以下边缘设备中选择一个:

设备列表 芯片上系统 (SoC) 操作系统 架构 加速器 编译器选项示例
过道 Linux ARM64 马里
Amba_cv22 CV22 Arch Linux ARM64 cvflow
Amba_cv25 CV25 Arch Linux ARM64 cvflow
核心 iOS、macOS {"class_labels": "imagenet_labels_1000.txt"}
DeepLens Intel 凌动 Linux X86_64 Intel Graphics
英格斯 8 平方米 恩吉浦 IMX8 Linux ARM64
模拟 8 万加 I.Mx 8M 以上 Linux ARM64 NPU
哈辛托-TDA4 虚拟机 TDA4VM Linux ARM TDA4VM
喷射纳米 Linux ARM64 NVIDIA {'gpu-code': 'sm_53', 'trt-ver': '5.0.6', 'cuda-ver': '10.0'}
Jetson_tx1 Linux ARM64 NVIDIA {'gpu-code': 'sm_53', 'trt-ver': '6.0.1', 'cuda-ver': '10.0'}
Jetson_tx2 Linux ARM64 NVIDIA {'gpu-code': 'sm_62', 'trt-ver': '6.0.1', 'cuda-ver': '10.0'}
泽维尔 Linux ARM64 NVIDIA {'gpu-code': 'sm_72', 'trt-ver': '5.1.6', 'cuda-ver': '10.0'}
qcs605 Android ARM64 马里 {'ANDROID_PLATFORM': 27}
qcs603 Android ARM64 马里 {'ANDROID_PLATFORM': 27}
覆盆 3b 手臂 A56 Linux 阿姆斯特丹 {'mattr': ['+neon']}
覆盆 4 手臂 A72
rk3288 Linux 阿姆斯特丹 马里
rk3399 Linux ARM64 马里
sbe_c Linux x86_64 {'mcpu': 'core-avx2'}
西塔拉 AM57X Linux ARM64 EVE 和/或C66x DSP
x86_win32 Windows 10 X86_32
x86_ Windows 10 X86_32

有关每个目标设备的 JSON 键值编译器选项的详细信息,请参阅CompilerOptions字段中的OutputConfigAPI数据类型。

系统和芯片架构

下面的查找表提供了有关 Neo 模型编译作业的可用操作系统和体系结构的信息。

Linux
X86_64 X86 ARM64 阿姆斯特丹 阿尔比
无加速器 (CPU) X X X X
NVIDIA GPU X X
英特尔图形 X
ARM 马里 X X X
Android
X86_64 X86 ARM64 阿姆斯特丹 阿尔比
无加速器 (CPU) X X X X
NVIDIA GPU
英特尔图形 X X
ARM 马里 X X
Windows
X86_64 X86 ARM64 阿姆斯特丹 阿尔比
无加速器 (CPU) X X