支持的设备、芯片架构和系统
Amazon SageMaker Neo 支持以下设备、芯片架构和操作系统。
设备
您可以使用 Amazon SageMakerCreateCompilationJob API 的输出配置中指定 TargetDevice。
您可以选择下列边缘设备之一：
| 设备列表 | 片上系统 (SoC) | 操作系统 | 架构 | Accelerator | 编译器选项示例 |
|---|---|---|---|---|---|
| aisage | Linux | ARM64 | Mali | ||
| amba_cv2 | CV2 | Arch Linux | ARM64 | cvflow | |
| amba_cv22 | CV22 | Arch Linux | ARM64 | cvflow | |
| amba_cv25 | CV25 | Arch Linux | ARM64 | cvflow | |
| coreml | iOS、macOS | {"class_labels": "imagenet_labels_1000.txt"} |
|||
| imx8qm | NXP imx8 | Linux | ARM64 | ||
| imx8mplus | i.MX 8M Plus | Linux | ARM64 | NPU | |
| jacinto_tda4vm | TDA4VM | Linux | ARM | TDA4VM | |
| jetson_nano | Linux | ARM64 | NVIDIA | {'gpu-code': 'sm_53', 'trt-ver': '5.0.6', 'cuda-ver':
'10.0'}适用于 |
|
| jetson_tx1 | Linux | ARM64 | NVIDIA | {'gpu-code': 'sm_53', 'trt-ver': '6.0.1', 'cuda-ver': '10.0'} |
|
| jetson_tx2 | Linux | ARM64 | NVIDIA | {'gpu-code': 'sm_62', 'trt-ver': '6.0.1', 'cuda-ver': '10.0'} |
|
| jetson_xavier | Linux | ARM64 | NVIDIA | {'gpu-code': 'sm_72', 'trt-ver': '5.1.6', 'cuda-ver': '10.0'} |
|
| qcs605 | Android | ARM64 | Mali | {'ANDROID_PLATFORM': 27} |
|
| qcs603 | Android | ARM64 | Mali | {'ANDROID_PLATFORM': 27} |
|
| rasp3b | ARM A56 | Linux | ARM_EABIHF | {'mattr': ['+neon']} |
|
| rasp4b | ARM A72 | ||||
| rk3288 | Linux | ARM_EABIHF | Mali | ||
| rk3399 | Linux | ARM64 | Mali | ||
| sbe_c | Linux | x86_64 | {'mcpu': 'core-avx2'} |
||
| sitara_am57x | AM57X | Linux | ARM64 | EVE 和/或 C66x DSP | |
| x86_win32 | Windows 10 | X86_32 | |||
| x86_win64 | Windows 10 | X86_32 |
有关每台目标设备的 JSON 键值编译器选项的更多信息，请参阅 OutputConfigAPI 数据类型中的 CompilerOptions 字段。
系统和芯片架构
以下查找表提供有关 Neo 模型编译作业的可用操作系统和架构的信息。