博客、示例笔记本和其他资源

• 开始在 Amazon 上部署实时模型 SageMaker

• 使用大型模型推理在亚马逊上部署 BLOOM-176B 和 OPT-30B D SageMaker eep Learning Containers 和 DeepSpeed

• 使用 Amazon API Gateway 映射模板和亚马逊创建由机器学习提供支持的 REST API SageMaker

• 在 Amazon 中配置自动缩放推理终端节点 SageMaker

• Amazon SageMaker Serverless 推理 — 无需担心服务器问题即可进行机器学习推理

• 使用 A SageMaker mazon 无服务器推理的主机 Hugging Face 转换器模型

• Amazon SageMaker 无服务器推理基准测试工具包简介

• 使用 Amazon SageMaker 异步终端节点对大型视频运行计算机视觉推理

• 使用亚马逊 Kinesis 和亚马逊构建预测性维护解决方案 Amazon Glue SageMaker

• 使用 Hugging Face 和 Ama SageMaker zon 异步推理终端节点改善高价值研究

• 使用 Amazon Batc SageMaker h 转换将预测结果与输入数据相关联

• 使用 Amazon SageMaker 多模型终端节点节省推理成本

• 使用 Amazon 多模型终端节点在 GPU 上运行多个深度学习 SageMaker 模型

• 如何针对多租户 SaaS 使用案例扩展机器学习推理

• 使用 Ama SageMaker zon 多模型终端节点运行和优化多模型推理

• 在 Amazon 上设计串行推理的模式 SageMaker

• 在 Amazon 上使用多框架模型进行经济高效的机器学习推理 SageMaker

• 在 Amazon 上运行集成机器学习模型 SageMaker

• SageMaker 推理推荐器示例笔记本

• SageMaker HuggingFace BERT 情感分析的推理推荐器示例笔记本

• 在亚马逊上使用 NVIDIA Triton 推理服务器实现模型服务的超大规模性能 SageMaker

• 第 1 部分：在 Amazon 上构建 ML 应用程序的常见设计模式 SageMaker

• 第 2 部分：开始在上部署实时模型 SageMaker

• 第 3 部分：使用 Ama SageMaker zon 多模型终端节点运行和优化多模型推理

• 第 4 部分：Amazon 上串行推理的设计模式 SageMaker

• 第 5 部分：在 Amazon 上使用多框架模型进行经济高效的机器学习推理 SageMaker

• 第 6 部分：在上测试和更新模型的最佳实践 SageMaker

• 第 7 部分：在 Amazon 上运行集成机器学习模型 SageMaker

• SageMaker 推理推荐器示例笔记本

• SageMaker HuggingFace BERT 情感分析的推理推荐器示例笔记本