Amazon EMR Studio
Amazon EMR Studio 是一个基于 Web 的集成式开发环境(IDE),适用于依托 Amazon EMR 集群运行的完全托管式 Jupyter notebook。您可以为团队设置 EMR Studio,以开发、可视化和调试用 R、Python、Scala 和 PySpark 编写的应用程序。EMR Studio 已与 Amazon Identity and Access Management(IAM)和 IAM Identity Center 集成,以便用户使用其公司凭证登录。
您可以免费创建 EMR Studio。当您使用 EMR Studio 时,需为 Amazon S3 存储和 Amazon EMR 集群支付相应的费用。有关产品详细信息和亮点,请参阅 Amazon EMR Studio
EMR Studio 主要功能
Amazon EMR Studio 提供以下功能:
-
在使用或不使用可信身份传播以及您的企业身份提供商的情况下使用 Amazon Identity and Access Management(IAM)或 Amazon IAM Identity Center 对用户进行身份验证。
-
按需访问并启动 Amazon EMR 集群以运行 Jupyter 笔记本任务。
-
连接到 Amazon EMR on EKS 集群以在任务运行时提交工作。
-
浏览并保存示例笔记本。有关示例笔记本的更多信息,请参阅 EMR Studio 笔记本示例 GitHub 存储库
。 -
使用 Python、PySpark、Spark Scala、Spark R 或 SparkSQL 分析数据,并安装自定义内核和库。
-
与同一 Workspace 中的其他用户实时协作。有关更多信息,请参阅 在 EMR Studio 中配置工作区协作。
-
在处理笔记本中的数据之前,使用 EMR Studio SQL Explorer 浏览数据目录、运行 SQL 查询和下载结果。
-
使用编排工具(例如 Apache Airflow 或 Amazon Managed Workflows for Apache Airflow)将参数化笔记本作为计划工作流的一部分运行。有关更多信息,请参阅Amazon大数据博客中的 Orchestrating analytics jobs on EMR Notebooks using MWAA
。 -
链接代码存储库,例如 GitHub 和 BitBucket。
-
使用 Spark 历史记录服务器、Tez UI 或 YARN 时间线服务器跟踪和调试任务。
EMR Studio 符合 HIPAA 标准,并通过了 HITRUST CSF 和 SOC 2 认证。有关 Amazon 服务 HIPAA 合规性的更多信息,请参阅https://www.amazonaws.cn/compliance/hipaa-compliance/
EMR Studio 也符合 FedRAMP 标准。有关 Amazon EMR 遵守的合规性计划的更多信息,请参阅 Amazon EMR 的合规性验证。有关 Amazon 服务其他合规性计划的更多信息,请参阅 Amazon 合规性计划范围内的服务
Amazon EMR Studio 功能历史记录
此表列出了对 Amazon EMR 托管扩展功能的更新。
发行日期 | 能力 |
---|---|
2024 年 1 月 5 日 |
Amazon GovCloud(美国东部)和 Amazon GovCloud(美国西部)增加了对 EMR Studio 的支持。 |
2023 年 11 月 26 日 |
增加了对使用 IAM Identity Center 身份验证的 EMR Studio 的可信身份验证的支持。 |
2023 年 10 月 26 日 |
增加了创建具有交互功能的 EMR Serverless 应用程序的功能。 |
2023 年 2 月 28 日 |
为 EMR Serverless 应用程序添加了对应用程序日志存储的 Amazon KMS 客户托管密钥支持。 |
2023 年 2 月 23 日 |
为 EMR 无服务器任务提交添加了一键创建 IAM 角色功能。为 EMR Serverless 应用程序选择自定义映像添加了 ECR 查询功能。 |
2023 年 1 月 27 日 |
无头执行笔记本可以用 |
2023 年 1 月 23 日 |
持久性应用程序已经过优化,可以缩短启动时间。 |