适用于 Apache Flink 的亚马逊托管服务(亚马逊 MSF)以前被称为适用于 Apache Flink 的亚马逊 Kinesis Data Analytics。
本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。
适用于 Apache Flink 的亚马逊托管服务 1.19
适用于 Apache Flink 的托管服务现在支持 Apache Flink 版本 1.19.1。本节向您介绍了 Apache Flink 1.19.1 的 Apache Flink 托管服务支持 Apache Flink 时引入的主要新功能和更改。
注意
如果您使用的是早期支持的 Apache Flink 版本,并且想要将现有应用程序升级到 Apache Flink 1.19.1,则可以使用就地升级 Apache Flink 版本来实现。有关更多信息,请参阅 使用 Apache Flink 的就地版本升级。通过就地版本升级,您可以针对单个 ARN 在 Apache Flink 版本中保持应用程序的可追溯性,包括快照、日志、指标、标签、Flink 配置等。
支持的特征
Apache Flink 1.19.1 在 SQL API 中引入了改进,例如命名参数、自定义源代码并行度以及各种 Flink 运算符的不同状态。 TTLs
支持的特征 | 描述 | Apache Flink 文档参考 |
---|---|---|
SQL API:支持 TTLs 使用 SQL 提示配置不同的状态 | 用户现在可以在直播常规加入和群组聚合上配置状态 TTL。 | FLIP-373: TTLs 使用 SQL 提示配置不同的状态 |
SQL API:支持函数和调用过程的命名参数 | 用户现在可以在函数中使用命名参数,而不必依赖参数的顺序。 | FLIP-378:支持函数和调用过程的命名参数 |
SQL API:为 SQL 源代码设置并行度 | 用户现在可以为 SQL 源指定并行度。 | FLIP-367:Support 为信号源设置并行度 Table/SQL |
SQL API:Support 会话窗口 TVF | 用户现在可以使用会话窗口表值函数。 | FLINK-24024:Support session 窗口 TVF |
SQL API:窗口 TVF 聚合支持变更日志输入 | 用户现在可以对变更日志输入进行窗口聚合。 | FLINK-20281:窗口聚合支持变更日志流输入 |
Support Python 3.11 |
Flink 现在支持 Python 3.11,与 Python 3.10 相比,速度提高了 10-60%。有关更多信息,请参阅 Python 3.11 中的新增 |
FLINK-33030:添加 python 3.11 支持 |
提供 TwoPhaseCommitting 水槽指标 | 用户可以在提交接收器两个阶段中查看有关提交者状态的统计信息。 | FLIP-371:为在中创建提交者提供初始化上下文 TwoPhaseCommittingSink |
跟踪报告者以重启作业和检查点检查 |
用户现在可以监控检查点持续时间和恢复趋势的跟踪。在适用于 Apache Flink 的亚马逊托管服务中,我们默认启用 slf4j 跟踪报告器,因此用户可以通过应用程序日志监控检查点和任务跟踪。 CloudWatch | FLIP-384:引入 TraceReporter 并使用它来创建检查点和恢复跟踪 |
注意
您可以通过提交支持案例
选择加入功能 | 描述 | Apache Flink 文档参考 |
---|---|---|
Support 支持在源处理待办事项时使用更大的检查点间隔 | 这是一项可选功能,因为用户必须根据自己的特定工作要求调整配置。 | FLIP-309:当源处理待办事项时,Support 支持使用更大的检查点间隔 |
将 system.out 和 system.err 重定向到 Java 日志 | 这是一项可选功能。在适用于 Apache Flink 的亚马逊托管服务上,默认行为是忽略 System.out 和 System.err 的输出,因为生产中的最佳实践是使用原生 Java 记录器。 | FLIP-390:Support System 已关闭然后将错误重定向到 LOG 或丢弃 |
有关 Apache Flink 1.19.1 版本文档,请参阅 A p
适用于 Apache Flink 的亚马逊托管服务变更 1.19.1
日志跟踪报告器默认处于启用状态
Apache Flink 1.19.1 引入了检查点和恢复跟踪,使用户能够更好地调试检查点和作业恢复问题。在适用于 Apache Flink 的 Amazon 托管服务中,这些跟踪记录记录到 CloudWatch 日志流中,允许用户分解任务初始化所花费的时间,并记录检查点的历史大小。
默认重启策略现在是指数延迟
在 Apache Flink 1.19.1 中,指数延迟重启策略有了显著改进。在 Flink 1.19.1 及更高版本的 Apache Flink 的亚马逊托管服务中,Flink 作业默认使用指数延迟重启策略。这意味着用户作业可以更快地从暂时错误中恢复,但如果任务重新启动持续存在,则不会使外部系统过载。
向后移植的错误修复
适用于 Apache Flink 的亚马逊托管服务 Flink 向后移植了 Flink 社区中针对关键问题的修复程序。这意味着运行时与 Apache Flink 1.19.1 版本不同。以下是我们向后移植的错误修复列表:
Apache Flink JIRA 链接 | 描述 |
---|---|
FLINK-35531 |
此修复解决了 1.17.0 中引入的性能下降问题,该问题会导致写入 HDFS 的速度变慢。 |
FLINK-35157 |
此修复解决了当带有水印对齐的源遇到已完成的子任务时 Flink 作业卡住的问题。 |
FLINK-34252 |
此修复解决了水印生成中导致错误的 IDLE 水印状态的问题。 |
FLINK-34252 |
此修复通过减少系统调用来解决水位线生成期间的性能下降问题。 |
FLINK-33936 |
此修复解决了在 Table API 上进行小批量聚合期间出现重复记录的问题。 |
FLINK-35498 |
此修复解决了在 Table API 中定义命名参数时参数名称冲突的问题 UDFs。 |
FLINK-33192 |
此修复解决了由于计时器清理不当而导致窗口运算符出现状态内存泄漏的问题。 |
FLINK-35069 |
此修复解决了 Flink 作业在窗口末尾触发计时器时卡住的问题。 |
FLINK-35832 |
此修复解决了 IFNULL 返回错误结果时的问题。 |
FLINK-35886 |
此修复程序解决了将压力过大的任务视为空闲时出现的问题。 |
组件
组件 | 版本 |
---|---|
Java | 11(推荐使用) |
Python |
3.11 |
Kinesis Data Analytics Flink 运行时 () aws-kinesisanalytics-runtime | 1.2.0 |
连接器 | 有关可用连接器的信息,请参阅 Apache Flink 连接器。 |
Apache Beam(仅限 Beam 应用程序) |
从 2.61.0 版本开始。有关更多信息,请参阅 Flink 版本兼容性 |
已知问题
适用于 Apache Flink Studio 的亚马逊托管服务
Studio 使用 Apache Zeppelin 笔记本为开发、调试代码和运行 Apache Flink 流处理应用程序提供单界面开发体验。齐柏林飞艇的 Flink 解释器需要升级才能支持 Flink 1.19。这项工作由齐柏林飞艇社区安排,我们将在完成后更新这些注意事项。你可以继续将 Flink 1.15 与适用于 Apache Flink Studio 的亚马逊托管服务一起使用。有关更多信息,请参阅创建 Studio 笔记本。