Flink在计算之外,存算一体模式是否预示着技术发展的新未来?
- 内容介绍
- 文章标签
- 相关推荐
本文共计4515个文字,预计阅读时间需要19分钟。
+Flink紧跟实时化浪潮的发展和深化,逐步演进为实时流处理的领军技术和实践标准。Flink一方面持续优化其流计算核心能力,不断提升整个行业的流计算处理标准,另一方面不断扩展其应用场景,满足更多行业的需求。
“伴随着实时化浪潮的发展和深化,Flink 已逐步演进为实时流处理的领军技术和事实标准。Flink 一方面持续优化其流计算核心能力,不断提高整个行业的流计算处理标准,另一方面沿着流批一体的思路逐步推进架构改造和应用场景落地,但是,随着计算流批统一的逐渐完善的同时,Flink存储的流批统一缺陷显得尤为捉襟见肘”
Flink 这几年一直在反复强调流批一体,即:使用同一套 API、同一套开发范式来实现大数据的流计算和批计算,进而保证处理过程与结果的一致性。
但是,之前Flink一直强调的仅仅是计算层的流批一体,至于流批一体,还有哪些层面呢?
-
数据集成流批一体:离线与实时是否使用统一数据采集方式;如统一通过 CDC 或者 OGG 将数据实时捕获推送到 kafka,批与流在从 kafka 中消费数据,载入明细层。
-
数据存储流批一体:离线与实时数据是否统一分层、统一存储;兼容数据的一致性和实时性。
-
处理逻辑流批一体:流与批处理是否使用统一 SQL 语法或者 ETL 组件,再通过底层分别适配流与批计算引擎,保证数据口径的一致性。
本文共计4515个文字,预计阅读时间需要19分钟。
+Flink紧跟实时化浪潮的发展和深化,逐步演进为实时流处理的领军技术和实践标准。Flink一方面持续优化其流计算核心能力,不断提升整个行业的流计算处理标准,另一方面不断扩展其应用场景,满足更多行业的需求。
“伴随着实时化浪潮的发展和深化,Flink 已逐步演进为实时流处理的领军技术和事实标准。Flink 一方面持续优化其流计算核心能力,不断提高整个行业的流计算处理标准,另一方面沿着流批一体的思路逐步推进架构改造和应用场景落地,但是,随着计算流批统一的逐渐完善的同时,Flink存储的流批统一缺陷显得尤为捉襟见肘”
Flink 这几年一直在反复强调流批一体,即:使用同一套 API、同一套开发范式来实现大数据的流计算和批计算,进而保证处理过程与结果的一致性。
但是,之前Flink一直强调的仅仅是计算层的流批一体,至于流批一体,还有哪些层面呢?
-
数据集成流批一体:离线与实时是否使用统一数据采集方式;如统一通过 CDC 或者 OGG 将数据实时捕获推送到 kafka,批与流在从 kafka 中消费数据,载入明细层。
-
数据存储流批一体:离线与实时数据是否统一分层、统一存储;兼容数据的一致性和实时性。
-
处理逻辑流批一体:流与批处理是否使用统一 SQL 语法或者 ETL 组件,再通过底层分别适配流与批计算引擎,保证数据口径的一致性。

