- 1
- 2
- 3
- 4
- 5
Flink-原生流处理框架
资料介绍
一、Flink核心定位与诞生背景
在大数据技术发展早期,数据处理主要分为批处理和流处理两个独立的赛道:批处理面向静态的、有边界的数据集,以Hadoop MapReduce、Spark为代表;早期流处理则多是基于批处理引擎改造的准实时方案,本质上是“微批处理”,无法满足真正的低延迟实时计算需求。Flink就是在这样的行业背景下诞生,天生就是为处理无边界的流式数据设计的原生流处理框架。
Flink诞生于2010年德国柏林工业大学的研究项目,2014年成为Apache基金会顶级项目,凭借其对流处理原生支持的核心优势,快速成为大数据实时计算领域的核心框架,目前已被全球范围内的互联网、金融、电商、制造等行业大规模落地使用。
二、原生流处理的核心特性
和改造而来的准实时流处理方案不同,Flink原生流处理的核心特性体现在四个核心维度:
1. 数据模型原生:事件驱动的流模型
Flink的核心数据模型是连续的数据流,每一条数据都是一个独立的事件,数据生成后立即进入处理流程,不需要把数据攒成批次再处理,天然支持毫秒级的处理延迟。对于有边界的批数据集,Flink也可以将其视为无边界流的一个特殊切片,实现“流批一体”处理——一套引擎同时支持批处理和流处理,不需要为两种场景维护两套技术栈。
2. 时间语义原生:支持事件时间与乱序处理
真实业务场景中,数据产生的时间(事件时间)和数据进入Flink处理的时间(处理时间)往往不一致,还会因为网络延迟、系统重试等问题出现数据乱序。原生流处理的Flink原生支持事件时间语义,通过水位线(Watermark)机制解决乱序数据的处理问题,可以精准计算窗口内的业务指标,保证结果的准确性,这是改造型流处理框架很难实现的核心能力。
部分文件列表
| 文件名 | 大小 |
| Flink-原生流处理框架.docx | 15K |
最新上传
-
aetek 打赏1.00元 9小时前
-
21ic小能手 打赏10.00元 3天前
-
21ic小能手 打赏10.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
21ic下载 打赏310.00元 3天前
用户:江岚
-
21ic下载 打赏310.00元 3天前
用户:mulanhk
-
21ic下载 打赏320.00元 3天前
用户:jh03551
-
21ic下载 打赏220.00元 3天前
用户:jh0355
-
21ic下载 打赏210.00元 3天前
用户:潇潇江南
-
21ic下载 打赏210.00元 3天前
用户:小猫做电路
-
21ic下载 打赏60.00元 3天前
用户:gsy幸运
-
21ic下载 打赏60.00元 3天前
用户:zhengdai
-
21ic下载 打赏60.00元 3天前
用户:lanmukk
-
21ic下载 打赏60.00元 3天前
用户:烟雨
-
21ic下载 打赏20.00元 3天前
用户:w993263495
-
21ic下载 打赏30.00元 3天前
用户:sun2152
-
21ic下载 打赏20.00元 3天前
用户:w178191520
-
21ic下载 打赏20.00元 3天前
用户:liqiang9090
-
21ic下载 打赏20.00元 3天前
用户:xuzhen1
-
21ic下载 打赏35.00元 3天前
用户:有理想666
-
21ic下载 打赏15.00元 3天前
用户:w1966891335
-
21ic下载 打赏15.00元 3天前
用户:x15580286248
-
21ic下载 打赏25.00元 3天前
用户:qiufeng0299
-
21ic下载 打赏15.00元 3天前
用户:kk1957135547
-
21ic下载 打赏10.00元 3天前
用户:qingsong08
-
21ic下载 打赏10.00元 3天前
用户:电工老刘
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
ZENGYIBIN 打赏1.00元 3天前
-
21ic小能手 打赏10.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前
资料:STM32的数字万用表
-
21ic小能手 打赏5.00元 3天前
-
kuangwy 打赏1.00元 3天前
-
21ic小能手 打赏5.00元 3天前
资料:触控无极台灯控制方案
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前




全部评论(0)