- 1
- 2
- 3
- 4
- 5
Apache Storm 技术解析.
资料介绍
一、基本定义与核心定位
Apache Storm是一款开源的分布式实时计算系统,由BackType开发,后捐赠给Apache基金会,当前是Apache顶级项目。它可以高效、可靠地处理无限流数据,实现低延迟的数据处理,弥补了Hadoop批处理框架在实时计算场景下的不足。
二、核心特点
1. 低延迟处理:针对流式数据设计,支持毫秒级的数据处理延迟,能够满足实时分析、实时统计、实时预警等对时效性要求极高的场景。
2. 高可扩展性:支持水平扩展,可通过增加集群节点提升整体计算能力,集群规模可以从几个节点平滑扩展到上千个节点。
3. 高容错性:节点故障发生时,Storm会自动重新分配任务,数据处理过程中发生异常也会自动重试,保证数据处理不丢失、不重复。
4. 支持多语言开发:核心逻辑由Clojure实现,但提供了多语言API,用户可以使用Java、Python、Go、Ruby等几乎所有主流编程语言开发拓扑任务。
5. ** exactly-once 处理语义**:通过Trident API可以实现精准一次的数据处理,满足对账、统计等对数据准确性要求高的业务场景。
核心概念
1. 拓扑(Topology):Storm中运行的计算任务,是由Spout和Bolt通过流分组连接起来的有向无环图,提交后会一直运行直到手动终止,区别于Hadoop的MapReduce作业(运行完成自动退出)。
2. 流(Stream):无限的元组序列,是Storm中数据的基本载体,元组(Tuple)是包含一个或多个字段的数据单元,每个字段可以是任意类型的数据。
3. 喷口(Spout):拓扑的数据源,负责从外部数据源读取数据,生成流发送给下游Bolt处理,常见的Spout包括KafkaSpout、TwitterSpout等。
螺栓(Bolt):负责数据处理的单元,可以完成过滤、转换、聚合、存储等各类计算逻辑,Bolt可以订阅多个上游Spout或Bolt的流,处理完成后再发送给下游
部分文件列表
| 文件名 | 大小 |
| Apache_Storm_技术解析.docx | 15K |
最新上传
-
21ic小能手 打赏10.00元 7小时前
-
21ic小能手 打赏5.00元 7小时前
-
21ic小能手 打赏5.00元 7小时前
-
21ic小能手 打赏5.00元 7小时前
-
21ic小能手 打赏5.00元 7小时前
资料:STM32的数字万用表
-
21ic小能手 打赏5.00元 7小时前
-
kuangwy 打赏1.00元 1天前
-
21ic小能手 打赏5.00元 3天前
资料:触控无极台灯控制方案
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前
资料:51单片机的汽车雨刷器
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
21ic下载 打赏310.00元 3天前
用户:gsy幸运
-
21ic下载 打赏320.00元 3天前
用户:jh03551
-
21ic下载 打赏320.00元 3天前
用户:jh0355
-
21ic下载 打赏210.00元 3天前
用户:zhengdai
-
21ic下载 打赏210.00元 3天前
用户:江岚
-
21ic下载 打赏210.00元 3天前
用户:潇潇江南
-
21ic下载 打赏60.00元 3天前
用户:小猫做电路
-
21ic下载 打赏60.00元 3天前
用户:烟雨
-
21ic下载 打赏60.00元 3天前
用户:mulanhk
-
21ic下载 打赏60.00元 3天前
用户:w993263495
-
21ic下载 打赏20.00元 3天前
用户:w178191520
-
21ic下载 打赏20.00元 3天前
用户:liqiang9090
-
21ic下载 打赏20.00元 3天前
用户:kk1957135547
-
21ic下载 打赏20.00元 3天前
用户:sun2152
-
21ic下载 打赏20.00元 3天前
用户:w1966891335
-
21ic下载 打赏15.00元 3天前
用户:xuzhen1
-
21ic下载 打赏15.00元 3天前
用户:x15580286248
-
21ic下载 打赏10.00元 3天前
用户:wjr111
-
21ic小能手 打赏10.00元 3天前
-
21ic小能手 打赏5.00元 3天前
资料:STM32密码锁仿真
-
x1707 打赏1.00元 3天前
-
lanmukk 打赏60.00元 3天前
-
lanmukk 打赏10.00元 3天前




全部评论(0)