- 1
- 2
- 3
- 4
- 5
一种正交分解大数据处理系统设计方法及实现
资料介绍
MapReduce等计算框架的出现开启了大数据处理新纪元,以Hadoop,Spark为代表的大数据处理系统具有大吞吐率、跨平台、高可扩展的优势,并得到广泛应用.然而,为避免与具体的操作系统、硬件平台绑定,这些系统的设计与优化集中在计算模型、调度算法等方面,无法充分利用底层平台的优势.提出了一种基于正交分解的大数据处理系统设计与优化方法,将系统分解为松耦合的多个功能正交的模块,使存储、处理功能分离出来,交给能够利用底层平台操作系统甚至硬件资源的存储、执行引擎,原大数据系统退化为调度平台;进而,提出基于锁无关机制的存储底层优化策略和基于指令超级优化的执行引擎底层优化策略.以此为指导,以Hadoop作为兼容和改进的对象,实现了原型大数据处理系统on既能保持Hadoop的跨平台、高可扩展的优势,又能消除任务执行的瓶颈,其本地化的设计与优化手段对非Hadoop平台同样有效.通过在原型系统上的实验证明,Arion能够提升大数据处理任务的执行效率,最高达7.7%.
部分文件列表
文件名 | 大小 |
一种正交分解大数据处理系统设计方法及实现.pdf | 2M |
部分页面预览
(完整内容请下载后查看)最新上传
-
21ic小能手 打赏10.00元 3天前
-
21ic下载 打赏310.00元 3天前
用户:w178191520
-
21ic下载 打赏310.00元 3天前
用户:小猫做电路
-
21ic下载 打赏310.00元 3天前
用户:zhengdai
-
21ic下载 打赏220.00元 3天前
用户:gsy幸运
-
21ic下载 打赏220.00元 3天前
用户:jh0355
-
21ic下载 打赏210.00元 3天前
用户:jh03551
-
21ic下载 打赏60.00元 3天前
用户:sun2152
-
21ic下载 打赏60.00元 3天前
用户:xuzhen1
-
21ic下载 打赏80.00元 3天前
用户:xzxbybd
-
21ic下载 打赏60.00元 3天前
用户:铁蛋锅
-
21ic下载 打赏60.00元 3天前
用户:liqiang9090
-
21ic下载 打赏20.00元 3天前
用户:方中禾
-
21ic下载 打赏20.00元 3天前
用户:w1966891335
-
21ic下载 打赏30.00元 3天前
用户:玉落彼岸
-
21ic下载 打赏15.00元 3天前
用户:kk1957135547
-
21ic下载 打赏15.00元 3天前
用户:w993263495
-
21ic下载 打赏15.00元 3天前
用户:x15580286248
-
21ic下载 打赏20.00元 3天前
用户:WK520077778
-
21ic下载 打赏25.00元 3天前
用户:hp860629
-
21ic下载 打赏15.00元 3天前
用户:sbfd010
-
21ic下载 打赏10.00元 3天前
用户:严光辉
-
鹏鹏科技 打赏1.00元 3天前
-
21ic小能手 打赏10.00元 3天前
资料:四层无人机飞控打板文件
-
21ic小能手 打赏5.00元 3天前
资料:AD通用3D封装库
-
21ic小能手 打赏5.00元 3天前
资料:DeepSeek使用教程
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏10.00元 3天前
-
21ic小能手 打赏10.00元 3天前
-
21ic小能手 打赏20.00元 3天前
-
21ic小能手 打赏10.00元 3天前
-
21ic小能手 打赏15.00元 3天前
-
sd-hyc 打赏1.00元 3天前
资料:神州易刻2024最新版
-
柏涵 打赏1.00元 3天前
-
21ic下载 打赏310.00元 3天前
用户:jh0355
-
21ic下载 打赏310.00元 3天前
用户:w178191520
-
21ic下载 打赏210.00元 3天前
用户:gsy幸运
-
21ic下载 打赏210.00元 3天前
用户:zhengdai
-
21ic下载 打赏210.00元 3天前
用户:jh03551
-
21ic下载 打赏110.00元 3天前
用户:liqiang9090
全部评论(0)