这五种大数据计算框架,你一定要知道

article/2025/6/9 2:59:20

随着这些年全世界数据的几何式增长,数据的存储和运算都将成为世界级的难题。之前小鸟给大家介绍过一些分布式文件系统,解决的是大数据存储的问题,今天小鸟给大家介绍一些分布式计算框架:

Hadoop框架

提起大数据,第一个想起的肯定是Hadoop,因为Hadoop是目前世界上应用最广泛的大数据工具,他凭借极高的容错率和极低的硬件价格,在大数据市场上风生水起。Hadoop还是第一个在开源社区上引发高度关注的批处理框架,他提出的Map和Reduce的计算模式简洁而优雅。迄今为止,Hadoop已经成为了一个广阔的生态圈,实现了大量算法和组件。由于Hadoop的计算任务需要在集群的多个节点上多次读写,因此在速度上会稍显劣势,但是其吞吐量也同样是其他框架所不能匹敌的。

Storm框架

与Hadoop的批处理模式不同,Storm采用的是流计算框架,由Twitter开源并且托管在GitHub上。与Hadoop类似的是,Storm也提出了两个计算角色,分别为Spout和Bolt。

如果说Hadoop是水桶,只能一桶一桶的去井里扛,那么Storm就是水龙头,只要打开就可以源源不断的出水。Storm支持的语言也比较多,Java、Ruby、Python等语言都能很好的支持。由于Storm是流计算框架,因此使用的是内存,延迟上有极大的优势,但是Storm不会持久化数据。

Samza框架

Smaza也是一种流计算框架,但他目前只支持JVM语言,灵活度上略显不足,并且Samza必须和Kafka共同使用。但是响应的,其也继承了Kafka的低延时、分区、避免回压等优势。对于已经有Hadoop+Kafka工作环境的团队来说,Samza是一个不错的选择,并且Samza在多个团队使用的时候能体现良好的性能。

Spark框架

Spark属于前两种框架形式的集合体,是一种混合式的计算框架。它既有自带的实时流处理工具,也可以和Hadoop集成,代替其中的MapReduce,甚至Spark还可以单独拿出来部署集群,但是还得借助HDFS等分布式存储系统。Spark的强大之处在于其运算速度,与Storm类似,Spark也是基于内存的,并且在内存满负载的时候,硬盘也能运算,运算结果表示,Spark的速度大约为Hadoop的一百倍,并且其成本可能比Hadoop更低。但是Spark目前还没有像Hadoop哪有拥有上万级别的集群,因此现阶段的Spark和Hadoop搭配起来使用更加合适。

Flink框架

Flink也是一种混合式的计算框架,但是在设计初始,Fink的侧重点在于处理流式数据,这与Spark的设计初衷恰恰相反,而在市场需求的驱使下,两者都在朝着更多的兼容性发展。Flink目前不是很成熟,更多情况下Flink还是起到一个借鉴的作用。

以上就是现在比较主流的大数据运算框架的介绍了,欢迎大家收藏转发。


http://www.hkcw.cn/article/dUvVEcQcZw.shtml

相关文章

原创闹剧结束,万达集团官宣不再支持一方,将重建球队支持大连足球

北京时间1月1日,在新年的第一天,中国足坛爆发了“大地震”,万达集团官方解释了前几天传闻的“一方大地震”一事,从万达集团的官方声明内容可以看到,万达集团从大连一方俱乐部撤资只是时间的事了,集团将重组球队,换另外一种方式支持大连足球。 来自万达集团的官方声明,可…

赵丽颖避谈陈晓 陈晓机场大哭疑似为赵丽颖图

赵丽颖避谈陈晓 得知陈晓求婚在房内崩溃大哭 陈晓机场大哭疑似为赵丽颖 赵丽颖避谈陈晓:赵丽颖被曝避谈陈晓,听到陈晓两个字似乎就很敏感。得知陈晓求婚陈妍希的时候,赵丽颖在房间大哭,陈晓机场大哭似乎为赵丽颖。 据台湾媒体报道,内地女星赵丽颖近年因《陆贞传奇》、《杉…

原创还记得《宝贝计划》中的小萌娃吗?14年过去了,小萌娃如今长这样

导语:成龙大哥可以说是广为人知的一名演员,在他的演艺生涯中,演过超多的电影,其中很多都成为经典。提起《宝贝计划》这部电影不知道大家看过没?里边有个让人看一眼就记住的角色,那个小萌孩,当我看到他时完全被萌翻了!胖嘟嘟长得很可爱。因为很喜欢这个小孩,被他深深吸…

我的黑色超短裙,载满了成长足迹

我的黑色超短裙,走出校园后在梦想与现实之间徘徊,载满了成长足迹。每个女生在成长中总有一条小黑裙陪伴着她其实,没有什么东西是不能放手的。时日渐远,当你回望,你会发现,你曾经以为不可以放手的东西,只是生命里的一块跳板,令你成长。而那条陪伴我成长的小黑裙,我一真…

网络应用工程师最新报考流程以及攻略!

网络应用工程师的报考流程以及攻略可以概括为以下几个步骤:一、了解考试信息查询官方信息:首先,访问中国计算机技术职业资格网(http://www.ruankao.org.cn/)或相关权威机构网站,了解网络应用工程师考试的最新信息,包括考试科目、报名时间、考试时间、考试形式等。了解报…

盘点史上长相最恐怖的怪鱼,厨师:不敢吃!

要说吃,天底下恐怕没有比厨师更懂吃、更爱吃的人群了。不过,世界上也有厨师不敢吃的东东。就像下面要为大家介绍的这些深海怪鱼,长相恐怖,有厨师看到后表示:“不敢吃。”近日,俄罗斯一位渔夫因在社交媒体上分享了一系列深海怪鱼的图片而走红。这些由他亲手捕捉到的怪鱼里…

原创决定了!“辽宁克星”续约主力后卫,杨鸣面临最大挑战?

2023-24赛季CBA联赛的休赛期即将结束,广厦队续约主力后卫孙铭徽的消息引发了广泛关注。上赛季季后赛首轮广厦队被广东男篮淘汰后,外界曾认为这支黑马可能会面临重建。虽然核心球员胡金秋与朱俊龙继续留队,但孙铭徽和赵岩昊的合同即将到期,一度让人担心他们会离开。然而,广…

2019年个人出租房屋如何交房产税?房屋转租要缴纳房产税吗?

来源: 大律师网 导读:房产税的征收对象为房产。所谓房产是指以房屋形态表现的财产,包括其附属的设备,但不包括独立的建筑物,如围墙、烟囱、水塔等。那么2019年个人出租房屋如何交房产税?房屋转租要缴纳房产税吗? 2019年个人出租房屋如何交房产税?(一)个人出租非住房(商…

2024年英国留学入境全攻略

随着开学季的临近,许多小伙伴已满怀期待地准备踏上前往英国的留学之旅。为了确保大家能够顺利入境并快速适应新的生活环境,我们精心整理了2024年最新的英国留学入境全攻略,涵盖入境前的准备、入境时的材料要求以及入境后的注意事项,助力大家顺利开启英国留学新篇章。一、拿…

宜家回应店内不雅视频事件:已报警

5月10日星期日,农历四月十八 封面新闻宜家回应店内不雅视频事件:已报警关于近日网络上流传的一女子在宜家商场内的不雅视频,9日宜家家居IKEA官方微博发布声明称,宜家中国非常重视该视频事件,坚决反对并谴责这种行为,并已第一时间向疑似受影响的商场所在地警方报警。(澎湃…

万科2018年度业绩发布会:郁亮再答“活下去”

今天上午,万科举行2018年度业绩推介会。记者从会上了解到,过去一年,万科各项业绩指标稳健增长,传统开发业务优势持续巩固,非开发业务的经营表现亦不乏亮点,经营能力持续提升。实现营业收入2976.8亿元。万科董事会主席郁亮表示,万科对转型的认知和决心从来没有改变过,20…

适合种在屋顶花园里的植物有哪些

屋顶花园一般是种植一些比较低矮、根系较浅、耐旱、耐寒、耐瘠薄生命力旺盛的植物。因为屋顶花园比较高,风力比较大,土层薄、光照时间长、昼夜温差大、湿度小、水分少。屋顶花园选择植物的五大原则↓↓1.选择耐旱、抗寒性强的矮灌木和草本植物。 2.选择阳性、耐瘠薄的浅根性植…

生命中那些疼到叫妈的意外之痛

现在的年轻人,本就置身于生存和生活双重压力之中,还要面临那些突如其来的痛痛。就像爱情,你不知道下一秒会不会来,来的时候又能让你要死要活。 于是众院办联合起来,叽叽咕咕了一阵,发现everybody都经历过这样的痛,我晕。所以院办们忍着痛打起精神拟了这篇意外之痛分级。…

原创浦科特M6S固态硬盘数据丢失与恢复:全方位指南

在当今数据驱动的时代,硬盘中的数据已成为我们生活和工作中不可或缺的一部分。然而,数据丢失的风险始终存在,无论是由于意外删除、硬件故障还是其他未知原因。浦科特M6S作为一款高性能的固态硬盘,虽然以稳定性和速度著称,但面对数据丢失时,用户同样会感到手足无措。本文旨…

欲练神功,挥刀自宫

“欲练神功,挥刀自宫”。 从小我冥思苦想,想知道这神功为什么要自宫才能练?stone&stick对修炼神功的阻碍有什么科学依据吗?显然没有啊! 女人没有蛋蛋,能练神功吗?答曰:不能。 归根到底,类似男性主动割蛋剁鸡的情节,只是为了塑造人物:为了获得强大的能力及随之…

医生透露马拉多纳脑部手术成功

新华社布宜诺斯艾利斯11月4日电 阿根廷足球名将迭戈马拉多纳此前因颅内检测出了血肿,3日晚间在一家私立专家诊所进行了紧急手术。据医生透露,马拉多纳手术成功,恢复较好。 马拉多纳(资料图)新华社发 马拉多纳的医生表示,已成功移除肿块,但仍将对他进行密切观察。大批马…

10天40亿!小言风的《微微一笑很倾城》为何火爆?

最近,电视剧版的《微微一笑很倾城》在网络上有点小火爆。 该剧没有采取《幻城》和《诛仙青云志》的多平台播出策略,而是选择了单一的播出平台,由优酷全网独播。从数据来看,《微微一笑很倾城》在8月22日正式开播后16小时就取得了惊人的3亿多播放量。截止到8月31日中午,该剧…

2024年十一种互联网挣钱的方法,揭晓11个互联网创业挣钱途径

互联网上永远不缺少机会,是一做可以给我们提供绵绵不绝的的金矿的地方。我们准备了十个互联网创业策略清单。你可以根据当下的情况来选择合适的途径,重新为您的职业生涯或生意找准坐标和方向。放一个彩蛋,最后一个挣钱的途径,你一定没想到1,创建电子商务网站 与线下商店相…

39年!珠海大会堂,我们不说再见!

珠海人熟悉的珠海大会堂 再次迎来升级改造! 第一次看电影、第一次约会…… 载满许许多多珠海人共同记忆的老地标 也将以新模样成为新大会堂展开全文珠海大会堂位于香洲区凤凰南路 始建于1983年,彼时正值经济特区创办初期 旅游和娱乐场所兴起 它的出现像是惊艳了全城的精神堡…

一高校原校长被双开!副手也已落马

5月27日下午,北京市纪委监委发布消息:北方工业大学原党委副书记、校长丁辉被开除党籍、开除公职处分。通报称,丁辉在处理下属单位搬迁补偿问题时滥用职权, 致使国家利益遭受特别重大损失。 今年60岁的丁辉,北京人,毕业于清华大学,曾在北京市科学技术研究院工作了近23年,…