Yahoo的新一代大数据技术架构解析
2013-10-14 23:11 |来自: 站长之家|
查看: 6093|
评论: 0
|
Yahoo公司是Hadoop平台最大的用户、最有力的应用支持者和Hadoop商业化的重要推动者，Hadoop一直是Yahoo公司云计算平台的核 心，Yahoo公司最大的单个Hadoop集群由4000个节点组成，Yahoo公司的推荐系统、广告分析等应用均建立在Hadoop分布式计算平台 上，Yahoo公司通过开发者论坛等方式每年培养了大量掌握Hadoop平台的专业技术人员，Yahoo公司分拆出来并投资的Hadoop技术研发部门 －Hortonworks目前是全球发展最快的Hadoop商业化公司之一。Yahoo 公司并没有躺在这些成绩上沾沾自喜，相反他们在积极推进Hadoop2.0——Yahoo新一代大数据技术架构。 Yahoo的新一代大数据技术架构由以下几个部分组成： 核心YARN。YARN或称为MapReduce2.0是这个技术架构的核心，它可以看作Yahoo新一代大数据平台的操作系统。为了解决 Hadoop1.0的性能瓶颈问题，YARN将MapReduce中一个JobTacker中所具有的两个主要功能（资源管理和作业调度/监控）实现了分 离，主要方法是创建一个全局的资源管理器（ResourceManager，RM）和若干个针对应用程序的应用主服务器 （ApplicationMaster，AM）。经过这样的变化，YARN在扩展性方面有很大改进，可以支持10000+计算机集群，同时改进了 MapReduce的性能，并且支持Hadoop之外的其他计算框架，如低延时、流计算等框架。 计算处理框架。除了支持批处理的Hadoop 之外，还有Spark和Storm等计算框架的集成。其中，Hadoop用于离线数据分析，Spark用于多迭代批处理数据分析， Storm则是用于流数据的实时分析和预测。借助YARN，Yahoo将大数据离线、近线和实时数据实现了整合。 ——Storm。Storm 原本是Twitter的流计算工具。Yahoo在新一代技术架构实践中，将Storm与YARN整合成为Storm-YARN来支持的实时的流计算分析。 Storm是专门针对实时数据类型（即流数据）的计算分析框架，在流数据不断变化运动的过程中实时地进行分析，捕捉到可能对用户有用的信息，并把结果迅速 发送出去。例如，为了支持个性化搜索广告，系统需要实时处理来自几百万唯一用户每秒成千上万次的查询，并即时分析用户的会话特征来提高广告相关性和预测模 型的准确度。 ——Spark。Spark是发源于美国加州大学伯克利分校AMPLab的集群计算平台，已正式申请加入Apache孵化 器，Yahoo新一代技术架构将其YARN进行整合。Spark立足于内存计算，从多迭代批量处理出发，兼收并蓄数据仓库、流处理和图计算等多种计算范 式，具有轻量、快速计算等特点。Spark基于Scala语言，是一个比Hadoop代码行少的轻量级系统，但它的计算速度非常快，对小数据集能达到亚秒 级的延迟，对大数据集典型的迭代机器学习、即席查询、图计算等应用，Spark版本比基于MapReduce、Hive和Pregel的实现快上十倍到百 倍。 存储层。底层存储则仍是基于Hadoop的文件系统HDFS和NOSQL数据库HBase。 尽管，目前以YARN为核心的新一代技术架构还有很多方面需要完善，但其在Yahoo中战略地位已经基本确立。其一贯的开源策略，也将给大数据业界带来福音。 |
免责声明：
除非特别声明，文章均为投稿或网络转载，仅代表作者观点，与大数据中国网无关。其原创性以及文中陈述文字和内容未经本站证实，对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺，请读者仅作参考，并请自行核实相关内容。如果本文内容有侵犯你的权益，请发送信息至ab12-120@163.com，我们会及时删除
最新评论
最新新闻
最新新闻
/1 
