BT

如何利用碎片时间提升技术认知与能力? 点击获取答案

Cascading 2.5 支持 Hadoop 2

| 作者 Boris Lublinsky 关注 1 他的粉丝 ,译者 江辉 关注 0 他的粉丝 发布于 2014年1月8日. 估计阅读时间: 5 分钟 | AICon 关注机器学习、计算机视觉、NLP、自动驾驶等20+AI热点技术和最新落地成功案例。

尽管Hadoop技术的运用越来越广泛,而且一直在增长,但是很多企业仍然面对着一个问题,即寻找恰当的方法来快速经济地开发基于Hadoop的应用。有一种方法可以大大简化这类应用,就是使用领域特定语言(DSL)。

在底层MapReduce API之上,最为流行的一种Java 领域特定语言就是Cascading。Cascading是在2007年底作为一种领域特定语言引入的,用于实现面向大规模数据工作流的函数式编程。它基于“管道(Plumbing)”这种隐喻将数据处理定义为构建于我们熟悉的一组元素之上的工作流,这些元素是: Pipe、Tap、元组行、Filter、Join、Trap等。

本周,Cascading发布了该产品的最新版本——Cascading 2.5,将支持Hadoop 2,以及YARN。根据该公司的新闻稿,该产品的新特性有以下几点:

  • 支持Hadoop 2及其新特性,支持YARN。希望升级到Hadoop 2的Cascading用户,能够无缝地迁移其应用,并且能够使用像YARN这样的较新的高级特性。
  • 对复杂的连接(JOIN)操作有额外的性能改进,对于处理后的数据在HDFS上的动态分区和存储进行了优化,使其更为高效。
  • 与其他Hadoop厂商以及Hadoop即服务的提供者有了更广的兼容性,包括兼容Cloudera、Hortonworks、MapR、Intel、Altiscale、 Qubole及Amazon EMR等,不论在本地(on-premise)还是在云端,为Cascading用户提供了更丰富的部署选择。

同时,Concurrent还发布了Cascading Lingual的GA版本。Cascading Lingual是一个开源项目,该项目对访问基于Hadoop的数据提供了全面的ANSI SQL接口。该项目还涵盖了超过7千条从成熟的工业标准OLAP工具继承而来的SQL-99语句。根据Concurrent的说法:

为Hadoop生态系统内的任何工具都带来了最广泛的SQL覆盖。它有两方 面创新:使Hadoop变得简单、容易使用;只需要一条SQL语句,就能很 简单地将多个数据存储集成到Hadoop中。

InfoQ有幸同Concurrent公司的创始人及首席技术官Chris K Wensel讨论了有关Cascading最新版本的一些话题。

InfoQ当您提到Cascading 2.5对YARN的支持时,具体指的是什么?是MapReduce代码使用了YARN资源管理器,还是实际上利用YARN创建了一个新的特定于Cascading的应用管理器?

WenselCascading 2.5隐性地支持YARN。因为Cascading 2.5支持Hadoop 2,所以它也支持YARN功能。Cascading实际上并未利用YARN进行应用开发。

InfoQ对于利用Apache Tez进一步改进Cascading应用的性能,您是否有具体的计划?

Wensel是的,在我们的产品发展路线图上的确有关于Tez的计划,我们会在适当的时间向公众宣布相应更新。

InfoQ您能针对复杂连接的优化及性能提高为我们解释一下吗?

Wensel我们更新了API,以支持更为复杂、定制的连接类型。比如:在某些特定情况下Cascalog能够利用这个特性。

InfoQ在您看来,我们对于基于SQL处理的强调是否会限制Hadoop为依托的应用开发?不论SQL有多棒,它只是对于解决某类问题有些好处,而对于利用Hadoop的企业而言,这只是应用的一个有限子集。

WenselSQL几乎能够支持其余99%的开发人员、分析师以及遗留系统使用Hadoop。是的,你的确可能遇到使用SQL会有所限制的情况,但是对于大部分问题而言,90%都可以通过SQL来表述。Cascading给人们提供了选择。你不妨问问自己这个问题:有谁愿意写一堆Java代码来完成一句SQL语句就能实现的操作?又有谁愿意写几百行SQL语句来取代最好是用Java来编写并测试的某个操作?Cascading给广大开发人员带来了灵活性。

查看英文原文:Cascading 2.5 Supports Hadoop 2


感谢臧秀涛对本文的审校。

给InfoQ中文站投稿或者参与内容翻译工作,请邮件至editors@cn.infoq.com。也欢迎大家通过新浪微博(@InfoQ)或者腾讯微博(@InfoQ)关注我们,并与我们的编辑和其他读者朋友交流。

评价本文

专业度
风格

您好,朋友!

您需要 注册一个InfoQ账号 或者 才能进行评论。在您完成注册后还需要进行一些设置。

获得来自InfoQ的更多体验。

告诉我们您的想法

允许的HTML标签: a,b,br,blockquote,i,li,pre,u,ul,p

当有人回复此评论时请E-mail通知我
社区评论

允许的HTML标签: a,b,br,blockquote,i,li,pre,u,ul,p

当有人回复此评论时请E-mail通知我

允许的HTML标签: a,b,br,blockquote,i,li,pre,u,ul,p

当有人回复此评论时请E-mail通知我

讨论

登陆InfoQ,与你最关心的话题互动。


找回密码....

Follow

关注你最喜爱的话题和作者

快速浏览网站内你所感兴趣话题的精选内容。

Like

内容自由定制

选择想要阅读的主题和喜爱的作者定制自己的新闻源。

Notifications

获取更新

设置通知机制以获取内容更新对您而言是否重要

BT