BT

如何利用碎片时间提升技术认知与能力? 点击获取答案

Twitter开源了其流处理框架Summingbird

| 作者 Michael Hausenblas 关注 1 他的粉丝 ,译者 臧秀涛 关注 2 他的粉丝 发布于 2014年1月17日. 估计阅读时间: 3 分钟 | GMTC大前端的下一站,PWA、Web框架、Node等最新最热的大前端话题邀你一起共同探讨。

Twitter开源了其MapReduce流处理框架Summingbird。Summingbird是一个大规模数据处理系统,支持开发者以批处理模式(基于Hadoop/MapReduce)或流处理模式(基于Storm)或混合模式(即组合前两种模式)以统一的方式执行代码。它基于Apache 2许可发布。

现在的软件栈需要手工集成MapReduce (Pig/Scalding)和基于流(Storm)的代码,为了处理5亿的Tweet并能持续成长,Twitter必须寻找一个替代品。关于创建Summingbird的主要动机,Twitter的工程师提到,在于他们意识到,由于以下原因,在Storm上运行一个完全实时的系统非常困难:

  • 要重新计算数月的历史日志,必须与Hadoop进行协作,或者是通过某种定制的日志加载机制形成通过Storm的流。
  • Storm专注的是消息传递,随机写入数据库很难维护。

正是这一洞见推动了Summingbird这一灵活而通用的方案的出现,它用于解决工程师使用现有方法遇到的实际问题:

  • 两个不同系统中的两组聚合逻辑必须保持同步
  • 在每个系统和客户端之间,键和值必须一致地进行序列化
  • 客户端要负责从两个数据存储读取数据、执行最后的聚合并提供合并结果

Summingbird也是第一批可以公开获得的Lambda架构兼容系统中的一个。类似的项目包括Yahoo的Storm-YARN 和一家西班牙创业公司即将发布的Lambdoop。Lambdoop是一个Java框架,用于以与Lambda架构一致的方式开发大数据应用。Lambda架构的特色是有一个不可修改、只能追加数据的主数据库,并组合了批处理、服务和加速等不同的层。这些特色支持开发者构建健壮的、可以进行批处理和流处理的大规模数据处理系统,其使用案例涉及从物联网(智能城市、可穿戴设备和制造业)之上的社交媒体平台(比如Twitter、LinkedIn等)到金融行业(欺诈检测和推荐)等。

Summingbird的主要设计者Oscar Boykin、Sam Ritchie(计算机科学界的传奇人物Dennis Ritchie的侄子)和Ashutosh Singhal 进一步透露了该框架的路线图:

  • 支持Apache Spark和列式数据存储格式Parquet
  • 在Summingbird的Producer原语之上的高层数学库和机器学习代码
  • 相关开源项目(比如Algebird和Storehaus)更深度的集成

查看英文原文:Twitter Open-Sources its MapReduce Streaming Framework Summingbird

评价本文

专业度
风格

您好,朋友!

您需要 注册一个InfoQ账号 或者 才能进行评论。在您完成注册后还需要进行一些设置。

获得来自InfoQ的更多体验。

告诉我们您的想法

允许的HTML标签: a,b,br,blockquote,i,li,pre,u,ul,p

当有人回复此评论时请E-mail通知我
社区评论

允许的HTML标签: a,b,br,blockquote,i,li,pre,u,ul,p

当有人回复此评论时请E-mail通知我

允许的HTML标签: a,b,br,blockquote,i,li,pre,u,ul,p

当有人回复此评论时请E-mail通知我

讨论

登陆InfoQ,与你最关心的话题互动。


找回密码....

Follow

关注你最喜爱的话题和作者

快速浏览网站内你所感兴趣话题的精选内容。

Like

内容自由定制

选择想要阅读的主题和喜爱的作者定制自己的新闻源。

Notifications

获取更新

设置通知机制以获取内容更新对您而言是否重要

BT