BT

如何利用碎片时间提升技术认知与能力? 点击获取答案

Netflix:使用大数据驱动业务决策

| 作者 Alex Giamas 关注 9 他的粉丝 ,译者 李彬 关注 1 他的粉丝 发布于 2013年12月14日. 估计阅读时间: 7 分钟 | 如何结合区块链技术,帮助企业降本增效?让我们深度了解几个成功的案例。

2013年旧金山QCon大会上,Netflix的数据平台架构经理Jeff Magnusson做了一场关于Netflix数据平台即服务(Data Platform as a Service)的演讲。沿着这场演讲的线索,我们将尝试进一步探寻技术栈的组成,以及它如何帮助Netflix做出重要的业务决策。

在全球范围里,Netflix拥有超过三千万订阅用户。访问Netflix网站过程中,每位用户都会提供若干数据点。而网站将用户对视频进行的播放、打分或搜索等操作,作为事件进行捕捉和分析。此外,用户使用中涉及到的时间、日期、地理位置、设备和页面中的浏览或滚动行为,也将被Netflix用来提供操作事件发生的环境,并将用户划分到不同的类别中。Netflix使用这些数据来提升其网站的参与度,并做出诸如接下来将资助哪套连续剧等业务决策。

来自诸如Nielsen等第三方或社交媒体的元数据,也有助于对平台吸引用户参与或新用户订阅。

自2009年起,Netflix就已经运行在云上,并使用了Hadoop平台。他们所采用的基础设施中,关键的大数据模块包括:

  • Amazon S3亚马逊S3技术被用来捕捉来自数以十亿计的使用Ursula(一种内部数据管线工具)的设备。S3被当作运行Hadoop任务的Elastic Map Reduce(EMR)集群的可信来源
  • HadoopApache Hadoop被用作分布式计算的基准库,它部署在AWS上的Elastic Map Reduce集群上;另外,每个节点提供的存储中并没有使用HDFS,而是利用S3桶存储。这有点古怪,因为它可能会导致从S3到EMR节点的迁移,违反Hadoop利用的数据本地性原则。但从另一方面来说,这意味着S3可以作为单一的可信来源,而EMR集群被作为消耗品,而且几乎可以被实时调整为合适的大小
  • HiveNetflix把Hive用在特定的查询和轻量级聚合上。Pig则用在ETL和更复杂的数据流方面。其数据迁移方面的特长也被用来在复杂的操作之间进行连接。
  • Genie作为一种Hadoop PaaS技术,Genie被用来在EMR中提交任务。Genie提供了一种RESTful API,在使用它时,开发者无需处理Hadoop集群固有的启动或维护工作。开发者可以从Genie的GitHub代码库中fork它。
  • Franklin元数据API Franklin可以用来从RDS、Redshift、Cassandra、Teradata或S3源中提取信息。自2011年成功地从基于Oracle数据中心的解决方案迁移到AWS后,Netflix就把Cassandra用在在线数据收集方面。过去,Teradata主要被运用在数据中心领域,但随着Teradata宣布他们已经签约Netflix为其提供Teradata云服务后,这一产品定位也就随之发生了转变。
  • ForkliftForklift可以用来在不同的数据仓库中迁移分析数据。源和目标位置可以是Hive、RDBMS、S3、R或其他类型。
  • StingSting用于将Genie任务结果用特定的方式进行视觉化处理。通过讲数据集保留在内存中,Sting能够以亚秒级响应时间执行常用OLAP操作,例如交叉分析。
  • LipstickLipstick使用户能够按Pig任务和任务整体进展来把数据流视觉化。在这种方式下,用户可以直观地发现停滞的任务、错误输出的数据或失败的任务,并将这些问题快速修改以便正确执行。

除了这些工具,Netflix还开发了Curator等若干辅助工具。Curator是一系列对运用Apacke Zookeeper有帮助的Java类库。使用Curator,开发者能够轻易地构建健壮的客户端,并避免若干缺陷,例如不安全的客户端调用或是错误地假设某次请求会获得成功。

在上述技术栈的各个部分中,一个非常重要的组成部分是Netflix推荐。Netflix全部视频流中,大约有75%是由推荐结果驱动的。驱动推荐的系统之一使用了马尔科夫链,将电影作为状态建模,并计算这些状态之间转换的可能性。在RDBMS中,这将作为一个存储的规程,每周运行一次;不过作为一个昂贵的副本,它并不具有良好的可扩展性。使用Hadoop后,这个问题就得到了本质的解决,能够进行扩展而无需复制任何数据,另外使用Pig或Java Map Reduce任务,将比作为存储的规程更易于维护。

马尔科夫链描绘了一种离散时间随机过程,它依据转移概率矩阵在一系列状态间变换。将每部电影作为一个节点建模,并使用双边Map Reduce任务,Netflix能够计算从某个节点转换到另一个的可能性,而这正是推荐值。未来的值仅仅依赖于当前值,这决定了它非常适合Map Reduce任务——因为无需在Hadoop节点中存储状态。

转移概率并不是Netflix的推荐引擎中考虑的唯一一项参数。除此之外,使用环境也是一个值得考虑的有趣的维度。用户或许希望根据当前使用设备查看不同的内容——在家、休假或是在工作环境。这是一个Netflix也尚未能够解决的问题,因为要想将使用环境与观看选项关联,还需要克服若干挑战。

无论是其他行业,还是同行业竞争对手,都无法简单地复制Netflix的大数据架构。然而,其中部分构建模块现在已经开源,并放在其GitHub账户中供人们下载。对想要开始开发大数据架构的组织机构来说,它们都可以作为起步的基点。而正如Netflix所展现的,大数据战略并不是一个事后规划,相反它必须预先规划,并在数年时光中贯彻执行。

原文英文链接:Big Data at Netflix Drives Business Decisions

评价本文

专业度
风格

您好,朋友!

您需要 注册一个InfoQ账号 或者 才能进行评论。在您完成注册后还需要进行一些设置。

获得来自InfoQ的更多体验。

告诉我们您的想法

允许的HTML标签: a,b,br,blockquote,i,li,pre,u,ul,p

当有人回复此评论时请E-mail通知我

很好的文章 by 王 飞

很好的文章

允许的HTML标签: a,b,br,blockquote,i,li,pre,u,ul,p

当有人回复此评论时请E-mail通知我

允许的HTML标签: a,b,br,blockquote,i,li,pre,u,ul,p

当有人回复此评论时请E-mail通知我

1 讨论

登陆InfoQ,与你最关心的话题互动。


找回密码....

Follow

关注你最喜爱的话题和作者

快速浏览网站内你所感兴趣话题的精选内容。

Like

内容自由定制

选择想要阅读的主题和喜爱的作者定制自己的新闻源。

Notifications

获取更新

设置通知机制以获取内容更新对您而言是否重要

BT