BT

如何利用碎片时间提升技术认知与能力? 点击获取答案

奥运赛事广告背后的技术力量,FreeWheel的积累与创新
录制于:

| 受访者 林兆祥 关注 1 他的粉丝 作者 InfoQ 关注 13 他的粉丝 发布于 2017年3月29日 | ArchSummit北京2018 共同探讨机器学习、信息安全、微服务治理的关键点
19:04

个人简介 林兆祥,FreeWheel首席工程师。

全球架构师峰会(International Architect Summit,下简称ArchSummit)是由InfoQ中文站主办的一次全球性架构师峰会。ArchSummit专门针对架构师人群,讲述与架构和架构师相关的各方面趋势、技术和案例。这也是继QCon之后,InfoQ中文站主办的又一次高端技术盛会。

   

1. 大家好,这是Arch Summit2016年的采访间,我们邀请了FreeWheel的林兆祥老师,您跟大家介绍一下FreeWheel的公司?

林兆祥:我介绍一下FreeWheel,它是提供视频广告服务的公司,我们的公司已经做了9年多了,我们主要的业务都在欧美,国内可能大家听到的比较少,但是在美国有90%以上主流电视媒体和运营商都在使用FreeWheel的业务。我们在美国有几十家客户,这些客户的规模也是比较大的运营商。 我个人2013年加入FreeWheel,这几年时间内我一直做广告服务器后端开发和核心模块设计,大概有三年多时间,加入FreeWheel之前我有过四五年技术创业的经历。

   

2. 你提到FreeWheel在欧美有很多的份额,我知道FreeWheel支持了里约奥运会的赛事直播,能否讲一下背后技术支持的规模还有一些其他特别的亮点吗?

林兆祥:首先从规模来说,这次里约奥运会版权方是NBCU,在里约奥运会期间我们给NBCU投放了超过15亿次的广告。NBCU本身奥运期间的广告的收入是12亿美元,在我们这边的数字广告内容大概超过1亿美元。我们的服务器给NBCU投放广告的峰值我看了一下数据,大概接近100万个广告一秒,最高峰是在8月12日左右。

   

3. 背后的技术处理方案有新的尝试吗?

林兆祥:后台主要的方案还是应用之前的,因为我们系统后台可以支持各种客户需求,采用的是可插入的数据和可配置的广告控制,客户可以根据自己的需求做定制,核心还是依赖于原来的技术。 最近我印象比较深的应用一些新的技术是Emotional targeting,情感投放。比如说比赛过程中发生一些突发的事情,这个事情会影响观众的情绪,我们怎么根据观众的情绪来投放广告,这是最近做的新的尝试。

   

4. 这里面有机器学习大数据的技术在里面?

林兆祥:对,我们自己有一个专门部门做研究,同时我们也引入第三方给我们提供一些数据,我们使用这些数据。

   

5. 你提到尽量做成平台化,不单独为每一个赛事单独来开发,要做到灵活支持,多种设备集成各种不同数据源。为了实现这种配置化的简单方案,背后付出了怎样的努力?

林兆祥:这是一个长期的改变过程,我们最主要的是提的两个原则:可配置的广告控制和可插入的数据。我们经常收到客户新的集成请求,如果这个请求在系统内不支持,我们要调整系统。这种情况下我们会评估并有不同的设计方案,评估哪一种最符合可插入数据的原则,然后采用对应的方案。也就是说,一次集成通常也是希望可以覆盖后面更多的集成,如此通过长期积累的过程,系统真正的做到可插入的数据。这种调整也是经常的,比如说一个信息叫广告位信息,在我们播放的时候需要广告位信息,广告位信息可以从播放器过来。后来,我们做了一个直播系统,它提供广告位信息在视频里面直接插入,这种情况下有时候插入广告位的信息比我们原来预想的要晚,在它插入之前我们已经依赖于广告位信息已经做了一些事情,这种情况下,我们需要做一些架构的调整,把我们依赖于广告位信息的逻辑稍微往后调整一下,能够让这个广告位信息在这个集成里面只负责插入而不是说业务应该怎么做。

   

6. 您说这是一个长期的过程,你们意识到有这种想法的时候就一直在做尝试?

林兆祥:这个东西也是有很多年了,刚开始的没有这种意识,你做的集成多了,有时候做集成不光是为做集成,而是为了以后可以更好的集成,这也是很多年的事情。

   

7. 您演讲中提到推送服务采用的是镜像模式。那与此相对的技术方案是什么?镜像模式做法的优点和挑战是什么?

林兆祥:与镜像模式相对的是常规的方法:为了提高数据库的访问速度,需要在数据库前端用内存数据库做缓存。但是这种传统常规方法对很多简单的业务场景来说,只要跟内存数据库交互次数不是特别多的话可以,但是我们需要访问内存数据库可能达到几十次或者几百次,用这种方法做很难支持我们高并发情况下的实时响应。所以我们采用了镜像模式,我们把数据镜像在内存里面,我们所有的访问都在内存里,这样就不担心有数据延迟的问题。

   

8. 那镜像模式的缺点有哪些呢?

林兆祥:缺点主要还是内存大小方面的,比如说刚开始时你数据几百兆可以把数据很轻松的放进来,但是后来发展到几百个G那就需要设计方案控制大小。另外还有更新时延的问题,你要有一些技术手段对某些需要实时更新的数据做一些更新的支持。

   

9. 在使用镜像数据最大限度是多少?怎么设定这样一个范围?

林兆祥:最大的限度是依赖于服务器物理内存的大小。我们有一些服务器内存比较多,有一些服务器是几年前的,内存比较小,比如32G的内存;这种情况下不仅要考虑不能超过内存容量,还要考虑给广告服务器预留足够多的空间。实践中广告服务器是要同时保存两份镜像,如果是32G内存的服务器,一个镜像就需要控制在10个G左右的大小,这样的话,广告服务器就需要20G的内存来存放2个镜像 ,这样还能给广告服务器留出几个G的空间。

   

10. 有没有想过再过一段时间之后将大规模的更换掉,都换成规模类似的?

林兆祥:应该说如果业务能够支撑的话,是不会因为镜像大小的因素去考虑大规模调整服务器的。我们在控制镜像大小的方面是比较成熟的,在可见未来我们没有看到这些内存小的服务器会有被淘汰的压力,但是肯定是新的服务器会越来越好,也许以后会需要调整一下镜像的大小。

   

11. 对于实时数据修改反映在在KV库中删除和重写,镜像库的更新频率是多少?

林兆祥:镜像库大概支持半个小时左右更新一次。其实上我们真正线上的系统更复杂,我们做了不同的镜像库。 我们现在有两种镜像库,一种是15分钟更新一次,一种是30分钟更新一次。

   

12. 这是因为业务特殊性吗?怎么划分的?

林兆祥:这跟我们对客户承诺的响应时间有关。

   

13. FreeWheel在三个外国国家有自己的数据中心,是因为你们有很多的外国需求?

林兆祥:我们主要的客户在美国,在美国有四个数据中心,我们大部分的客户是美国的一些大公司;前几年我们开始开拓欧洲的市场,所以我们在欧洲建立了两个数据中心。

   

14. 你们一直用自己的数据中心,还是考虑将来会选择一些第三方数据中心?

林兆祥:最早的时候是公司创立之时,当时云尚未普及。未来的话,云也是一个可以考虑的方向;现在更多的依赖于我们自己的物理机房,未来随着业务拓展这也是一个可以考虑的方向。

   

15. 想问一个峰值问题,当某一场直播赛事直播突然间带来的请求量过大时,会出现异国数据中心的调用呢?

林兆祥:理论上这是可能的。但是,首先我们后台的容量有一定的保障,其次我们全局负载均衡的监控也是很智能,即使它出现跨境的访问也会调取更近的数据,我们的技术方案是肯定支持的,但是这种情况出现的情况是非常少的。

   

16. 虽然使用比较少但是也有这样的准备,我想问一下数据同步的问题,数据是全部同步还是只同步核心数据吗?FreeWheel怎么处理的?

林兆祥:首先数据同步问题到底是全量同步还是增量同步,我们今天介绍的只是其中一部分,实际上后台里面我们有很多的数据需要同步,根据不同的业务特点有不同的策略,我们不能说只做哪一种,业务有哪种需求我们就有哪种同步方式。

   

17. 两种方式的优缺点能分析一下吗?

林兆祥:要看业务需求:全量同步缺点就是要更新的数据量比较大;增量同步就是你更新的数据量少,但是你更新的时候要精心设计自己的增量。如果数据量不是很大的情况下,我们会在满足业务需求背景情况下选择最简单的方法。这是最简单原则。

   

18. 对于国外有冬令时夏令时这个规则,FreeWheel是怎样处理的?

林兆祥:我们是有这个问题,但是它也没有给我们带来特别大的影响,我们广告计数器器还会跟后台报表校对的,在冬令时和夏令时切换的时候需要做一个服务器的调整,本质上是做一些手工的调整,让我们的系统适应过来,基本上会有这样的小调整,其他的好像没有太多的影响。

   

19. 具体落实到工具上呢?你们怎么做代码管理?

林兆祥:代码管理跟管理用户本身上都是一个库的,只是美国那边速度比较慢,比如,它有一个从这边同步过去的过程,跟我们还是一个,但是它自己有一个同步库。

   

20. 你们自己的国外数据中心运维有多少人?

林兆祥:我们有专门的OpsTeam。

   

21. 这个Ops Team负责各个国家的数据中心?还是法国美国都有?

林兆祥:目前每个地方都有,然后组成了Ops Team。

   

22. 您刚才提到美国和中国,法国刚才我没有太听清楚做什么业务?

林兆祥:法国这边是最近新收购的公司,它主要做SSP这块。

   

23. FreeWheel做出新的解决方案的过程大概多久?

林兆祥:不同feature走不同流程。这个东西还具体看客户需求,我们可能一两周左右就能做feature,但是对于一个正常的客户需求过来可能要六周。

登陆InfoQ,与你最关心的话题互动。


找回密码....

Follow

关注你最喜爱的话题和作者

快速浏览网站内你所感兴趣话题的精选内容。

Like

内容自由定制

选择想要阅读的主题和喜爱的作者定制自己的新闻源。

Notifications

获取更新

设置通知机制以获取内容更新对您而言是否重要

BT