BT

如何利用碎片时间提升技术认知与能力? 点击获取答案

专访阿里云RDS团队:WebScaleSQL是一个怎么样的数据库?

| 作者 郭蕾 关注 9 他的粉丝 发布于 2015年2月16日. 估计阅读时间: 9 分钟 | AICon 关注机器学习、计算机视觉、NLP、自动驾驶等20+AI热点技术和最新落地成功案例。

2015年1月20日,Facebook宣布阿里巴巴旗下的阿里云RDS团队正式加入WebScaleSQL。WebScaleSQL是Facebook、 Google、Twitter和Linkedin四家公司的MySQL团队发起的MySQL开源组织,旨在改进MySQL在规模和性能等方面的问题。阿里云RDS团队有专门的源码小组负责MySQL源码级别的改进,他们也经常活跃在MySQL社区中,此次受邀加入WebScaleSQL组织也是对他们工作的肯定和认可。近日,InfoQ编辑采访了RDS团队的负责人褚霸,听他分享了整个邀请的背景以及接下来的工作重心。

InfoQ:阿里巴巴受邀加入WebScaleSQL,与Facebook、Google、Twitter和Linkedin这样的世界顶级团队共同研发WebScaleSQL,这可以说是中国公司在国际开源项目上的一次亮剑。能介绍下整个受邀的背景和过程吗?

褚霸:阿里云RDS团队有MySQL源码小组专门负责维护阿里云的MySQL分支。团队的主要工作是源码级别上的改进,包括Bug修复、性能优化和定制化需求等。在我们改进过程中,如果是Bug修复类型的补丁,或者是足够通用的feature类型的补丁我们都会同时提交到上游,包括Oracle官方、MariaDB和Percona分支。阿里云RDS现在有大量的MySQL用户,在系统维护和服务用户的过程中会碰到各式各样的问题,我们在解决过程中也经常发起讨论,在社区是一个活跃的团队。

WebScaleSQL其他四家公司的参与者也是社区内的专家,讨论技术问题时经常互动,我们的工作大家也是比较了解的。因此在希望扩大WebScaleSQL的参与人员的时候,会邀请我们是情理之中的。最初是Facebook的一位华裔员工先联系的我们,然后我们也很快做了确认答复,整个过程是比较顺畅的。

InfoQ:能介绍下WebScaleSQL吗?它有哪些吸引人的特性?接下来阿里云RDS是否准备使用WebScaleSQL?

褚霸:WebScaleSQL是基于MySQL 5.6 社区版本改编的MySQL通用分支,基于GPL开源协议发布。WebScaleSQL目前已经做了很多性能改进工作,包括:客户端异步协调、逻辑预读、查询限流、服务端线程池优化、InnoDB大页支持等等。由于我们的分支上本身有一些定制化的需求,因此不会直接使用WebScaleSQL分支提供线上服务,但是这些改进对于我们都是很感兴趣的,好的特性会被吸收进来。因为我们有各种各样应用场景的用户,对MySQL本身的要求也比较高。比如大并发连接的用户,就需要线程池;存大量历史数据的用户,就要求高的压缩比等等。

WebScaleSQL上的功能都是很“Web Scale”和接地气的。

比如线程池优化,大家都知道线程池是Mariadb。WebScaleSQL基于Mariadb的线程池实现进行重写并优化,对读写队列进行分离,重新设计队列优先级策略,避免了饿死现象。要知道线程饿死在有些场景下是很严重的。尤其是在并发连接数往往很大的互联网应用里面。

语句自动超时是一个很“WebScale”的特性。随着数据量的增大,同样的SQL的语句执行时间会越来越长。而语句执行期间占用的资源也可能越大。若不加以限制可能几个语句就可能拖垮一个服务,在互联网应用中这种场景更常见。WebScaleSQL引入了来自Twitter工程师的代码,可以设定单语句的执行时间,超时则自动放弃。对数据库起到保护的作用。

GTID是Oracle官方版本5.6引入的新概念,在解决主备切换,尤其是级联主备架构的切换方面提供了很大的便利。阿里云RDS的只读实例就直接利用了这个特性,其实现上还有可以优化的空间。系统需要维护一个全局的结构,在高并发更新场景下性能非常差。WebScaleSQL优化了事务提交过程,减少了不必要的GTID_OWNED SET的维护。主库高并发更新的性能可以提升20%。

InfoQ:阿里巴巴加入WebScaleSQL团队后,接下来具体会有哪些方面的工作?你们团队会有专职的人去开发WebScaleSQL吗?

褚霸:具体的工作其实已经展开,主要包括提交补丁和代码review。我们团队都是专职的MySQL研发,但是不会专职开发WebScaleSQL,实际上参与WebScaleSQL的维护工作都是在晚上和周末时间完成的。在开发和review阶段,使用的是Facebook内部的一个review平台,最终代码合并是在GitHub上。

这个是松散的组织,大家都可以主导一个功能。在邮件组里面沟通,之后在review平台交互。代码被review过后,由发起人提交到主干。团队内部主要的沟通方式还是邮件,也没有固定的IM沟通时间,成员之间需要点对点沟通的时候自己约。每个公司有3~4个人在里面,人力上不确定,其实是用的都是大家的私人时间。

InfoQ:自从Oracle收购Sun公司后,MySQL社区开始走向分裂,出现了很多MySQL的分支,你认为像WebScaleSQL这样的分支会不会取代MySQL?它们会影响MySQL的发展吗?你建议用户直接在生产环境使用这些分支吗?

褚霸:WebScaleSQL的目标并不是取代官方的MySQL,实际上它一直在跟随官方的GA版本在同步的升级。WebScaleSQL本身也在促进MySQL的发展。由于这个分支的影响力,我们相信一些补丁的在官方的合并速度会加快。

WebScaleSQL主干版本都是在官方GA版基础上,做了Bug修复、性能优化、新增功能等。当然一些细节需要注意,比如官方版本默认是编译了PERFSCHEMA,而WebScaleSQL从默认性能考虑,需要加上-DWITH_PERFSCHEMA_STORAGE_ENGINE 选项才会包含这个特性。要知道即使是官方版本,每个版本都有Bug,因此不论使用哪个版本,都必须进行业务测试。新增的代码在合并入主干之前,大多已经长时间运行于各自的生产环境。总体上我认为新增的补丁是高质量的代码,可以用于生产环境。

InfoQ:之前和你也聊过开源方面的话题,新的一年我们看到微软、华为这样的公司都非常重视开源,开源是大势所趋。阿里巴巴此次加入WebScaleSQL团队,也是中国公司在开源方面得到认可的一个很好的例子,你认为一个公司如何才能做好开源?

褚霸:其实大家都是开源的受益者,首先就是要保持开源的初心:回馈社区。我们评估后觉得足够通用的补丁都会提交到WebScaleSQL或Oracle官方。还有坚持参与社区讨论、提交满足主干代码质量的补丁这样的工作其实很耗心力的,持续投入不容易,需要真正的兴趣驱动。

我们公司对团队在开源方面是很支持的。公司有淘蝌蚪这个开源平台,可以说阿里不止是开源的参与者,也是倡导者。我们团队内部对团队同学在社区的贡献也是给予很高的认可。建议和代码被社区接受对工程师个人来说也是很有意义的。仅2014年我们团队在社区提交的Bug和补丁被确认的就超过40个。活跃的个人和团队更容易得到社区的认可,此次WebScaleSQL邀请我们参加维护也是如此。社区的认可也更促进个人的活跃,我们觉得这是良性的互动。

参与开源代码的维护,我们能够最快了解业内最新的动态,最大的收获还是在于我们可以学习全球顶级专家的经验,每个代码的方案设计过程、讨论过程、代码review过程都和结果一样,可以让我们从中学到很多东西,团队成长也会很快。

评价本文

专业度
风格

您好,朋友!

您需要 注册一个InfoQ账号 或者 才能进行评论。在您完成注册后还需要进行一些设置。

获得来自InfoQ的更多体验。

告诉我们您的想法

允许的HTML标签: a,b,br,blockquote,i,li,pre,u,ul,p

当有人回复此评论时请E-mail通知我
社区评论

允许的HTML标签: a,b,br,blockquote,i,li,pre,u,ul,p

当有人回复此评论时请E-mail通知我

允许的HTML标签: a,b,br,blockquote,i,li,pre,u,ul,p

当有人回复此评论时请E-mail通知我

讨论

登陆InfoQ,与你最关心的话题互动。


找回密码....

Follow

关注你最喜爱的话题和作者

快速浏览网站内你所感兴趣话题的精选内容。

Like

内容自由定制

选择想要阅读的主题和喜爱的作者定制自己的新闻源。

Notifications

获取更新

设置通知机制以获取内容更新对您而言是否重要

BT