BT

如何利用碎片时间提升技术认知与能力? 点击获取答案

InfoQ播客: Caitie McCaffrey谈工程有效性和验证分布式系统

| 作者 Werner Schuster 关注 9 他的粉丝 , Wes Reisz 关注 0 他的粉丝 ,译者 足下 关注 1 他的粉丝 发布于 2016年8月2日. 估计阅读时间: 8 分钟 | QCon上海2018 关注大数据平台技术选型、搭建、系统迁移和优化的经验。

本周的InfoQ播客内容是QCon主席Wes ReisztWerner SchusterCaitie McCaffrey之间的谈话。Caitie McCaffrey在Twitter的工程有效性团队工作,专注于分布式系统。他曾经就职于343 Industries、微软游戏工作室和HBO电视网等,对于构建支撑娱乐内容的大型分布式服务和系统有丰富经验。Caitie McCaffrey在这次QCon纽约大会上演讲的题目是“验证分布式系统”。

关键要点

  • Twitter的工程有效性团队主要任务是不断改进开发工具,要让程序员们工作更愉快,更高效。
  • 如果仅仅因为性别而请人在你的会议上讲话,或者邀请人家加入你的团队,这种行为的害处远超大家想象。
  • 没有什么约定俗成的办法来打造又好又成功的技术。
  • 即使有时候没有时间做测试,也有别的办法来提高你对你的系统的信心。
  • 运行单元测试的最大问题是它只是在测试你写死在测试用例中的那些输入值。

要点

工程有效性

  • 1分:24秒 - Twitter的工程有效性团队主要任务是不断改进开发工具,要让程序员们工作更愉快,更高效。
  • 2分:44秒 - 团队在努力实现一些架构,这样就不必让每个团队都自己去解决那些分布式问题。为开发者们提供一些API和工具,这样大家就可以很容易的构建系统。
  • 3分:45秒 - 挑战之一是我们用超时来做分布式系统中的失效检测,但有的任务一跑就是一个小时,没办法设置超时时间,所以就有很多不同的事情要做。对于用户要执行的有多个子任务的任务,我们使用了SAGA模式。SAGA也是一种处理分布式事务的办法,它可以保证一个任务的所有子任务都正常运行。
  • 6分:01秒 - 如果你是离线的,那所有东西都要在你断线时运行,并且要在你连上VPn或者网络时就立刻在后台进行身份认证,并且把构建等任务都跑得更快。

趋近多样性

  • 7分:30秒 - 他们让我多说些,我想他们本意肯定是好的。但如果退后一步再多想一下,假如因为我是一位女士而被要求发言时,那好像就是在说:“你把这些事情全都做了吧,但我们只是因为你是个女的才找你的。”
  • 8分:35秒 - 有很多奇怪的现象,就是说出来的话和本来要表达的意思是不一样的,但是这样的谈话却到处都在发生,这让大家实在感觉太不好了。有许多本意是好的东西却给人造成了意想不到的伤害,这就是其中之一。
  • 11分:05秒 - 很多问题最终都归因于网络故障。人们会说,在技术上没有怎么怎么样的团队。但是看看Helena Price他们的Techies项目,他们的团队也是由各种不同背景的人组成的。Price在旧金山也没怎么花力气招聘,就招到了这些人。

验证分布式系统

  • 12分:55秒 - 由于各种原因,测试并不是我们团队很擅长的一项技能。
  • 13分:30秒 - 有很多方法来提高你对你的代码的信心,也有很多事例证明做测试有时候带来的回报并不如你直观想像的那么多。
  • 13分:54秒 - 我们人手有限,又要按时提交项目,那我们哪里有时间做测试呢?事实上是有别的办法来让你相信你的系统可以如愿运行的。
  • 14分:30秒 - 我们都在构建分布式系统。我在谈的是单元集成测试,以及一些你要关注的而且可以获得最大价值回报的方面,就是基于属性的测试,它差不多是模型检验器和错误注入测试的工业版。它们中的每一个都有很多值得你去投资的内容。
  • 16分:30秒 - 形式验证是非常有趣的,亚马逊用TLA+来验证他们的核心架构内容,比如S3。Koch不太为人所知,你可以用它来写下你的描述,然后生成Ocaml代码。Diego Ongaro刚刚发布了Runway,也是一个形式描述工具。
  • 18分:33秒 - 对这方面研究成果会是非常巨大的,因为这可以让我们把事情做得更好,而不必把过多时间花在测试、验证和调试上。

模型驱动开发

  • 20分:40秒 - Leslie Lamport写过一本关于TLA+的书,书中提到在实现系统之前先做好设计是个非常好的想法。在你实现之前,你应该先把规范写出来,因为它会逼着你把整个事情从头到尾都想清楚。
  • 21分:00秒 - 写规范就是形式验证的第一步,你可以用模型检验器来先跑一遍检查一下。做这件事是非常有用的,甚至不必再试着去证明它是正确的,因为许多的BUG在写规范的过程中就会被发现了。
  • 21分:30秒 - 做这件事是有非常重大意义的,特别是处理很多非常复杂的系统和异步消息时,处理不同级别的一致性会更加困难。

类型理论

  • 22分:45秒 - 如果你仍然想用和以前写代码一样的方式去写,那你可以先写一个顶层描述——跑一些东西就可以知道正确与否需要你有比较强的类型理论,或者是用某种编程语言写的类型系统。但象Go、JavaScript或Python等没有类型的语言是不属于我们现在讨论的范围之内的,要想它们也能运行一个形式方法检验器就可以检查错误,除非有的人正在为它们构造类型系统。

属性测试

  • 24分:58秒 - 我觉得属性测试超级有用。QuickCheck是John Hughes写的,它的思想就是你为你的系统定义一些属性,那你就可以通过这些属性的各种组合来构造复杂的测试用例。
  • 25分:38秒 - 运行单元测试的最大问题是它只是在测试你写死在测试用例中的那些输入值。
  • 26分:06秒 - 如果你用一个基于属性的测试工具来定义这些东西的话,它很象一个模型检验器,但它不会测试整个系统的所有状态。你不能说这样的系统就没问题了,但是它测到的内容肯定比单元测试多。
  • 27分:05秒 - 你可以用这种方法发现许多隐藏得很深的BUG,因为它可以产生非常多的输入,以及各种输入的组合。

错误注入

  • 30分:12秒 - Kyle Kingsbury的Jepsen是一个非常好的错误注入和分析工具。
  • 30分:35秒 - 也有许多别的办法来注入错误,比如你把一个服务杀掉,再看看系统的反应怎么样。
  • 31分:09秒 - 我的许多灵感都来自于Peter Alvaro关于错误注入的论文,或者说他的工具Molly。

关于QCon大会

QCon大会是由InfoQ主办的全球顶级技术盛会,由业内人士推动,专为在团队中影响软件创新的技术团队主管、架构师以及项目经理而设计。QCon每年的七场大会分别在伦敦、纽约、旧金山、圣保罗、北京、上海和东京召开。QCon旧金山大会已经举办到第十届,今年将于2016年11月7-11日举行,届时会有100多名业内专家作为演讲嘉宾,并有1300多名与会者以及18个涉及如今推动软件开发发展的专题追踪报道。想要了解更多详情,请参见qconnewyork.com网站。

阅读英文原文The InfoQ Podcast: Caitie McCaffrey on Engineering Effectiveness and Verifying Distributed Systems

评价本文

专业度
风格

您好,朋友!

您需要 注册一个InfoQ账号 或者 才能进行评论。在您完成注册后还需要进行一些设置。

获得来自InfoQ的更多体验。

告诉我们您的想法

允许的HTML标签: a,b,br,blockquote,i,li,pre,u,ul,p

当有人回复此评论时请E-mail通知我
社区评论

允许的HTML标签: a,b,br,blockquote,i,li,pre,u,ul,p

当有人回复此评论时请E-mail通知我

允许的HTML标签: a,b,br,blockquote,i,li,pre,u,ul,p

当有人回复此评论时请E-mail通知我

讨论

深度内容

登陆InfoQ,与你最关心的话题互动。


找回密码....

Follow

关注你最喜爱的话题和作者

快速浏览网站内你所感兴趣话题的精选内容。

Like

内容自由定制

选择想要阅读的主题和喜爱的作者定制自己的新闻源。

Notifications

获取更新

设置通知机制以获取内容更新对您而言是否重要

BT