BT

如何利用碎片时间提升技术认知与能力? 点击获取答案

《金融时报》:可观察性以及避免来自微服务的警报过载

| 作者 Daniel Bryant 关注 285 他的粉丝 ,译者 张斌 关注 0 他的粉丝 发布于 2017年11月29日. 估计阅读时间: 9 分钟 | QCon北京2018全面起航:开启与Netflix、微软、ThoughtWorks等公司的技术创新之路!

亲爱的读者:我们最近添加了一些个人消息定制功能,您只需选择感兴趣的技术主题,即可获取重要资讯的邮件和网页通知

内容提要

  • 任何基于微服务的应用都是分布式系统,因此,服务不独立运行。如果出现故障,则导致级联故障,使监控和警报复杂化。
  • 为适应监控微服务应用带来的挑战,Wells提出一种三管齐下的办法:构建可被支持的系统,专注于“重要的东西”,以及筛选和增添警报和它们所包括的信息。
  • 由于服务量和网络通讯产生的潜在延时,日志可能丢失或延迟,因此任何分布式系统都需要日志聚合。
  • 当在基于微服务的系统内实施监控时,Nagios等传统监控工具往往受到限制,因为它不提供“服务级别”视图,而且默认(基础设施)检查出来的某些问题无法被修复。
  • 监控与报警的一个核心目标是在客户使用之前发现问题,因此,运行模拟用户功能行为的“模拟请求”至关重要。
  • 必须不断筛选和增添警报,如果接收到无意义或者无需人为干预的警报,则必须进行修正或移除。
  • 创建警报应为标准开发工作流程的一部分即:“代码、测试、警报”。为确保开发团队知道警报是否停止工作,还应加入验证该警报的测试。
  • 在维护和处理重要系统中的警报时需要积极主动,过期的信息可能比没有信息更糟糕。
  • 微服务架构允许您快速行动,但也产生相关的操作成本,尤其在监控和可观察性方面。确定您是否愿意承担该成本。

Sarah Wells在QCon 伦敦发表了“防止来自微服务的警报过载”的演讲,他警告人们说,开发者和操作者在构建分布式的微服务系统时必须从根本上改变他们看待监控的方式。

《金融时报》首席工程师Wells在座谈开始时表示,发现什么时间有问题还不够,必须要在需要人为干预时触发警报。微服务架构允许开发团队迅速行动,但同时也会产生操作成本 ,而且基于微服务的系统产生的警报的数量(和复杂性)可能令人震惊。

“微服务构架允许您迅速行动,但会产生相应的操作成本。您要确定是否愿意承担该成本。”

《金融时报》FT.com网站由微服务后台支持,主要使用Java和Go编程语言,与Docker和CoreOS一起打包并部署到Amazon网络服务(AWS)平台。FT将数据存储在mongoDB、elastic、neo4j和Apache Kafka中。

在任何时候,该后台都有99种功能服务和350个运行实例,以及52种非功能服务和218个运行实例。Wells表示,如果每分钟检查这568个实例一次,则一天需要检查 817920次。

共享虚拟机(VM)上的运行容器需要92160次系统级别检查,一天检查的总次数为910080次。另外,任何基于微服务的应用都是分布式系统,因此服务不会独立运行。

如果出现故障,则导致级联故障,使监控和报警复杂化。



Wells认为,基于微服务的应用为监控带来更严峻的挑战。

为适应监控微服务应用带来的挑战,Wells提出一种三管齐下的办法:构建可被支持的系统,专注于“重要的东西”,以及筛选和增添警报和它们所包括的信息。

为构建可被支持的系统,日志聚合和监控必不可少。由于服务量和网络通讯产生的时延,日志可能丢失或延迟,因此任何分布式系统都需要日志聚合。反过来说,这意味着基于日志的警报可能存在丢失问题,尤其是存在时效性的问题。有效的日志聚合需要一种找到所有相关日志的方法,因此FT团队使用事务 id进行关联。

当实施监控时,Nagios等传统监控工具往往受到限制,因为它不提供“服务级别”视图,而且默认(基础设施)检查出来的某些问题无法被修复。在基于微服务的系统中,监控应该处于服务和虚拟机级别。监控需要被聚合且可视化,FT技术团队使用名为SAWS(由Silvano Dossan构建)的自定义框架和Dashing。通过GraphiteGrafana也可广泛地绘制相关图表等。



FT.com技术团队的SAWS聚合监控

在开发多语言服务时,对于所使用的语言必须易于日志聚合和监控整合。必须指明期望值或操作合同,而且每位服务负责人需负责实现满足该需求的功能。例如,FT healthcheck标准要求每种服务通过HTTP, 'http://service/__health'公开一个供healthcheck的端点,如果服务能够运行healthcheck的话,它会返回200;除此之外,FT healthcheck还要求每种服务需要提供1个JSON文档,其中需要包含多次healthcheck,以提供附加信息,但返回值必须为“ok”:“true”或“ok”:“false”。



FT.com微服务警报仪表盘,由dashing.io框架支持。

监控与警报的一个核心目标是在客户使用之前发现问题,因此,运行模拟用户功能行为的“模拟请求(synthetic requests”至关重要。如果与用户主进程有关的功能崩溃,则必须马上解决该故障,例如,FT编辑器不能发布新文章。Wells表示,工程师必须学会如何安排优先顺序,而且“关注重要的事情”。FT技术团队还创建了显示错误数量和响应延迟等客户核心统计数据的仪表盘,但是,Wells强调,“重要的是端到端(业务功能)”,而且“如果您只需要信息 ,去新建一个仪表盘或报告就好”。

必须不断筛选和增添警报,如果接收到无意义或者无需人为干预的警报,则必须进行修正或移除。如果出现问题且没有警报,则应将该问题列入需修复部分。每个警报中必须包含主要信息,例如,业务影响概览、相关的run book(运行资料)位置、以及触发该问题的相应事务id。



例如,FT.com警报包括问题、影响、事务ID和以及相关运行资料的链接等信息。

FT团队使用专门的“Ops Cops”(开发团队的成员定期轮换随时待命),观察监控问题,将警报集成到团队的Slack信息发送系统。预定义emoji表情符号列表(每个都描述有清楚明确的目的)用于表明管理和处理问题的时间和方法。

在座谈总结中,Wells提出创建警报应为标准开发流程的一部分该标准流程应当为“代码、测试、警报”。为确保开发团队知道警报是否停止工作,还应加入验证该警报的测试。FT技术团队认同混乱测试哲学,受Netflix's Simian Army和Chaos Monkey的启发,创建了“Chaos Snail”(它比Monkey更小,用Bash shell编写!)。Wells警告说,在维护和处理重要系统中的警报时,需要积极主动性,过时的信息比没有信息更糟糕。尽可能自动化更新,并找到办法分享更新的内容。

在Speaker Deck上可以观看Sarah Wells的QCon 伦敦讲座“避免来自微服务的警报过载”的幻灯片,您也可以在InfoQ观看视频。

关于作者

Daniel Bryant 正引领组织和科技领域的变革。他目前的工作内容包括,通过引入更好的需求收集和规划技术增强组织内部敏捷,关注敏捷开发内构架的相关性,促进持续的集成/交付。Daniel目前的技术专长主要是“DevOps”工具,云/容器平台,以及微服务实现。他还是伦敦Java团体(LJC)的领导者,为开放源码项目提供帮助,为InfoQ、DZone和Voxxed等知名技术网站撰写文章,并定期出席QCon、JavaOne和Devoxx等国际会议。

查看英文原文:https://www.infoq.com/articles/observability-financial-times

感谢罗远航对本文的审校。

评价本文

专业度
风格

您好,朋友!

您需要 注册一个InfoQ账号 或者 才能进行评论。在您完成注册后还需要进行一些设置。

获得来自InfoQ的更多体验。

告诉我们您的想法

允许的HTML标签: a,b,br,blockquote,i,li,pre,u,ul,p

当有人回复此评论时请E-mail通知我
社区评论

允许的HTML标签: a,b,br,blockquote,i,li,pre,u,ul,p

当有人回复此评论时请E-mail通知我

允许的HTML标签: a,b,br,blockquote,i,li,pre,u,ul,p

当有人回复此评论时请E-mail通知我

讨论

登陆InfoQ,与你最关心的话题互动。


找回密码....

Follow

关注你最喜爱的话题和作者

快速浏览网站内你所感兴趣话题的精选内容。

Like

内容自由定制

选择想要阅读的主题和喜爱的作者定制自己的新闻源。

Notifications

获取更新

设置通知机制以获取内容更新对您而言是否重要

BT