BT

您是否属于早期采用者或者创新人士?InfoQ正在努力为您设计更多新功能。了解更多

Mcrouter:基于 Memcached协议的缓存层流量管理工具

| 作者 李士窑 发布于 2014年9月26日. 估计阅读时间: 不到一分钟 | 顶尖技术领导者的管理实战经验分享,尽在GTLC!

Mcrouter 是一个基于Memcached 协议的路由器,它是 Facebook缓存架构的核心组件,在峰值的时候,它能够处理每秒50亿次的请求。近日,Facebook开放了Mcrouter的源代码,且遵从BSD协议,希望能够帮助更多的网站使用Mcrouter并扩大其系统规模。因为任何要接入Memcached服务的客户端都会使用标准ASCII编码的Memcached协议,所以对于客户端来说,Mcrouter就像一个Memcached服务器;而对于服务器端来说,Memcached却又像一个普通的Memcached客户端。采用Memcached的通用API作为通信方式如下图所示。

Mcrouter主要特性如下:

  • 支持标准、开源的Memcached ASCII编码协议,使得支持Memcached协议的所有客户端无需做任何修改即可支持Mcrouter。
  • 能够使得客户端共享连接池,达到减少连接个数的目的。
  • 提供了一个非常有效的一致性哈希算法,允许给多个Memcached实例分配哈希值。
  • 能够根据key前缀把客户端分配到不同的Memcached池中。
  • 能够在多个主机上保存一份相同数据的备份。
  • 在测试新缓存设备时,Mcrouter能够路做到从客户端到缓存设备的所有可能路径都可用的。
  • 支持灵活的跟踪配置,通过重新哈希值范围跟踪测试不同大小的Memcached池,或只跟踪哈希值范围的一部分,或在运行时动态修改跟踪环境。
  • 支持热加载配置文件,它会监控所有的配置文件,一旦检测到配置文件被修改,就启动一个后台线程自动地重新加载、分析这些文件,并根据新配置来处理新请求。
  • 支持灵活的路由方式,路由句柄是由小路由模块组合而成,这些路由模块公用一个接口,也可以自由组合,单个路由句柄更容易理解、创建和测试。
  • 支持目的主机的心跳检测和自动故障转移,能够检测每个目的主机的心跳。
  • 允许以主机、池或者集群为单位设置任何请求的速率的阀值,同时也支持限制请求的速度以减缓请求的发送速度,以保障服务质量。
  • 通过一个内核一个线程的方式充分利用了多核系统的优势,在处理异步处理网络事件时,使用了内部的轻量级线程即纤程
  • 具有丰富的stats和debug命令,并提供了安全可靠的删除操作。
  • 能够通过简单的配置管理大的多集群,还能够根据slab的大小自动分割或重组数据块
  • 能够通过广播操作把请求数据备份到多个Memcached池中或者集群里面。
  • 支持本地和远程缓存两级缓存,自动填充新增缓存以消除新增缓存区造成的性能影响
  • 采用JSON格式的配置,支持通过任意方式的路由处理,以适应各种路由需求。

更多Mcrouter相关信息,请登录其在GitHub上的站点查看,常用示例请参考这里。另外,Mcrouter由Facebook在去年的Data@Scale大会上提出,并于近日开源,即将成为Facebook 在新推出的 TODO 开源协作联盟当中开源的第一项技术。据Facebook方面介绍,Mcrouter 能够在Facebook遍布全世界的数据中心的服务器集群的缓存层中快速分配调用数据,它具有极强的适应性,峰值时可以达到每秒50亿次的请求。去年,Instagram 数据向Facebook平稳转移就是使用的该技术。

Mcrouter主要使用C++开发,且使用C开发了功能库部分,使用Ragel开发了协议解析部分,使用开源库FollyFbthrift处理异步网络。尽管Mcrouter已经开源,但是Facebook仍然一直寻求改进Mcrouter性能的方法(如修复Bug、添加新特性等),并作持续的更新和改进;还会在Github Wiki上维护Mcrouter的文档,同时还建立了一个Facebook讨论组,用来推动Mcrouter项目持续、健康的发展。


感谢郭蕾对本文的审校。

给InfoQ中文站投稿或者参与内容翻译工作,请邮件至editors@cn.infoq.com。也欢迎大家通过新浪微博(@InfoQ)或者腾讯微博(@InfoQ)关注我们,并与我们的编辑和其他读者朋友交流。

评价本文

专业度
风格

您好,朋友!

您需要 注册一个InfoQ账号 或者 才能进行评论。在您完成注册后还需要进行一些设置。

获得来自InfoQ的更多体验。

告诉我们您的想法

允许的HTML标签: a,b,br,blockquote,i,li,pre,u,ul,p

当有人回复此评论时请E-mail通知我
社区评论

允许的HTML标签: a,b,br,blockquote,i,li,pre,u,ul,p

当有人回复此评论时请E-mail通知我

允许的HTML标签: a,b,br,blockquote,i,li,pre,u,ul,p

当有人回复此评论时请E-mail通知我

讨论

登陆InfoQ,与你最关心的话题互动。


找回密码....

Follow

关注你最喜爱的话题和作者

快速浏览网站内你所感兴趣话题的精选内容。

Like

内容自由定制

选择想要阅读的主题和喜爱的作者定制自己的新闻源。

Notifications

获取更新

设置通知机制以获取内容更新对您而言是否重要

BT