BT

如何利用碎片时间提升技术认知与能力? 点击获取答案

关于ESB实施的几点建议

| 作者 马国耀 关注 1 他的粉丝 发布于 2011年3月3日. 估计阅读时间: 19 分钟 | QCon上海2018 关注大数据平台技术选型、搭建、系统迁移和优化的经验。

前言

谈及企业服务总线(ESB),在有面向服务的架构(SOA)实施经验的开发者眼中一定不会陌生。这些年,人们一直在谈论它,以至有些人认为“实施SOA一定需要ESB”,或“只要将ESB架起来了,我们就SOA了”。这些说法有可取之处,也存在片面之嫌,由于业界对于ESB没有统一、标准的定义,所以一千个人眼中有一千个“ESB”也就成了情理中的事情了。然而,怎么才能将ESB用好?我们需要清楚地认识ESB在SOA中所扮演的角色,理解哪些工作是ESB的职责之内,哪些却不是。只有正确地认识了ESB的职能,并委以恰当的任务,才能将它用在刀刃上、发挥其巨大的能量。

本文是这样安排的:

第一部分,简单介绍ESB在SOA中所起的作用。

第二部分:介绍三种常见的ESB的误用。

第三部分,介绍三种推荐实施。

第四部分,对ESB产品发展方向的展望。

申明:文中的出现所有观点仅代表作者个人看法,不代表作者所供职公司的观点。

正确理解ESB在SOA中的作用

平心而论,ESB的确是SOA中一个非常重要的集成层组件(Integration Layer),不论是OpenGroup发布的SOA参考架构,还是几大主流SOA供应商(参考IBM通过参考架构实施SOA解决方案Oracle与F5的SOA参考架构Microsoft的BizTalk ESB Toolkit中对ESB的定义),都将ESB置于SOA架构的核心位置。

事实上,ESB在SOA中扮演着重要的角色,在技术层解决了SOA的整合问题,耦合了应用与应用之间的集成逻辑,使得SOA更灵活,更易于扩展,更敏捷。有了ESB,新建的服务消费者应用程序不需要关心服务的提供者在哪里,使用何种通讯协议,与其交互的数据是怎样的……,它只需向ESB发出请求,使用开放的、标准的通讯协议。相反,若某个可重用的价值较大的服务位于某一个遗留系统中,而由于种种原因,该遗留系统不能在短期内重写,此时ESB可以架起该服务与其使用者之间沟通的桥梁。当然,ESB的作用远不止这些,业内也有很多讨论,本文不再赘述。读者可在Google上搜索ESB Patterns获得相关资料。

然而,ESB并非“救世主”,它注定也不可能解决应用系统整合中出现的所有问题。道理很简单,计算机发展历史长从没有出现过一个产品/工具可以满足所有的应用需求,技术发展得很快,需求发展更快,所以技术永远跟不上需求。此外,ESB或ESB产品有其特定的适用范围,它是基础设施层的概念/产品,解决的是整合中的常见问题,比如服务连通、路由、消息丰富、服务的注册/查找/发布等服务的管理、服务监控和质量保证等。ESB不能解决的问题比其能解决的问题多很多。比如,让它去做人工流程的编排是不合适的,让它提供门户类产品那样的用户交互也是极其困难的……。

笔者支持过许多客户项目。在这些项目中,有的客户将ESB用的好,有的则勉强用上,用的功能很简单,有的则用ESB做一些原本不属于它该做的工作。在这里,笔者仅从个人的立场,分享自己这些年来积累的ESB实施经验。下面列出笔者常看到但不推荐的实施和笔者在实施ESB的过程中积累的一些较好的实践方式,供读者参考。同时欢迎批评指正。

不推荐实施

挟ESB以令外围应用

  • 现象:

    ESB的架构师在ESB上设计一套标准的数据接口(通用的XML格式),规定使用统一的协议(如Web Service/HTTP)。所有的ESB服务消费者和接入ESB的服务必须符合该标准。其目的是为了简化ESB上的开发工作。这就是一种“挟天子以令诸侯”的做法,因为在实际情况中,可能领导规定了“所有的服务必须要经过ESB,即便是透传”。

  • 分析:

    国内的ESB实施者大多数是一些SI/ISV,出于成本/人力或其他个方面的原因,总会有一些架构师希望达成这样一个目标:我能否设计/实现一个一劳永逸的ESB中间平台,将来不论哪种服务都可以方便地接入到ESB上?

    这是一个很浪漫很理想的目标,但这个目标是不可能实现的。原因有二:其一,仲裁逻辑一般是非常具体的,具体的服务有具体的整合需求。譬如,一个服务提供者基于HTTP提供了一个Web服务WS1,而我们希望将这个服务通过ESB暴露给两个客户端ClientA,Client B;Client A使用XML/HTTP访问服务,而Client B却使用SOAP/JMS访问该服务,如图1所示。有过ESB实施经验的人都能看出里面的仲裁逻辑是非常具体的,我们要考虑的不仅仅是协议之间的差别,还需要考虑消息格式的差别。其二,如果有这样的设计/实现存在,ESB产商为何不把这个特性直接实现了呢?你也许会说产商不理解具体的业务,而具体的业务是复杂的,SI/ISV却了解这些复杂业务。而事实上,ESB解决的更多是技术层面的工作,业务层面的工作大多数不属于ESB的范畴,复杂的业务逻辑不是在业务系统中实现,就是在其它SOA组件中实现,如流程管理引擎。

    图1. ESB的主要功能之一是连接异构协议和数据。

  • 原因及危害:

    该实践出现的根本原因是:没有认清ESB本身的作用,过分看重了ESB之上的设计能力。其实,ESB针对的是一个个功能各异的整合逻辑,服务之间的整合逻辑也是迥异的。所以,一劳永逸的ESB之上的架构是不存在的。

    其危害是:丢失了ESB本身最强大的连通性方面的功能,正式因为需要联通的应用之间的差异性,才逐渐发展出了ESB这样的组件。如果要求所有的外围应用的协议标准和数据标准都统一了(事实上,这是不可能实现的,特别在与第三方应用整合时),那么ESB的必要性就逊色不少。

  • 建议:

    不要试图实现一个一劳永逸的ESB之上的架构,这个架构不存在也没有其存在的必要性。不过,笔者并非反对设计。实际上,ESB上可以设计,也可以通过一定的设计实现某种程度的自动化,灵活性和通用性。举个例子,某一组功能类似的服务,对这一组服务的所有请求必须进行审计、安全加固等操作,对于这一类需求,我们可以事先在ESB上设计好相应的技术组件/服务,然后在ESB的仲裁流中间调用该组件/服务即可。

用ESB实现业务流程

  • 现象:

    有些架构师看到ESB支持服务组合(Service Composition)模式,进而认为可用该模式来实现业务流程。因此,ESB产品就演变成了BPM产品。

  • 分析:

    如果读者关心过ESB的通用使用模式,就会发现ESB的服务组合模式(Service Composition)与BPM中的服务编排(Service Cherography)非常相似,二者都是将细粒度的服务组合/组装起来,形成大粒度的服务,或者业务流程。

    事实上,二者有着本质的区别。其一:ESB是一个偏向技术层整合的组件,比如将“客户资料查询”服务与“日志”服务组装起来,得到的结果还是“客户资料查询”服务,只是在仲裁流中间插入了一个新的附加功能,即“日志”服务。BPM中的服务编排的含义很侧重于业务流转的概念。比如“项目立项审批流程”,该流程的实现可能需要来自几个相关系统中的服务的参与,它们可能是“立项申请”,接着是“一级职能经历审批”,然后是“部门经理审批”,“财务审批”等。这些服务流转起来形成的是一个完整的业务流程。其二:ESB上的服务组合是无状态的,ESB运行时会为每个请求建立一个实例来执行其仲裁逻辑,请求与请求之间没有时序关系,是互不相干的、各自独立的。相反,BPM上的服务编排这不一样,未完成的业务流程实例一直会存活在BPM运行时中,存活期可能为一天、一周、甚至1个月或更长;请求与请求之间可能存在着一定的关联性,比如对与一个项目(相同的项目ID)的立项审批流程,一级职能经理、部门经理和财务对流程发出的请求都是针对同一运行时实例的。

  • 原因及危害:

    除了其他非技术的因素外,导致该实践的一个重要原因是:混淆了ESB的服务组合与BPM的服务编排两个概念。

    危害:让ESB实现BPM,特别是长运行的流程时,虽然在技术上可以实现,但是这违背了ESB产品的设计理念,会大大影响其ESB运行时的整体运行效率。

  • 建议:

    认清技术上的服务组合与服务编排之间的差异,分析每个产品所属的概念范畴,选择合适的产品解决合适的问题。

用ESB实现大数据传输

  • 现象:

    将ESB用于在两个系统间传输大量数据,比如传输视频文件、大文档等。在这些场景中传输的信息/文件/消息有一个共同的特点:只使用了ESB提供的连通性功能,而没有使用其他功能,如消息解析,转换,路由等。

  • 分析:

    为了在ESB市场上抢占有利位置,各大厂商提供的ESB产品的能力越来越强。ESB产品的设计是支持消息从一个系统传到另一个或几个系统的。所以,一些架构师利用ESB产品本身提供的此项功能架设了一个数据传输总线。

    可是ESB并不适合完成该项功能,虽然它可以实现这一功能,但这并非最佳实践。ESB作为企业级的服务联通、管理平台,需要穿透ESB的服务应该是企业内重用可能最大、价值最大的那些服务,应用程序对这类服务的访问应该非常频繁,因此同一时刻需要ESB支撑的业务可能非常繁重。所以,ESB产品的设计初衷是实现一个无状态、高吞吐的服务总线,为企业内重要的业务服务提供透明、标准、开放的接入能力。

  • 原因及危害:

    这种实践的原因是过分放大了ESB对数据的传输能力,如果在ESB传输巨大的信息,可能会导致ESB整体性能的下降,损害其他重要服务的QoS。

  • 建议:

    如果需要传输的数据有解析或转换的需求、或者需要根据数据里的信息进行某种路由或其他仲裁逻辑需求时,则建议使用ESB;但如果同时消息体又过与庞大,可以考虑将需要解析的消息与不需解析的数据部分进行拆分,通过其他专门的数据传输平台去传输不需解析的部分,如FTP,数据库备份机制等,而在ESB中实现该传输任务的控制流。

推荐实施

服务要管理起来

ESB的一个重要功能是将企业内/合作伙伴处的服务以开放的、标准的服务方式暴露出来,使得服务消费者能够便利地查找到服务,以促进服务的重用、管理。而许多ESB产品不包含服务的注册、存储、发布、订阅等功能,这些功能包含UDDI库中。所以,ESB一般需要一个服务注册/存储库与之协作。ESB执行各种仲裁逻辑,而注册库为ESB提供必要的元数据信息。

服务注册库可以存储服务的元数据,包括服务的描述、功能、版本、输入/输出消息的模式、服务端点、SLA、安全策略等内容,这些信息可被ESB用来进行消息格式验证、服务的动态路由、执行安全策略和SLA保证等。

ESB可以多级实施,可以实现整个企业级/全国级的ESB,也可以实现部门级/地市级的ESB。服务消费者应该能在注册库中找到自己所需要的服务,获得调用该服务所需的位置、服务的描述文件、请求/相应消息格式等信息。若是没有注册库,则随着ESB接入的服务越来越多,仲裁逻辑不断增加,必将造成服务管理的混乱。最后抵消了ESB带来的价值。

复杂的动态路由规则应服务化

路由是ESB中非常重要的仲裁逻辑之一。路由场景是非常普遍的。譬如,针对不同的客户提供不同QoS的场景,执行时需根据客户的类型将其路由到不同执行能力的服务提供者;再比如当响应消息到达ESB时,总是需要将该响应消息送回最初的服务请求者处。

路由可分为静态路由和动态路由。静态路由指得是设计时已经明确路由分支的情况,而动态路由的路由分支选择是在运行时动态确定的。不论是静态路由还是动态路由,路由分支的选择一定伴随着一个或一系列决策依据。决策依据可简单如一个If-Else语句,也可以复杂到需要通过多维决策表并通过多次判断才能得到最后的路由分支。

对于复杂的路由,推荐将路由规则的逻辑外部化,并将它服务化,如图2所示。如此,仲裁逻辑在分发消息前可先访问该路由规则服务,从而得到明确的路由结果。至此,可能有人会问到,“复杂”与“简单”如何界定。这个问题没有统一的规定,根据笔者以往的实施经验,如果符合以下条件之一,就可以认为是复杂的路由规则:

  1. 判断维度大于等于2
  2. 连续决策节点大于等于3
  3. 路由分支可能随时增加或减少

图2. 动态路由规则服务化。

将复杂的动态路由规则服务化的好处简单明了。首先,让复杂的规则服务化,可以降低仲裁逻辑的变化性。当规则发生改变时,不需要修改仲裁逻辑,而只需更改规则服务即可。进一步,如果该规则服务是由某种专业的规则引擎实现的,更改起来将更加简单。其二,由于ESB产品的实现与设计并无业界的标准,所以基于ESB产品的配置开发无法在不同产品间互相移植。将规则服务化之后,还可减少仲裁逻辑在不同的ESB产品间移植时所需的工作量。最后,规则的服务化符合SOA原则,企业内业务规则应该以服务的形式管理起来,以促进规则的重用。

转换逻辑的实现尽量选用XSLT

数据转换也是仲裁逻辑中非常常见并且重要的功能。同一数据在不同的业务系统中表现方式可能不一样,如上文例子中的Client A访问服务WS1的情况,仲裁逻辑需要将XML消息转换为调用服务A的SOAP消息。

一般而言,大多数ESB产品都提供了多种数据转换的方式,很多产商宣传中力推的都是“拖拽式”可视化映射的转换方式。该功能听起来的确很酷,看上去很直观。但是正如我们前面所说的,ESB是一个偏向技术层整合的组件,业务人员一般不会关心XML是如何转换成SOAP的。所以,对于开发者来说,这种“炫”功能并无太大吸引力。更重要的是,他们可能非常习惯于自己的编程语言,如Java、XSLT、ESQL和PHP等,这些语言操作起来要简单很多。笔者本人就不太喜欢使用可视化隐射的方式去实现数据转换的需求,尤其碰到需要循环运行、复杂计算等转换逻辑时,在可视化映射上实现起来更加不容易。

在此,笔者推荐的方式是使用XSLT实现数据转换的功能,如图3所示。原因如下:首先,XSLT是一个标准的XML转换语言,使用XSLT实现的转换逻辑可很轻易地在不同ESB产品间移植。据笔者调查,几乎所有主流商业ESB产品都支持XSLT的转换机制。其二,选择XSLT还可增加ESB之上的架构灵活性。因为仲裁逻辑中的转换逻辑是最计算密集型的逻辑,它最消耗CPU,影响整体性能。在这种架构中,我们很容易地将此转换逻辑剥离出仲裁逻辑,由一些专门的XML转换加速软件/硬件(如IBM WebSphere DataPower)来完成这一工作。这样的设计可提高架构的灵活性,通过分布式计算的方式提高整体计算性能。

图3. XSLT实现数据转换逻辑及架构扩展

展望

在SOA架构中,ESB扮演的重要角色是毋庸置疑的。随着企业架构的不断演变和进化,ESB也不能一层不变。它只有与时俱进,才能顺应技术和思想的发展和进步。随着RESTful Web服务的兴起,SOAP服务不再是最受宠爱的标准;SOA架构也在不断突破企业防火墙,延伸到云计算的世界里。在这样的历史大环境下,ESB至少要需要以下向两个方向发展,才能在竞争中立于不败之地,否则就可能被新产品所替代。

首先,ESB需加强对RESTful Web服务的整合支持。RESTFul Web服务相比于SOAP服务有着简单、易学、易扩展等方面的优势。将RESTFul Web服务作为SOA的基础构建元素的呼声非常高。虽然不通过HTTP传输的服务无法转变成RESTFul服务,但是这种对RESTFul服务的呼声至少代表了人们向往简单的愿望。笔者认为这种趋势不可逆转,ESB产品必须加强对RESTFul服务的整合支持。譬如,可通过ESB将后台遗留的MQ应用的功能转变成一个RESTFul的服务,供RESTFul客户端访问。

其次,ESB需加强与SaaS云应用的整合支持。随着云计算的铺天盖地席卷而来,人们对云的认识越来越清晰,对云计算经济越来越认可,云端应用变得炙手可热。在SaaS应用越来越受到热门的欢迎同时,出于安全、性能、已投资资产等方面的原因,企业不可能将所有的数据/应用部署在云端,所以本地应用与云端SaaS应用之间的整合必将成为未来几年最热的集成需求,这就催生了笔者对ESB第二个方面的展望。


给InfoQ中文站投稿或者参与内容翻译工作,请邮件至editors@cn.infoq.com。也欢迎大家加入到InfoQ中文站用户讨论组中与我们的编辑和其他读者朋友交流。

评价本文

专业度
风格

您好,朋友!

您需要 注册一个InfoQ账号 或者 才能进行评论。在您完成注册后还需要进行一些设置。

获得来自InfoQ的更多体验。

告诉我们您的想法

允许的HTML标签: a,b,br,blockquote,i,li,pre,u,ul,p

当有人回复此评论时请E-mail通知我

内容不错 by Wang Chunshan

经验之谈,不错:)

内容不错。 by Kimm King

疑问一:穿透也走esb,好处是明显的,利于横向扩展。

不错 by hbdrawn hbdrawn

马老师讲的挺好,在三个误用上受益匪浅,也很关注其展望的方向

我一直觉得BPM的流程可以一定程度上代替ESB的服务组合模式 by sg guo

ESB的服务组合模式,我觉得不应把他看成一个技术的行为,应该把他看做一个业务流程的编排行为,而真正的技术行为,应该有内部的一个个原子服务来实现。而服务的组合是为了可以重要这些原子服务或组合后的新服务。

Re: 内容不错。 by 马 国耀

“疑问一:穿透也走esb,好处是明显的,利于横向扩展。 ”

我非常赞同您的说法,某些服务即便目前只是穿透,为了管理和将来扩展的灵活性,也应该通过ESB。譬如,通过一种新的渠道(协议)向客户提供此服务。此时,只需在ESB上新增一个协议转换前端,其他逻辑不需要改变,即可满足此需求。

文中现象1描述处引用这句话的目的不是“穿透一定不应走ESB”,而是不应该拿此权利来胁迫周边应用作出相应的调整,因为服务联通/适配是ESB的主要功能,而不应该将此任务交给应用改造中去完成(必要的改造是可以接受的)。

Re: 我一直觉得BPM的流程可以一定程度上代替ESB的服务组合模式 by 马 国耀

这个问题我与很多人探讨过很多次,核心是如何界定“业务流程”,业务流程是一个更偏重业务的概念,而服务组合是偏向底层技术细节的概念。业务人员关注的是业务流程,关心的是它包含几个业务步骤(业务服务),而不关心业务流程由哪个技术服务或几个技术服务实现。从SOA解决方案栈中,我们可以看出,业务流程是一个上层概念,它可以是组合服务,但并非所有组合服务都是业务流程。

服务本身也分为业务服务和技术服务,比如,“查询订单”,“更新销售机会”,“更新客户信息”, 可看作业务服务;而“安全认证服务”,“数据校验服务”,“日志服务”则可称为技术服务。

在我看来,将“查询订单”与“安全认证服务”的组合称为服务组合;而“查询订单”与“更新销售机会”的组合称之为业务流程。

Re: 我一直觉得BPM的流程可以一定程度上代替ESB的服务组合模式 by 马 国耀

从实现/技术角度看,BPM和ESB产品在某些程度上有些功能重复。

分类的好处是偏于管理和隔离关注,业务关注业务流程的运行情况,这些服务适合用BPM上实现。而偏重技术的服务组合适合在ESB上实现。

Re: 内容不错。 by 李 昊

如果不加区分的把所有服务都直接挂接到ESB上会导致随时间推移ESB过于臃肿,无法区分哪些服务依赖于哪些服务。分组分层进行ESB集成是一个方向。

Re: 内容不错。 by 马 国耀

赞同你的说法。

Re: 内容不错。 by 张 欣

确实不错

Re: 内容不错。 by Kimm King

所以ESB中应该有服务分组或者项目的概念,把服务加以归类。
而且ESB本身要具有集群能力,很容易的横向扩展。

不知道楼主,你在ESB实施过程中,对事务有没有什么建议 by sg guo

不知道在ESB实施过程中,是不是都是抛开事务来进行的,如果是有过这方面的需求,你有什么建议

Re: 不知道楼主,你在ESB实施过程中,对事务有没有什么建议 by 马 国耀

一般来说,不建议在ESB中执行事务。
毕竟跨不同的平台,有些平台根本不同意加入你的全局事务中。作为偏向技术层组建而言,需要事务的情况不会太多。

而需要在多个系统间保持数据一致性的场景,可能更加符合BPM,在BPM解决方案一般都有补偿机制,虽然它并不完美,但是可在一定程度上解决一致性问题。

若需进一步讨论,请邮件联系我。maguoyao#gmail.com

Re: 不知道楼主,你在ESB实施过程中,对事务有没有什么建议 by Kimm King

ESB应该具有组合分布式事务的能力,使用esb的企业中需要事务的情况还是很多的。

Re: 不知道楼主,你在ESB实施过程中,对事务有没有什么建议 by 马 国耀

可能我前面的说的不是清楚

ESB产品是应该具有组合分布式事务的能力,事实上,如果管理上允许的话,是可以通过全局事务来控制事务的的。但是,在很多情况下实施起来却很复杂,或者由于安全方面的考虑,服务组件不参与你的全局事务控制,这种情况下无法通过事务机制处理。此时,只能通过其他手段来保证数据的一致性。

举个简单的例子,在一个复合服务中,第一个步骤通过某个服务WS1更新数据A,第二个步骤是更新数据库DB中的数据B,只有A,B必须都更新或都不更新。服务WS1是由第三方服务提供者提供的,而管理数据库DB的部门不允许ESB直接访问数据库,在数据库之上包了一层接口以提供对数据库的更新功能。

这种情况下,实现全局的事务管理基本不可能——并非技术上不可实现,而是管理上不可实现。这时候,补偿机制是可选的方法。

Re: 不知道楼主,你在ESB实施过程中,对事务有没有什么建议 by Chen Island

客户总是有“silver bullet”情结,我手头上几份ESB的标书,都是把支持大数据传输作为重要评估标致之一。

大部分用户很难接受esb+ftp的方式,我觉得如果产品本身就把esb+ftp坐在一起,并且统一管理起来,将是一种较好的方式。

soa实践指南 by 曹 力文

推荐看看 soa实践指南 再来看看马老师的文章,肯定受益匪浅。

Re: 不知道楼主,你在ESB实施过程中,对事务有没有什么建议 by 闫 帆

实际上ESB支持大文件传输是ESB本身应该提供的功能之一,更多的时候为了保证性能,没有直接让文件通过ESB传输,而是采用FTP文件服务器的方式,ESB做请求的路由,返回FTP地址等功能。传输大文件的请求,还可以采用基于通信+ESB的方式,如(ESB+MQ FILE EDITION 或 ESB + TIBCO/TUXEDO)等产品。

很务实 by 张 欣

很务实和实际的观点,有价值

允许的HTML标签: a,b,br,blockquote,i,li,pre,u,ul,p

当有人回复此评论时请E-mail通知我

允许的HTML标签: a,b,br,blockquote,i,li,pre,u,ul,p

当有人回复此评论时请E-mail通知我

19 讨论

登陆InfoQ,与你最关心的话题互动。


找回密码....

Follow

关注你最喜爱的话题和作者

快速浏览网站内你所感兴趣话题的精选内容。

Like

内容自由定制

选择想要阅读的主题和喜爱的作者定制自己的新闻源。

Notifications

获取更新

设置通知机制以获取内容更新对您而言是否重要

BT