BT

如何利用碎片时间提升技术认知与能力? 点击获取答案

PDC 09:PLINQ使用过程中常见性能问题及应对方案

| 作者 赵劼 关注 5 他的粉丝 发布于 2009年12月7日. 估计阅读时间: 5 分钟 | QCon上海2018 关注大数据平台技术选型、搭建、系统迁移和优化的经验。

在上月举行的PDC 09大会上,微软并行库团队的开发工程师Igor Ostrovsky介绍了PLINQ的工作原理,以及多核编程中,尤其是在PLINQ使用过程中几种常见性能问题及应对方法。Igor表示,这些性能问题很少在顺序编程中遇到,因此在并行环境中容易被人忽视。

第一个性能问题是内存分配。由于利用了多核CPU进行运算,对象分配的速度也加快了。此外,程序中可以还会出现更高频率的字符串连接或装箱操作,这都会使GC压力增大。.NET应用程序所使用的默认GC方式为Concurrent GC,它的性能很高,并且为降低应用程序的延迟作了很多优化。它的最佳使用场景是用户交互式应用,这样可以尽可能避免用户界面的停顿,但是它在长期运行的多核程序中表现并不好。而最终的结果是大量计算时间耗费在GC上,此时应用程序算法即便是利用了多个核,也会发现它的伸缩能力受到了GC限制。解决这个问题的方法之一是减小内存分配,例如可以使用值类型来代替引用类型。值类型的对象会分配在线程栈而不是堆上,以此避免对GC产生压力。第二个方法是在config文件中启用Server GC。使用Server GC会改变.NET分配对象的方式,此时.NET会为每个核准备不同的堆,并且独立进行垃圾回收。这样在一台4核的机器上便可以有4个线程同时进行垃圾回收,性能自然也就随着多核而提升了。

第二个性能问题是CPU在局部化(Locality)和缓存方面的问题。在流行的多核架构中,每个核都有独立的二级缓存。CPU并不会缓存单个地址中的数据,而是缓存以64字节或128字节相邻内存的缓存条目(cache line),因此当某个核改变了内存中的数据时,则其他核中地址相邻的缓存数据也会失效,这样CPU每次进行计算时都要从速度较慢的内存中加载数据。这个性能问题的隐蔽之处在于代码中的不同数据——例如同一个数组的不同下标——可能在内存中处在同一个缓存条目中,因此这个问题又被称为错误共享(False Sharing)。Igor演示了一段性能低下的代码,在这个实现中多个线程会不断读写同一个数组的相邻下标,因此造成了错误共享。Igor的修改方法是将数据存放在数组中相距较远的下标,甚至是不同的数组中。由于CPU的缓存条目大小有限,这种方法可以避免出现错误共享。博客园老赵在《计算机体系结构与程序性能》一文中也提出了一种优化方式,他的做法是尽可能使用局部变量来保存计算过程中的中间值,以此减少对数组的修改操作。由于局部变量分处不同线程的栈空间内,因此地址相距很远,不会造成错误共享问题。当有人问起到这种优化方式是否安全时,Igor答到,这其实和CPU架构的实现方式有很大关系。如果某一天缓存实现变化了,可能这种优化方式会适得其反。不过在目前主流架构中,这样的做法是比较安全的。Igor补充道,他认为这也是为什么“全自动”并行化那么困难的原因之一,因为在并行环境下影响程序性能的方面实在太多了。

第三个问题在于开发人员倾向于在PLINQ中使用大量小粒度的委托来完成工作,此时每个委托的计算任务很小,而委托的执行次数会很多。在计算较长的序列时,小粒度的委托对象也能获得性能提高,但是它会产生额外的负载。例如,MoveNext和Current的调用,以及每个委托的执行性能都和虚方法比较接近。此外,一个较长的输入序列也会受限于内存的吞吐量。因此,Igor建议开发人员在使用PLINQ时尽可能使用计算量较大的委托,以此减少计算主体外的性能开销。

第四和第五问题则与PLINQ的实现有关。Igor表示,PLINQ可以并行执行所有的LINQ查询,但是相对于复杂的LINQ查询,PLINQ能够对简单的LINQ操作有更好的优化。因此,Igor建议开发人员在使用PLINQ时可以手动将复杂的LINQ表达式拆分为简单的LINQ查询,并且只在真正需要大量计算的地方才开始并行化。这种结合顺序执行和并行执行的方式,可以让应用程序的性能达到最优。此外,为不同的输入方式选择不同的分块(partition)策略对性能的影响很大,因此PLINQ会对数组和IList<>进行静态的分割,而对IEnumerable<>集合按实际需求进行划分,而开发人员也可以通过自定义Partitioner的方式来指定特别的分割策略。

最后,Igor强调,使用并行计算进行程序性能优化之前,一定要通过合适的评测方式来找到代码的瓶颈。如果这个瓶颈正符合数据并行(data parallel)模式,那么可以使用PLINQ进行性能优化。而优化完成后还需要评测其效果,并使用之前提出的几种方案进行合适的调整。

你可以在PDC 2009的网站上浏览或下载本次演讲的完整录像及幻灯片等资源。

评价本文

专业度
风格

您好,朋友!

您需要 注册一个InfoQ账号 或者 才能进行评论。在您完成注册后还需要进行一些设置。

获得来自InfoQ的更多体验。

告诉我们您的想法

允许的HTML标签: a,b,br,blockquote,i,li,pre,u,ul,p

当有人回复此评论时请E-mail通知我

并行还是太复杂了 by 瑜珩 王

并行还是太复杂了

允许的HTML标签: a,b,br,blockquote,i,li,pre,u,ul,p

当有人回复此评论时请E-mail通知我

允许的HTML标签: a,b,br,blockquote,i,li,pre,u,ul,p

当有人回复此评论时请E-mail通知我

1 讨论

登陆InfoQ,与你最关心的话题互动。


找回密码....

Follow

关注你最喜爱的话题和作者

快速浏览网站内你所感兴趣话题的精选内容。

Like

内容自由定制

选择想要阅读的主题和喜爱的作者定制自己的新闻源。

Notifications

获取更新

设置通知机制以获取内容更新对您而言是否重要

BT