BT

如何利用碎片时间提升技术认知与能力? 点击获取答案

LHC网格:为地球上最大的科学设施存储和分析数据

| 作者 Dio Synodinos 关注 3 他的粉丝 ,译者 黄璜 关注 0 他的粉丝 发布于 2009年1月16日. 估计阅读时间: 9 分钟 | 如何结合区块链技术,帮助企业降本增效?让我们深度了解几个成功的案例。

大型强子对撞机(Large Hadron Collider ,LHC)粒子加速器致力于革新我们对于宇宙的认识。世界范围的LHC计算网格(LCG)项目为整个使用LHC的高能物理社区提供了数据存储与分析的基础设施。

启动于2003的LCG,目的是将分布在全世界数以百计的数据中心的成千上万的计算机整合起来,形成一个全球化的计算资源,对LHC所收集的海量数据进行存储和分析。据估计LHC每年将产生15 petabytes(1500万gigabytes)的数据。这等于一年要填满170万张双层DVD盘片!全世界数以千计的科学家需要访问和分析这些数据,所以CERN与33个不同国家的机构展开合作来运营LCG。

LHC实验产生的数据将分布到全世界,同时在CERN用磁带保有一份主备份。经过初始处理,这些数据将分发到十一个大型计算中心——包括加拿大、法国、德国、意大利、荷兰、北欧、西班牙、台北、英国,以及位于美国的两个站点——这些中心拥有足够的海量存储以支持大容积的数据片段,同时能对计算网格提供昼夜不停的支持。

这些所谓的“一级”中心将为超过120个的“二级”中心提供数据以用于专门的分析任务。科学家们可以在本国访问LHC的数据,通过本地计算集群甚至是个人PC。

LHC计算网格由三个“层级”构成,共有32个国家正式参与其中:

  • Tier-0为一个主站:CERN计算中心。所有数据都将通过这一中央枢纽,但它只提供总共不到20%计算能力。
  • Tier-1由十一个站点构成,位于加拿大、法国、德国、意大利、荷兰、北欧、西班牙、台北、英国,还有位于美国的两个站点。
  • Tier-2由超过140个站点构成,聚集成38个联邦,覆盖了澳大利亚、比利时、加拿大、中国、捷克、丹麦、爱沙尼亚、芬兰、法国、德国、匈牙利、意大利、印度、以色列、日本、韩国、荷兰、挪威、巴基斯坦、波兰、葡萄牙、罗马尼亚、俄罗斯、斯洛文利亚、西班牙、瑞典、瑞士、中国台北、土耳其、英国、乌克兰,以及美国。Tier-2站点将提供LHC数据处理所需能力的50%。

如若LHC加速器以理想的方式运行,那么需要为全世界超过500所研究机构和大学的近5000名参与到LHC的实验的科学家提供对实验数据的访问。除此以外,在LHC预计超过15年的生命周期里,所有的数据都须是可用的。

出于经济和技术的众多理由,都强烈需求一个分布式架构

作出采用分布式计算的方式来管理LHC数据的首要考虑还是金钱。在1999年,当LHC数据分析计算系统设计工作开始的时候,就很快认识到了其所需求的计算能力远远超出了CERN的资助能力。另一方面,大多数LHC的合作实验和院校都有国家级或地区级计算设施的使用权。明显的一个问题就是:这些设施能整合起来为LHC提供一个统一的计算服务吗?高速发展的广域网——能力和容量的增长伴随着成本的显著降低——使之看似可行。从那时起,LHC计算网格的发展路线就确定了。

在LHC计算网格的研发过程中,分布式系统的许多附加优势开始显现:

  • 不同的站点能保有数据的多份拷贝,保证了所有参与其中的科学家都能访问,独立于地理位置。
  • 允许多个计算中心的闲置能力得到最优化的使用,提升了效率。
  • 在多个时区都拥有计算中心使昼夜不停的监控易如反掌并保证了可靠的专业支持。
  • 不存在单点失效。
  • 维护和升级的成本是分散的,因为单个机构负责资助本地的计算资源并保有相应责任,与此同时仍然对全球化的目标作出了贡献。
  • 独立掌控资源鼓励了计算和分析的新兴手段。
  • 所谓的“人才流失”,研究员不得不离开本土以获取资源,当资源从他们桌面即可获取时,这一现象被大大地减少了。
  • 系统只需简易重新配置即可应对新的挑战,使其能随着LHC的生命周期动态的演进,能力不断成长,以满足每年采集数据增加引起的需求上升。
  • 对于在什么地点以及怎样扩充未来的计算资源留出了足够的灵活性。
  • 允许社区享用新技术带来的提升的易用性,成本效益或能源效率。

整体项目的规模给LCG团队带来了一些有趣的挑战

  • 管理需要在网格间可靠传输的庞大数据。
  • 掌管每个站点的存储空间。
  • 跟踪9000名物理学家分析数据所产生的几千万的文件。
  • 保证足够的网络带宽:主站点之间用光纤链接,而最远程的站点也需要可靠的链接。
  • 保证大量独立站点之间的安全同时最小化官僚作风,确保认证用户易于访问。
  • 维护多个站点安装的软件版本一致连贯。
  • 处理异构的硬件。
  • 提供会计机制,基于不同级别的需求和对基础设施的贡献,保证公平的访问。

对于如此巨大的分布系统来说,安全同样是个重要的挑战。据“每日电讯”报道,9月10日,当第一束粒子环绕粒子加速器呼啸而过时,来自希腊的黑客曾获取了CERN中一台LHC计算系统的片刻权限

在CERN,运营着这个庞然大物的机构,科学家们担心黑客们一旦得手将会做什么,因为他们离控制这一机器中一个庞大探测器的计算机系统仅“一步之遥”。这是个重达12500吨的磁体,长近21米,宽高15米。

如果他们进入到第二道计算机网络,他们可以关掉这大型探测器的一部分。内部人士说:“就算没人捣乱要让它们工作起来都够困难了。”

攻击造成的后果是,在写这篇文章的时候,公众仍然无法访问cmsmon.cern.ch这一站点。

驱动LCG的操作系统是Scientific Linux发行版。它是来自Fermilab(费米国家实验室)、CERN,以及世界上许多实验室和高等院校的结晶:

LHC计算网格(LCG)由分布在世界各地的近40000个数据处理CPU构成。除其它的软件外,参与进来的MAC和PC将会加载CERN定制的Scientific Linux(现在版本是Scientific Linux CERN 4)。

如果没有强劲的软件运行其上,拥有这样一个强大的网格也毫无意义。所以LCG开发者向导为所有开发和修改LCG代码的人员提供了技术信息,并解释了满足生产要求的开发过程:

软件开发过程可被分解为几个简单的步骤。
  • 在CVS创建一个新模块。
  • 编写代码和文档。
  • 彻底地测试代码。
  • 在CVS分支树里标记这一模块。
  • 联系系统构建经理将你的模块加到构建模块清单里。
  • 确保自动构建成功地创建了软件包。
  • 彻底地测试软件包。
  • 向LCG提交自动构建的软件包。
  • 修正集成和验收流程中发现的缺陷。

API是使用C/C++,Java以及Perl开发的,文档化使用了Doxygen、Javadoc或POD。网格中用到的其它软件包括:

  • The Berkeley Database Information Index (BDII)
  • gLite,用于构建网格应用的框架
  • Xen,虚拟机监控器
  • Glue 2,一个抽象的信息模型,通过模式进行表达并独立于信息系统实现
  • Gridview,一个监控和可视化工具,为LCG的诸多方面的功能提供高层次的视图(基于Java,PHP和Oracle 10g)

网格计算并不是回应LHC挑战的唯一答案,一些场合下志愿计算也大有用武之地。具体而言,志愿计算非常适合需要大量计算能力而只需相对很少数据传输的任务。2004年,CERN的IT部门饶有兴致地对SETI@home等志愿计算项目所用到的技术展开了评估。最终的努力化作了LHC@home这样一个结果,这一项目帮助用户将其机器的空闲时间贡献出来,为物理学家开发和探索粒子加速器添砖加瓦。它用到了BOINC这一志愿计算和桌面网格计算的软件平台。

请查阅InfoQ获取关于网格计算架构的更多信息。

查看英文原文:LHC网格:为地球上最大的科学设施存储和分析数据


给InfoQ中文站投稿或者参与内容翻译工作,请邮件至editors@cn.infoq.com。也欢迎大家加入到InfoQ中文站用户讨论组中与我们的编辑和其他读者朋友交流。

评价本文

专业度
风格

您好,朋友!

您需要 注册一个InfoQ账号 或者 才能进行评论。在您完成注册后还需要进行一些设置。

获得来自InfoQ的更多体验。

告诉我们您的想法

允许的HTML标签: a,b,br,blockquote,i,li,pre,u,ul,p

当有人回复此评论时请E-mail通知我
社区评论

允许的HTML标签: a,b,br,blockquote,i,li,pre,u,ul,p

当有人回复此评论时请E-mail通知我

允许的HTML标签: a,b,br,blockquote,i,li,pre,u,ul,p

当有人回复此评论时请E-mail通知我

讨论

登陆InfoQ,与你最关心的话题互动。


找回密码....

Follow

关注你最喜爱的话题和作者

快速浏览网站内你所感兴趣话题的精选内容。

Like

内容自由定制

选择想要阅读的主题和喜爱的作者定制自己的新闻源。

Notifications

获取更新

设置通知机制以获取内容更新对您而言是否重要

BT