BT

如何利用碎片时间提升技术认知与能力? 点击获取答案

Google为他们的客户引入了Preemptible GPU

| 作者 Steef-Jan Wiggers 关注 5 他的粉丝 ,译者 张卫滨 关注 13 他的粉丝 发布于 2018年2月22日. 估计阅读时间: 5 分钟 | 如何结合区块链技术,帮助企业降本增效?让我们深度了解几个成功的案例。

看新闻很累?看技术新闻更累?试试下载InfoQ手机客户端,每天上下班路上听新闻,有趣还有料!

Google宣布在他们的云平台上,释放为Preemptible虚拟机(Virtual Machine)附加图像处理器(Graphical Processing Unit,GPU)的beta发布版本。Google云平台(Google Cloud Platform)的客户现在能够将NVIDIA K80和NVIDIA P100 GPU附加到Preemptible VM上,每个GPU每小时的价格分别是0.22和0.73美分,这要比on-demand实例上GPU的价格便宜50%。这个发布版本能够让Google的客户在计算密集型的任务上有了更多的选择,这样他们能够在更细的粒度上进行高吞吐的批处理计算、机器学习以及科学和技术工作负载。

GCP用户能够创建和运行Preemptible VM实例,它要比标准的on-demand实例成本低得多。但是,Google Compute Engine会在30秒的警告之后,终止(preempt)这些实例。这些实例最多能使用24小时。GCP用户如果具有容错的工作负载并且不需要专门的实例,就成本而言,Preemptible实例是很合适的选择。另外,关联到Preemptible VM上的GPU默认都是preemptible的,因此成本会更低。

Alex Hickey是CIO Dive站点的编辑,在最新的简报中,他提供了一些利用Google Preemptiple GPU的观点:

对于一般的公司来说,构建或运行AI系统并不便宜。专家们的薪水已经达到了六位数甚至更高,AI的预算也变得很难分配。计算处理的硬件资源一般都是外包的,以便于节省成本。GPU比专门的硬件在速度和处理时间上表现更好,而专门的硬件往往很快就会积累可观的前期和维护成本。可用工具,包括用于处理的硬件,是AI和ML实现普及的重要因素。据统计,40%的公司具有AI实验室或实验性地应用,但是只有大约20%的企业实现了AI的规模化部署或核心业务功能的部署。不过,凭借更加可负担的GPU,更多的公司能够在预算和策略方面找到空间,实现POC和测试用例的落地。

典型的Preemptible VM可以通过在gcloud命令行的实例创建命令上附加--preemptible参数或者在使用REST API时,将scheduling.preemptible属性设置为true进行创建。另外,用户还可以在Google Cloud Platform Console上将Preemptibility设置为“On”,然后像往常一样为其关联GPU。

图片来源:https://cloudplatform.googleblog.com/2018/01/introducing-preemptible-gpus-50-off.html

除此之外,用户如果需要更强的可扩展性,还可以通过创建由preemptible实例所组成的托管实例组实现GPU动态池的功能。需要注意的是,在创建组之前,要指定实例模板的preemptible选项。这种方法所能带来的好处是如果preemptible实例有足够的处理能力的话,在重新preempt的时候,它们能够自动重建。当前,preemptible GPU的特性只能在US-central1 region中使用。Preemptible VM的完整文档可以通过 Compute Engine文档进行访问。

Google、Amazon和Microsoft都提供了这样低价的计算资源,形式包括Preemptible VM、spot或reserved VM实例。它们的差异在于实例使用的灵活性。Amazon EC2 Spot实例兼容Preemptible VM。但是,客户不能为它们添加GPU。AWS和Azure所提供的reserved实例成本优势不明显,不过它们有一年或三年的期限。根据用例和所需的可用性不同,用户可以选择存活时间更短的Preemptible VM或AWS spot实例,也可以选择生命周期更可扩展的Azure或AWS Reserved实例。它们在成本上都比云平台的on-demand实例更廉价。

查看英文原文Google Introduces Low-Priced Preemptible GPUs for Their Customers

评价本文

专业度
风格

您好,朋友!

您需要 注册一个InfoQ账号 或者 才能进行评论。在您完成注册后还需要进行一些设置。

获得来自InfoQ的更多体验。

告诉我们您的想法

允许的HTML标签: a,b,br,blockquote,i,li,pre,u,ul,p

当有人回复此评论时请E-mail通知我

翻译不走心 by JING Cheng

这是机器翻译的吧?
还有几个错别字,美分不是每分

Re: 翻译不走心 by 张 卫滨

我是这篇新闻的翻译,多谢您的反馈,的确是我的失误

Re: 翻译不走心 by Ding Alice

感谢反馈,译者笔误,已经修改。

允许的HTML标签: a,b,br,blockquote,i,li,pre,u,ul,p

当有人回复此评论时请E-mail通知我

允许的HTML标签: a,b,br,blockquote,i,li,pre,u,ul,p

当有人回复此评论时请E-mail通知我

3 讨论

登陆InfoQ,与你最关心的话题互动。


找回密码....

Follow

关注你最喜爱的话题和作者

快速浏览网站内你所感兴趣话题的精选内容。

Like

内容自由定制

选择想要阅读的主题和喜爱的作者定制自己的新闻源。

Notifications

获取更新

设置通知机制以获取内容更新对您而言是否重要

BT