BT

如何利用碎片时间提升技术认知与能力? 点击获取答案

助力机器学习的Google TPU现已公开测试

| 作者 Steef-Jan Wiggers 关注 7 他的粉丝 ,译者 罗远航 关注 1 他的粉丝 发布于 2018年3月6日. 估计阅读时间: 5 分钟 | QCon上海2018 关注大数据平台技术选型、搭建、系统迁移和优化的经验。

看新闻很累?看技术新闻更累?试试下载InfoQ手机客户端,每天上下班路上听新闻,有趣还有料!

Google制造了他们的自定义芯片Tensor处理单元(TPU),用于自家的TensorFlow框架上的机器学习,现在已经面向机器学习(ML)的专家们和开发者们进行公开测试了。Google Cloud的TPU降低了机器学习模型的耗费成本,并且能够得到更高的性能来满足需求。

Google的TPU首次亮相是在十个月以前的Google I/O开发者大会上。Google一开始只向一小部分开发者和研究人员开放了TPU的使用。现在,开发人员可以通过说明所需的TPU配额和用途来获得TPU的访问权限。据TechCrunch的一篇文章所述,Google声称:

一旦开始使用该服务,需要每小时为每个Cloud TPU付费$6.50。相比较之下,在美国使用标准的Tesla P100 GPU每个小时仅需要$1.46,尽管它的最高性能在FP16下只有21teraflops。

Cloud TPU由AI加速器应用程序专用集成电路(ASICs,Application-specific Integrated Circuits)构成,是Google专门为神经网络机器学习所设计的。每一块Cloud TPU电路板上都有4个自定义的ASICs,提供了高达180teraflops的浮点计算能力和64GB的高带宽内存。除此之外,每一块Cloud TPU都可以单独使用,或者通过专用的高带宽网络连接起来,形成多Flops机器学习超级计算机(或者称其为“TPU pods”)。Google将会在今年的稍晚时候提供这种计算实例。

图片来源:https://www.nextplatform.com/2018/02/12/google-boots-tensor-processors-cloud/

随着Cloud TPU的出现,Google的机器学习专家和开发人员就可以能更高效地处理他们的工作了,这能大幅地提升生产力。首先,他们不需要在设置、设计和安装本地集群上进行投资,他们仅需要将他们的工作推到Google云计算平台上去即可。其次,他们不再需要在计算集群上等待被调度的工作了,因为他们可以获得专用的Google Cloud TPU独占使用权。如果他们需要更多的计算资源从而使得一个重要的模型更快地进行训练,那么就可以根据需要再分配一组TPU。最后,Google已经开源了一组高性能Cloud TPU模型的实现作为参考,Google还提供了几个高级TensorFlow API来用于对Cloud TPU进行编程。

每一个知名的公共云服务提供商都向客户提供各种平台服务,让客户把工作负载放到他们的云平台上。这与机器学习并没有什么不同。不过,随着TensorFlow和TPU的结合,Google在短期内确实提供了一种服务,能够让它在竞争者中具有优势。Jeffrey Burt是TheNextPlatform的一名作者,他在最近的文章中写道:

Google把Cloud TPU定位为器武器库中的另一项重要武器,希望能通过它与云计算服务领导者Amazon Web Services和Microsoft Azure瓜分市场份额。Google的目标是给Google云计算平台的用户们提供更多的选择来满足他们的机器学习工作负载,其中包括不同的高性能CPU(例如Skylake)和高性能GPU(如Tesla V100)以及Cloud TPU。

除此之外,据Jillian D'Onfro(CNBC.com的一名科技记者)所说,Google甚至会从Google云计算平台上他们自己的芯片中获得收益。她在最近的一篇科技文章中写道:

首先,通过使用自己的硅芯片,Google拥有了一种更廉价、更高效的可替代芯片,可以依赖于Nvidia或者Intel这样的芯片制造商建设其核心计算基础设施。拥有自己的硬件可以让Google更快地进行实验。新的TPU还可以让其母公司Alphabet增加Google云计算平台上的收入。GCP(Google Cloud Platform)和GSuite(Google的商业应用套件)现在每季度能够产生超过10亿美金的收入。

最后,任何与众不同的服务对于每个公共云服务提供商来说都是至关重要的,因为它们能够带来更高的市场份额和市场价值。

查看英文原文:Google Cloud TPU for Machine Learning Acceleration Is Now Available in Beta

评价本文

专业度
风格

您好,朋友!

您需要 注册一个InfoQ账号 或者 才能进行评论。在您完成注册后还需要进行一些设置。

获得来自InfoQ的更多体验。

告诉我们您的想法

允许的HTML标签: a,b,br,blockquote,i,li,pre,u,ul,p

当有人回复此评论时请E-mail通知我
社区评论

允许的HTML标签: a,b,br,blockquote,i,li,pre,u,ul,p

当有人回复此评论时请E-mail通知我

允许的HTML标签: a,b,br,blockquote,i,li,pre,u,ul,p

当有人回复此评论时请E-mail通知我

讨论

深度内容

登陆InfoQ,与你最关心的话题互动。


找回密码....

Follow

关注你最喜爱的话题和作者

快速浏览网站内你所感兴趣话题的精选内容。

Like

内容自由定制

选择想要阅读的主题和喜爱的作者定制自己的新闻源。

Notifications

获取更新

设置通知机制以获取内容更新对您而言是否重要

BT