BT

如何利用碎片时间提升技术认知与能力? 点击获取答案

Google发布Tensor2Tensor for TensorFlow

| 作者 Dylan Raithel 关注 8 他的粉丝 ,译者 薛命灯 关注 24 他的粉丝 发布于 2017年8月14日. 估计阅读时间: 2 分钟 | CNUTCon 了解国内外一线大厂50+智能运维最新实践案例。

TensorFlow(TF)社区和Google的Brain团队发布了作为TF API重要扩展的Tensor2Tensor

Tensor2Tensor(T2T)解决了在TF上训练和执行模型的模块化和可移植性问题。它将常用的深度学习模型管道抽象成一个可扩展的对象模型,并提供了TF训练所需要的标准API。T2T的目标之一是要降低模型训练管道和执行环境的重复性成本,同时减少基于TF现有API进行常见操作的工作量,这些操作原本很难在用户之间共享,它们有些只能用于解决特定的问题。

T2T基于现有的TF库执行很多操作,包括模型架构、优化器、学习率衰退、scheme和超参数。它还提供了一些预训练过的模型和样本数据集、默认的模型规范,以及超参数modality的控制方法。这样有助于用户重复实验、比较和交换结果,让他们专注在课题研究上,而不是把大量精力花费在编排TF管道环境上。

T2T的数据集为标准的TFRecord protobuf文件,训练数据集可以通过用户自定义的Problem子类来生成,或者通过Python装饰器和直接函数调用的方式来生成。Problem对象由训练时间超参数和它们的输入输出形态及数据集组成。Problem提供了一些方法用于处理编码、文件路径、输入输出目标、超参数和默认属性值。模型的metrics(如模型准确度)也被封装在Problem中。超参数集合通过装饰器注册成Hparams对象。

训练可以被配置成同步或异步模式。通过环境变量TF_CONFIG可以指定master服务器和参数服务器,支持grpc和gpu群组,以及计算资源的逻辑集群。

查看英文原文: Google Announces Tensor2Tensor for TensorFlow

评价本文

专业度
风格

您好,朋友!

您需要 注册一个InfoQ账号 或者 才能进行评论。在您完成注册后还需要进行一些设置。

获得来自InfoQ的更多体验。

告诉我们您的想法

允许的HTML标签: a,b,br,blockquote,i,li,pre,u,ul,p

当有人回复此评论时请E-mail通知我
社区评论

允许的HTML标签: a,b,br,blockquote,i,li,pre,u,ul,p

当有人回复此评论时请E-mail通知我

允许的HTML标签: a,b,br,blockquote,i,li,pre,u,ul,p

当有人回复此评论时请E-mail通知我

讨论

登陆InfoQ,与你最关心的话题互动。


找回密码....

Follow

关注你最喜爱的话题和作者

快速浏览网站内你所感兴趣话题的精选内容。

Like

内容自由定制

选择想要阅读的主题和喜爱的作者定制自己的新闻源。

Notifications

获取更新

设置通知机制以获取内容更新对您而言是否重要

BT