BT

GoogleがGoogle I/OでCloud Dataflowベータ版を発表

| 作者: Barry Burd フォローする 0 人のフォロワー , 翻訳者 徳武 聡 フォローする 0 人のフォロワー 投稿日 2014年7月10日. 推定読書時間: 4 分 |

原文(投稿日:2014/06/28)へのリンク

年次の開発者カンファレンスで、Googleはクラウドコンピューティングの最新の動きを発表した。その中でも筆頭に挙げられているのが、複雑なデータパイプラインを管理するCloud Dataflowだ。

InfoQは同社のクラウドプラットフォームのプロダクトマーケティングを統括するBrian Goldfarb氏に話を聞いた。氏の話では、Cloud Dataflowはバッチもストリームも扱うことができる。世界的なイベントの開催中にポストされる数百万のツイートをリアルタイムで分析できるといえばイメージがつきやすいだろう。タグを抽出し、感情(ポジティブ、ネガティブなど)でツイートを分類し、キーワードでフィルタする。Map/Reduceのような古いパラダイムはこのようなリアルタイムデータを分析できない。また、複雑で長いパイプライン処理も簡単には適用できない。

Googleの新しいパラダイムはバッチとリアルタイム処理で同じAPIを使っている。複雑な処理でも単純な処理でも同じAPIを使う。開発者はこの製品を使って、データのロジックに集中でき、パイプラインの最適化の細かい部分はGoogleのクラウドに預けておける。各パイプラインのそれぞれに注力する代わりに、Cloud Dataflowはパイプライン上の各セグメント間のやり取りを考慮に入れる。この処理方法によって、単一の処理が遅いセグメントは必ずしも後続のセグメントの処理を引き止めない。セグメント間のトラフィックを扱うため、Cloud Dataflowはキーによる集約、スライディングウィンドウ、Map/Reduceのパーツなどさまざまな技術を使う。

Cloud Dataflowによって、Googleのクラウドは特定のアプリケーションを最適化するための最高の方法を選択肢として用意できるようになった。開発者はほとんどのシナリオにおいて同社の提供する最適化を受け入れることができるだろう。また、極端な使う方向けにはデフォルトの設定をオーバライドできる。

開発者にとって、ほとんどのシナリオはAPIの比較的シンプルな部分を使ったコードを含む。例えば、下記は今回のカンファレンスのキーノートで示されたものだ。

Pipeline pipeline = Pipeline.create();
PCollection tweets = pipeline.begin()                     .apply(new InputFromPubSub())                     .apply(new TweetTransformer()); tweets.apply(new CalculateSentiment()); tweets.apply(new CorrelateKeywords());  pipeline.run(); 

(現時点ではAPIはJavaでのみ利用できる)

開発者はパイプラインを定義し、各セグメント内のコード(TweetTransformerCalculateSentiment)が効率的で正確であることを保証する必要がある。そしてGoogleのクラウドがセグメント間のフローを調整するのだ。また、低レベルのVMもGoogleのクラウドが面倒を見てくれる。配置やスケール、スピンアップ、スピンダウンのようなオペレーションは背後で実行される。

Cloud Dataflowと同時に、Googleは開発者をより生産的にする4つの新しいツールを発表した。Cloud Save、Cloud Debug、Cloud Trace、Cloud Monitorだ。

  • Cloud Saveはクラウド内のユーザ情報を保存、検索するAPI。ユーザの情報にはアプリケーションのデータやプレファレンスなどが含まれている。

      GoogleAppClient client = . . .
      List infoToSave = . . .   SaveResult saveResult = CloudSaveManager.save(client, infoToSave);
  • Cloud Debugはその名の通り、クラウドベースアプリケーション(インターフェースがウェブブラウザ)のためのデバッガ。


  • Cloud Traceはデータベースリクエストの呼び出しのタイミングを視覚化するツール。


  • Cloud Monitorはサービスレベルのメトリクスや警告を提供する。カスタムのアラートを仕込んでユーザに影響を与える前に問題をキャッチできる。


    Cloud MonitoringはGoogleの最近のStackdriverの買収から生まれた。

Cloud Dataflowと上述のツールは現時点ではベータ版。公式リリースの日程はまだ明らかにされていない。

この記事に星をつける

おすすめ度
スタイル

こんにちは

コメントするには InfoQアカウントの登録 または が必要です。InfoQ に登録するとさまざまなことができます。

アカウント登録をしてInfoQをお楽しみください。

あなたの意見をお聞かせください。

HTML: a,b,br,blockquote,i,li,pre,u,ul,p

このスレッドのメッセージについてEmailでリプライする
コミュニティコメント

HTML: a,b,br,blockquote,i,li,pre,u,ul,p

このスレッドのメッセージについてEmailでリプライする

HTML: a,b,br,blockquote,i,li,pre,u,ul,p

このスレッドのメッセージについてEmailでリプライする

ディスカッション

InfoQにログインし新機能を利用する


パスワードを忘れた方はこちらへ

Follow

お気に入りのトピックや著者をフォローする

業界やサイト内で一番重要な見出しを閲覧する

Like

より多いシグナル、より少ないノイズ

お気に入りのトピックと著者を選択して自分のフィードを作る

Notifications

最新情報をすぐ手に入れるようにしよう

通知設定をして、お気に入りコンテンツを見逃さないようにしよう!

BT